規管AI法案 前谷歌研究師、首席科學家看法兩極

加州議會提出的SB 1047法案，主旨是規管人工智慧AI。反對的企業與科技人士認為法案會扼殺加州的高科技業。但也有一些科技人士贊成。譬如號稱AI教父的班吉歐(Yoshua Bengio)和辛頓(Geoffrey Hinton)。號稱AI教母的李飛飛(Fei-Fei Li)則是站在反對的立場。

CalMatters報導，臉書的母公司元宇宙Meta在給州議會的信函中指出，SB 1047會阻礙AI在加州的發展。此時此刻加州應該鼓勵AI的前進。谷歌（Google）則表示，該法將使加州成為AI的發展與佈署的最差地點。一封由新創孵育公司incubator Y Combinator和130多家新創公司創始人簽署的聯名信，認為該法含糊用詞將扼殺加州高科技業。

上周，班吉歐和前谷歌AI研究師辛頓宣布支持該法，許多人稱這兩人是AI教父。前谷歌雲端AI首席科學家李飛飛現在是史丹福大學教授，被許多人稱為AI教母(godmother of AI)，公開反對SB 1047。

SB 1047法案已在今年5月以32票贊成、1票反對通過州參議會，如果可以在8月31日之前通過州眾議會，就可能在年底之前由紐森州長簽署。

該法案是由代表舊金山的州參議員威善高(Scott Wiener)在2月提出的。它的涵蓋範圍相當廣。譬如要求開發最有能力的AI工具的公司，必須測試該工具是否有促成攻擊基層建設的能力、是否有促成網路攻擊的能力、是否會促成大量死傷的事件，是否會幫助有心人製造化學武器、生化武器、輻射武器或核子武器的能力。

該法還有保護吹哨人(whistleblowers)的條款。OpenAI前任員工柯科塔吉洛(Daniel Kokotajlo)因此支持該法。他今年稍早辭職以後，向媒體投訴他曾目擊OpenAI違犯了公司內部的安全指引。他並且向紐約時報表示：「高端的AI可能促成人類的滅絕(extinction of humanity)」。