紐森否決人工智慧安全法案 風險專家批屈服大金主

去年州長紐森否決了SB 1047（規範人工智慧科技的法案），Redwood Research執行長施萊格里斯 (Buck Shlegeris) 對州長無視人工智慧危險的行動感到憤怒和震驚。他與媒體談到他所擔憂的一些情況。

聖荷西信使報報導，總部位於柏克萊的 Redwood Research是一家專注於降低人工智慧風險的顧問公司，該公司希望其研究結果能夠在灣區的眾多人工智慧領域中實施。儘管年僅30歲的施萊格里斯認為人工智慧AI看似具有無限潛力，但他也認為它可能會為人類帶來生存危機。

「我認為紐森屈服於他的大金主和商業支持者的利益，這是相當可恥的，」施萊格里斯說。 「SB 1047得到大多數加州民眾支持，也得到大多數專家支持。」

被問及AI會給人類帶來最壞的危機是什麼時，施萊格里斯表示AI的目標與人類的目標從根本上就不一致，當AI變得足夠強大，就能夠控制全世界，然後在利用世界達到自己目的的過程中殺死所有人。

他認為建立巨型機器人軍隊的場景，首先是由那些想要擁有機器人軍隊的國家提出的，原因很明顯，它們在戰爭中確實很有幫助。但是，機器人軍隊會因為AI的擴張而擴大，AI會自主地渴望建造機器人軍隊，自主地購買機器人軍隊，自主地建造工廠，然後轉身殺死所有人，這是可以想像的。

施萊格里斯說：「我認為很多人，特別是科技記者，在聽到AI時都會有點憤世嫉俗的心態。但我認為人工智慧專家並沒有過度炒作他們的技術，我的感覺是，大型AI公司像是谷歌(Google)、蘋果(Apple)、元宇宙(Meta)等都沒有大肆宣傳他們實際在開發的產品，因為那聽起來似乎非常不負責任。我認為他們有時會說他們的技術將帶來多大的影響，這讓允許私人公司開發這項技術聽起來很瘋狂。我敢打賭，如果你去了這些公司，你會聽到他們說一些比他們公開說的更瘋狂的事情。」