大仁說財經／滅絕人類？ AI投資卻向前衝

日前在華府國會殿堂上就人工智慧(AI)工具傳播錯誤訊息、擾亂選舉和取代工作的可能性，接受國會議員質疑後，OpenAI CEO奧特曼(Sam Altman)和業內其他人士預言了一個更可怕的可能性：AI世界末日。

奧特曼的OpenAI是病毒式聊天機器人工具ChatGPT的幕後推手，他與Google DeepMind CEO哈沙比斯 (Demis Hassabis)、微軟技術長史考特 (Kevin Scott) 以及數十名其他AI研究人員和商業領袖5月簽署了一封只有一句話的公開信，信中寫道：「減輕因AI導致人類滅絕的風險，應該與大流行病和核子戰爭等其他規模風險都被視為全球優先事項。」

科技公司 競相投資

媒體廣泛報導了這個嚴厲警告。有些人認為這代表有必要更認真地對待這種世界末日的情景。但它也凸顯出矽谷目前的一個重要動態：當某些大型科技公司高層管理人員在告訴公眾AI可能導致人類滅絕的同時，也在競相投資並將這項技術部署到觸及數十億人的產品中。

最近其他人也先後提出類似警告。例如，特斯拉CEO馬斯克在4月的一次電視採訪中表示，AI 可能導致「文明毀滅」；但他仍然在其龐大的商業帝國中進行投資，深入參與該技術，並表示希望創建一個能與微軟和谷歌AI產品媲美的競爭對手。

一些AI產業專家表示，將注意力集中在遙遠預言可能會分散人們對新一代強大AI工具可能對人類和社區造成更直接傷害的注意力，包括傳播錯誤訊息、持續散布偏見以及在各種服務中助長歧視。

與奧特曼一起在國會作證的AI研究員、紐約大學名譽教授馬可斯(Gary Marcus)指出，「動機似乎很複雜。」他說，有些企業高管可能「真的在擔心他們釋出的東西」，但其他人可能只是想將注意力集中在「抽象的可能性，以轉移更直接的可能性」。

微軟發言人對此發表聲明表示：「我們對AI的未來抱持樂觀態度，認為AI的進步將解決比現在更多的挑戰。但我們也始終堅信，在創造出可以改變世界的技術時，也必須確保負責任地使用該技術。」

對於自稱是AI炒作批評家的馬可斯來說，「AI最大的直接威脅是大規模生產令人信任的錯誤訊息而對民主造成威脅。」

OpenAI的ChatGPT和Dall-E等生成式AI工具接受大量線上數據的訓練，以回應用戶提示創造出引人入勝的文檔和圖像。例如，使用這些工具，人們可以快速模仿公眾人物的風格或肖像，以進行虛假的宣傳活動。

奧特曼在國會作證時還表示，AI能被用來操縱選民和針對虛假訊息的可能性，是「我最在乎的領域」。

虛假訊息 不能輕忽

然而，即使最平凡的用途也存在擔憂。同樣的工具也因對用戶提示錯誤答案、完全「虛幻」的回應以及可能使種族和性別偏見長期存在，尤其讓人不能等閒視之。

華盛頓大學教授兼電腦語言學實驗室主任本德 (Emily Bender)指出，某些企業可能希望將注意力從它們數據中的偏見，轉移到對它們系統如何訓練的說法上。

她引用對這些系統進行培訓的一些數據的知識產權，並指控有關企業將處理培訓數據中一些最糟糕的工作外包給國外低薪工人。

她說，「如大公眾和監管機構能夠關注這些虛構的科幻場景，那麼也許可能防止這些企業可以長時間地擺脫數據盜竊和剝削行為。」

監管機構可能是科技業末日說法的真正目標。

正如本德所說，高管們實際上是在說：「這件事非常、非常危險，我們是唯一知道如何控制它的人。」

從奧特曼現身國會來看，這個策略可能會奏效。奧特曼以回應國會議員對AI的擔憂並就如何解決它提出建議，進而贏得了華府的支持。畢竟許多國會人士仍在努力理解這項技術到底是什麼。

如何監管AI 問題不小

她說，這種監管方式將「存在很大問題」。它可以讓對負責追究該產業責任的監管機構產生影響，同時也會忽略遭受該技術負面影響的其他人和社區的聲音和意見。

本德說，「如果監管機構將那些正在建構和銷售技術的人定位為唯一可能理解這一點的人，因此他們可能會掌握主動權告知監管應該如何運作，那麼我們真的就本末倒置了。」

她努力抓住每個機會告訴人們「這些東西看來比實際情況要聰明得多」，這是因為「我們本身就夠聰明」，而我們理解語言的方式，包括AI的回應，「事實上只是想像背後的概念」。

最後，她向科技業提出一個關於AI的簡單問題：「如他們真的相信這可能導致人類滅絕，那為什麼不停止它？」