昔催生原子彈 橡樹嶺國家實驗室今研究AI利弊

田納西州橡樹嶺國家實驗室(Oak Ridge National Laboratory)80多年前參與「曼哈頓計畫」(Manhattan Project)，協助催生第一枚原子彈；目前新人工智慧(AI)狂熱進行中，該國家實驗室設立新的研究中心，研究對人類存亡絕續同樣重要的AI，專注於了解該科技帶來的希望與毀滅力。

華盛頓時報(Washington Times)報導，創辦該中心的主任貝哥利(Edmon Begoli)正研究AI對人類可能造成的危害，他表示在意的是無情又有效率的AI系統帶來的威脅。

他想像中的AI危險，倒不是依循好萊塢賣座系列電影「魔鬼終結者」(The Terminator)的劇情路線，說有邪惡科技工具試著傷害人類，而是一套連結力無所不在的AI系統，擴大「打擊面」給駭客，很難避開。

貝哥利表示，這種AI系統如此無所不在，人無法後退、刪除而與其他隔開，再強調一次，它倒不是有如什麼更高智慧，想殺害人類，而只是一套極擅長做它做的事，能傷害人類的原因，在站邊錯誤。

貝哥利的實驗室以外，AI安全研究也如火如荼。大受歡迎聊天機器人ChatGPT的開發廠商OpenAI去年也自組團隊，鑽研各項令人憂心的事，例如AI變成巨惡，能讓人類滅絕。OpenAI去年7月警告說，有種危險是可能出現超聰明的AI系統，站錯邊又太聰明，人類無法節制。

過去六個月，OpenAI據說已跨越年營收20億元的門檻；該公司研究AI危險的頭號強敵Anthropic財測表示，2024年營收能達到8億5000萬元。

橡樹嶺國家實驗室官網指出，其年度總預算約為24億元，包辦一切研究項目，由核子科學到先進運算。實驗室的上級是能源部，工作動機與民間部門及學術界的學者並不相同。

貝哥利推崇OpenAI、Anthropic兩公司的研究，但他指出，自己團隊對駭客鑽AI弱點的研究，創設出跳板，範疇是無與倫比的。民間公司專注於會影他們產品的威脅，但他的實驗室獲得授權，要研究更廣的危險，還與國土安全部以及空軍研究實驗室(Air Force Research Lab)結盟。