前OpenAI首席科學家辦新公司 要創建安全強大的AI體系

ChatGPT開發商OpenAI的聯合創辦人兼前首席科學家蘇特克韋爾（Ilya Sutskever）周三在X平台發文，宣布他創辦了一家新的人工智慧公司Safe Superintelligence，旨在透過純研究機構創建一個安全強大的AI體系，短期內無意銷售AI產品或服務。

去年11月，OpenAI執行長奧特曼戲劇性被解雇後又回鍋，蘇特克韋爾扮演了關鍵角色，他在5月離開OpenAI，此後外界都在問，他去哪兒了。創辦新公司顯示，蘇特克韋爾試圖繼續自己的工作，不受OpenAI、Google和Anthropic等競爭對手的干擾。

他受訪時說：「這家公司很特別，第一項產品將是安全的超智慧（superintelligence），在此之前不做任何其他事情。它將完全不受外界壓力的影響，不必處理龐大而複雜的產品，也不必陷入競爭激烈的老鼠賽跑。」

正如公司名稱所強調的，蘇特克韋爾將AI安全性放在首位。重點當然是去鑑別是什麼讓一個AI系統比另一個更安全，或者說，究竟是否安全。蘇特克韋爾目前對此含糊其辭，但他說，新公司將嘗試經由AI系統裡的工程突破，而非仰賴臨時防護措施來實現安全。

蘇特克韋爾還有兩位聯合創辦人。其中一位是投資人、前蘋果公司AI主管格羅斯（Daniel Gross），另一位是前OpenAI研究人員李維（Daniel Levy），他曾與蘇特克韋爾併肩工作，在訓練大型AI模型方面有良好的聲譽。

李維說他的願景與蘇特克韋爾完全相同，「一個小而精幹的破解團隊，每個人都專注於安全的超智慧（safe superintelligence）這個單一目標。」

新公司將在加州帕羅奧圖和以色列特拉維夫設辦事處。蘇特克韋爾和格羅斯都成長於以色列。

Safe Superintelligence在某種程度上是回溯OpenAI最初的概念：一個試圖建立通用人工智慧的研究機構，在許多任務上可以有不相上下、甚至是超越人類的表現，但隨著愈來愈需要籌集巨資購買算力，OpenAI的結構發生了變化，導致該公司微軟建立緊密合作，並推出能創造營收的產品。所有主要的AI公司都面臨同樣的問題，隨著AI模型的規模瘋狂擴大，它們需要為不斷擴大的運算需求支付費用。

這些現實問題題讓Safe Superintelligence成為投資人的一場豪賭，他們押注蘇特克韋爾的團隊能取得突破，從而在競爭對手之間占據優勢。這些投資人砸錢時，不指望能創造出能獲利的熱銷產品。Safe Superintelligence想實現的目標是否可能，也還不清楚。

該公司名字裡的「超智慧」（superintelligence）是AI領域的行話，與大多數大型科技公司正在研發人類水準的AI相比，這是另一級別的系統。對於超智慧能否實現，或者如何構建這種智慧，業內還沒有達成共識。

儘管如此，鑒於創辦團隊的聲譽以及人們對該領域的濃厚興趣，Safe Superintelligence在融資方面可能不會遇到太大的困難。蘇特克韋爾拒絕透露Safe Superintelligence的金主是誰以及他已經籌集了多少資金。格羅斯則說：「在我們面臨的所有問題中，籌集資金不是其中之一。」