加州峰會聚焦管理 紐森：AI立法監管不放縱、不過度

加州生成式人工智慧聯合峰會（Joint California Summit on Generative AI ）本周在舊金山聯邦俱樂部舉行。對於大眾關心的AI立法管理問題，州長紐森說，不能過度管制，也不能過度放縱AI的發展，同時希望保持加州在該領域的領導力。史丹福大學以人為本人工智慧研究院院長，被譽為「AI教母」的華裔教授李飛飛( Fei-Fei Li )說，須小心謹慎監管，因為技術仍處於發展階段，「我們需要的是創新。」

在全球50家領先的人工智慧公司中，加州占35家，加州有影響力巨大的研究和教育機構，還有四分之一的技術專利和會議論文。紐森和100多位代表技術、政府、學術界、勞工、民間組織等方面的領導人，在此次峰會討論AI技術更好地服務公眾的新方法。

峰會由州長商業與經濟發展辦公室（GO-Biz）、加州政府運營廳、柏克萊加大計算、數據科學與社會學院，史丹福以人為本人工智慧研究所（HAI）共同開發和主辦。在去年關於生成式AI的行政命令中，紐森指示其下屬機構與高等教育機構建立合作關係。

紐森說，AI技術似乎突然崛起，技術發明者會對政府說，「救命啊，你得管管我們。」加州面臨的挑戰不言而喻，就是要盡可能地透明監管。加州在這一領域占據主導地位，希望繼續維持，不想將主導地位拱手讓人。「加州有35到50家涉及人工智慧的市值最高的公司。如果我們過度管制，過度放縱，會把自己置於危險的境地。同時，我們也有義務引領世界，因為加州發明了AI。」

柏克萊加大計算、數據科學與社會學院院長查耶斯（Jennifer Chayes）說，如果能確保每個人都有能力使用AI來解決所在社區的問題，AI可以成為一個偉大的民主化工具。在解決問題過程中，必須始終有人在相關技術循環中，有接受這些商品和服務的客戶身在其中，可以發現AI在什麼時候偏離軌道，予以糾偏。「這會產生激勵機制，讓社區增強能力，成為人工智慧的受益者，而不是被剝奪權利。」

李飛飛說，社會中的每一個人，都在關注AI技術，尤其是可能帶來的社會風險。但所在研究院有一個非常堅定的立場，人工智慧必須增強人類，不能取代人類。這項技術不應剝奪人們的集體繁榮和個人尊嚴。

她說，開放模式和開源軟體在AI生態系統的發展中起到至關重要的作用。在科技領域，尤其是人工智慧領域有一定經驗的人，清醒地看到技術的強大，也同意社會集體在某些領域所肩負的責任，並在事情真相揭曉之時（Where the rubber meets the road），討論監管問題，無論是醫療保健、金融、交通、環境，還是生活和工作的許多方面。當人工智慧成為驅動力之一時，須將其置於監管之下。「我們要小心謹慎監管，因為AI仍處於發展階段，我們需要的是創新。」

李飛飛說，比如，有一個人工智慧法案，在監管一定規模的模型，有人擔心該法案會傷害開源建模以及小技術公司，擔心可能保護來自公共部門的大型技術。「別忘了，我們有大科技公司，但也有世界上最好的創業環境。」