州府強調生成式人工智慧有潛在危險

加州政府日昨發布報告，概述了加州使用生成式人工智慧 (GenAI) 的機會，同時強調了潛在的危險。 這是州長兩個月前發布的行政命令要求的幾份預期報告和交付成果中的第一份。

州長紐森表示：「這是我們努力充分了解GenAI的範圍以及國家在部署GenAI中的作用的重要的第一步。 我們正在採取一種細緻入微、慎重的方法──了解這種變革性技術帶來的風險，同時研究如何利用其優勢。”

報告內容包括提供風險和高風險案例的初步分析和GenAI 的經濟和變革效益；檢查州府如何優先考慮擴大計畫訪問，提高工作速度、總結和分類資訊，以及利用複雜的數據，並強調安全、受控試點的重要性。還強調改善政府服務的潛在用途，包括識別因語言障礙或其他原因，而無法獲得應有服務的群體。同時描述了GenAI的潛在風險，並指出必須解決這些問題，以確保加州人從這項技術中共同受益。

「加州可以在州政府採用深思熟慮和創新的方法來採用GenAI，」加州行政署長黃思敏（Amy Tong）說。她領導的多機構團隊在與學術界、政府和社區利益相關者以及行業專家進行了兩個月的深入磋商後，提交了這份報告。

加州還與柏克萊加大和史丹福大學建立正式合作夥伴關係，考慮和評估GenAI對加州的影響以及加州應採取哪些努力來提升其在該行業的領導地位。 州政府和各機構將在2024年制定並主辦聯合峰會，就GenAI對加州及其勞動力的影響進行有意義的討論。