加州擬立法規範AI 科技界反彈

加州立法機關正討論一項開創性法案，針對迅速發展的人工智慧（AI）技術設立嚴格安全標準，以降低其潛在風險。該法案要求AI公司對系統進行嚴格測試並加強安全措施，以防止AI被惡意利用，如破壞電網或製造化學武器。

法案起草人、民主黨州參議員威善高（Scott Wiener）表示，雖然目前市面上的AI模型尚未達到這一門檻，但未來可能會出現如此龐大的系統。他強調，這項法案旨在為未來的AI系統設立合理的安全標準，以防止可能發生的災難性傷害。專家也警告，隨著AI技術的進步，這些看似遙遠的威脅可能很快成為現實。

加州州長紐森（Gavin Newsom）對此議題持謹慎態度。他一方面讚揚加州在AI應用和監管方面處於領先地位，並提到州政府正在考慮利用生成式AI工具來解決高速公路擁堵、提高道路安全性，甚至為納稅人提供指導。另一方面，他也警告過度監管可能使加州陷入「危險境地」，影響創新和經濟發展。

然而，這項法案在科技界引發強烈反對。Meta和谷歌等科技巨頭認為法規過於嚴苛，可能扼殺創新。Meta副總裁Rob Sherman表示，法案將降低AI生態系統整體安全性，危及新創公司和小型企業所依賴的開源模型，並引入監管碎片化，並主張應將監管重點放在濫用AI系統的人身上，而非開發者。

除了AI安全法案，立法者還將考慮另一項措施，打擊AI在就業和租房等領域的自動化歧視，規範公司使用人工智慧模型篩選工作履歷和租賃申請。