加州擬用AI回答稅務問題 將評估風險

加州稅務局(Department of Tax and Fee Administration)計劃在下一個納稅季節，使用人工智慧回答民眾稅務問題，將有375個服務中心提供州稅稅法建議。對於致電民眾來說，稅務局服務中心人員仍會審核人工智慧提供的稅務資訊。

人工智慧支持稅務諮詢提案的目標，是創建人工智慧系統，以協助州府稅收運作，初步內容已於上周提交，整個過程預計於4月完成。稅務局發言人Tamma Adamek告訴新聞媒體「CalMatters」，已於上月與潛在供應商舉辦相關會議。

加州技術部門主任暨首席資訊長Liana Bailey-Crimmins表示，人工智慧稅務提案是加州推出五項概念認證之一，旨在了解州府機構如何運用人工智慧。加州交通局(Caltrans)有兩個相關人工智慧計畫，探索人工智慧是否可減少交通擁塞與致命事故；健康與公共服務局也進行兩項試驗，了解人工智慧是否讓民眾更容易理解及獲得公共福利，並協助健康照護設施的檢查。

獲選的人工智慧稅收提案供應商，將獲得一份為期六個月合約，之後州府官員將決定是否需要更大型合約。供應商必須監控並報告人工智慧解決方案，以確保事實準確性、連貫性與適當性。

提案計畫是州長紐森去年秋天啟動，將是長達數年的人工智慧監管與採用流程的開始。他發布行政命令，要求州府各機關7月之前，了解並使用人工智慧方法。為控制風險，獲得合約的私人公司將在州府伺服器「沙盒」(sandbox)、意即封閉而安全的軟體測試環境託管之下，進行人工智慧模型訓練，以滿足技術部門制定的資訊安全與監控標準。

州府機構於2023年11月評估人工智慧的益處與風險，報告警告，人工智慧模型可能產生令人信服但不準確的結果，對同一提問給出不同答案。當民眾過度信任且依賴自動化決策，也存在偏差風險。

目前尚不知稅務機構服務中心員工，如何信任大型語言模型產生的答案。稅務局發言人Adamek表示，稅務人員接受基本稅率計畫培訓，若遇到不熟悉問題，可向有經驗團隊尋求協助。技術部門與其他州機構合作，協助培訓員工識別錯誤或虛假內容。