市府聊天AI錯誤百出 有些建議還違法

有調查機構近日發現，紐約市去年推出的人工智慧聊天機器人提供的內容錯漏百出，在答覆企業業者時，給出的答案甚至明顯違反法律，等同指導市民進行違法活動。

紐約市府去年10月推出了聊天機器人以改善政府的政策與信息諮詢服務，這是亞當斯(Eric Adams)政府推廣的綜合信息門戶「我的城市」(MyCity)的其中一部分。聊天機器人初步的服務範圍主要包括創業和經營企業相關方面。

市府在發布的公告中稱，這項諮詢服務將幫助企業主從「2000多個政府網頁中獲取可信賴的信息」，還承諾這款由微軟提供的人工智慧機器人「經過培訓」，它所提供的答案能幫助業者「遵守法規、尋找可用的商業激勵措施以及避免違規和罰款」。

然而，在一項調查中，調查性新聞製作機構「The Markup」與新聞媒體「The City」聯合試驗發現，這款人工智慧機器人的信息輸出嚴重失準，所給出的很多答案甚至建議都是違反法律的。

比如，調查人員以房東的身分提問道，是否必須接受領取租金補助的租戶或使用租房券支付房租時，機器人給出的答案全部為否定。然而在現實中，紐約市的相關法律嚴格規定房東不得以收入來源為由「進行歧視」。這意味著，如果紐約的房東相信機器人的答案就是政府的權威回答，就可能被誤導，進而在無所察覺的情況下就違反了法律。

報告還列舉了多個類似的案例。比如，以雇主身分提問「是否可以扣取員工的小費」，機器人給出的是肯定答覆，甚至還補充說明「根據紐約市的工資和消費報告信息，每月獲得20元或以上小費的員工必須向雇主報告所有小費，因此作為雇主，您可以從工人的小費中提取一部分。」

然而事實上，不僅這段答覆的內容前後文邏輯不通，紐約市的法律更有規定，禁止雇主扣取員工的小費收入。此外，機器人還告訴諮詢者「紐約市沒有具體規定以禁止商家實現無現金經營」，然而事實上，紐約市從2020年起，就規定商家必須接受現金支付。

報告還指出，機器人每次在面對相同問題時，給出的答案並不相同。調查人員經過大量測試發現，機器人的回答有時是正確的、有時卻是錯誤的。目前，尚無法統計到底有多少諮詢者，在接受了錯誤答案後真的將這些違法行為付諸了實施。