用AI機器人寫法庭意見 史丹福教授毀英名

史丹福大學社群媒體實驗室的創始主任受明尼蘇達州檢察長辦公室之聘，給一宗涉及AI假訊息的案件提供專家意見。但他的12頁證詞後來被發現是用AI聊天機器人編派出來的，使他的一世英名毀於一旦。

聖荷西信使報報導，明州地方法院法官普羅文齊諾(Laura Provinzino)在1月10日的書面判決中指出，漢考克教授(Jeff Hancock)的失誤極具「諷刺意味」(irony)。「漢考克教授是研究人工智慧和錯誤訊息危害社會的權威，但他卻成為過度依賴人工智慧的誘惑的受害者。而這宗案件恰好與人工智慧的危害有關。」

更諷刺的是：漢考克是傳播學教授，對諷刺曾進行了廣泛的研究。漢考克受聘於明州檢察長辦公室，負責製作一份宣誓性的專家聲明，為該州將與選舉相關的人工智慧生成的「深度偽造」(deepfake)照片定為犯罪的法律辯護。該訴訟源於一名州議員與一位YouTuber諷刺作家。加州在去年秋天通過了類似的法律。

那位作家是科爾斯(Christopher Kohls)。去年他與馬斯克的X社交媒體公司一起對明州和加州提訴，理由是兩州的這項法律無效。明州檢察長請漢考克提供書面專家意見。去年11月科爾斯的律師告訴明尼蘇達州法院：漢考克的12頁聲明引用了「一項不存在的研究」，該研究報告假稱是由「黃、張、王」等人撰寫，很可能是「由ChatGPT之類的AI大型語言模型生成」。

12月漢考克在一份法庭文件中承認他使用過ChatGPT，並將該錯誤以及他隨後提交的文件中發現的另外兩個人工智慧「幻覺」歸咎於該機器人，並向法庭道歉。

他是使用ChatGPT 4.0來幫助查找資料和總結他要提交的文章，但錯誤很可能是因為他在給聊天機器人的文本中插入了「引用」(cite)一詞，以提醒自己在提出的觀點中添加學術引用。但機器人顯然將「引用」作為指令並偽造了引用內容，而且機器人還為其引用的內容假造了四位錯誤的作者。