女被殺18年後 照片被製作聊天機器人 父親憤怒 製作公司刪除

2006年，克雷森特(Drew Crecente)就讀高中的女兒珍妮佛(Jennifer)遭前男友殺害；18年後的10月2日，他收到谷歌(Google)警示通報，指他女兒珍妮佛的全名和照片等個資出現在網路上，被人工智慧(AI)聊天機器人平台Character.AI 重新創造成一個「知識淵博且友好的聊天機器人」。克雷森特向「華盛頓郵報」表示，當時他整個人「血脈賁張」，「只希望眼前有個大型紅色停止按鈕，可以一按就把這一切停下來」。

克雷森特對於Character.AI允許用戶未經當事者家人許可，就使用被謀殺高中生檔案創建出聊天機器人角色，深感震驚。專家表示，這起事件引發人們質疑AI產業是否有能力或意願保護用戶，避免因為其服務而受到潛在危害。

克雷森特指出，珍妮佛聊天機器人的頁面被人以生動語言描述得像是活人一般，稱她是「能掌握最新流行科技文化動態」的電玩高手兼記者。該數位珍妮佛是Character網站用戶創建，有幾個人已與數位珍妮佛互動。

克雷森特及其家人在X平台就此事發文後，Character回應表示正在刪除該角色。Character發言人凱利(Kathryn Kelly)表示，該公司「已刪除違反其服務條款的聊天機器人，將持續改良安全工作，協助保障社區安全」。

Character今年與谷歌簽署價值25億元協議，將其AI模型授權谷歌。Character提供多款公司製造聊天機器人，也允許用戶透過上傳照片、錄音和簡短書面提示，創建和共享自己的AI聊天機器人。聊天機器人可以被視為朋友、導師和浪漫伴侶，網路受眾愈來愈多，但此技術也已引起爭議。2023年一名比利時男子在與聊天機器人對話時，被鼓動自殺身亡。

非營利組織Mozilla基金會隱私權研究員考特里德(Jen Caltrider)批評Character在審查明顯違反服務條款的內容方面，過於被動。消費者權益非營利組織Public Citizen研究AI聊天機器人的克萊普爾(Rick Claypool)則表示，「我們迫切需要立法者和監管機構，關注這些科技對民眾造成的真正影響」。