谷歌AI審查錯判 家長冤成「虐童犯」 帳號還被刪

谷歌(Google)用戶珍妮佛‧華金斯(Jennifer Watkins)接到YouTube頻道帳戶遭關閉的系統通知時，並不以為意，因為她根本沒有YouTube帳戶，但後來發現，七歲大的雙胞胎兒子使用三星(Samsung)平板電腦觀看YouTube是用她的谷歌帳號登入；孩子們除了瀏覽兒童影片，也自行拍攝跳舞等搞笑短片，而讓她惹上麻煩的一支短片是因為兒子拍到臀部。

紐約時報報導，科技龍頭谷歌對於虐待兒童的影音內容訂有零容忍政策(zero-tolerance)，谷歌旗下YouTube網站設有人工智慧(AI)自動掃瞄機制，每分鐘可審查數百小時上傳影音內容，但審查過程有時卻出現錯誤，導致無辜家長遭控虐童。

華金斯案例發生於今年9月，影片上傳之後的短短幾分鐘裡，系統就發出「兒童遭受性剝削」(sexual exploitation)嫌疑警示，根據谷歌使用規則恐將面臨嚴重後果。

華金斯說，她先前從沒看過這支影片，兒子拍攝原因則是被同學挑釁敢不敢赤裸身體拍片。

報導指出，谷歌AI審查機制還有其他類似案例，孩子無意之間拍攝的赤裸影片或照片，在人工智慧審查過程中被認定違反社群網站使用規則，某些家長因此遭到警方調查。

這起事件讓住在澳洲新南威爾斯(New South Wales)的華金斯所有谷歌帳號都被封鎖，無法讀取電郵、檔案與照片。她說，再也收不到公司班表，無法查看銀行紀錄，原本透過谷歌帳號登入的麥當勞(McDonald's)應用程式無法再用。

華金斯的付費谷歌帳號後來遭到完全刪除，但登入網頁顯示她可以向谷歌提出上訴，上訴遭駁回之後她向紐約時報投訴，記者向谷歌提出詢問之後，她的帳號才得以恢復。

報導指出，華金斯兒子拍攝的影片被審查機制發現有問題後，一名谷歌員工便將案例通報給美國國家失蹤暨遭剝削兒童中心(National Center for Missing & Exploited Children)，國家失蹤暨遭剝削兒童中心將影音內容加入資料庫之後，有權決定是否將案件通報地方警察機關。

根據國家失蹤暨遭剝削兒童中心統計，谷歌去年通報200多萬件「顯而易見的兒童色情」(apparent child pornography)案例，數量雖比絕大多數社群媒體還多，但仍少於Meta。