揪出AI造假圖片 OpenAI透露正打造偵測工具 精確度99%

開發出聊天機器人ChatGPT的OpenAI正在打造一種工具，可偵測由AI生成的影像或照片，而且具有很高的精確度。

OpenAI技術長穆拉蒂（Mira Murati）17日表示，OpenAI的工具在判斷一張照片是否是利用AI生成可達到「99%的可靠」。她說，這項工具在規畫公開發表前正在進行內部測試，沒有具體時間表。

穆拉蒂是與OpenAI執行長奧特曼參加華爾街日報在加州拉古納海灘舉辦的Tech Live研討會時提及上述說法。OpenAI旗下除了有ChatGPT，也擁有影像生成工具DALL-E。

目前已經存在幾種宣稱可偵測由AI生成影像或內容的工具，但結果可能不精確。舉例來說，OpenAI在1月時推出一種類似的工具，號稱可以判斷哪些文字段落是由AI生成，然而在7月就已下架，原因是「不可靠」。

OpenAI表示，正努力改善這款軟體，並致力於開發能判斷由AI生成的音檔或圖檔的方式。

關於這類偵測AI生成內容的工具需求正在增加，因為AI工具可被用來對全球事件進行操作或製造假新聞。Adobe的Firefly影像生成工具則因應了另一方面的挑戰，承諾不創造侵害創作者智慧財產權的內容。