AI生成虛假名人支持特定候選人 擾亂總統大選

總統選舉即將於11月登場，研究人員指出，美國影星、歌手及運動員遭捏造對共和黨總統候選人川普及民主黨競爭者賀錦麗做出許多虛假證詞，正在社群媒體大舉擴散，其中許多來自AI影像產生器。

法新社報導，流行音樂天后泰勒絲（Taylor Swift）、女神卡卡（Lady Gaga）及好萊塢男星摩根費里曼（Morgan Freeman），並未支持川普（Donald Trump）。

搖滾歌手布魯斯史普林斯汀（Bruce Springsteen）也並未被拍到他穿著印有「美國保持無川普狀態」（Keep America Trumpless）標語的上衣。虛假名人支持或奚落特定候選人的社媒貼文，正在干擾總統大選。

包含億萬富豪馬斯克（Elon Musk）旗下X在內的社媒平台移除許多防範假訊息的護欄後，虛假名人支持和奚落特定候選人的貼文已經引發外界擔憂，隨著總統選舉選情白熱化，這些內容可能被用於操縱選民。

川普8月在社媒轉貼幾張泰勒絲支持他選總統的AI生成照，顯然試圖利用這位流行天后的巨星影響力吸引選民。

加州大學柏克萊分校數位鑑識專家法瑞德（Hany Farid）指出，川普在他創立的社媒「真實社群」（Truth Social）轉貼泰勒絲的AI生成照「特別工於心計」，因為他將真實與虛擬的影像結合在一起。

非營利組織新聞素養計畫（NLP）近來推出所謂的錯誤消息控制台，旨在提升人們對選舉謊言的辨別度。這項計畫的資料庫迄今已列出70篇在社媒散布虛假「名人」支持和奚落特定候選人的貼文。

新聞素養計畫資深研究副總裁亞當斯（Peter Adams）告訴法新社：「在這個兩極化的時代，虛假名人的支持可吸引選民注意、影響其看法、強化個人偏見，還會散播困惑和混亂。」

新聞素養計畫的假訊息清單包含已獲取數百萬觀看次數的貼文，幾乎每天都有新的社媒貼文加入清單。

法新社的事實查核人員指出，清單內有些貼文轉載變造過的女神卡卡照片，照片配上「川普2024」（Trump 2024）的標記，表明她支持前總統川普。

研究人員表示，特別是在X平台縮減內容審核政策並且恢復明知是散布虛假內容的帳號後，X平台已成為散布惡意造假政治資訊的溫床。

支持川普的馬斯克，其在X平台的帳號擁有近2億名追隨者，他已多次遭控散布有關選舉的虛假內容。

X平台的AI聊天機器人Grok之前傳出分享錯誤資訊後，監督選舉的官員敦促馬斯克解決這個問題；Grok允許用戶利用文本提示產生AI生成影像。

Blackbird.AI情報分析師泰瑞（Jess Terry）指出，隨著這類技術日新月異，「辨別冒牌貨的難度將會愈來愈高」。

她告訴法新社：「老一輩或其他不熟悉AI技術開發的群體確實可能相信他們所見，這樣的風險當然存在。」

▼收聽一洲焦點播客版(Podcast)：