「美國首屆AI大選」假消息滿天飛 選民恐遭操弄

近日副總統賀錦麗的詼諧仿作「深偽」影片、總統拜登滿口髒話的變造影片、川普被捕的偽造影像在網路瘋傳。隨著美國大選升溫，政治性假消息在人工智慧（AI）推波助瀾下日益氾濫，讓人擔心選民可能遭到操弄。

法新社報導，今年11月的美國大選有「美國首屆AI大選」之稱。研究人員警告，偽造技術可能被利用來帶風向，讓選民支持或背棄特定候選人，甚至完全不去投票，讓原已極度分化的社會更趨緊張。

最近的一波假消息讓各界重新呼籲科技巨頭，在投票前針對生成式AI加強防護。

社群平台X的老闆、億萬富豪馬斯克（Elon Musk）上月26日利用自己的帳號，與近1.92億名粉絲分享1支遭到篡改的賀錦麗（Kamala Harris）競選影片，片中模仿她的配音稱現任總統拜登患有老年癡呆症，還自稱「對治理國家一無所知」，引來各界砲轟。

貼文並未標註影片為「詼諧仿作」（parody），僅附上笑到飆淚的表情符號。研究人員擔心，這類影片可能誤導觀眾。

非營利組織CivAI共同創辦人韓森（Lucas Hansen）告訴法新社：「近期的例子凸顯深偽技術如何被用來滿足政治目的。AI生成假消息絕對值得關切，其中最常見的應用就是旨在引發激憤情緒、加劇黨派緊張的偽造影像。」

韓森還向法新社示範如何利用AI聊天機器人大量生成假推文，以操縱選民投票率。只要向聊天機器人輸入簡單指令：投票地點的停車場須收費，然後針對特定地點，比如德州艾倫（Allen），按下發送鍵。

幾秒鐘之內就可以看到相關推文被製造出來，讓人誤以為艾倫地方當局「在多數投票所悄悄收取25美元的停車費」。

▼收聽一洲焦點播客版(Podcast)：