2024大選兵推:AI深偽破壞力不容小覷
數十位前任聯邦高級官員、州級官員、公民社會領袖及科技公司決策人物近日聚集紐約,為2024年大選做兵棋推演,情境假設亞利桑納州等地發生人工智慧(AI)深偽技術、錯假消息打擾11月選舉,結果發現狀況很嚴峻,業已兩極化的國家可能快速陷入紛亂,聯邦、地方政府及科技業者必須嚴正看待。
國家廣播公司新聞網(NBC News)報導,兵棋假設選舉日當天,亞利桑納州馬里考帕郡長者們接獲電話,說當地投票站因武裝團體的威脅,已經關閉;同一時間,佛州邁阿密出現大批照片及視頻上傳社群媒體,指選務人員丟棄選票。
前述的亞州電話及佛州視頻,都是利用AI深偽製作出來的,但是等聯邦及地方檢警調搞清楚狀況時,假消息已經瘋傳遍及全國。
參加選舉兵推的前國土安全部官員泰勒(Miles Taylor)表示,與會人員瞧見這類威脅事件,竟能迅速蔓延全國,主宰2024選戰過程,感到十分苦惱。
參與者表示,這場演習顯示AI工具可在業已兩極化的美國社會裡,假消息得以更快傳播,讓2024年選舉陷入紊亂,令人不安地想問,聯邦及地方官員還有科技界,是否已做足準備,反制國內外假消息,那些東西真會破壞民眾對選舉結果的信心。
「一號要務」(Issue One)組織執行長潘尼曼(Nick Penniman)表示,選舉體制跟天災因應不同沒成立中央指揮中心,而是分權給地方,但目前已進入未知領域,不清楚由誰主持。不過幾年的功夫,現在美國人必須捍衛國內外勢力對美國選舉的攻擊;目前國家沒有相應的基礎設施及經驗,原因在過去從來不必面對這麼嚴峻、規模龐大的威脅。
潘尼曼表示,這次兵推中沒幾個人了解真正發生什麼事、該如何與人統籌或者不要合作。
有些深偽影像雖然一開始叫人不知所措,但最後還能釐清來源;但是碰到假電話的情況,聯邦官員就猶豫起來,該由誰公開聲明,告訴選民投票站安然無恙,選票很安全;聯邦官員擔心,任何公開聲明都會被視為企圖讓拜登總統連任成功之舉。
FB留言