深偽技術 威脅人權、選舉

利用人工智慧（AI）生成或操弄的深偽技術威脅日益嚴重。深度偽造是一個廣義術語，指使用AI和其他技術創建的聲音、影音或照片。隨著技術迅速發展，創建這類圖像變得前所未有的容易，導致網路上大量生成，且由於多半涉及名人，所以在社群平台上快速傳播。深偽技術用於裸露影像製造是一個涉及隱私、尊嚴和基本人權的社會議題。另外，深偽技術於政治競選中若未加以約束，也可能擾亂選民視聽，影響選舉結果。

過去，創建逼真的偽造圖像需要高超的技術和大量時間。如今，任何人只需幾秒鐘就能使用AI工具生成令人信服的深偽圖像。易用性導致了深偽色情的圖像爆炸性增長，研究顯示自2019年以來，網上的深偽影音增加了550％，其中絕大多數是涉及真人且為女性的裸露影像。

這些圖像造成的傷害代表對個人隱私和尊嚴的嚴重侵犯，可能導致受害者遭受嚴重的心理創傷、聲譽損害，甚至生命危險。在巴基斯坦曾發生一名18歲女孩被她的父親和叔叔所殺，原因竟是她與一名男子的數位合成照片在網路瘋傳。這個悲劇事件凸顯了在保守社會，這類內容可能引發極端反應。

最近，Meta的全球監察委員會審理了兩起美國與印度娛樂界知名女性的AI生成裸照案件，凸顯社群媒體在應對此類內容時面臨的挑戰。儘管委員會裁定這些圖片應刪除，但調查過程顯示平台雖制定了政策，但在執行上於檢測和處理這類內容時，非常容易出現重大漏洞，包括理解影像中的情境所需的細微判斷能力，例如什麼樣的裸露可達到色情猥褻的標準。

相較於Meta的內容審查政策依賴外部獨立委員會的審理，另一個社群平台X面對深偽技術，倒是老闆自己帶頭傳播。7月底在拜登宣布退出選舉後，馬斯克轉發了一段關於美國副總統賀錦麗的影片，但未披露是否經過篡改。影片模仿賀錦麗的聲音，但並非使用她在原始廣告影片中的說法，而是經過變造後讓她說拜登總統已老邁，她對治理國家一無所知，且做為一名女性也是有色人種，她有工作是為因應多元雇用的要求。馬斯克這則貼文到目前為止已有1億3000多萬的觀看數，到現在都還流傳在平台上，似乎違反了X平台的內容政策。該政策具體內容為「禁止分享可能欺騙或混淆人們並導致傷害的合成、篡改或斷章取義的媒體內容」。儘管X平台上有許多貼文質疑，但馬斯克至今仍保持沉默。

應對深偽需要多方面的努力。負責任的平台需要投資先進的檢測工具，同時確保有效的人工審查流程來處理複雜案例。國家政策的制定者須考慮制定強有力的法律框架，以保護個人以及公眾人物免受這種形式的剝削。同時，幫助民眾識別和投訴這類內容的公眾意識和媒體素養教育也至關重要。我們必須認識到，問題核心不僅僅是技術本身，而是對人類尊嚴、自主權以及名譽的根本挑戰。在我們擁抱AI帶來的創新機會的同時，必須警惕AI可能被用來侵犯人權以及扭曲真相。保護個人免受AI技術操弄的侵害，是數位時代維護人權的關鍵戰場。

（本文取自8月4日聯合報民意論壇，作者為Meta全球監督委員會委員、政大傳播學院特聘教授兼國合長）