AI「深偽」氾濫 好萊塢促國會反擊 懲罰惡意使用

史蒂夫哈維(Steve Harvey)是美國名人，既是電視主持人，也是演員、作家和製作人，他最出名的是為全美最有名電視遊戲節目「家庭問答」(Family Feud)參賽者頒發獎金、近來也成了人工智慧(AI)模仿潮的熱門目標。

哈維近來頻頻成了AI生成熱門迷因(memes)題材；網路上以他為主角的許多盛傳迷因都很幽默、看似無害；然而，險惡人士不會手下留情，利用AI生成哈維的長相、聲音和形象大肆詐騙。

哈維與美國創作歌手泰勒斯(Taylor Swift)、 全球最大播客喬·羅根(Joe Rogan)等名人的聲音去年遭人工智慧模仿，被用來宣傳一項承諾政府提供人民資金的騙局。

在一段AI生成的影片中，一個像極了哈維聲音的音源說：「近幾個月來，我一直告訴你們要去領取這6400美元免費獎金。」

哈維的聲音被人用AI惡用，忍無可忍，站出來大聲呼籲國會對這些騙局的幕後黑手以及詐騙平台嚴懲。

受害者的聲音已被聽見。美國政府考慮立法懲罰惡意使用AI的人，其中之一是推動「反假冒法案」(No Fakes Act)更新版，旨在針對未經授權的人工智慧生成圖像、視訊和聲音，追究幕後創作者和平台的責任。

兩黨參議員都有人支持，計畫未來幾周內重提法案，將加入另一名為「Take It Down Act」的立法行動，將人工智慧生成的「深偽」(deepfake)色情內容定為犯罪，該法案也已提交國會，並獲第一夫人梅蘭妮亞·川普(Melania Trump)支持。

哈維說，利用他形象進行的詐騙今年達歷史高峰。

哈維向來為自己的品牌真實性自豪，人們也認為他是真誠的人、值得信賴，如今不肖人士模擬他的形象發表意見，他擔心人們受不良影響。

演員名人成AI受害者

兩年來，各大唱片藝術家、演員及其他名人都深陷人工智慧醜聞。

在法國，詐騙者利用AI生成好萊塢名演員布拉德彼特(Brad Pitt)圖像行騙，一名女子當真以為自己在幫助這位演員，損失85萬美元。

女演員史嘉蕾喬韓森(Scarlett Johansson)也深受AI之害，2 月一段AI生成假視頻用她的形象和聲音對饒舌歌手「肯爺」肯伊威斯特(Kanye West) 反猶太言論作出回應，在網路瘋傳；她透過聲明說，AI深偽浪潮席捲而來，全球若干進步國家都以負責任的方式做出回應，但美國政府陷入癱瘓，未能通過立法保護所有公民免受危險。

演藝名人支持打擊仿冒的法案，該法案獲美國錄音藝術科學學院(Recording Academy)、美國演員工會(Screen Actors Guild)、美國電影協會(the Motion Picture Association)、各大藝人經紀公司以及好萊塢若干大牌明星支持。

哈維說，「這是言論自由，而不是『讓我用你希望的方式說話』的自由，」被曲解的自由是虐待。國會須介入，因為他們最終也會受害。

依反假冒法案，網路平台可能會因託管人工智慧內容而受到處罰。依現行法規，每次違規罰款5000美元，依此推估，病毒式瘋傳的AI創作罰款總額很快上衝數百萬美元。

一位熟悉法案的人士說，立法者已向暫時不支持的平台明確表示，除非創意產業的人們同意，否則不會改變罰則。

這項法案的主要批評者包括公共知識(Public Knowledge)、民主與技術中心(Center for Democracy and Technology)、美國圖書館協會(American Library Association)等公共倡議組織，他們擔心法案引入過多監管，去年寫信給參議員，警告這麼做恐危及「第一修正案」(First Amendment)賦予的權利並引發訴訟。

批評者承認數位複製技術濫用確實有隱憂，可能要立法預防，但最近所提「反假冒法案」在引入全新聯邦智慧財產權方面做得太過頭。

新創公司助發現反擊

國會致力打擊偽造影音，但AI也繼續求新求變。名人們能力有限，眼看有人用自己的肖像生成深偽影音也難以一網打盡，遇到用匿名網路帳號的仿冒高手更束手無策。

就在名人無奈興嘆時， Vermillio AI這樣的公司崛起，以專業科技發揮正面力量，反擊科技的負面作為。

Vermillio 執行長尼利(Dan Neely) 說，2018年約有1萬9000則深偽影音內容，年年數量暴增，如今每分鐘約多達100萬則。

追蹤以名人為主角的深為作品格外困難，要找到這些AI生成的深偽作品，如同玩快速打地鼠遊戲，非常複雜。Vermillio公司採用一種藉助「指紋辨識」(fingerprintin)的技術區分真實內容和AI生成內容，以大型語言模型(large language models, LLM)在網路上抓取被篡改的圖像。

名人有能力負擔 Vermillio 這樣的服務，但其他創作者資源較少，恐無力負擔。