AI「深偽」氾濫 好萊塢促國會反擊 懲罰惡意使用

史蒂夫哈維(Steve Harvey)是美國名人,既是電視主持人,也是演員、作家和製作人,他最出名的是為全美最有名電視遊戲節目「家庭問答」(Family Feud)參賽者頒發獎金、近來也成了人工智慧(AI)模仿潮的熱門目標。
哈維近來頻頻成了AI生成熱門迷因(memes)題材;網路上以他為主角的許多盛傳迷因都很幽默、看似無害;然而,險惡人士不會手下留情,利用AI生成哈維的長相、聲音和形象大肆詐騙。
哈維與美國創作歌手泰勒斯(Taylor Swift)、 全球最大播客喬·羅根(Joe Rogan)等名人的聲音去年遭人工智慧模仿,被用來宣傳一項承諾政府提供人民資金的騙局。
在一段AI生成的影片中,一個像極了哈維聲音的音源說:「近幾個月來,我一直告訴你們要去領取這6400美元免費獎金。」
哈維的聲音被人用AI惡用,忍無可忍,站出來大聲呼籲國會對這些騙局的幕後黑手以及詐騙平台嚴懲。
受害者的聲音已被聽見。美國政府考慮立法懲罰惡意使用AI的人,其中之一是推動「反假冒法案」(No Fakes Act)更新版,旨在針對未經授權的人工智慧生成圖像、視訊和聲音,追究幕後創作者和平台的責任。
兩黨參議員都有人支持,計畫未來幾周內重提法案,將加入另一名為「Take It Down Act」的立法行動,將人工智慧生成的「深偽」(deepfake)色情內容定為犯罪,該法案也已提交國會,並獲第一夫人梅蘭妮亞·川普(Melania Trump)支持。
哈維說,利用他形象進行的詐騙今年達歷史高峰。
哈維向來為自己的品牌真實性自豪,人們也認為他是真誠的人、值得信賴,如今不肖人士模擬他的形象發表意見,他擔心人們受不良影響。
演員名人成AI受害者
兩年來,各大唱片藝術家、演員及其他名人都深陷人工智慧醜聞。
在法國,詐騙者利用AI生成好萊塢名演員布拉德彼特(Brad Pitt)圖像行騙,一名女子當真以為自己在幫助這位演員,損失85萬美元。
女演員史嘉蕾喬韓森(Scarlett Johansson)也深受AI之害,2 月一段AI生成假視頻用她的形象和聲音對饒舌歌手「肯爺」肯伊威斯特(Kanye West) 反猶太言論作出回應,在網路瘋傳;她透過聲明說,AI深偽浪潮席捲而來,全球若干進步國家都以負責任的方式做出回應,但美國政府陷入癱瘓,未能通過立法保護所有公民免受危險。
演藝名人支持打擊仿冒的法案,該法案獲美國錄音藝術科學學院(Recording Academy)、美國演員工會(Screen Actors Guild)、美國電影協會(the Motion Picture Association)、各大藝人經紀公司以及好萊塢若干大牌明星支持。
哈維說,「這是言論自由,而不是『讓我用你希望的方式說話』的自由,」被曲解的自由是虐待。國會須介入,因為他們最終也會受害。
依反假冒法案,網路平台可能會因託管人工智慧內容而受到處罰。依現行法規,每次違規罰款5000美元,依此推估,病毒式瘋傳的AI創作罰款總額很快上衝數百萬美元。
一位熟悉法案的人士說,立法者已向暫時不支持的平台明確表示,除非創意產業的人們同意,否則不會改變罰則。
這項法案的主要批評者包括公共知識(Public Knowledge)、民主與技術中心(Center for Democracy and Technology)、美國圖書館協會(American Library Association)等公共倡議組織,他們擔心法案引入過多監管,去年寫信給參議員,警告這麼做恐危及「第一修正案」(First Amendment)賦予的權利並引發訴訟。
批評者承認數位複製技術濫用確實有隱憂,可能要立法預防,但最近所提「反假冒法案」在引入全新聯邦智慧財產權方面做得太過頭。
新創公司助發現反擊
國會致力打擊偽造影音,但AI也繼續求新求變。名人們能力有限,眼看有人用自己的肖像生成深偽影音也難以一網打盡,遇到用匿名網路帳號的仿冒高手更束手無策。
就在名人無奈興嘆時, Vermillio AI這樣的公司崛起,以專業科技發揮正面力量,反擊科技的負面作為。
Vermillio 執行長尼利(Dan Neely) 說,2018年約有1萬9000則深偽影音內容,年年數量暴增,如今每分鐘約多達100萬則。
追蹤以名人為主角的深為作品格外困難,要找到這些AI生成的深偽作品,如同玩快速打地鼠遊戲,非常複雜。Vermillio公司採用一種藉助「指紋辨識」(fingerprintin)的技術區分真實內容和AI生成內容,以大型語言模型(large language models, LLM)在網路上抓取被篡改的圖像。
名人有能力負擔 Vermillio 這樣的服務,但其他創作者資源較少,恐無力負擔。
FB留言