快訊

北馬其頓夜店大火增至59死 當局對4人發逮捕令

失蹤近一年 加州華女恐被謀殺 洋丈夫首發聲

AI「深偽」氾濫 好萊塢促國會反擊 懲罰惡意使用

聽新聞
test
0:00 /0:00
史嘉蕾喬韓森也深受AI之害。(路透資料照片)
史嘉蕾喬韓森也深受AI之害。(路透資料照片)

史蒂夫哈維(Steve Harvey)是美國名人,既是電視主持人,也是演員、作家和製作人,他最出名的是為全美最有名電視遊戲節目「家庭問答」(Family Feud)參賽者頒發獎金、近來也成了人工智慧(AI)模仿潮的熱門目標。

哈維近來頻頻成了AI生成熱門迷因(memes)題材;網路上以他為主角的許多盛傳迷因都很幽默、看似無害;然而,險惡人士不會手下留情,利用AI生成哈維的長相、聲音和形象大肆詐騙。

哈維與美國創作歌手泰勒斯(Taylor Swift)、 全球最大播客喬·羅根(Joe Rogan)等名人的聲音去年遭人工智慧模仿,被用來宣傳一項承諾政府提供人民資金的騙局。

在一段AI生成的影片中,一個像極了哈維聲音的音源說:「近幾個月來,我一直告訴你們要去領取這6400美元免費獎金。」

哈維的聲音被人用AI惡用,忍無可忍,站出來大聲呼籲國會對這些騙局的幕後黑手以及詐騙平台嚴懲。

受害者的聲音已被聽見。美國政府考慮立法懲罰惡意使用AI的人,其中之一是推動「反假冒法案」(No Fakes Act)更新版,旨在針對未經授權的人工智慧生成圖像、視訊和聲音,追究幕後創作者和平台的責任。

兩黨參議員都有人支持,計畫未來幾周內重提法案,將加入另一名為「Take It Down Act」的立法行動,將人工智慧生成的「深偽」(deepfake)色情內容定為犯罪,該法案也已提交國會,並獲第一夫人梅蘭妮亞·川普(Melania Trump)支持。

哈維說,利用他形象進行的詐騙今年達歷史高峰。

哈維向來為自己的品牌真實性自豪,人們也認為他是真誠的人、值得信賴,如今不肖人士模擬他的形象發表意見,他擔心人們受不良影響。

演員名人成AI受害者

兩年來,各大唱片藝術家、演員及其他名人都深陷人工智慧醜聞。

在法國,詐騙者利用AI生成好萊塢名演員布拉德彼特(Brad Pitt)圖像行騙,一名女子當真以為自己在幫助這位演員,損失85萬美元。

女演員史嘉蕾喬韓森(Scarlett Johansson)也深受AI之害,2 月一段AI生成假視頻用她的形象和聲音對饒舌歌手「肯爺」肯伊威斯特(Kanye West) 反猶太言論作出回應,在網路瘋傳;她透過聲明說,AI深偽浪潮席捲而來,全球若干進步國家都以負責任的方式做出回應,但美國政府陷入癱瘓,未能通過立法保護所有公民免受危險。

演藝名人支持打擊仿冒的法案,該法案獲美國錄音藝術科學學院(Recording Academy)、美國演員工會(Screen Actors Guild)、美國電影協會(the Motion Picture Association)、各大藝人經紀公司以及好萊塢若干大牌明星支持。

哈維說,「這是言論自由,而不是『讓我用你希望的方式說話』的自由,」被曲解的自由是虐待。國會須介入,因為他們最終也會受害。

依反假冒法案,網路平台可能會因託管人工智慧內容而受到處罰。依現行法規,每次違規罰款5000美元,依此推估,病毒式瘋傳的AI創作罰款總額很快上衝數百萬美元。

一位熟悉法案的人士說,立法者已向暫時不支持的平台明確表示,除非創意產業的人們同意,否則不會改變罰則。

這項法案的主要批評者包括公共知識(Public Knowledge)、民主與技術中心(Center for Democracy and Technology)、美國圖書館協會(American Library Association)等公共倡議組織,他們擔心法案引入過多監管,去年寫信給參議員,警告這麼做恐危及「第一修正案」(First Amendment)賦予的權利並引發訴訟。

批評者承認數位複製技術濫用確實有隱憂,可能要立法預防,但最近所提「反假冒法案」在引入全新聯邦智慧財產權方面做得太過頭。

新創公司助發現反擊

國會致力打擊偽造影音,但AI也繼續求新求變。名人們能力有限,眼看有人用自己的肖像生成深偽影音也難以一網打盡,遇到用匿名網路帳號的仿冒高手更束手無策。

就在名人無奈興嘆時, Vermillio AI這樣的公司崛起,以專業科技發揮正面力量,反擊科技的負面作為。

Vermillio 執行長尼利(Dan Neely) 說,2018年約有1萬9000則深偽影音內容,年年數量暴增,如今每分鐘約多達100萬則。

追蹤以名人為主角的深為作品格外困難,要找到這些AI生成的深偽作品,如同玩快速打地鼠遊戲,非常複雜。Vermillio公司採用一種藉助「指紋辨識」(fingerprintin)的技術區分真實內容和AI生成內容,以大型語言模型(large language models, LLM)在網路上抓取被篡改的圖像。

名人有能力負擔 Vermillio 這樣的服務,但其他創作者資源較少,恐無力負擔。

AI 人工智慧 好萊塢

上一則

理財Q&A/應該開幾個銀行帳戶才好?

下一則

巴菲特也看走眼 好市多靠1模式撐過疫情 股價漲200%

➤➤➤世界新聞網全新推出「消費頻道」,提供好吃、好玩、好買的實用消費資訊,以及最新個人退休、理財、保險等省錢妙方,還有增進家居生活品質的最新情報。每天關注「消費頻道」,天天有新鮮事!

超人氣

更多 >

世界新聞網為提供更佳的網站體驗,採cookies分析。如繼續瀏覽本網站即表示您同意我們使用cookies。
更多cookies、隱私權聲明可參考我們的「 隱私權與條款more > Worldjournal.com use cookies to improve your experience on our site. By using this site, you agree to our use of cookies.To find out more, read our update privacy policy.

我知道了