AI電話模仿拜登 散播者恐被罰600萬

聯邦通訊委員會(Federal Communications Commission，FCC)23日首次針對涉及生成式人工智慧(AI)技術的不法行為要求懲處。被告政治顧問克萊默(Steven Kramer)因為今年元月在新罕布夏州總統初選前兩天，向數以千計的選民發送以AI生成、模仿拜登總統聲音的自動電話，面臨600萬元罰款和20多項刑事控罪。

至於負責傳輸這些自動電話的Lingo Telecom公司，也面臨200萬元罰款。

克萊默承認他在1月23日全國首次初選前兩天，精心策畫使用類似拜登聲音的AI生成聲音發出自動電話假訊息，內容錯誤暗示選民若在初選當天投票，將無法在11月投票。

克萊默被控違反新罕布夏州禁止利用誤導性資訊阻止他人投票的法律，面臨13項重罪。他還被控透過自己或他人行為謊稱自己是候選人，面臨13項輕罪。

負責提告的是新罕州檢察長佛梅拉(John Formella)辦公室。共和黨州長蘇努努(Chris Sununu)任命的佛梅拉表示，新罕州致力確保選舉不受非法干擾，很高興看到聯邦合作夥伴同樣致力「保護消費者和選民免受有害自動電話的迫害」。

克萊默擁有一家專門敦促選民投票的公司，他2月曾向美聯社表示，他花了150元找來一名紐奧良魔術師製作這段錄音時，並不是想影響選舉結果，而是想「敲響有關AI具潛在危險的警鐘」。

他當時說：「也許今天我是個壞蛋，但我認為最終我們會因為我故意做的事，得到更好的國家和更好的民主。」迫害選民可判處三年半至七年有期徒刑；冒充候選人最高可判處一年徒刑。

Lingo Telecom公司對於被要求罰款表示強烈反對，指FCC是想在新規則實施後「追溯既往」。該公司聲稱，他們嚴肅對待自身監管義務，也與聯邦和州機構充分合作，協助查明發起新罕布夏州自動電話活動的責任方；「Lingo Telecom沒有參與製作這些自動電話，我們的行動符合所有適用的聯邦法規和業界標準」。