新州：散播AI生成欺騙性影音違法 最高判刑5年

新澤西州民主黨州長墨菲(Phil Murphy)日前簽署一項新法案，凡透過人工智慧(AI)製作欺騙性的媒體影音並與人分享屬犯罪行為，可能遭訴訟，最高判5年監禁。

墨菲簽署法案後，在新州如製作和傳播「欺騙性深偽媒體」(deceptive deepfake media)，全都列入犯罪行為。

全美越來越多州對於人們利用生成式人工智慧創作媒體採取管制措施，新州跟進；截至目前，至少20州通過類似立法，針對涉及選舉的深偽媒體加以規範。

根據美國國家失蹤與受虐兒童中心(The National Center for Missing & Exploited Children)調查，截至去年，全美已有10幾個州州長簽署法律，嚴打以數位方式製作或修改兒童性虐待圖像。

新澤西州跟進立法除了順應全美趨勢，另一部分起源於韋斯特菲爾德高中(Westfield High School)女學生馬尼(Francesca Mani)的經歷。

墨菲簽署法案時，今年16 歲的瑪尼站在身邊，她說，兩年前她成為了深偽影片的受害者，她和其他29名學生發現同校一名男孩發布不真實的色情圖片，當時沒有法律嚴禁這種行為，製作該影片的男孩得到的唯一懲罰就只是短期停學。

瑪尼拒絕妥協。她的母親說，除了男孩，另有罪犯、戀童癖者和變態者也使用AI，對她女兒來說，這是非常重要的問題。

瑪尼是推動新州立法的關鍵人物，去年被「時代」雜誌(Time)評為反深偽的活動人士；她說，「什麼都不做已不再是一種選擇。」

根據法律裡的定義，「深偽」媒體是指，在理智人眼裡看來，任何視頻、錄音或圖像足以活靈活現描繪某人做了某件事、但其實沒有做過。

除了定罪後服刑監禁外，新州新法案另設有民事懲處，受害者可另外提起訴訟。