AI劉德華、AI雷軍...靳東：粉絲被騙慘 AI換臉很惡劣

AI（人工智能）迅猛發展也逐漸帶來亂象，「AI張文宏」、「AI靳東」、「AI雷軍」等AI生成的假冒視頻屢屢出現在社交網路，讓不少人被騙。對此，全國人大代表雷軍、陳達建議，應探索推出人工智能單行法，提高立法位階及其效力，加強對AI技術的立法監管，防止其被用於違法犯罪活動。全國政協委員靳東也說，AI換臉性質非常惡劣，希望能建立更好的規則。

據時代財經報導，全國人大代表、小米集團董事長雷軍在14屆全國人大三次會議上提交了5份建議，其中「關於加強『AI換臉擬聲』違法侵權重災區治理的建議」引發了廣泛關注。

「AI換臉擬聲」的濫用帶來了嚴重的法律和社會問題，雷軍本人曾深受其害。2024年十一期間網上流傳大量未經授權「雷軍語音包」，內容從吐槽假期到惡意辱罵，嚴重損害了其個人形象和聲譽。知名藝人劉德華、醫學專家張文宏、演員靳東等公眾人物也是「AI換臉擬聲」技術受害者，張文宏被AI造假直播帶貨，還有詐騙團夥利用「AI靳東」詐騙老年人錢財。

對此，雷軍建議，一是針對「AI換臉擬聲」等某一代表性問題，探索推出人工智能單行法，提高立法位階及其效力，分級分類的基礎上進行務實治理，明確「AI換臉擬聲」應用邊界紅線，完善侵權證據規則，加大對利用人工智能技術實施犯罪行為的刑事處罰力度；二是強化行業自律共治，壓實平台等各方的責任；三是建議加強人工智能方面的法制宣傳教育。

另據新民晚報，全國人大代表陳達也表示，AI技術給人類生活帶來翻天覆地的變化，但也為一些心懷惡意之人提供了違法機會。儘管國家已經多次組織治理行動，但仍須在立法層面上進一步完善監管措施。陳達認為應該加強對AI技術的立法監管，防止其被用於違法犯罪活動，特別是針對老年人和未成年人的網路詐騙。

她認為，通過立法明確AI技術的使用範圍和條件，可以引導企業和社會各界在合法合規的框架內發展AI技術，推動「科技向善」，讓技術更好地服務社會。

據人民日報報導，在5日的政協小組討論上，全國政協委員靳東也回應了AI換臉導致的詐騙問題。他說：「一些喜歡我影視劇的觀眾，被AI換臉視頻騙得很慘，這個性質非常惡劣，希望能建立更好的規則。」