防止技術被濫用 中國祭新規：AI生成內容「要標識」9月上路

隨著AI使用，社會上產生了生成合成技術濫用、虛假資訊傳播擴散加劇等問題，中國網信辦等部門近日聯合發布「人工智慧生成合成內容標識辦法」，對AI生成合成的內容祭出管理辦法，新規自今年9月上路。

綜合中媒報導，為促進人工智慧健康發展，規範人工智慧產生合成內容標識，保護公民、法人和其他組織合法權益，維護社會公共利益，網信辦、工信部、公安部、廣電總局近日聯合發布「人工智慧生成合成內容標識辦法」。

該辦法明確，AI生成合成內容標識主要包括「顯式標識」和「隱式標識」兩種形式。顯式標識是指在生成合成內容或交互場景界面中添加的，以文字、聲音、圖形等方式呈現並可以被用戶明顯感知到的標識；隱式標識是指採取技術措施在生成合成內容文件中添加的，不易被用戶明顯感知到的標識。

該辦法也強調，任何組織和個人不得惡意刪除、篡改、偽造、隱匿本辦法規定的生成合成內容標識，不得為他人實施上述惡意行為提供工具或服務，不得透過不正當標識手段損害他人合法權益。

為推動該辦法落地實施，強制性國家標準「網絡安全技術 人工智慧生成合成內容標識方法」同步發布，主要提出強制執行部分的標識具體實施方式和操作方法，指導相關主體規範開展標識活動。如明確AI生成合成內容服務提供者對文本、圖片、音頻、視訊、虛擬場景等內容，添加文字、角標、語音、節奏等顯示標識的方法。

中國網信辦2月曾宣布，2025年「清朗」專項行動將有8項重點整治任務，其中包含「AI技術濫用亂象」，打擊借AI技術生成發布假訊息，規範AI類應用網路生態。