中國擬立法管理生成式AI 「不得顛覆國家政權」

中國國家互聯網信息辦公室11日就《生成式人工智慧服務管理辦法（徵求意見稿）》公開徵求意見。其中提到規定利用生成式人工智慧（AI）生成的內容，應當體現社會主義核心價值觀，不得含有顛覆國家政權、推翻社會主義制度、煽動分裂國家的內容。

徵求意見稿還提到，利用生成式人工智慧產品向公眾提供服務前，應當按照《具有輿論屬性或社會動員能力的互聯網信息服務安全評估規定》向國家網信部門申報安全評估，並按照《互聯網信息服務演算法推薦管理規定》履行演算法備案和變更、登出備案手續。

在中國爆紅的生成式人工智慧產業迎來首份監管文件，管理辦法徵求意見稿共21條，對生成式人工智慧產業給出較為詳盡的規定，其中包括定義、准入資格、責任義務和處罰措施等。

在這份徵求意見稿中，明確了對生成式人工智慧產業的支持和鼓勵態度，提到「國家支持人工智慧演算法、框架等基礎技術的自主創新、推廣應用、國際合作，鼓勵優先採用安全可信的軟體、工具、計算和數據資源。」

在徵求意見稿中，明確了生成式人工智慧的定義，是指基於演算法、模型、規則生成文本、圖片、聲音、視頻、代碼等內容的技術。

值得注意的是，對生成式人工智慧的定義中不僅包含文字，目前常見的「文生圖」、「文生視頻」等也將被納入管理。管理範圍則是，面向中國境內公眾提供服務的產品。

徵求意見稿提出，提供生成式人工智慧產品或服務應當遵守法律法規的要求，尊重社會公德、公序良俗，不得含有宣揚恐怖主義、極端主義，宣揚民族仇恨、民族歧視，暴力、淫穢色情信息，虛假信息，以及可能擾亂經濟秩序和社會秩序的內容。

另外，應採取措施防止出現種族、民族、信仰、國別、地域、性別、年齡、職業等歧視。利用生成式人工智能生成的內容應當真實準確，採取措施防止生成虛假信息。

針對違反規定的提供者，法律、行政法規沒有規定的，由網信部門和有關主管部門依據職責給予警告、通報批評，責令限期改正。

拒不改正或者情節嚴重的，責令暫停或者終止其利用生成式人工智慧提供服務，並處人民幣1萬元以上、10萬元以下罰款。構成違反治安管理行為的，依法給予治安管理處罰；構成犯罪的，依法追究刑事責任。