國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部三部門聯(lián)合印發(fā)了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（以下簡稱《規(guī)定》），旨在加強對深度合成技術(shù)（Deep Synthesis Technology）的規(guī)范管理，促進互聯(lián)網(wǎng)信息服務(wù)健康有序發(fā)展，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權(quán)益。這是我國在人工智能治理領(lǐng)域出臺的又一重要法規(guī)，標志著對以生成式人工智能為代表的深度合成技術(shù)及應(yīng)用進入精細化、法治化監(jiān)管的新階段。
一、明確界定與監(jiān)管范圍，聚焦前沿技術(shù)應(yīng)用
《規(guī)定》首先對“深度合成技術(shù)”進行了明確界定，指利用深度學(xué)習(xí)、虛擬現(xiàn)實等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等網(wǎng)絡(luò)信息的技術(shù)。具體包括但不限于：
- 生成或者編輯文本內(nèi)容，如智能寫作、對話生成；
- 生成或者編輯語音、音樂、音頻，如語音克隆、歌曲生成；
- 生成或者編輯圖像、視頻內(nèi)容，如人臉替換、人物生成、場景生成、視頻增強/修復(fù)；
- 生成沉浸式擬真場景，如數(shù)字人、虛擬空間構(gòu)建；
- 其他具有生成或者顯著改變信息內(nèi)容功能的合成技術(shù)。
監(jiān)管對象涵蓋深度合成服務(wù)的提供者、技術(shù)支持者以及使用者，特別是強調(diào)了對具有輿論屬性或者社會動員能力的深度合成服務(wù)提供者的重點監(jiān)管要求。
二、確立基本管理原則，壓實主體責任
《規(guī)定》確立了堅持社會主義核心價值觀、維護國家安全和社會公共利益、促進技術(shù)正向應(yīng)用、防范風(fēng)險等基本原則。核心是壓實深度合成服務(wù)提供者和技術(shù)支持者的主體責任，要求其：
- 建立健全管理制度：包括算法機制機理審核、科技倫理審查、信息內(nèi)容管理、數(shù)據(jù)安全與個人信息保護、反電信網(wǎng)絡(luò)詐騙等制度。
- 落實真實身份認證：對深度合成服務(wù)使用者進行真實身份信息認證，不得向未進行真實身份認證的用戶提供服務(wù)。
- 加強技術(shù)管理：采取技術(shù)措施保證深度合成過程可追溯，并定期審核、評估、驗證生成合成類算法機制機理。
- 明確標識義務(wù)：對使用深度合成技術(shù)生成或者編輯的信息內(nèi)容，必須進行顯著標識（如加水印、添加標識符等），避免公眾混淆和誤認。
三、突出內(nèi)容安全與標識要求，保障知情權(quán)
針對深度合成內(nèi)容可能引發(fā)的虛假信息傳播、侵權(quán)詐騙等問題，《規(guī)定》設(shè)置了專門條款：
- 任何組織和個人不得利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播法律、行政法規(guī)禁止的信息，或從事危害國家安全和利益、損害他人合法權(quán)益等活動。
- 深度合成服務(wù)提供者應(yīng)對輸入數(shù)據(jù)和合成結(jié)果進行審核，并記錄相關(guān)日志信息不少于六個月。
- 對于可能引發(fā)公眾混淆或者誤認的深度合成信息內(nèi)容（如仿冒他人身份、仿冒新聞播報等），必須在合理位置、區(qū)域進行顯著標識，提示系“合成”或“虛擬”內(nèi)容。
- 提供智能對話、合成人聲、人臉生成、沉浸式擬真場景等具有交互功能服務(wù)的，應(yīng)當明確提示用戶正在與AI交互。
四、加強數(shù)據(jù)與個人信息保護，規(guī)范訓(xùn)練數(shù)據(jù)使用
《規(guī)定》要求深度合成服務(wù)提供者和技術(shù)支持者加強訓(xùn)練數(shù)據(jù)管理：
- 提供人臉、人聲等生物識別信息編輯功能的，應(yīng)當取得被編輯個人的單獨同意。
- 建立完善的數(shù)據(jù)管理制度，依法依規(guī)收集、使用、處理個人信息，并采取必要措施保障數(shù)據(jù)安全。
- 用于訓(xùn)練算法的數(shù)據(jù)若包含個人信息，應(yīng)遵守個人信息保護相關(guān)法律法規(guī)。
五、健全監(jiān)管與法律責任體系
《規(guī)定》明確了網(wǎng)信、電信、公安等部門的監(jiān)督管理職責，要求建立健全監(jiān)督檢查、技術(shù)檢測等機制。對于違反《規(guī)定》的行為，相關(guān)責任主體將依據(jù)《網(wǎng)絡(luò)安全法》、《數(shù)據(jù)安全法》、《個人信息保護法》等法律法規(guī)進行處罰；構(gòu)成犯罪的，依法追究刑事責任。
六、意義與展望
此次《規(guī)定》的出臺，是對快速發(fā)展的深度合成技術(shù)及其廣泛應(yīng)用（如虛擬主播、AI繪畫、智能寫作、換臉應(yīng)用等）帶來的安全風(fēng)險和社會挑戰(zhàn)的積極應(yīng)對。它既為技術(shù)創(chuàng)新和應(yīng)用劃定了安全底線和倫理紅線，也為產(chǎn)業(yè)的健康發(fā)展提供了明確的規(guī)則指引，有助于構(gòu)建可信、安全、負責任的深度合成技術(shù)生態(tài)。隨著技術(shù)迭代和應(yīng)用深化，相關(guān)監(jiān)管措施和標準也將持續(xù)完善，以期在防范風(fēng)險與激勵創(chuàng)新之間取得平衡，推動人工智能技術(shù)更好地造福社會。
