2024年9月14日，為規(guī)范人工智能生成合成內容標識，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權益，國家互聯(lián)網(wǎng)信息辦公室發(fā)布了《人工智能生成合成內容標識辦法（征求意見稿）》以及配套強制性國家標準《網(wǎng)絡安全技術 人工智能生成合成內容標識方法（征求意見稿）》，公開征求公眾意見，邁出了完善我國人工智能治理制度的重要一步。

一、問題導向，破解人工智能生成合成內容新需求新風險

立足于生成式人工智能健康發(fā)展和規(guī)范應用，《辦法》以問題為導向，通過系統(tǒng)性、創(chuàng)新性制度設計，全面回應了對人工智能生成合成內容標識的要求。

一是先行提出生成合成內容標識的中國方案。針對人工智能內容生成合成帶來的顛覆性風險挑戰(zhàn)，國際層面也在不斷探索內容標識方法和路徑。歐盟2024年8月正式生效的《人工智能法案》規(guī)定了要確保人工智能生成合成內容的透明度義務，要求平臺添加強制性水印。美國加州2024年8月發(fā)布《數(shù)字內容溯源標識法案》，要求在人工智能生成物中嵌入可溯源數(shù)據(jù)，以確保內容來源的透明度。國際電信聯(lián)盟2024年7月發(fā)布《檢測深度偽造和生成式人工智能：人工智能水印和多媒體真實性標準研討會的報告》，包括內容標識在內，初步探討深度合成內容檢測的標準協(xié)作安排?！掇k法》根植于我國發(fā)展實踐，立足長遠、著眼前瞻、行動快速，率先通過標準完善補充生成式人工智能綜合治理機制，有力支撐了科技向善的治理理念，為世界貢獻發(fā)展與安全并行的人工智能治理中國方案。

二是著力加強服務商生成合成內容標識的規(guī)范性。隨著人工智能生成合成內容工具的普及化和可及化發(fā)展，技術應用的門檻較之前大大降低。早在2022年中央網(wǎng)信辦等就發(fā)布了《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》（以下簡稱《規(guī)定》），明確指出深度合成服務提供者應當在生成或者編輯的信息內容的合理位置、區(qū)域進行顯著標識，向公眾提示深度合成情況。但《規(guī)定》主要明確了需要添加標識的情況，對于添加標識的位置、字型和表達并未做出具體要求，因此各類企業(yè)在實施過程中出現(xiàn)了文本內容顯式標識不明顯、難察覺，音頻、視頻等內容顯式標識未插入、淺提示，隱式標識少信息、難校驗等問題，對于落實監(jiān)管提出了挑戰(zhàn)。出臺《辦法》，是進一步推進生成合成內容標識工作的必要舉措，對規(guī)范互聯(lián)網(wǎng)信息服務深度合成管理、解決生成合成內容標識突出問題、推進信息網(wǎng)絡生態(tài)環(huán)境治理意義重大，影響深遠。

三是進一步完善生成式人工智能監(jiān)管問責體系。生成式人工智能生成合成內容涉及多種類型的主體，清晰界定各主體義務更有利于壓實主體責任，便利技術檢測實施，進而落實精準問責?！掇k法》不僅界定了人工智能生成合成內容的基本概念，更針對服務提供者、傳播平臺、應用服務分發(fā)平臺和用戶分別規(guī)定了具體標識要求，為各相關主體落實合規(guī)指明了方向。由此，《辦法》在現(xiàn)行責任制度作出補充，充分細化了《規(guī)定》提出的深度合成服務提供者和技術支持者行為規(guī)范，為促進新技術新應用的規(guī)范發(fā)展提供了有益范例。

二、明確要求，促進人工智能生成合成內容精細化治理

人工智能生成合成內容不僅包括文本、圖像、音頻、視頻等多種表現(xiàn)形式，更在“元宇宙”等交互式、沉浸式場景中提供了更多實現(xiàn)方案?！稑俗R方法》對于人工智能生成合成內容進行了全方位覆蓋，并且進一步明確了《辦法》要求和具體操作指引。

一是區(qū)分顯式標識和隱式標識規(guī)范要求。為滿足當前可感知和不可感知的兩類標識方法需要，《標識方法》清晰闡述了各自的關鍵要素要求，對于顯式標識主要圍繞文字要素、位置、字型、顏色、音頻節(jié)奏、視頻像素和交互提示等提出要求，對于元數(shù)據(jù)和內容隱式標識提出生成合成標簽要素、服務提供者要素和內容編號要素等關鍵指引。

二是列舉顯式標識典型應用場景?！稑俗R方法》通過列舉式的方式對于顯式標識的應用場景做出了進一步細化，在《規(guī)定》中提到的五類顯著標識應用場景之外加以補充，包括文生圖片等圖片內容生成服務；音樂等音頻內容生成服務；文生視頻、圖生視頻等視頻內容生成服務。新列舉的三類典型應用場景屬于2022年后迅速發(fā)展起來的新型生成合成內容形式，尤其是ChatGPT、Sora展示出視頻內容生成的強大潛能，在《標識方法》囊括此三類典型應用場景有利于針對性、前瞻性開展監(jiān)管，符合生成式人工智能的技術原理與產(chǎn)業(yè)需要。

三是規(guī)范元數(shù)據(jù)隱式標識格式要求。此前生成合成內容隱式標識方法在不同規(guī)模、不同技術水平的企業(yè)間應用各不相同，標識的標簽信息也未有一致，這就導致識別隱式標識對于監(jiān)管主體和內容平臺而言面臨挑戰(zhàn)?！稑俗R方法》為解決這一問題，對于隱式標識擴展字段關鍵詞和應包括的標簽、編號、預留字段的值等添加了具體說明，為行業(yè)統(tǒng)一、穩(wěn)定、持續(xù)落實隱式標識要求提供了有效措施。

四是展示顯式和隱式標識各要求對應示例?！稑俗R方法》以圖片示例的形式對于各類顯式和隱式標識要求進行了展示，有助于企業(yè)直觀了解標準要求，避免因文字表述引發(fā)的模糊和歧義，從而推動行業(yè)協(xié)同落實，提升治理效能。

三、守正創(chuàng)新，兼顧內容生成合成服務管理與技術創(chuàng)新應用

人工智能生成合成技術應在安全的前提下規(guī)范使用、加速發(fā)展，以高水平的治理保障高質量發(fā)展。《辦法》及《標識方法》充分考慮“用”和“管”兩側需求，最大限度減少內容標識對于用戶使用的影響，推動企業(yè)自主自愿展示標識。一是提供多種標識方法，適應更多產(chǎn)品形態(tài)?！稑俗R方法》對于文本內容顯式標識創(chuàng)新提出角標形式，僅需在內容末尾加注角標“AI”即可高效滿足要求，對于音頻內容則首次提出音頻節(jié)奏標識，在音頻適當位置加入“短長短短”節(jié)奏的摩斯碼表示即可達到提示作用。此類標識方法不僅對于企業(yè)而言便于打造不同產(chǎn)品樣態(tài)，也能保障用戶使用體驗和認知效果，在實現(xiàn)監(jiān)管目的的同時也為技術發(fā)展提供了有效保障。二是劃分不同主體責任，精細化避風港原則適用。《辦法》雖然將標識添加的責任主要施加于服務提供者和上傳內容的用戶，但未對傳播平臺和應用分發(fā)平臺實施“一刀切”式的避風港規(guī)則。《辦法》采取一種更為精細化的路徑，詳細規(guī)定傳播平臺應當對文件元數(shù)據(jù)中的擴展字段進行核驗，提示用戶生成合成內容信息，并在文件元數(shù)據(jù)中添加傳播要素信息；應用服務分發(fā)平臺應在應用程序上架或上線審核前核驗服務提供者是否按要求提供生成合成內容標識功能。此舉有助于適當調整服務提供者、使用者和傳播分發(fā)平臺的義務分配，避免相關平臺“隱身”于深度合成監(jiān)管體系，從而真正實現(xiàn)齊抓共管、協(xié)同共治的治理機制，有效維護健康向善的信息網(wǎng)絡生態(tài)環(huán)境。