最近，在百度上搜索照片時會發(fā)現，照片上有“AI圖片編輯”字樣，點進去后，即使“小白”也可以一鍵實現圖片“變清晰、去水印、擴圖、智能摳圖”等，這在以前是不可想象的。讓復雜工作變得如此簡單，自然要感謝近年來快速發(fā)展的人工智能、深度合成等新技術。然而，人工智能生成的文本、圖像、音視頻等內容在推動經濟創(chuàng)新、豐富數字生態(tài)的同時，也引發(fā)了虛假信息傳播、破壞網絡生態(tài)等風險。如何區(qū)分、確保數據質量與內容真實性，成為技術應用與產業(yè)發(fā)展的關鍵命題。

2025年3月7日，國家互聯網信息辦公室、工業(yè)和信息化部、公安部、國家廣播電視總局聯合發(fā)布了《人工智能生成合成內容標識辦法》（以下簡稱《標識辦法》）。這一辦法的出臺，標志著我國在人工智能深度合成內容管理領域邁出了重要一步，為人工智能產業(yè)健康有序發(fā)展提供了制度保障。

高質量數據對生成式人工智能產業(yè)發(fā)展至關重要

談及為何要發(fā)布《標識辦法》？全國政協(xié)委員、金杜律師事務所高級合伙人張毅表示，數據是人工智能發(fā)展的基石，其質量直接影響人工智能模型的性能和輸出結果。數據來源有多方面，包括公開數據、公共數據、私域數據等。而數據質量涵蓋了準確性、完整性、一致性、時效性、可靠性和可用性等多個維度。高質量數據對生成式人工智能產業(yè)發(fā)展至關重要，基于錯誤或不完整的數據作出的決策可能偏離正確方向，不符合法規(guī)要求的數據可能帶來法律風險。

行業(yè)中有句俗話叫：垃圾（數據）進，垃圾（結果）出。如果生成式人工智能產生的結果未經標識而進入公開數據領域，大模型無法將其與正常數據區(qū)分開來，可能將其用于預訓練，導致模型可能輸出與事實嚴重偏離的結果，即“模型幻覺”。更嚴峻的是，若這些“幻覺數據”被其他模型二次訓練使用，將形成“污染循環(huán)”，最終導致技術可信度崩塌。此外，提升數據質量的方式通常包括數據清洗和校驗，如果“生成數據”不加標識，數據清洗和校驗也很難實現。這里所說的數據包括文字、圖片和視頻。當攝影師歷經千辛萬苦拍攝的照片與生成照片混在一起時，如不加標識，獲獎的極有可能是生成式照片；當生成的視頻不加標識地呈現在人們眼前時，會對人們的生活造成極大混亂和困擾。

《標識辦法》的出臺，正是從源頭破解這一困局的關鍵舉措。

明確標識要求，讓生成內容“看得見、查得到”

“一是明確標識要求，讓生成內容‘看得見、查得到’?！睆堃阏f，《標識辦法》明確，人工智能生成合成內容標識包括顯式標識和隱式標識兩種形式。顯式標識要求服務提供者在生成內容中嵌入可被用戶直接感知的提示，例如在文本首尾添加文字標識、在圖片及視頻畫面中插入圖形、聲音等顯著圖標等，此舉可以確保用戶能直觀辨別生成內容的人工智能屬性。而隱式標識則要求服務提供者通過技術手段將生成內容的制作要素信息（如服務提供者編碼、內容編號等）嵌入文件元數據或數字水印中，這既保障了標識的持久性，也為后續(xù)數據清洗、校驗提供技術依據。隱式標識不易被用戶明顯感知到。

二是《標識辦法》細化了服務提供者、平臺、用戶責任，明確了各方義務。張毅表示，如服務提供者需在內容生成、傳播各環(huán)節(jié)履行標識義務，在提供下載功能時要確保顯式標識滿足要求，也就是要在深度合成的文本、圖片、音頻、視頻、呈現虛擬場景及其他生成合成服務場景中添加顯著的提示標識，在文件元數據中要記錄隱式標識，隱式標識包含生成合成內容屬性信息、服務提供者名稱或者編碼、內容編號等制作要素信息，并要求通過用戶協(xié)議明確說明生成合成內容標識的方法、樣式等規(guī)范內容。

平臺在服務提供者的內容上架或上線時要進行審核，核驗生成合成內容標識，對未標識或疑似生成內容要添加風險提示，從而在傳播端阻斷虛假信息擴散。

用戶發(fā)布從網上下載的生成合成內容時，應當主動聲明并使用他人提供的標識功能進行標識，不得惡意刪除、篡改、偽造、隱匿生成合成內容標識，不得通過不正當標識手段損害他人合法權益，違者將承擔法律責任。

《標識辦法》的第三個亮點是與《互聯網信息服務深度合成管理規(guī)定》《生成式人工智能服務管理暫行辦法》等法規(guī)充分銜接。比如，服務提供者在履行算法備案、安全評估等手續(xù)時，應當提供生成合成內容標識相關材料，為防范打擊相關違法犯罪活動提供支持和幫助。這主要是因為，相關材料可能涉及標識的技術細節(jié)，如水印算法、元數據格式、服務商編碼等，這些信息能夠幫助執(zhí)法部門在發(fā)現違法內容時快速識別內容來源，追蹤到服務提供者或者用戶。以金融詐騙案件為例，當不法分子利用人工智能生成虛假信息、偽造文書等方式實施金融詐騙時，執(zhí)法機關可以根據技術細節(jié)迅速判斷該內容是否由人工智能生成，追溯由哪家服務提供者生成、具體生成的時間和使用賬號，并迅速鎖定幕后黑手。這些信息就像是數字世界的“指紋”，可以為案件偵破提供關鍵線索。

此外，配套《標識辦法》，強制性國家標準《網絡安全技術 人工智能生成合成內容標識方法》，已由國家市場監(jiān)督管理總局、國家標準化管理委員會正式批準發(fā)布，2025年9月1日與《標識辦法》同步實施。這些都為行業(yè)發(fā)展提供了可操作的合規(guī)路徑。

彰顯中國在推動人工智能健康發(fā)展方面的責任與擔當

“《標識辦法》的落地對于規(guī)范生成合成內容標識、保障人工智能健康發(fā)展具有重要意義。”張毅說，通過規(guī)范生成合成內容的標識，可以有效區(qū)分人工智能生成內容與真實數據，避免“幻覺數據”進入公開數據領域，從而提升數據質量，保障人工智能模型輸出的準確性。另外，有助于減少虛假信息的傳播，維護網絡空間的清朗生態(tài)。與此同時，還能夠增強用戶對人工智能生成內容的信任，推動生成式人工智能技術在更多領域的應用落地，為社會經濟發(fā)展注入新動能。此外，《標識辦法》的出臺，體現了我國在人工智能治理領域的積極探索，彰顯了中國在推動人工智能健康發(fā)展方面的責任與擔當，也為全球人工智能治理提供中國方案。

《標識辦法》以“標識”為錨點，既為技術應用劃定安全邊界，也為社會信任筑牢基石，但人工智能治理仍任重道遠。未來，還需要進一步完善相關法規(guī)和標準，加強技術研發(fā)和應用，提升數據質量和治理能力。同時，社會各界也應積極參與，共同推動人工智能的健康發(fā)展，為構建智能社會貢獻力量。（記者 徐艷紅）