《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》明確對(duì)AI生成合成內(nèi)容添加標(biāo)識(shí)

你刷的短視頻，標(biāo)注“AI生成”了嗎？

“AI生成畫(huà)面”“疑似使用了AI生成技術(shù)，請(qǐng)謹(jǐn)慎甄別”“內(nèi)容為AI技術(shù)制作”……不知你在瀏覽信息、刷短視頻時(shí)是否注意到，一些圖文、視頻內(nèi)容加上了這樣的標(biāo)識(shí)信息。

前不久施行的《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》提出，對(duì)生成合成內(nèi)容強(qiáng)制添加顯式和隱式標(biāo)識(shí)等規(guī)范要求，即用AI生成的每一段文字、每一張圖片、每一條音頻、視頻，都必須強(qiáng)制亮明“數(shù)字身份證”。

亮明身份

“給用AI生成的內(nèi)容加上標(biāo)識(shí)，我覺(jué)得很有必要。”來(lái)自湖北武漢的劉女士表示，她每天都會(huì)花上一兩個(gè)小時(shí)來(lái)刷短視頻，以獲取資訊、娛樂(lè)等。之前，她看過(guò)一些內(nèi)容懷疑其真實(shí)性，但又無(wú)法核實(shí)，最近，劉女士發(fā)現(xiàn)她刷到的一些短視頻在畫(huà)面下部加上了AI生成的提示信息，“這就非常清楚，一目了然。”

中國(guó)互聯(lián)網(wǎng)絡(luò)信息中心最新發(fā)布的《生成式人工智能應(yīng)用發(fā)展報(bào)告（2025）》顯示，截至2025年6月，我國(guó)生成式人工智能用戶(hù)規(guī)模達(dá)5.15億人。隨著AI技術(shù)的迅猛發(fā)展和生成式人工智能的快速迭代，各種紛雜的人工智能生成信息讓人眼花繚亂，有時(shí)難辨真假，這也給監(jiān)管部門(mén)和平臺(tái)治理提出了新的挑戰(zhàn)。

今年9月1日，國(guó)家網(wǎng)信辦、工業(yè)和信息化部、公安部、國(guó)家廣播電視總局四部門(mén)聯(lián)合發(fā)布的《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》（以下簡(jiǎn)稱(chēng)《標(biāo)識(shí)辦法》）正式施行，該辦法明確所有AI生成的文字、圖片、視頻等內(nèi)容都要“亮明身份”。作為配套，強(qiáng)制性國(guó)家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù) 人工智能生成合成內(nèi)容標(biāo)識(shí)方法》（以下簡(jiǎn)稱(chēng)《標(biāo)識(shí)方法》）也于9月1日同步實(shí)施。

具體怎么“亮明身份”呢？《標(biāo)識(shí)辦法》明確，人工智能生成合成內(nèi)容標(biāo)識(shí)主要包括顯式標(biāo)識(shí)和隱式標(biāo)識(shí)兩種形式。

顯式標(biāo)識(shí)是指在生成合成內(nèi)容或者交互場(chǎng)景界面中添加的，以文字、聲音、圖形等方式呈現(xiàn)并可以被用戶(hù)明顯感知到的標(biāo)識(shí)，就像人臉一樣可以快速區(qū)分，讓普通用戶(hù)“一眼可見(jiàn)”。如文本內(nèi)容需在開(kāi)頭、結(jié)尾或關(guān)鍵位置標(biāo)注“人工智能生成”或“AI生成”，字體需清晰可辨，不得刻意縮小或模糊等。

隱式標(biāo)識(shí)更像指紋，是指采取技術(shù)措施在生成合成內(nèi)容文件數(shù)據(jù)中添加的，不易被用戶(hù)明顯感知到的標(biāo)識(shí)。它側(cè)重于技術(shù)層面的追溯，要求在AI生成內(nèi)容的文件內(nèi)部嵌入元數(shù)據(jù)，且字段名稱(chēng)必須包含“AIGC”標(biāo)識(shí)符號(hào)。元數(shù)據(jù)需涵蓋AI生成確認(rèn)狀態(tài)、生成服務(wù)提供方信息、內(nèi)容傳播平臺(tái)名稱(chēng)、唯一編號(hào)以及數(shù)字簽名或哈希校驗(yàn)值等關(guān)鍵信息，為內(nèi)容溯源與責(zé)任認(rèn)定提供技術(shù)支撐。

中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院副院長(zhǎng)范科峰認(rèn)為，《標(biāo)識(shí)辦法》和《標(biāo)識(shí)方法》協(xié)同發(fā)布，開(kāi)創(chuàng)了技術(shù)標(biāo)準(zhǔn)與管理制度配合實(shí)施的新型治理模式。作為我國(guó)人工智能領(lǐng)域首部“辦法+強(qiáng)標(biāo)”組合拳，其在管理維度明確生成、傳播、分發(fā)全鏈條主體責(zé)任，在監(jiān)管維度建立審核、監(jiān)測(cè)、追責(zé)的閉環(huán)機(jī)制，在技術(shù)維度規(guī)范顯隱標(biāo)識(shí)體系并預(yù)留創(chuàng)新空間，這種三位一體的治理架構(gòu)為人工智能安全治理提供了清晰的實(shí)施路徑。

打通鏈路

專(zhuān)家指出，《標(biāo)識(shí)辦法》的另一重意義在于，打通全鏈條治理路徑，科學(xué)設(shè)定主體責(zé)任義務(wù)，對(duì)不同主體設(shè)置了不同義務(wù)。

例如，傳播平臺(tái)需要核驗(yàn)文件元數(shù)據(jù)中是否含有隱式標(biāo)識(shí)，對(duì)于含有隱式標(biāo)識(shí)的，應(yīng)當(dāng)采取適當(dāng)方式在發(fā)布內(nèi)容周邊添加顯著的提示標(biāo)識(shí)。應(yīng)用分發(fā)平臺(tái)則需在應(yīng)用程序上架或上線審核時(shí)，核驗(yàn)服務(wù)提供者是否按要求提供生成合成內(nèi)容標(biāo)識(shí)功能。

在中國(guó)信息通信研究院政策與經(jīng)濟(jì)研究所副所長(zhǎng)李強(qiáng)治看來(lái)，《標(biāo)識(shí)辦法》的內(nèi)容標(biāo)識(shí)要求覆蓋設(shè)計(jì)開(kāi)發(fā)、上架分發(fā)、用戶(hù)使用、內(nèi)容傳播和責(zé)任追溯等全鏈條，依據(jù)生成合成內(nèi)容服務(wù)提供者、內(nèi)容傳播服務(wù)提供者、互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺(tái)、用戶(hù)等不同主體在潛在風(fēng)險(xiǎn)構(gòu)成中的作用和合規(guī)能力，科學(xué)劃分責(zé)任義務(wù)，實(shí)現(xiàn)生成合成內(nèi)容上下游鏈條的全覆蓋。

據(jù)了解，許多大模型廠商已經(jīng)開(kāi)始對(duì)AI生成合成內(nèi)容添加標(biāo)識(shí)。如DeepSeek發(fā)布公告稱(chēng)，已在平臺(tái)內(nèi)對(duì)AI生成合成內(nèi)容添加標(biāo)識(shí)，并提醒用戶(hù)相關(guān)內(nèi)容由AI生成。用戶(hù)不得惡意刪除、篡改、偽造、隱匿此類(lèi)生成內(nèi)容標(biāo)識(shí)，不得利用AI制作、傳播虛假信息、侵權(quán)信息以及從事任何違法違規(guī)活動(dòng)。

今日頭條、快手、小紅書(shū)、嗶哩嗶哩、喜馬拉雅等平臺(tái)也發(fā)布公告，創(chuàng)新探索內(nèi)容標(biāo)識(shí)制度落地方案，落實(shí)雙標(biāo)識(shí)、標(biāo)識(shí)檢測(cè)等義務(wù)，并提供“作者聲明”等功能，激勵(lì)人工智能向善應(yīng)用，保障正常合規(guī)使用AI工具。

以抖音為例，目前平臺(tái)已經(jīng)上線兩項(xiàng)核心功能：一是AI內(nèi)容標(biāo)識(shí)功能，協(xié)助創(chuàng)作者為AI內(nèi)容添加提示標(biāo)識(shí)，方便用戶(hù)區(qū)分辨別；二是AI內(nèi)容元數(shù)據(jù)標(biāo)識(shí)讀寫(xiě)功能，可識(shí)別并寫(xiě)入AI內(nèi)容的元數(shù)據(jù)信息，為內(nèi)容溯源提供技術(shù)支撐。

在抖音注冊(cè)的賬號(hào)若制作、發(fā)布AI內(nèi)容，需使用抖音提供的標(biāo)識(shí)功能主動(dòng)添加顯式標(biāo)識(shí)；同時(shí)，抖音將核驗(yàn)、檢測(cè)站內(nèi)未主動(dòng)標(biāo)識(shí)的內(nèi)容是否由AI技術(shù)生成，對(duì)疑似AI內(nèi)容或元數(shù)據(jù)中已包含AI內(nèi)容標(biāo)識(shí)的作品，補(bǔ)充添加顯式標(biāo)識(shí)。此外，對(duì)于在抖音發(fā)布的所有AI內(nèi)容，平臺(tái)還將同步為其添加或更新隱式標(biāo)識(shí)，該標(biāo)識(shí)包含內(nèi)容傳播要素等關(guān)鍵信息，進(jìn)一步完善AI內(nèi)容的全鏈路管理。

規(guī)范發(fā)展

生成式人工智能、深度合成等新技術(shù)快速發(fā)展，為生成合成文本、圖片、音視頻等提供了便利工具，在促進(jìn)經(jīng)濟(jì)發(fā)展、豐富網(wǎng)上內(nèi)容、便利公眾生活的同時(shí)，也造成虛假信息傳播、破壞網(wǎng)絡(luò)生態(tài)等問(wèn)題。

例如，一些未明確標(biāo)識(shí)的AI生成合成的視頻正扮演著“數(shù)字孫子”角色，通過(guò)提供情緒價(jià)值，將許多不明真相的老人哄得心花怒放，部分老人不顧家人勸阻，執(zhí)意購(gòu)買(mǎi)這些“孫子”在視頻里推薦的產(chǎn)品，最終陷入騙局。

國(guó)家網(wǎng)信辦有關(guān)負(fù)責(zé)人表示，《標(biāo)識(shí)辦法》聚焦人工智能“生成合成內(nèi)容標(biāo)識(shí)”關(guān)鍵點(diǎn)，通過(guò)標(biāo)識(shí)提醒用戶(hù)辨別虛假信息，明確相關(guān)服務(wù)主體的標(biāo)識(shí)責(zé)任義務(wù)，規(guī)范內(nèi)容制作、傳播各環(huán)節(jié)標(biāo)識(shí)行為，以合理成本提高安全性，促進(jìn)人工智能在文本對(duì)話、內(nèi)容制作、輔助設(shè)計(jì)等各應(yīng)用場(chǎng)景加快落地。同時(shí)，減輕人工智能生成合成技術(shù)濫用危害，防范利用人工智能技術(shù)制作傳播虛假信息等風(fēng)險(xiǎn)行為，推動(dòng)人工智能健康有序發(fā)展。

專(zhuān)家指出，作為人工智能治理的重要一環(huán)，《標(biāo)識(shí)辦法》既與《中華人民共和國(guó)網(wǎng)絡(luò)安全法》一脈相承，又與《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等有效銜接。《標(biāo)識(shí)辦法》的實(shí)施有助于推動(dòng)AIGC行業(yè)的規(guī)范化發(fā)展，倒逼企業(yè)建立合規(guī)體系，通過(guò)標(biāo)識(shí)這一技術(shù)合規(guī)前置的制度設(shè)計(jì)，促使企業(yè)將倫理考量融入技術(shù)研發(fā)全流程；同時(shí)通過(guò)建立可信的內(nèi)容標(biāo)識(shí)體系，提高內(nèi)容使用的透明度。

從國(guó)際上看，各國(guó)正積極探索建立AI生成合成內(nèi)容的標(biāo)識(shí)制度，以應(yīng)對(duì)新形勢(shì)下信息內(nèi)容治理帶來(lái)的挑戰(zhàn)，生成合成內(nèi)容標(biāo)識(shí)已成為國(guó)際慣例。

浙江大學(xué)教授王春暉表示，鑒于AI生成合成技術(shù)可大規(guī)模產(chǎn)出與人類(lèi)創(chuàng)作高度相似的內(nèi)容，多數(shù)國(guó)家通過(guò)立法強(qiáng)制性要求企業(yè)履行內(nèi)容標(biāo)識(shí)義務(wù)，通過(guò)技術(shù)溯源以及顯式和隱式標(biāo)識(shí)，確保公眾能快速識(shí)別AI生成合成內(nèi)容的來(lái)源，抑制虛假信息的泛濫。（記者 葉子）