面對(duì)人工智能安全治理這一世界性難題,國(guó)家網(wǎng)信辦等四部門(mén)適時(shí)出臺(tái)《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》(以下簡(jiǎn)稱《標(biāo)識(shí)辦法》),在全球率先提出保障人工智能安全可信的中國(guó)方案,具有里程碑式的重要意義。

《標(biāo)識(shí)辦法》聚焦人工智能生成合成內(nèi)容標(biāo)識(shí)關(guān)鍵點(diǎn),通過(guò)標(biāo)識(shí)提醒用戶辨別虛假信息,明確相關(guān)服務(wù)主體的標(biāo)識(shí)責(zé)任義務(wù),規(guī)范內(nèi)容制作、傳播各環(huán)節(jié)標(biāo)識(shí)行為,以合理成本提高安全性,促進(jìn)人工智能在文本對(duì)話、內(nèi)容制作、輔助設(shè)計(jì)等各應(yīng)用場(chǎng)景加快落地,同時(shí)減輕人工智能生成合成技術(shù)濫用危害,防范利用人工智能技術(shù)制作傳播虛假信息等風(fēng)險(xiǎn)行為,推動(dòng)人工智能健康有序發(fā)展。

人工智能生成合成內(nèi)容的定義與范圍

根據(jù)《標(biāo)識(shí)辦法》,人工智能生成合成內(nèi)容是指利用人工智能技術(shù)生成、合成的文本、圖片、音頻、視頻、虛擬場(chǎng)景等信息。這一定義包含兩類技術(shù),一是人工智能生成技術(shù);二是人工智能深度合成技術(shù)。

人工智能生成技術(shù),是一種基于算法、模型和規(guī)則,能夠生成文本、圖片、聲音、視頻等多元內(nèi)容的技術(shù)。不同于傳統(tǒng)的人工智能僅對(duì)輸入數(shù)據(jù)進(jìn)行處理和分析,生成式人工智能可以學(xué)習(xí)并模擬事物的內(nèi)在規(guī)律,根據(jù)用戶的輸入資料生成具有邏輯性和連貫性的新內(nèi)容。

人工智能深度合成(Deep Synthesis)技術(shù),也被稱為深度偽造(Deepfake),是指利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場(chǎng)景等網(wǎng)絡(luò)信息的技術(shù)。深度合成技術(shù)包括但不限于:篇章生成、文本風(fēng)格轉(zhuǎn)換、問(wèn)答對(duì)話等生成或者編輯文本內(nèi)容的技術(shù);文本轉(zhuǎn)語(yǔ)音、語(yǔ)音轉(zhuǎn)換、語(yǔ)音屬性編輯等生成或者編輯語(yǔ)音內(nèi)容的技術(shù);音樂(lè)生成、場(chǎng)景聲編輯等生成或者編輯非語(yǔ)音內(nèi)容的技術(shù);人臉生成、人臉替換、人物屬性編輯、人臉操控、姿態(tài)操控等生成或者編輯圖像、視頻內(nèi)容中生物特征的技術(shù);圖像生成、圖像增強(qiáng)、圖像修復(fù)等生成或者編輯圖像、視頻內(nèi)容中非生物特征的技術(shù);三維重建、數(shù)字仿真等生成或者編輯數(shù)字人物、虛擬場(chǎng)景的技術(shù)。

標(biāo)識(shí)形式與具體要求

《標(biāo)識(shí)辦法》明確了人工智能生成合成內(nèi)容標(biāo)識(shí)的兩種形式:一是顯式標(biāo)識(shí),二是隱式標(biāo)識(shí)。

顯式標(biāo)識(shí)是指在生成合成內(nèi)容或者交互場(chǎng)景界面中添加的,以文字、聲音、圖形等方式呈現(xiàn)并可以被用戶明顯感知到的標(biāo)識(shí)。根據(jù)《標(biāo)識(shí)辦法》第四條的規(guī)定,服務(wù)提供者提供生成合成服務(wù)屬于智能對(duì)話、智能寫(xiě)作等模擬自然人進(jìn)行文本的生成或者編輯服務(wù),應(yīng)當(dāng)按照下列要求履行對(duì)生成合成內(nèi)容添加顯式標(biāo)識(shí)的義務(wù):

在文本的起始、末尾或者中間適當(dāng)位置添加文字提示或者通用符號(hào)提示等標(biāo)識(shí),或者在交互場(chǎng)景界面、文字周邊添加顯著的提示標(biāo)識(shí);

在音頻的起始、末尾或者中間適當(dāng)位置添加語(yǔ)音提示或者音頻節(jié)奏提示等標(biāo)識(shí),或者在交互場(chǎng)景界面中添加顯著的提示標(biāo)識(shí);

在圖片的適當(dāng)位置添加顯著的提示標(biāo)識(shí);

在視頻起始畫(huà)面和視頻播放周邊的適當(dāng)位置添加顯著的提示標(biāo)識(shí),可以在視頻末尾和中間適當(dāng)位置添加顯著的提示標(biāo)識(shí);

呈現(xiàn)虛擬場(chǎng)景時(shí),在起始畫(huà)面的適當(dāng)位置添加顯著的提示標(biāo)識(shí),可以在虛擬場(chǎng)景持續(xù)服務(wù)過(guò)程中的適當(dāng)位置添加顯著的提示標(biāo)識(shí);

其他生成合成服務(wù)場(chǎng)景根據(jù)自身應(yīng)用特點(diǎn)添加顯著的提示標(biāo)識(shí)。

《標(biāo)識(shí)辦法》強(qiáng)調(diào),服務(wù)提供者提供生成合成內(nèi)容下載、復(fù)制、導(dǎo)出等功能時(shí),應(yīng)當(dāng)確保文件中含有滿足要求的顯式標(biāo)識(shí)。

隱式標(biāo)識(shí)是指采取技術(shù)措施在生成合成內(nèi)容文件數(shù)據(jù)中添加的,不易被用戶明顯感知到的標(biāo)識(shí)。根據(jù)《標(biāo)識(shí)辦法》第五條的規(guī)定,服務(wù)提供者應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十六條的規(guī)定,在生成合成內(nèi)容的文件元數(shù)據(jù)中添加隱式標(biāo)識(shí),隱式標(biāo)識(shí)包含生成合成內(nèi)容屬性信息、服務(wù)提供者名稱或者編碼、內(nèi)容編號(hào)等制作要素信息。鼓勵(lì)服務(wù)提供者在生成合成內(nèi)容中添加數(shù)字水印等形式的隱式標(biāo)識(shí)。

文件元數(shù)據(jù)是指按照特定編碼格式嵌入到文件頭部的描述性信息,用于記錄文件來(lái)源、屬性、用途等信息內(nèi)容。

各主體的標(biāo)識(shí)義務(wù)與責(zé)任邊界

《標(biāo)識(shí)辦法》明確界定了服務(wù)提供者、傳播平臺(tái)、互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺(tái)和用戶的相關(guān)標(biāo)識(shí)義務(wù)。

服務(wù)提供者的標(biāo)識(shí)義務(wù):服務(wù)提供者應(yīng)當(dāng)對(duì)文本、圖片、音頻、視頻、虛擬場(chǎng)景等生成合成內(nèi)容添加顯式標(biāo)識(shí),在提供生成合成內(nèi)容下載、復(fù)制、導(dǎo)出等功能時(shí),應(yīng)當(dāng)確保文件中含有滿足要求的顯式標(biāo)識(shí);應(yīng)當(dāng)在生成合成內(nèi)容的文件元數(shù)據(jù)中添加隱式標(biāo)識(shí),隱式標(biāo)識(shí)包含生成合成內(nèi)容屬性信息、服務(wù)提供者名稱或者編碼、內(nèi)容編號(hào)等制作要素信息;應(yīng)當(dāng)在用戶服務(wù)協(xié)議中明確說(shuō)明生成合成內(nèi)容標(biāo)識(shí)的方法、樣式等規(guī)范內(nèi)容,并提示用戶仔細(xì)閱讀并理解相關(guān)的標(biāo)識(shí)管理要求。

傳播平臺(tái)的核驗(yàn)義務(wù):提供網(wǎng)絡(luò)信息內(nèi)容傳播服務(wù)的服務(wù)提供者應(yīng)當(dāng)采取下列措施,規(guī)范生成合成內(nèi)容傳播活動(dòng):

核驗(yàn)文件元數(shù)據(jù)中是否含有隱式標(biāo)識(shí),文件元數(shù)據(jù)明確標(biāo)明為生成合成內(nèi)容的,采取適當(dāng)方式在發(fā)布內(nèi)容周邊添加顯著的提示標(biāo)識(shí),明確提醒公眾該內(nèi)容屬于生成合成內(nèi)容;

文件元數(shù)據(jù)中未核驗(yàn)到隱式標(biāo)識(shí),但用戶聲明為生成合成內(nèi)容的,采取適當(dāng)方式在發(fā)布內(nèi)容周邊添加顯著的提示標(biāo)識(shí),提醒公眾該內(nèi)容可能為生成合成內(nèi)容;

文件元數(shù)據(jù)中未核驗(yàn)到隱式標(biāo)識(shí),用戶也未聲明為生成合成內(nèi)容,但提供網(wǎng)絡(luò)信息內(nèi)容傳播服務(wù)的服務(wù)提供者檢測(cè)到顯式標(biāo)識(shí)或者其他生成合成痕跡的,識(shí)別為疑似生成合成內(nèi)容,采取適當(dāng)方式在發(fā)布內(nèi)容周邊添加顯著的提示標(biāo)識(shí),提醒公眾該內(nèi)容疑似生成合成內(nèi)容;

提供必要的標(biāo)識(shí)功能,并提醒用戶主動(dòng)聲明發(fā)布內(nèi)容中是否包含生成合成內(nèi)容。

有前款第一項(xiàng)至第三項(xiàng)情形的,應(yīng)當(dāng)在文件元數(shù)據(jù)中添加生成合成內(nèi)容屬性信息、傳播平臺(tái)名稱或者編碼、內(nèi)容編號(hào)等傳播要素信息。

互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺(tái)的審核義務(wù):互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺(tái)在應(yīng)用程序上架或者上線審核時(shí),應(yīng)當(dāng)要求互聯(lián)網(wǎng)應(yīng)用程序服務(wù)提供者說(shuō)明是否提供人工智能生成合成服務(wù)。互聯(lián)網(wǎng)應(yīng)用程序服務(wù)提供者提供人工智能生成合成服務(wù)的,互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺(tái)應(yīng)當(dāng)核驗(yàn)其生成合成內(nèi)容標(biāo)識(shí)相關(guān)材料。

用戶的標(biāo)識(shí)義務(wù):用戶使用網(wǎng)絡(luò)信息內(nèi)容傳播服務(wù)發(fā)布生成合成內(nèi)容的,應(yīng)當(dāng)主動(dòng)聲明并使用服務(wù)提供者提供的標(biāo)識(shí)功能進(jìn)行標(biāo)識(shí)。如果用戶申請(qǐng)服務(wù)提供者提供沒(méi)有添加顯式標(biāo)識(shí)的生成合成內(nèi)容的,服務(wù)提供者可以在通過(guò)用戶協(xié)議明確用戶的標(biāo)識(shí)義務(wù)和使用責(zé)任后,提供不含顯式標(biāo)識(shí)的生成合成內(nèi)容,并依法留存提供對(duì)象信息等相關(guān)日志不少于六個(gè)月。

主要平臺(tái)的響應(yīng)與實(shí)施情況

隨著《標(biāo)識(shí)辦法》9月1日正式實(shí)施,各大平臺(tái)紛紛響應(yīng),推出相應(yīng)的標(biāo)識(shí)措施。

抖音平臺(tái)近期公布了一項(xiàng)關(guān)于人工智能生成內(nèi)容(AI內(nèi)容)管理的重要更新,旨在提升平臺(tái)內(nèi)容的透明度與用戶體驗(yàn)。據(jù)悉,抖音平臺(tái)已推出兩大核心功能,以應(yīng)對(duì)日益增長(zhǎng)的AI內(nèi)容。第一項(xiàng)功能為AI內(nèi)容標(biāo)識(shí),它鼓勵(lì)內(nèi)容創(chuàng)作者為使用AI技術(shù)生成的內(nèi)容主動(dòng)添加明確標(biāo)識(shí),使用戶能夠輕松區(qū)分此類內(nèi)容。第二項(xiàng)功能則是AI內(nèi)容元數(shù)據(jù)標(biāo)識(shí)讀寫(xiě),該功能能夠識(shí)別并記錄AI內(nèi)容的元數(shù)據(jù),為內(nèi)容的追蹤與驗(yàn)證提供技術(shù)支持。

抖音強(qiáng)調(diào),所有在平臺(tái)上制作和發(fā)布AI內(nèi)容的賬戶,必須使用平臺(tái)提供的標(biāo)識(shí)功能進(jìn)行聲明。對(duì)于未主動(dòng)標(biāo)識(shí)的AI內(nèi)容,抖音將采用技術(shù)手段進(jìn)行檢測(cè),并對(duì)疑似由AIGC技術(shù)生成的內(nèi)容補(bǔ)充添加提示標(biāo)識(shí)。抖音還會(huì)為所有發(fā)布的AI內(nèi)容添加隱式標(biāo)識(shí),包含關(guān)鍵傳播信息,以強(qiáng)化全鏈路管理。

對(duì)于未主動(dòng)添加標(biāo)識(shí)的創(chuàng)作者,抖音將采取輔助措施。平臺(tái)會(huì)檢測(cè)疑似使用AIGC技術(shù)生成的內(nèi)容,并為其添加”疑似使用了AI生成技術(shù),請(qǐng)謹(jǐn)慎甄別”的標(biāo)識(shí)。同時(shí),如果AIGC技術(shù)服務(wù)提供者在生成AI內(nèi)容時(shí)已在元數(shù)據(jù)中添加隱式標(biāo)識(shí),抖音在核驗(yàn)出該信息后,將在作品頁(yè)面添加”作品含AI生成內(nèi)容”的標(biāo)識(shí)。

DeepSeek于9月1日公告稱,為貫徹落實(shí)《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》及《網(wǎng)絡(luò)安全技術(shù)人工智能生成合成內(nèi)容標(biāo)識(shí)方法》等國(guó)家標(biāo)準(zhǔn)的相關(guān)要求,防止AI生成內(nèi)容可能引發(fā)的公眾混淆、誤認(rèn)以及信息失實(shí)的風(fēng)險(xiǎn),DeepSeek已在平臺(tái)內(nèi)對(duì)AI生成合成內(nèi)容添加標(biāo)識(shí),并明確提醒用戶相關(guān)內(nèi)容由AI生成。

小紅書(shū)、嗶哩嗶哩、Soul等平臺(tái)已基本完成顯式標(biāo)識(shí)規(guī)范上線,加快開(kāi)發(fā)上線隱式標(biāo)識(shí)和傳播鏈互認(rèn)驗(yàn)證,小紅書(shū)牽頭編制圖片模態(tài)元數(shù)據(jù)標(biāo)識(shí)實(shí)踐指南,上海標(biāo)識(shí)工作取得階段性成效。

實(shí)施初期的主要成效

《標(biāo)識(shí)辦法》的實(shí)施已經(jīng)在多個(gè)方面取得了初步成效:

首先,提升了內(nèi)容的可追溯性。通過(guò)顯式和隱式雙標(biāo)識(shí)系統(tǒng),內(nèi)容從生成到傳播的全鏈條都能被有效追蹤。

其次,提高了監(jiān)管效率。標(biāo)識(shí)制度的實(shí)施可以讓監(jiān)管部門(mén)更便捷地識(shí)別AI生成內(nèi)容,追溯內(nèi)容的來(lái)源和傳播軌跡,以合理成本提高安全性。以往對(duì)于生成式人工智能的監(jiān)管需要按個(gè)案判斷,難度較大,而現(xiàn)在通過(guò)標(biāo)識(shí)可以實(shí)現(xiàn)大規(guī)模、高可靠性和低成本的監(jiān)管。

第三,促進(jìn)了產(chǎn)業(yè)合規(guī)發(fā)展?!稑?biāo)識(shí)辦法》和《標(biāo)識(shí)標(biāo)準(zhǔn)》通過(guò)細(xì)化生成合成內(nèi)容管理規(guī)則,推動(dòng)了人工智能產(chǎn)業(yè)標(biāo)準(zhǔn)化進(jìn)程,構(gòu)建了一個(gè)更加公平、透明且高效的市場(chǎng)環(huán)境,不僅增強(qiáng)了市場(chǎng)主體參與產(chǎn)業(yè)的積極性,助力傳統(tǒng)產(chǎn)業(yè)轉(zhuǎn)型升級(jí),還促進(jìn)了產(chǎn)業(yè)鏈上下游的協(xié)同創(chuàng)新,為產(chǎn)業(yè)規(guī)模化發(fā)展提供了內(nèi)生動(dòng)力,從而助力國(guó)產(chǎn)生成式人工智能生態(tài)的健康發(fā)展。

第四,增強(qiáng)了公眾對(duì)AI內(nèi)容的辨識(shí)能力。通過(guò)顯式標(biāo)識(shí),用戶能夠更加清晰地辨別AI生成內(nèi)容,從而避免被虛假信息誤導(dǎo)。

第五,規(guī)范了內(nèi)容傳播秩序。通過(guò)對(duì)傳播平臺(tái)設(shè)置核驗(yàn)義務(wù),《標(biāo)識(shí)辦法》有效規(guī)范了AI生成內(nèi)容在網(wǎng)絡(luò)空間的傳播,防止了虛假信息的擴(kuò)散。

實(shí)施過(guò)程中面臨的挑戰(zhàn)

盡管《標(biāo)識(shí)辦法》的實(shí)施取得了積極成效,但在實(shí)際操作過(guò)程中仍面臨一些挑戰(zhàn):

首先,技術(shù)執(zhí)行層面的挑戰(zhàn)。隱式標(biāo)識(shí)的元數(shù)據(jù)標(biāo)準(zhǔn)雖然具有創(chuàng)新性,但在實(shí)際執(zhí)行中,可能面臨被規(guī)避和移除的風(fēng)險(xiǎn)。各平臺(tái)需要繼續(xù)探索技術(shù)上可行的統(tǒng)一路線,確保隱式標(biāo)識(shí)的穩(wěn)定性和可靠性。同時(shí),對(duì)于不同內(nèi)容形態(tài)的顯式標(biāo)識(shí),也需要進(jìn)一步優(yōu)化標(biāo)識(shí)方案,提高標(biāo)識(shí)的可識(shí)別性和用戶接受度。

其次,用戶體驗(yàn)與商業(yè)利益的平衡。嚴(yán)格執(zhí)行標(biāo)識(shí)規(guī)定可能會(huì)對(duì)用戶體驗(yàn)和商業(yè)利益產(chǎn)生一定影響。例如,某短視頻平臺(tái)數(shù)據(jù)顯示,嚴(yán)格執(zhí)行視頻起始3秒標(biāo)識(shí)將導(dǎo)致用戶完播率下降19%。這就需要探索如動(dòng)態(tài)弱化技術(shù)(如透明度漸變)等方式,在滿足合規(guī)要求的同時(shí),盡量減少對(duì)用戶體驗(yàn)和商業(yè)運(yùn)營(yíng)的負(fù)面影響。

第三,誤判率問(wèn)題。由于算法存在數(shù)據(jù)偏差和場(chǎng)景適配不足等問(wèn)題,可能會(huì)出現(xiàn)原創(chuàng)內(nèi)容被誤判為AI生成的情況,導(dǎo)致創(chuàng)作者權(quán)益受損。因此,需要建立相應(yīng)的保障機(jī)制,如完善復(fù)核機(jī)制,建立便捷、有效的申訴渠道,以解決誤判問(wèn)題,保護(hù)創(chuàng)作者的合法權(quán)益。

第四,標(biāo)識(shí)統(tǒng)一性和互操作性問(wèn)題。不同平臺(tái)和服務(wù)提供者在標(biāo)識(shí)實(shí)施上可能存在差異,這可能導(dǎo)致標(biāo)識(shí)的不一致性和互操作性問(wèn)題。如何建立統(tǒng)一的標(biāo)識(shí)標(biāo)準(zhǔn)和互操作機(jī)制,是需要進(jìn)一步解決的問(wèn)題。

第五,技術(shù)成本問(wèn)題。對(duì)于一些小型企業(yè)和開(kāi)發(fā)者來(lái)說(shuō),實(shí)施復(fù)雜的標(biāo)識(shí)技術(shù)可能會(huì)增加成本和技術(shù)負(fù)擔(dān)。如何降低技術(shù)實(shí)施門(mén)檻,讓更多的市場(chǎng)主體能夠合規(guī)運(yùn)營(yíng),是需要考慮的問(wèn)題。

未來(lái)發(fā)展趨勢(shì)與建議

隨著AI技術(shù)的不斷發(fā)展,AI生成合成內(nèi)容標(biāo)識(shí)技術(shù)也將面臨新的機(jī)遇和挑戰(zhàn)。以下是幾個(gè)可能的技術(shù)發(fā)展趨勢(shì)及應(yīng)對(duì)策略:

首先,標(biāo)識(shí)技術(shù)的智能化與自動(dòng)化將成為重要趨勢(shì)。未來(lái)的標(biāo)識(shí)技術(shù)將更加智能化和自動(dòng)化,能夠自動(dòng)識(shí)別和標(biāo)記AI生成內(nèi)容,減少人工干預(yù)的需求。例如,基于深度學(xué)習(xí)的AI檢測(cè)模型將更加精準(zhǔn)和高效,能夠快速識(shí)別各種類型的AI生成內(nèi)容。某頭部企業(yè)開(kāi)發(fā)的DeepTrack系統(tǒng),對(duì)生成文本的檢測(cè)準(zhǔn)確率達(dá)91.2%,響應(yīng)時(shí)間優(yōu)化至0.4秒。

應(yīng)對(duì)策略:建議加大對(duì)AI標(biāo)識(shí)技術(shù)研發(fā)的投入,推動(dòng)跨行業(yè)、跨領(lǐng)域的技術(shù)合作,共同開(kāi)發(fā)更加先進(jìn)、高效的AI標(biāo)識(shí)技術(shù)。同時(shí),建立健全技術(shù)標(biāo)準(zhǔn)和規(guī)范,確保不同系統(tǒng)之間的互操作性和兼容性。

其次,多模態(tài)標(biāo)識(shí)技術(shù)將得到廣泛應(yīng)用。隨著AI技術(shù)的發(fā)展,未來(lái)的AI生成內(nèi)容將更加多樣化和復(fù)雜化,單一模態(tài)的標(biāo)識(shí)技術(shù)將難以滿足需求。因此,多模態(tài)標(biāo)識(shí)技術(shù)將成為未來(lái)的發(fā)展趨勢(shì),能夠同時(shí)對(duì)文本、圖像、音頻、視頻等多種模態(tài)的內(nèi)容進(jìn)行標(biāo)識(shí)和追蹤。

應(yīng)對(duì)策略:建議加強(qiáng)多模態(tài)標(biāo)識(shí)技術(shù)的研發(fā)和應(yīng)用,建立多模態(tài)標(biāo)識(shí)的統(tǒng)一標(biāo)準(zhǔn)和規(guī)范,推動(dòng)多模態(tài)標(biāo)識(shí)技術(shù)在各個(gè)領(lǐng)域的應(yīng)用和普及。

第三,區(qū)塊鏈技術(shù)在標(biāo)識(shí)中的應(yīng)用將進(jìn)一步深化。區(qū)塊鏈技術(shù)具有不可篡改、可追溯等特點(diǎn),能夠有效保障標(biāo)識(shí)信息的安全性和可靠性。未來(lái),區(qū)塊鏈技術(shù)將與AI標(biāo)識(shí)技術(shù)深度融合,為AI生成內(nèi)容提供更加安全、可靠的標(biāo)識(shí)和追溯服務(wù)。

應(yīng)對(duì)策略:建議探索區(qū)塊鏈技術(shù)在AI標(biāo)識(shí)中的應(yīng)用模式和場(chǎng)景,推動(dòng)區(qū)塊鏈技術(shù)與AI標(biāo)識(shí)技術(shù)的融合創(chuàng)新,建立基于區(qū)塊鏈的AI內(nèi)容標(biāo)識(shí)和追溯系統(tǒng)。

第四,AI標(biāo)識(shí)技術(shù)的國(guó)際化將成為必然趨勢(shì)。隨著全球化的深入發(fā)展,AI標(biāo)識(shí)技術(shù)也需要在國(guó)際范圍內(nèi)實(shí)現(xiàn)標(biāo)準(zhǔn)化和互認(rèn),以應(yīng)對(duì)跨國(guó)傳播的AI生成內(nèi)容帶來(lái)的挑戰(zhàn)。

應(yīng)對(duì)策略:建議積極參與國(guó)際標(biāo)準(zhǔn)的制定和協(xié)調(diào),推動(dòng)中國(guó)AI標(biāo)識(shí)技術(shù)與國(guó)際標(biāo)準(zhǔn)的對(duì)接和互認(rèn),提升中國(guó)在全球AI治理中的話語(yǔ)權(quán)和影響力。

結(jié)論與展望

《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》的實(shí)施,是中國(guó)在人工智能治理領(lǐng)域邁出的重要一步,標(biāo)志著中國(guó)在規(guī)范AI生成合成內(nèi)容方面進(jìn)入了法治化、標(biāo)準(zhǔn)化的新階段。

《標(biāo)識(shí)辦法》的實(shí)施,對(duì)于規(guī)范人工智能生成合成內(nèi)容的傳播、保護(hù)公眾權(quán)益、維護(hù)網(wǎng)絡(luò)生態(tài)具有重要意義。它不僅有助于遏制虛假信息傳播、保護(hù)用戶權(quán)益,還能提升公眾對(duì)AI技術(shù)的信任度,為人工智能產(chǎn)業(yè)的創(chuàng)新與發(fā)展?fàn)I造健康環(huán)境。同時(shí),它體現(xiàn)了中國(guó)在科技治理中平衡創(chuàng)新發(fā)展與規(guī)范管理的理念,為全球人工智能治理提供了中國(guó)方案。

然而,《標(biāo)識(shí)辦法》的實(shí)施仍面臨一些挑戰(zhàn),如技術(shù)執(zhí)行層面的挑戰(zhàn)、用戶體驗(yàn)與商業(yè)利益的平衡、誤判率問(wèn)題等。這些挑戰(zhàn)需要政府、企業(yè)、社會(huì)組織、學(xué)術(shù)機(jī)構(gòu)、公眾等多方共同努力,通過(guò)技術(shù)創(chuàng)新、政策優(yōu)化、行業(yè)自律、公眾參與等多種途徑,逐步加以解決。

展望未來(lái),隨著AI技術(shù)的不斷發(fā)展和應(yīng)用,AI生成合成內(nèi)容將更加多樣化和復(fù)雜化,對(duì)標(biāo)識(shí)工作也將提出更高的要求。因此,需要不斷完善《標(biāo)識(shí)辦法》的實(shí)施細(xì)則和配套措施,加強(qiáng)技術(shù)創(chuàng)新和應(yīng)用,推動(dòng)多元主體協(xié)同參與,構(gòu)建更加完善的AI生成合成內(nèi)容標(biāo)識(shí)和治理體系。

同時(shí),還需要加強(qiáng)國(guó)際合作與交流,積極參與全球AI治理規(guī)則的制定和協(xié)調(diào),推動(dòng)中國(guó)在AI生成合成內(nèi)容標(biāo)識(shí)方面的經(jīng)驗(yàn)和做法與國(guó)際接軌,共同應(yīng)對(duì)全球性挑戰(zhàn),推動(dòng)構(gòu)建人類命運(yùn)共同體。

分享到

lixiangjing

算力豹主編

相關(guān)推薦