（騰訊云首批通過試點評估測試證書）

國內(nèi)首批通過可信云內(nèi)容安全認(rèn)證，累計達(dá)成21項認(rèn)證記錄

為落地《中華人民共和國網(wǎng)絡(luò)安全法》中對用戶發(fā)布信息的管理要求，云計算標(biāo)準(zhǔn)和開源推進委員會云安全工作組根據(jù)”嚴(yán)守紅線”的安全方針，組織電信運營商、云計算服務(wù)提供商、安全廠商的相關(guān)技術(shù)專家，編制并發(fā)布了”可信云”系列標(biāo)準(zhǔn)《基于云計算的業(yè)務(wù)安全風(fēng)險解決方案技術(shù)要求 第1部分：內(nèi)容安全》。

本次會議上，中國信息通信研究院云大所云安全專家王敬宇對該標(biāo)準(zhǔn)進行了解讀，該標(biāo)準(zhǔn)規(guī)定了內(nèi)容安全解決方案的功能要求、性能要求、自身安全功能要求，云計算服務(wù)提供商和安全廠商的內(nèi)容安全解決方案，其在功能設(shè)計、產(chǎn)品研制、能力評估等方面均可參照此標(biāo)準(zhǔn)執(zhí)行。

為了將標(biāo)準(zhǔn)落到實處，中國信息通信研究院于2018年11月開展了國內(nèi)首個云計算行業(yè)的內(nèi)容安全解決方案評估，騰訊云等三家廠商作為首批企業(yè)參與了此次評估，并最終通過測試。

據(jù)中國信息通信研究院云大所何友斌介紹，為了確保評估質(zhì)量，評估專家精心準(zhǔn)備了多樣化的文本、圖片、音頻、視頻測試樣本，包含涉黃、血腥、暴恐等內(nèi)容大類，并對測樣本進行了復(fù)雜處理。評估過程中發(fā)現(xiàn)，騰訊云等廠商主要使用深度學(xué)習(xí)技術(shù)訓(xùn)練監(jiān)測模型，并結(jié)合已知違規(guī)樣本的分類標(biāo)簽技術(shù)對海量數(shù)據(jù)戶進行實時監(jiān)測，在節(jié)約人工審核成本的同時，大幅度提高了違規(guī)內(nèi)容識別的準(zhǔn)確率和查全率，并有效降低了誤判率。本次評估，客觀、真實地反映解決方案的水平，為企業(yè)選擇和部署內(nèi)容安全解決方案提供值得信賴的參考和依據(jù)。

智能AI+人工審核 騰訊云破解“鑒黃界最大難題”

騰訊云安全策略專家周耀輝也在大會現(xiàn)場分享了騰訊云內(nèi)容安全的策略：基于四大場景的六類違規(guī)內(nèi)容識別，通過“智能AI+人工審核”一站式解決目前網(wǎng)絡(luò)中違規(guī)內(nèi)容的問題。而正是在這套策略的指導(dǎo)下，騰訊云解決了“鑒黃界公認(rèn)的最大難題”——音頻鑒黃。

對于網(wǎng)絡(luò)上傳播的色情惡意內(nèi)容，圖像鑒黃技術(shù)很好的打擊了大部分色情圖像和視頻內(nèi)容，但在一些短視頻、直播等場景中，還有一些色情內(nèi)容以音頻方式傳播，用以規(guī)避圖像維度的打擊。尤其是音頻的信噪低、時長短、信道復(fù)雜等因素，進一步加劇了內(nèi)容審核者的挑戰(zhàn)。

對此，騰訊云天御在文本、圖片鑒黃的基礎(chǔ)上，研發(fā)了基于音頻的鑒黃系統(tǒng)，讓騰訊云的整套鑒黃解決方案更具突破性。其中，在針對海量正負(fù)樣本的訓(xùn)練上，除了應(yīng)用深度學(xué)習(xí)模型之外，騰訊云天御還針對線上的識別數(shù)據(jù)持續(xù)進行人工抽檢覆蓋和漏過情況，并將正負(fù)樣本進行標(biāo)注用于系統(tǒng)優(yōu)化，讓音頻鑒黃系統(tǒng)更智能。目前該系統(tǒng)已在騰訊云的點播、直播等業(yè)務(wù)中上線使用，進一步提高色情內(nèi)容檢出率。

暴力、血腥、黃賭毒不良社會導(dǎo)向違規(guī)內(nèi)容的傳播，嚴(yán)重影響網(wǎng)絡(luò)環(huán)境的清朗健康發(fā)展，本次可信云標(biāo)準(zhǔn)的發(fā)布以及首批通過評估認(rèn)證企業(yè)的公布，將有效促進內(nèi)容安全行業(yè)向更高的標(biāo)準(zhǔn)提升，同時也將對整個產(chǎn)業(yè)生態(tài)的有序發(fā)展起到積極的推動作用。

zhangnn