（騰訊云首批通過(guò)試點(diǎn)評(píng)估測(cè)試證書(shū)）

國(guó)內(nèi)首批通過(guò)可信云內(nèi)容安全認(rèn)證，累計(jì)達(dá)成21項(xiàng)認(rèn)證記錄

為落地《中華人民共和國(guó)網(wǎng)絡(luò)安全法》中對(duì)用戶(hù)發(fā)布信息的管理要求，云計(jì)算標(biāo)準(zhǔn)和開(kāi)源推進(jìn)委員會(huì)云安全工作組根據(jù)”嚴(yán)守紅線(xiàn)”的安全方針，組織電信運(yùn)營(yíng)商、云計(jì)算服務(wù)提供商、安全廠商的相關(guān)技術(shù)專(zhuān)家，編制并發(fā)布了”可信云”系列標(biāo)準(zhǔn)《基于云計(jì)算的業(yè)務(wù)安全風(fēng)險(xiǎn)解決方案技術(shù)要求 第1部分：內(nèi)容安全》。

本次會(huì)議上，中國(guó)信息通信研究院云大所云安全專(zhuān)家王敬宇對(duì)該標(biāo)準(zhǔn)進(jìn)行了解讀，該標(biāo)準(zhǔn)規(guī)定了內(nèi)容安全解決方案的功能要求、性能要求、自身安全功能要求，云計(jì)算服務(wù)提供商和安全廠商的內(nèi)容安全解決方案，其在功能設(shè)計(jì)、產(chǎn)品研制、能力評(píng)估等方面均可參照此標(biāo)準(zhǔn)執(zhí)行。

為了將標(biāo)準(zhǔn)落到實(shí)處，中國(guó)信息通信研究院于2018年11月開(kāi)展了國(guó)內(nèi)首個(gè)云計(jì)算行業(yè)的內(nèi)容安全解決方案評(píng)估，騰訊云等三家廠商作為首批企業(yè)參與了此次評(píng)估，并最終通過(guò)測(cè)試。

據(jù)中國(guó)信息通信研究院云大所何友斌介紹，為了確保評(píng)估質(zhì)量，評(píng)估專(zhuān)家精心準(zhǔn)備了多樣化的文本、圖片、音頻、視頻測(cè)試樣本，包含涉黃、血腥、暴恐等內(nèi)容大類(lèi)，并對(duì)測(cè)樣本進(jìn)行了復(fù)雜處理。評(píng)估過(guò)程中發(fā)現(xiàn)，騰訊云等廠商主要使用深度學(xué)習(xí)技術(shù)訓(xùn)練監(jiān)測(cè)模型，并結(jié)合已知違規(guī)樣本的分類(lèi)標(biāo)簽技術(shù)對(duì)海量數(shù)據(jù)戶(hù)進(jìn)行實(shí)時(shí)監(jiān)測(cè)，在節(jié)約人工審核成本的同時(shí)，大幅度提高了違規(guī)內(nèi)容識(shí)別的準(zhǔn)確率和查全率，并有效降低了誤判率。本次評(píng)估，客觀、真實(shí)地反映解決方案的水平，為企業(yè)選擇和部署內(nèi)容安全解決方案提供值得信賴(lài)的參考和依據(jù)。

智能AI+人工審核 騰訊云破解“鑒黃界最大難題”

騰訊云安全策略專(zhuān)家周耀輝也在大會(huì)現(xiàn)場(chǎng)分享了騰訊云內(nèi)容安全的策略：基于四大場(chǎng)景的六類(lèi)違規(guī)內(nèi)容識(shí)別，通過(guò)“智能AI+人工審核”一站式解決目前網(wǎng)絡(luò)中違規(guī)內(nèi)容的問(wèn)題。而正是在這套策略的指導(dǎo)下，騰訊云解決了“鑒黃界公認(rèn)的最大難題”——音頻鑒黃。

對(duì)于網(wǎng)絡(luò)上傳播的色情惡意內(nèi)容，圖像鑒黃技術(shù)很好的打擊了大部分色情圖像和視頻內(nèi)容，但在一些短視頻、直播等場(chǎng)景中，還有一些色情內(nèi)容以音頻方式傳播，用以規(guī)避圖像維度的打擊。尤其是音頻的信噪低、時(shí)長(zhǎng)短、信道復(fù)雜等因素，進(jìn)一步加劇了內(nèi)容審核者的挑戰(zhàn)。

對(duì)此，騰訊云天御在文本、圖片鑒黃的基礎(chǔ)上，研發(fā)了基于音頻的鑒黃系統(tǒng)，讓騰訊云的整套鑒黃解決方案更具突破性。其中，在針對(duì)海量正負(fù)樣本的訓(xùn)練上，除了應(yīng)用深度學(xué)習(xí)模型之外，騰訊云天御還針對(duì)線(xiàn)上的識(shí)別數(shù)據(jù)持續(xù)進(jìn)行人工抽檢覆蓋和漏過(guò)情況，并將正負(fù)樣本進(jìn)行標(biāo)注用于系統(tǒng)優(yōu)化，讓音頻鑒黃系統(tǒng)更智能。目前該系統(tǒng)已在騰訊云的點(diǎn)播、直播等業(yè)務(wù)中上線(xiàn)使用，進(jìn)一步提高色情內(nèi)容檢出率。

暴力、血腥、黃賭毒不良社會(huì)導(dǎo)向違規(guī)內(nèi)容的傳播，嚴(yán)重影響網(wǎng)絡(luò)環(huán)境的清朗健康發(fā)展，本次可信云標(biāo)準(zhǔn)的發(fā)布以及首批通過(guò)評(píng)估認(rèn)證企業(yè)的公布，將有效促進(jìn)內(nèi)容安全行業(yè)向更高的標(biāo)準(zhǔn)提升，同時(shí)也將對(duì)整個(gè)產(chǎn)業(yè)生態(tài)的有序發(fā)展起到積極的推動(dòng)作用。

zhangnn