圖說(shuō)：基于安全AI理念，阿里安全圖靈實(shí)驗(yàn)室推出的AI鑒黃師可識(shí)別圖片、彈幕、語(yǔ)音等多維度信息

再比如，用AI判定互聯(lián)網(wǎng)平臺(tái)上對(duì)于違規(guī)視頻的判定，除了計(jì)算機(jī)視覺技術(shù)之外，加入了語(yǔ)言、語(yǔ)音等多源網(wǎng)絡(luò)的設(shè)計(jì)，比如視頻畫面、視頻中的語(yǔ)音、彈幕和交互信息等多個(gè)維度?！爸R(shí)圖譜、多源網(wǎng)絡(luò)、對(duì)抗樣本等構(gòu)建出更強(qiáng)、更安全的AI技術(shù)能力，可以有效防范攻擊，降低風(fēng)險(xiǎn)，”奧創(chuàng)表示。

安全AI將成網(wǎng)絡(luò)安全問題新解法

奧創(chuàng)帶領(lǐng)的阿里安全圖靈實(shí)驗(yàn)室近年來(lái)在安全AI領(lǐng)域的探索和研發(fā)已久，其成果被應(yīng)用于風(fēng)控、知識(shí)產(chǎn)權(quán)、智能云服務(wù)和新零售等商業(yè)場(chǎng)景，以及醫(yī)療、教育、出行等數(shù)億用戶相關(guān)的生活場(chǎng)景，已申請(qǐng)專利上百項(xiàng)。

未來(lái)趨勢(shì)之下，AI仍將迅猛發(fā)展，在更多商業(yè)、工業(yè)和生活場(chǎng)景中落地。安全AI的核心理念就是讓不可能變?yōu)榭赡?，能極大解放人力，也將成為未來(lái)網(wǎng)絡(luò)安全問題的新解法。

奧創(chuàng)認(rèn)為，2019年也將是安全AI的爆發(fā)之年，“歐盟剛剛出臺(tái)《人工智能道德準(zhǔn)則》，明確提出AI的發(fā)展方向應(yīng)該是‘可信賴AI’，包含安全、隱私、透明等多個(gè)方面，AI應(yīng)用正在成為一個(gè)社會(huì)問題，如何解決已經(jīng)成為各界共同關(guān)注的話題?！?/p>

阿里安全一直堅(jiān)持用技術(shù)解決社會(huì)問題，安全AI也在阿里經(jīng)濟(jì)體的多個(gè)業(yè)務(wù)場(chǎng)景落地。結(jié)合多年從事安全研發(fā)的經(jīng)驗(yàn)，奧創(chuàng)認(rèn)為針對(duì)安全場(chǎng)景的AI設(shè)計(jì)，極限數(shù)據(jù)情況下的模型訓(xùn)練、實(shí)現(xiàn)不同業(yè)態(tài)與場(chǎng)景下的模型遷移、決策場(chǎng)景下的模型可解釋性、強(qiáng)對(duì)抗場(chǎng)景下的模型安全性這四個(gè)方向?qū)⒎浅Ｖ档锰剿鳌?/p>

“以決策場(chǎng)景下的模型可解釋性為例，端到端的深度學(xué)習(xí)一個(gè)廣為詬病的問題是其不透明性或不可解釋性，比如說(shuō)識(shí)別一張照片中的物體，機(jī)器做出是的判斷基于什么什么有效特征，我們無(wú)從得知?！眾W創(chuàng)認(rèn)為，人工智能系統(tǒng)必須具有可解釋性，以便人類可以理解系統(tǒng)的行為。

“在面臨一些重大決策的情況下，比如患者被AI建議使用了某種很罕見的治療方案、無(wú)人車或無(wú)人機(jī)沒有按照既定的軌跡完成任務(wù)、或者AI被用來(lái)進(jìn)行司法判決時(shí)，智能系統(tǒng)能夠給出判斷的依據(jù)甚至能夠與人類交換想法，無(wú)疑是至關(guān)重要的。“奧創(chuàng)指出。

zhangnn