思科正式發(fā)布思科人工智能防御系統(tǒng)（Cisco AI Defense），這一開創(chuàng)性解決方案旨在助力企業(yè)的AI轉(zhuǎn)型進(jìn)程

人工智能技術(shù)出錯(cuò)的風(fēng)險(xiǎn)極高。根據(jù)思科發(fā)布的《2024年人工智能就緒指數(shù)》，僅有29%的中國大陸受訪企業(yè)能夠全面檢測并防止未經(jīng)授權(quán)的篡改。由于AI應(yīng)用呈現(xiàn)多云、多模型的態(tài)勢，其面臨的安全挑戰(zhàn)也是全新且復(fù)雜的。漏洞可能出現(xiàn)在模型層或應(yīng)用層，而開發(fā)者、終端用戶及供應(yīng)商的責(zé)任難以明確。隨著企業(yè)逐漸從利用公共數(shù)據(jù)轉(zhuǎn)向在自有專有數(shù)據(jù)上訓(xùn)練模型，相關(guān)風(fēng)險(xiǎn)也在不斷攀升。

為釋放AI的創(chuàng)新潛力并推動(dòng)其廣泛應(yīng)用，企業(yè)亟需構(gòu)建一個(gè)通用的安全防護(hù)層，保護(hù)每位用戶和每項(xiàng)應(yīng)用。思科人工智能防御系統(tǒng)通過解決以下兩大緊迫風(fēng)險(xiǎn)，助力企業(yè)推進(jìn)人工智能轉(zhuǎn)型：

開發(fā)與部署安全的AI應(yīng)用：隨著人工智能技術(shù)的普及，企業(yè)將使用并開發(fā)成百上千種AI應(yīng)用程序。開發(fā)者需要一套適用于所有應(yīng)用的AI安全防護(hù)措施。思科人工智能防御系統(tǒng)能夠助力開發(fā)者加速創(chuàng)新進(jìn)程并創(chuàng)造更大價(jià)值，通過全方位保護(hù)人工智能系統(tǒng)免受攻擊，并保障模型行為的穩(wěn)定性，實(shí)現(xiàn)跨平臺的安全防護(hù)。該系統(tǒng)具備以下功能：

?AI檢測：安全團(tuán)隊(duì)需要了解構(gòu)建應(yīng)用的主體以及其使用的訓(xùn)練源。思科人工智能防御系統(tǒng)能夠在公有云和私有云中檢測到未授權(quán)和已授權(quán)的AI應(yīng)用。

?模型驗(yàn)證：模型調(diào)整可能導(dǎo)致有害或意外結(jié)果。思科人工智能防御系統(tǒng)的自動(dòng)化測試可檢查人工智能模型中數(shù)百種潛在的安全問題。這支由人工智能驅(qū)動(dòng)的算法紅隊(duì)能夠識別潛在漏洞，并為安全團(tuán)隊(duì)推薦思科人工智能防御系統(tǒng)中的防護(hù)措施。

?運(yùn)行時(shí)安全：持續(xù)驗(yàn)證能夠防范潛在的安全威脅，如提示注入、拒絕服務(wù)和敏感數(shù)據(jù)泄露等。

確保AI應(yīng)用的訪問安全：隨著終端用戶紛紛采用總結(jié)工具等AI應(yīng)用來提高工作效率，安全團(tuán)隊(duì)需要防范數(shù)據(jù)泄露以及專有數(shù)據(jù)污染的風(fēng)險(xiǎn)。思科人工智能防御系統(tǒng)為安全團(tuán)隊(duì)賦予以下能力：

?可視化：全面了解員工使用的未授權(quán)和已授權(quán)的AI應(yīng)用。

?訪問控制：通過實(shí)施策略限制員工訪問未授權(quán)的AI工具。

?數(shù)據(jù)與威脅防護(hù)：持續(xù)防范威脅和機(jī)密數(shù)據(jù)丟失，同時(shí)確保合規(guī)性。

思科人工智能防御系統(tǒng)解決方案可驗(yàn)證網(wǎng)絡(luò)安全威脅

不同于嵌入在單個(gè)AI模型中的安全措施，思科提供的是適用于多模型環(huán)境的一致性控制。思科人工智能防御系統(tǒng)具備自我優(yōu)化能力，可基于思科獨(dú)有的機(jī)器學(xué)習(xí)模型，并利用思科Talos的威脅情報(bào)數(shù)據(jù)檢測不斷演變的AI安全問題。使用思科人工智能防御系統(tǒng)的Splunk客戶將收到來自整個(gè)生態(tài)系統(tǒng)的附加上下文的豐富警報(bào)。思科人工智能防御系統(tǒng)能夠無縫對接現(xiàn)有的數(shù)據(jù)流，實(shí)現(xiàn)卓越的可視化與控制力，并深度集成于思科推出的統(tǒng)一化、由人工智能驅(qū)動(dòng)的跨領(lǐng)域安全平臺——思科安全云中。通過利用思科廣泛的執(zhí)行點(diǎn)網(wǎng)絡(luò)，思科人工智能防御系統(tǒng)在網(wǎng)絡(luò)層面實(shí)現(xiàn)AI安全，其能力是思科獨(dú)有的優(yōu)化結(jié)果。準(zhǔn)確性和可信度對于保護(hù)企業(yè)AI應(yīng)用至關(guān)重要，思科一直積極參與制定人工智能安全行業(yè)標(biāo)準(zhǔn)，其中包括與MITRE、OWASP以及NIST等權(quán)威機(jī)構(gòu)合作開發(fā)的相關(guān)標(biāo)準(zhǔn)。

思科人工智能防御系統(tǒng)解決方案提供卓越的可視性

World Wide Technology全球AI與網(wǎng)絡(luò)創(chuàng)新負(fù)責(zé)人Kent Noyes表示：“人工智能的廣泛應(yīng)用使企業(yè)暴露在傳統(tǒng)網(wǎng)絡(luò)安全解決方案無法覆蓋的新風(fēng)險(xiǎn)中。思科人工智能防御系統(tǒng)在AI安全領(lǐng)域?qū)崿F(xiàn)了重大突破，為企業(yè)AI資產(chǎn)提供了全方位的可視化管理，并有效抵御不斷演進(jìn)的各類威脅?！?/p>

繼思科Hypershield后，思科人工智能防御系統(tǒng)是思科AI驅(qū)動(dòng)安全創(chuàng)新系列的最新成果。該系統(tǒng)將于3月正式向企業(yè)用戶開放，助力企業(yè)的人工智能轉(zhuǎn)型進(jìn)程。

xiesc