在過去的一年,AI Agent正在持續(xù)迅猛發(fā)展。AI Agent在業(yè)務流程構建、與各組件交互及調(diào)用過程中也面臨著各類安全風險。為此,阿里云安全原生融入AI Agent開發(fā)全鏈路,為客戶提供貫穿模型基礎設施(Environment、Context、Tools)、模型本身(Model)和AI應用(Application)三層的全棧防護體系,將安全無縫融入業(yè)務流中,為客戶提供高效、便捷、低延遲的安全防護能力。
在基礎設施層,云安全中心、云防火墻、IDaaS、數(shù)據(jù)安全中心、密鑰管理服務加密等產(chǎn)品服務為客戶提供全鏈路的AI基礎設施防護。今年云安全中心新推出的AI-BOM和AI-SPM產(chǎn)品能力,幫助客戶建立云上AI資產(chǎn)管理與安全態(tài)勢管理防護體系,實現(xiàn)資產(chǎn)的“黑箱”到“透明”。
在AI模型層,AI安全護欄產(chǎn)品提供5項安全能力,包括內(nèi)容合規(guī)、敏感數(shù)據(jù)、提示詞攻擊、惡意文件/URL和數(shù)字水印標識的檢測和防護,保障輸入輸出安全、確保內(nèi)容合規(guī)。在與開源安全護欄的能力對比中,阿里云AI安全護欄優(yōu)勢明顯。
在AI應用層,Web應用防火墻產(chǎn)品提供WAAP應用安全防護方案,包括全新LLM-WAF能力,一鍵集成AI安全護欄,并提升BOT管理、API安全功能,幫助客戶防護AI應用層面臨的風險。
在給AI Agent提供全鏈路安全防護的同時,AI的快速發(fā)展也在反哺安全產(chǎn)品的智能化升級。在通義底層模型加持下,云安全團隊構建了數(shù)十個安全智能體,通過Multi-Agent能力協(xié)同,將AI融入安全等每個階段,并在威脅檢測、安全運營、實人認證、內(nèi)容安全、數(shù)據(jù)安全等領域,有效提升了安全產(chǎn)品能力。
針對Deepfake的挑戰(zhàn),實人認證通過集成通義的Qwen-VL模型,相比之前的小模型和專家模型,在Deepfake人臉識別偽造上,召回率提升了10%,能更有效地防范身份偽造。
在內(nèi)容安全領域,打造內(nèi)容審核大模型2.0,集成通義的Qwen3Guard全系審核模型,支持多模態(tài)內(nèi)容審核,對識別帶有偏見歧視、暴力恐怖等更隱晦、更復雜的違規(guī)內(nèi)容上,檢測能力提升30%。
在數(shù)據(jù)安全領域,覆蓋800+數(shù)據(jù)類型識別,通過集成通義的Qwen-Plus模型進行更高精度的語義識別,數(shù)據(jù)分類的準確率提升了35%,尤其是在稅務登記號、銀行卡號這類復雜格式的識別上效果提升顯著。
同時,安全智能體與產(chǎn)品的深度融合,極大提升了云上運維效率。阿里云云威脅檢測與響應(CTDR)今年全面升級,構建Agentic SOC業(yè)務流程,通過多元數(shù)據(jù)接入、智能分析決策、自動化處置與持續(xù)優(yōu)化,形成了一套完善的云威脅分析與響應體系,自動化事件調(diào)查成功率,從59%提升至74%,顯著提升了事件調(diào)查與處置的效率。
會上,阿里云同時宣布已有28款云核心產(chǎn)品深度集成云安全能力。將安全能力融入到云產(chǎn)品中,降低用戶使用門檻,未來還會進一步提升集成產(chǎn)品數(shù)量。
截至目前,阿里云已和月之暗面、硅基流動、資生堂、申通、古茗等企業(yè)構建了AI基礎設施防護、AI模型生態(tài)防護等安全方案,在安全防護效果和運營效率提升方面共同拓展安全智能體的防護邊界。未來,阿里云安全還將繼續(xù)探索,探尋安全、AI與性能、成本間的最優(yōu)解,提供給客戶更智能、性價比更高的安全產(chǎn)品。