01?數(shù)智筑基

近年來,綠盟科技持續(xù)加大在數(shù)據(jù)安全、人工智能等領(lǐng)域的創(chuàng)新投入。在數(shù)據(jù)安全領(lǐng)域,綠盟科技深入創(chuàng)新,聚焦“守護數(shù)據(jù)要素,保障數(shù)據(jù)安全”的數(shù)據(jù)安全戰(zhàn)略方向?;谛袠I(yè)知識與大模型,提升了分級分類和敏感數(shù)據(jù)識別的效率,結(jié)合訪問控制、脫敏等安全技術(shù)幫助用戶構(gòu)建基于分類分級的數(shù)據(jù)安全保障系統(tǒng);圍繞政策、數(shù)據(jù)及數(shù)據(jù)環(huán)境的脆弱性、威脅等理清存在的數(shù)據(jù)安全風(fēng)險,建立數(shù)據(jù)要素流通全流程合規(guī)與監(jiān)測體系;探索面向數(shù)據(jù)庫和各類新型數(shù)據(jù)的水印技術(shù),并提供機密、可信、云化的運行環(huán)境,支持?jǐn)?shù)據(jù)確權(quán)、多方之間進(jìn)行的隱私計算,有效保護數(shù)據(jù)在流轉(zhuǎn)及共享交換過程中的安全。

在人工智能大模型領(lǐng)域,綠盟科技組建了包括人工智能數(shù)據(jù)科學(xué)家、架構(gòu)專家、研發(fā)專家、攻防專家等專業(yè)人才在內(nèi)的多學(xué)科、多領(lǐng)域交叉研究團隊,突破關(guān)鍵技術(shù)難題。一方面,圍繞日志降噪、推理研判、自動化滲透攻擊三個安全實戰(zhàn)場景,持續(xù)迭代安全垂域大模型,通過提示詞工程構(gòu)建安全專家思維鏈,并使用檢索增強、知識圖譜提升可信度和專業(yè)度,為用戶提供具備可落地的安全檢測、研判能力。另一方面,持續(xù)加強技術(shù)研究與創(chuàng)新,從構(gòu)建可信任的安全智能生態(tài)出發(fā),逐步構(gòu)建大模型+小模型協(xié)同安全運營新體系,并在大模型安全性方向進(jìn)行深入研究,發(fā)布了AI大模型安全威脅矩陣及風(fēng)險評估工具,幫助用戶在自有模型時管理安全風(fēng)險。

中國工程院鄔江興院士發(fā)表題為《如何讓AI應(yīng)用系統(tǒng)安全向善》的主題演講,分享人工智能安全問題剖析與內(nèi)生安全新范式領(lǐng)域的思考。鄔江興院士談到,以深度學(xué)習(xí)為核心的人工智能技術(shù)是一把雙刃劍,其作為賦能技術(shù)有著極其豐富的應(yīng)用空間,更帶來了前所未有的安全挑戰(zhàn)。隨后,鄔江興院士從AI系統(tǒng)安全問題出發(fā),分享AI運行環(huán)境內(nèi)生安全問題解決之道。他介紹稱,整個AI安全可以分為內(nèi)生安全問題和非內(nèi)生安全問題,內(nèi)生又分為個性問題和共性問題,當(dāng)下,網(wǎng)絡(luò)內(nèi)生安全問題正在全面挑戰(zhàn)當(dāng)今世界生態(tài)系統(tǒng)底層驅(qū)動技術(shù)。鄔江興院士表示,網(wǎng)絡(luò)內(nèi)生安全范式應(yīng)當(dāng)是AI可信應(yīng)用系統(tǒng)理論發(fā)展方向,智能時代需要正確的理論方向,以確保AI技術(shù)的健康發(fā)展。

中國科學(xué)院馮登國院士發(fā)表題為《人工智能安全:思考與認(rèn)識》的主題演講。他談到,當(dāng)前,人工智能技術(shù)已經(jīng)從較為單一的算法發(fā)展階段跨越到了軟件、硬件與應(yīng)用場景相結(jié)合的全方位、一體化的發(fā)展階段,AI算法的更新迭代,使得傳統(tǒng)安全分析技術(shù)無法適應(yīng)人工智能領(lǐng)域出現(xiàn)的新算法和新模型。馮登國院士對當(dāng)下國內(nèi)外人工智能安全戰(zhàn)略部署進(jìn)行解讀,他談到,應(yīng)對網(wǎng)絡(luò)空間安全形勢變化,需要更堅實、富有彈性的網(wǎng)絡(luò)空間安全保障體系。隨后,馮登國院士從數(shù)據(jù)泄露、關(guān)基保護、深度偽造、錯誤信息涌現(xiàn)等角度解讀大模型伴生的安全風(fēng)險和挑戰(zhàn),并從政策法規(guī)制定、前沿技術(shù)探索和創(chuàng)新能力提升三個維度思考應(yīng)對之策。

教育部信息技術(shù)新工科聯(lián)盟網(wǎng)絡(luò)空間安全工委會主任、杭州市人工智能學(xué)會副理事長胡瑞敏發(fā)表題為《面向數(shù)據(jù)要素化的數(shù)據(jù)生命周期防護技術(shù)研發(fā)》的主題演講。胡瑞敏談到,在數(shù)據(jù)被列為第五大生產(chǎn)要素的今天,應(yīng)對數(shù)據(jù)供不出、流不動、安全保障難等挑戰(zhàn),亟需構(gòu)建一個面向數(shù)據(jù)要素化的數(shù)據(jù)生命周期安全防護體系。隨后,胡瑞敏以數(shù)據(jù)安全風(fēng)險事件為切入點,引出當(dāng)前數(shù)據(jù)安全面臨的困境,即數(shù)據(jù)分級分類、可信確權(quán)以及數(shù)據(jù)安全利用,并進(jìn)一步對其團隊在數(shù)據(jù)安全防護密碼技術(shù)領(lǐng)域的研究工作進(jìn)行了介紹。

綠盟科技集團首席技術(shù)官葉曉虎博士首先回顧了公司“智慧安全”理念的發(fā)展歷程,及其提出來的目標(biāo):在提供傳統(tǒng)安全產(chǎn)品及安全服務(wù)的基礎(chǔ)上,逐步向安全運營進(jìn)行轉(zhuǎn)化,為企業(yè)級用戶提供小時級的閉環(huán)安全保障。圍繞這一目標(biāo),結(jié)合應(yīng)用環(huán)境變化,公司提出一系列智慧安全相關(guān)要素。近兩年,推出AI大模型應(yīng)用、藍(lán)軍體系、持續(xù)威脅暴露面管理(CTEM)、高級威脅情報、云原生安全、數(shù)據(jù)安全、靶場、無人機等多個領(lǐng)域解決方案及實踐成果。

葉曉虎博士對AI+安全和數(shù)據(jù)安全兩個方向的創(chuàng)新思路和進(jìn)展進(jìn)行了介紹。在AI賦能安全方向,公司利用多年安全數(shù)據(jù)積累發(fā)展安全大模型,結(jié)合AI小模型、安全知識圖譜等成果推出風(fēng)云衛(wèi)AI安全能力平臺,賦能重構(gòu)安管平臺,推出ISOP + AI方案,實現(xiàn)新一代智能安全運營平臺。風(fēng)云衛(wèi)在2024年網(wǎng)信辦AI賦能網(wǎng)絡(luò)安全應(yīng)用測試中取得了比較好的成績。同時在AI賦能安全對抗及AI賦能數(shù)據(jù)安全方面展開研究取得了一定成果,在AI自身安全方面,推出AI風(fēng)險評估系統(tǒng)。AI安全應(yīng)用目前還處在一個早期階段,我們下一步除了繼續(xù)深化已有應(yīng)用,還將在多智能體技術(shù)協(xié)同大小模型在未知威脅或高級威脅分析方面進(jìn)行研究,以及實現(xiàn)向自主值守SOC方向的演進(jìn)。在數(shù)據(jù)安全領(lǐng)域,為解決安全能力分散在不同的設(shè)備這一難題,綠盟科技融合相關(guān)數(shù)據(jù)安全原子能力,推出一體化數(shù)據(jù)安全網(wǎng)關(guān),助推運營管理效率提升。與此同時,綠盟科技在機密計算領(lǐng)域不斷深耕,保障數(shù)據(jù)流動可知、可管、可控、可見。

最后回到安全運營,葉曉虎博士介紹了融合各類創(chuàng)新成果及安全能力成立的鷹眼安全運營中心,通過運營中心錘煉AI安全應(yīng)用,精準(zhǔn)服務(wù)相關(guān)客戶和用戶,不斷賦能產(chǎn)品方案,持續(xù)提升現(xiàn)場安全運營效率和效果。葉曉虎博士指出,安全運營是我們作為安全團隊能夠為用戶提供高價值的安全能力最為重要的途徑之一,也是我們作為安全公司、安全團隊的目標(biāo)和應(yīng)盡的社會責(zé)任。

國家工業(yè)信息安全發(fā)展研究中心首席專家、數(shù)據(jù)安全所所長李俊談到,數(shù)據(jù)作為數(shù)字經(jīng)濟時代的關(guān)鍵新興生產(chǎn)要素,保障數(shù)據(jù)安全已成為事關(guān)國家安全與經(jīng)濟社會發(fā)展的重大問題。隨著新一代信息技術(shù)與制造業(yè)深度融合,工業(yè)企業(yè)數(shù)字化、網(wǎng)絡(luò)化、智能化加速推進(jìn),工業(yè)數(shù)據(jù)載體漏洞和后門、非受控運維、數(shù)據(jù)暴露面等數(shù)據(jù)安全風(fēng)險日益突出。在此形勢下,行業(yè)主管部門已構(gòu)建工信領(lǐng)域數(shù)據(jù)安全“1+5”政策體系,加快數(shù)據(jù)安全監(jiān)管技術(shù)能力建設(shè)與實踐落地,切實指導(dǎo)工業(yè)企業(yè)提升數(shù)據(jù)安全管理和防護水平。

北京智譜華章科技有限公司總裁王紹蘭在演講中談到,今年大模型有兩個重要的趨勢,一是大模型生成技術(shù)已經(jīng)不再是單純的以語言文字為基礎(chǔ)的模型,在多模態(tài)上取得了長足的進(jìn)步;二是伴隨產(chǎn)業(yè)和生產(chǎn)力賦能需求,大模型智能體邁入AI下半場。王紹蘭表示,發(fā)展與安全性并存的大模型,使得我們必須在注重安全問題的同時也不能忽視大模型的能力拓展。隨后,王紹蘭從網(wǎng)絡(luò)安全、內(nèi)容安全、數(shù)據(jù)安全等角度分享大模型在產(chǎn)業(yè)中的賦能實踐。

綠盟科技集團首席創(chuàng)新官劉文懋博士以2024 RSA大會為切入點,分享全球網(wǎng)絡(luò)安全創(chuàng)新技術(shù)進(jìn)展與應(yīng)用實踐。劉文懋博士表示,當(dāng)前,安全運營的時效性問題已經(jīng)成為安全行業(yè)最大的困擾,安全行業(yè)需要以AI能力賦能安全運營以及其他人力密集型的工作,在這一背景下,效率成為AI賦能網(wǎng)絡(luò)安全行業(yè)的制勝之道。隨后,劉文懋博士對生成式AI賦能安全行業(yè)的適用場景予以說明,并談到,隨著生成式人工智能的飛速發(fā)展,“云+AI” 智能融合正在引領(lǐng)新的未來。與此同時,在AI風(fēng)險已成為既定現(xiàn)實的當(dāng)下,人工智能的治理規(guī)則與風(fēng)險管理亦不容忽視。

02?數(shù)織未來AI同行

延續(xù)數(shù)智主題,緊跟國家數(shù)字經(jīng)濟戰(zhàn)略,綠盟科技以創(chuàng)新為基,持續(xù)精進(jìn)。大會主論壇創(chuàng)新成果發(fā)布環(huán)節(jié),在綠盟科技集團副總裁宮智的見證下,多款數(shù)據(jù)要素流通安全能力與大模型創(chuàng)新成果同期發(fā)布。

在數(shù)據(jù)安全方面,綠盟科技正式發(fā)布數(shù)據(jù)要素流通安全能力,包括API風(fēng)險監(jiān)測與審計系統(tǒng)(APISEC)、數(shù)據(jù)安全網(wǎng)關(guān)(DSG)、下一代電子文檔加密系統(tǒng)(CDG融合版)三款數(shù)據(jù)安全產(chǎn)品和實戰(zhàn)化防泄露解決方案、可信數(shù)據(jù)空間解決方案兩套方案,旨在持續(xù)為數(shù)據(jù)流通的各類應(yīng)用場景提供高度可靠、安全的數(shù)據(jù)能力支持。

在AI安全方面,綠盟科技圍繞“AI+安全運營”、 “AI+智能攻防” 、“AI+數(shù)據(jù)治理”以及 “AI自身安全”四個方向發(fā)布相關(guān)創(chuàng)新成果。

 “AI+安全運營”創(chuàng)新成果

告警降噪率達(dá)  97% 以上,威脅響應(yīng)縮短至 30 分鐘,整體運營效率提升 70% 以上。

“AI+智能攻防”創(chuàng)新成果

實現(xiàn)百余種攻防工具智能調(diào)度,滲透評估效率大幅提升。

“AI+數(shù)據(jù)治理”創(chuàng)新成果

數(shù)據(jù)識別準(zhǔn)確率將大幅提升至 80% 以上,數(shù)據(jù)分類分級模板生成時間減少 90%

“AI自身安全”創(chuàng)新成果

全面覆蓋內(nèi)容與對抗安全風(fēng)險,超 120 模型API適配,覆蓋 8 大類 26種風(fēng)險檢測。

分享到

lixiangjing

算力豹主編

相關(guān)推薦