??胡忠華?綠盟科技集團(tuán)董事長(zhǎng)、總裁

??“AI算法模型存在「三不可」的基因缺陷,即不可解釋性、不可判識(shí)性以及不可推論性?!?/p>

??中國(guó)工程院鄔江興院士發(fā)表題為《如何讓AI應(yīng)用系統(tǒng)安全向善》的主題演講,分享人工智能安全問(wèn)題剖析與內(nèi)生安全新范式領(lǐng)域的思考。鄔江興院士談到,以深度學(xué)習(xí)為核心的人工智能技術(shù)是一把雙刃劍,其作為賦能技術(shù)有著極其豐富的應(yīng)用空間,更帶來(lái)了前所未有的安全挑戰(zhàn)。隨后,鄔江興院士從AI系統(tǒng)安全問(wèn)題出發(fā),分享AI運(yùn)行環(huán)境內(nèi)生安全問(wèn)題解決之道。他介紹稱,整個(gè)AI安全可以分為內(nèi)生安全問(wèn)題和非內(nèi)生安全問(wèn)題,內(nèi)生又分為個(gè)性問(wèn)題和共性問(wèn)題,當(dāng)下,網(wǎng)絡(luò)內(nèi)生安全問(wèn)題正在全面挑戰(zhàn)當(dāng)今世界生態(tài)系統(tǒng)底層驅(qū)動(dòng)技術(shù)。鄔江興院士表示,網(wǎng)絡(luò)內(nèi)生安全范式應(yīng)當(dāng)是AI可信應(yīng)用系統(tǒng)理論發(fā)展方向,智能時(shí)代需要正確的理論方向,以確保AI技術(shù)的健康發(fā)展。

??中國(guó)工程院?鄔江興院士

??“人工智能已經(jīng)成為網(wǎng)絡(luò)空間安全發(fā)展的關(guān)鍵變量。”

??中國(guó)科學(xué)院馮登國(guó)院士發(fā)表題為《人工智能安全:思考與認(rèn)識(shí)》的主題演講。他談到,當(dāng)前,人工智能技術(shù)已經(jīng)從較為單一的算法發(fā)展階段跨越到了軟件、硬件與應(yīng)用場(chǎng)景相結(jié)合的全方位、一體化的發(fā)展階段,AI算法的更新迭代,使得傳統(tǒng)安全分析技術(shù)無(wú)法適應(yīng)人工智能領(lǐng)域出現(xiàn)的新算法和新模型。馮登國(guó)院士對(duì)當(dāng)下國(guó)內(nèi)外人工智能安全戰(zhàn)略部署進(jìn)行解讀,他談到,應(yīng)對(duì)網(wǎng)絡(luò)空間安全形勢(shì)變化,需要更堅(jiān)實(shí)、富有彈性的網(wǎng)絡(luò)空間安全保障體系。隨后,馮登國(guó)院士從數(shù)據(jù)泄露、關(guān)基保護(hù)、深度偽造、錯(cuò)誤信息涌現(xiàn)等角度解讀大模型伴生的安全風(fēng)險(xiǎn)和挑戰(zhàn),并從政策法規(guī)制定、前沿技術(shù)探索和創(chuàng)新能力提升三個(gè)維度思考應(yīng)對(duì)之策。

??中國(guó)科學(xué)院?馮登國(guó)院士

??“數(shù)據(jù)流通從現(xiàn)在到未來(lái)有三個(gè)發(fā)展趨勢(shì):從靜態(tài)分類(lèi)到動(dòng)態(tài)分級(jí)、從簡(jiǎn)單的確權(quán)到復(fù)雜確權(quán)、從單一密態(tài)到多密態(tài)的融合?!?/p>

??教育部信息技術(shù)新工科聯(lián)盟網(wǎng)絡(luò)空間安全工委會(huì)主任、杭州市人工智能學(xué)會(huì)副理事長(zhǎng)胡瑞敏發(fā)表題為《面向數(shù)據(jù)要素化的數(shù)據(jù)生命周期防護(hù)技術(shù)研發(fā)》的主題演講。胡瑞敏談到,在數(shù)據(jù)被列為第五大生產(chǎn)要素的今天,應(yīng)對(duì)數(shù)據(jù)供不出、流不動(dòng)、安全保障難等挑戰(zhàn),亟需構(gòu)建一個(gè)面向數(shù)據(jù)要素化的數(shù)據(jù)生命周期安全防護(hù)體系。隨后,胡瑞敏以數(shù)據(jù)安全風(fēng)險(xiǎn)事件為切入點(diǎn),引出當(dāng)前數(shù)據(jù)安全面臨的困境,即數(shù)據(jù)分級(jí)分類(lèi)、可信確權(quán)以及數(shù)據(jù)安全利用,并進(jìn)一步對(duì)其團(tuán)隊(duì)在數(shù)據(jù)安全防護(hù)密碼技術(shù)領(lǐng)域的研究工作進(jìn)行了介紹。

??教育部信息技術(shù)新工科聯(lián)盟網(wǎng)絡(luò)空間安全工委會(huì)主任、杭州市人工智能學(xué)會(huì)副理事長(zhǎng)?胡瑞敏

??“在提供傳統(tǒng)安全產(chǎn)品及安全服務(wù)的基礎(chǔ)上,逐步向安全運(yùn)營(yíng)進(jìn)行轉(zhuǎn)化,為企業(yè)級(jí)用戶提供小時(shí)級(jí)的閉環(huán)安全保障。”

??綠盟科技集團(tuán)首席技術(shù)官葉曉虎博士首先回顧了公司“智慧安全”理念的發(fā)展歷程,及其提出來(lái)的目標(biāo):在提供傳統(tǒng)安全產(chǎn)品及安全服務(wù)的基礎(chǔ)上,逐步向安全運(yùn)營(yíng)進(jìn)行轉(zhuǎn)化,為企業(yè)級(jí)用戶提供小時(shí)級(jí)的閉環(huán)安全保障。圍繞這一目標(biāo),結(jié)合應(yīng)用環(huán)境變化,公司提出一系列智慧安全相關(guān)要素。近兩年,推出AI大模型應(yīng)用、藍(lán)軍體系、持續(xù)威脅暴露面管理(CTEM)、高級(jí)威脅情報(bào)、云原生安全、數(shù)據(jù)安全、靶場(chǎng)、無(wú)人機(jī)等多個(gè)領(lǐng)域解決方案及實(shí)踐成果。

??葉曉虎博士對(duì)AI+安全和數(shù)據(jù)安全兩個(gè)方向的創(chuàng)新思路和進(jìn)展進(jìn)行了介紹。在AI賦能安全方向,公司利用多年安全數(shù)據(jù)積累發(fā)展安全大模型,結(jié)合AI小模型、安全知識(shí)圖譜等成果推出風(fēng)云衛(wèi)AI安全能力平臺(tái),賦能重構(gòu)安管平臺(tái),推出ISOP?+?AI方案,實(shí)現(xiàn)新一代智能安全運(yùn)營(yíng)平臺(tái)。風(fēng)云衛(wèi)在2024年網(wǎng)信辦AI賦能網(wǎng)絡(luò)安全應(yīng)用測(cè)試中取得了比較好的成績(jī)。同時(shí)在AI賦能安全對(duì)抗及AI賦能數(shù)據(jù)安全方面展開(kāi)研究取得了一定成果,在AI自身安全方面,推出AI風(fēng)險(xiǎn)評(píng)估系統(tǒng)。AI安全應(yīng)用目前還處在一個(gè)早期階段,我們下一步除了繼續(xù)深化已有應(yīng)用,還將在多智能體技術(shù)協(xié)同大小模型在未知威脅或高級(jí)威脅分析方面進(jìn)行研究,以及實(shí)現(xiàn)向自主值守SOC方向的演進(jìn)。在數(shù)據(jù)安全領(lǐng)域,為解決安全能力分散在不同的設(shè)備這一難題,綠盟科技融合相關(guān)數(shù)據(jù)安全原子能力,推出一體化數(shù)據(jù)安全網(wǎng)關(guān),助推運(yùn)營(yíng)管理效率提升。與此同時(shí),綠盟科技在機(jī)密計(jì)算領(lǐng)域不斷深耕,保障數(shù)據(jù)流動(dòng)可知、可管、可控、可見(jiàn)。

??*后回到安全運(yùn)營(yíng),葉曉虎博士介紹了融合各類(lèi)創(chuàng)新成果及安全能力成立的鷹眼安全運(yùn)營(yíng)中心,通過(guò)運(yùn)營(yíng)中心錘煉AI安全應(yīng)用,精準(zhǔn)服務(wù)相關(guān)客戶和用戶,不斷賦能產(chǎn)品方案,持續(xù)提升現(xiàn)場(chǎng)安全運(yùn)營(yíng)效率和效果。葉曉虎博士指出,安全運(yùn)營(yíng)是我們作為安全團(tuán)隊(duì)能夠?yàn)橛脩籼峁└邇r(jià)值的安全能力*為重要的途徑之一,也是我們作為安全公司、安全團(tuán)隊(duì)的目標(biāo)和應(yīng)盡的社會(huì)責(zé)任。

??綠盟科技集團(tuán)首席技術(shù)官?葉曉虎博士

??“工業(yè)數(shù)據(jù)安全永遠(yuǎn)在路上。”

??國(guó)家工業(yè)信息安全發(fā)展研究中心首席專(zhuān)家、數(shù)據(jù)安全所所長(zhǎng)李俊談到,數(shù)據(jù)作為數(shù)字經(jīng)濟(jì)時(shí)代的關(guān)鍵新興生產(chǎn)要素,保障數(shù)據(jù)安全已成為事關(guān)國(guó)家安全與經(jīng)濟(jì)社會(huì)發(fā)展的重大問(wèn)題。隨著新一代信息技術(shù)與制造業(yè)深度融合,工業(yè)企業(yè)數(shù)字化、網(wǎng)絡(luò)化、智能化加速推進(jìn),工業(yè)數(shù)據(jù)載體漏洞和后門(mén)、非受控運(yùn)維、數(shù)據(jù)暴露面等數(shù)據(jù)安全風(fēng)險(xiǎn)日益突出。在此形勢(shì)下,行業(yè)主管部門(mén)已構(gòu)建工信領(lǐng)域數(shù)據(jù)安全“1+5”政策體系,加快數(shù)據(jù)安全監(jiān)管技術(shù)能力建設(shè)與實(shí)踐落地,切實(shí)指導(dǎo)工業(yè)企業(yè)提升數(shù)據(jù)安全管理和防護(hù)水平。

??國(guó)家工業(yè)信息安全發(fā)展研究中心首席專(zhuān)家、數(shù)據(jù)安全所所長(zhǎng)李俊

??“大模型應(yīng)用場(chǎng)景出現(xiàn)了爆發(fā)式增長(zhǎng),大模型還沒(méi)有走到盡頭?!?/strong>

??北京智譜華章科技有限公司總裁王紹蘭在演講中談到,今年大模型有兩個(gè)重要的趨勢(shì),一是大模型生成技術(shù)已經(jīng)不再是單純的以語(yǔ)言文字為基礎(chǔ)的模型,在多模態(tài)上取得了長(zhǎng)足的進(jìn)步;二是伴隨產(chǎn)業(yè)和生產(chǎn)力賦能需求,大模型智能體邁入AI下半場(chǎng)。王紹蘭表示,發(fā)展與安全性并存的大模型,使得我們必須在注重安全問(wèn)題的同時(shí)也不能忽視大模型的能力拓展。隨后,王紹蘭從網(wǎng)絡(luò)安全、內(nèi)容安全、數(shù)據(jù)安全等角度分享大模型在產(chǎn)業(yè)中的賦能實(shí)踐。

??北京智譜華章科技有限公司總裁?王紹蘭

??“AI賦能安全能力:效率制勝?!?/strong>

??綠盟科技集團(tuán)首席創(chuàng)新官劉文懋博士以2024?RSA大會(huì)為切入點(diǎn),分享全球網(wǎng)絡(luò)安全創(chuàng)新技術(shù)進(jìn)展與應(yīng)用實(shí)踐。劉文懋博士表示,當(dāng)前,安全運(yùn)營(yíng)的時(shí)效性問(wèn)題已經(jīng)成為安全行業(yè)*大的困擾,安全行業(yè)需要以AI能力賦能安全運(yùn)營(yíng)以及其他人力密集型的工作,在這一背景下,效率成為AI賦能網(wǎng)絡(luò)安全行業(yè)的制勝之道。隨后,劉文懋博士對(duì)生成式AI賦能安全行業(yè)的適用場(chǎng)景予以說(shuō)明,并談到,隨著生成式人工智能的飛速發(fā)展,“云+AI”?智能融合正在引領(lǐng)新的未來(lái)。與此同時(shí),在AI風(fēng)險(xiǎn)已成為既定現(xiàn)實(shí)的當(dāng)下,人工智能的治理規(guī)則與風(fēng)險(xiǎn)管理亦不容忽視。

??綠盟科技集團(tuán)首席創(chuàng)新官?劉文懋博士

??賽迪研究院黨委書(shū)記劉文強(qiáng)應(yīng)邀與會(huì)。

??賽迪研究院黨委書(shū)記?劉文強(qiáng)

??本次大會(huì)主論壇由數(shù)世咨詢創(chuàng)始人李少鵬主持。

??數(shù)世咨詢創(chuàng)始人李少鵬

??02?數(shù)織未來(lái)AI同行?.

??成果發(fā)布?·?數(shù)據(jù)要素流通安全能力&大模型創(chuàng)新成果

??延續(xù)數(shù)智主題,緊跟國(guó)家數(shù)字經(jīng)濟(jì)戰(zhàn)略,綠盟科技以創(chuàng)新為基,持續(xù)精進(jìn)。大會(huì)主論壇創(chuàng)新成果發(fā)布環(huán)節(jié),在綠盟科技集團(tuán)副總裁宮智的見(jiàn)證下,多款數(shù)據(jù)要素流通安全能力與大模型創(chuàng)新成果同期發(fā)布。

??綠盟科技集團(tuán)副總裁?宮智

??在數(shù)據(jù)安全方面,綠盟科技正式發(fā)布數(shù)據(jù)要素流通安全能力,包括API風(fēng)險(xiǎn)監(jiān)測(cè)與審計(jì)系統(tǒng)(APISEC)、數(shù)據(jù)安全網(wǎng)關(guān)(DSG)、下一代電子文檔加密系統(tǒng)(CDG融合版)三款數(shù)據(jù)安全產(chǎn)品和實(shí)戰(zhàn)化防泄露解決方案、可信數(shù)據(jù)空間解決方案兩套方案,旨在持續(xù)為數(shù)據(jù)流通的各類(lèi)應(yīng)用場(chǎng)景提供高度可靠、安全的數(shù)據(jù)能力支持。

??在AI安全方面,綠盟科技圍繞“AI+安全運(yùn)營(yíng)”、?“AI+智能攻防”?、“AI+數(shù)據(jù)治理”以及?“AI自身安全”四個(gè)方向發(fā)布相關(guān)創(chuàng)新成果。

??“AI+安全運(yùn)營(yíng)”創(chuàng)新成果

??告警降噪率達(dá)?97%?以上,威脅響應(yīng)縮短至?30?分鐘,整體運(yùn)營(yíng)效率提升?70%?以上。

??“AI+智能攻防”創(chuàng)新成果

??實(shí)現(xiàn)百余種攻防工具智能調(diào)度,滲透評(píng)估效率大幅提升。

??“AI+數(shù)據(jù)治理”創(chuàng)新成果

??數(shù)據(jù)識(shí)別準(zhǔn)確率將大幅提升至?80%?以上,數(shù)據(jù)分類(lèi)分級(jí)模板生成時(shí)間減少?90%。

??“AI自身安全”創(chuàng)新成果

??全面覆蓋內(nèi)容與對(duì)抗安全風(fēng)險(xiǎn),超?120?種模型API適配,覆蓋?8?大類(lèi)?26種風(fēng)險(xiǎn)檢測(cè)。

??03?數(shù)智賦能.

??專(zhuān)題論壇?·?數(shù)智思維持續(xù)碰撞

??當(dāng)日下午,兩大專(zhuān)題論壇同期舉行。在“數(shù)·繪未來(lái)?-?第二屆數(shù)據(jù)安全主題論壇”專(zhuān)題論壇活動(dòng)中,綠盟科技集團(tuán)副總裁陳珂為論壇致辭,中國(guó)科學(xué)技術(shù)大學(xué)公共事務(wù)學(xué)院網(wǎng)絡(luò)空間安全學(xué)院教授&科技人文高等研究院副院長(zhǎng)左曉棟、中國(guó)聯(lián)通集團(tuán)數(shù)據(jù)安全專(zhuān)家孫藝、綠盟科技集團(tuán)數(shù)據(jù)安全BG總經(jīng)理劉進(jìn)、國(guó)泰君安證券股份有限公司數(shù)字供應(yīng)鏈安全負(fù)責(zé)人翁偉剛、京東方科技集團(tuán)安全架構(gòu)與規(guī)劃部部長(zhǎng)楊青、綠盟科技集團(tuán)解決方案銷(xiāo)售中心總經(jīng)理劉嘉奇等專(zhuān)家共話數(shù)字化發(fā)展,探索數(shù)據(jù)安全實(shí)踐路徑。綠盟科技集團(tuán)數(shù)據(jù)安全解決方案銷(xiāo)售部總監(jiān)施嶺主持論壇。

??與此同時(shí),在“智·啟時(shí)代?-?第二屆AI安全主題論壇”專(zhuān)題論壇上,綠盟科技集團(tuán)副總裁曹嘉致辭,中國(guó)信息通信研究院安全研究所數(shù)據(jù)安全研究部副主任張琳琳、綠盟科技集團(tuán)天樞實(shí)驗(yàn)室負(fù)責(zé)人顧杜娟、IDC中國(guó)研究總監(jiān)王軍民、百度在線網(wǎng)絡(luò)技術(shù)(北京)有限公司大模型內(nèi)容安全產(chǎn)品負(fù)責(zé)人李志偉、綠盟科技集團(tuán)天元實(shí)驗(yàn)室負(fù)責(zé)人李文瑾、北京大學(xué)人工智能研究院研究員(博雅學(xué)者)&人工智能安全與治理中心執(zhí)行主任楊耀東等專(zhuān)家一同探討AI之下,網(wǎng)絡(luò)安全背后的技術(shù)與生態(tài)。綠盟科技集團(tuán)首席創(chuàng)新官劉文懋主持論壇。

??“求木之長(zhǎng)者,必固其根本,欲流之遠(yuǎn)者,必浚其泉源”。技術(shù)的種子向下扎根,十二年耕耘,綠盟科技TechWorld?智慧安全大會(huì)的技術(shù)成果不斷向上生長(zhǎng)。未來(lái),綠盟科技將始終以“技術(shù)”?“創(chuàng)新”關(guān)鍵詞植根價(jià)值追求,提升發(fā)展質(zhì)效,持續(xù)匯聚網(wǎng)絡(luò)安全高質(zhì)量發(fā)展的新動(dòng)能。