圖:詢問ChatGPT如何生成釣魚郵件后的自動回復

“對于初級黑客來說,ChatGPT的確可以提升攻擊水平,尤其是ChatGPT大幅提升了獲取信息和加以應用的效率,降低了攻擊門檻;但對于高級黑客,要提升攻擊水平,更多需要自身的專研與積累,ChatGPT只能起到輔助的作用”,瑞數信息專家表示。

當然,ChatGPT作為一把技術“雙刃劍”,同樣可以被應用于網絡安全防護領域。對此,ChatGPT也提供了15種可能的應用方向:

瑞數信息專家表示,以上這些場景在技術上都是有可能實現的,但是通過ChatGPT對話直接生成的代碼或建議,不做任何修改和測試,是無法直接應用在生產環(huán)境中的。如果要用到真實生產環(huán)境中,還是需要針對安全領域做更精準的訓練,才能更有效的應用這類AI新技術。

利用AI技術的安全攻防態(tài)勢

ChatGPT的爆火將AI技術從幕后推到了臺前,但實際上網絡安全領域對于AI的研究早已開啟。

在2017年美國黑帽子大會上,數百名網絡安全專家投票預測,未來幾年黑客是否會利用AI技術從事犯罪活動,有62%人表示肯定。

由于AI自動化和智能化的能力,讓黑客可以加速攻擊速度,在同等時間內攻擊盡可能多的目標用戶,同時降低自身的風險,因此近年來利用AI技術實施網絡攻擊的事件快速增長。

“黑客其實早已大量利用AI技術和云服務來構建黑色產業(yè)鏈”,瑞數信息專家表示,“比如黑客會利用AI技術識別驗證碼或模擬人的操作行為,繞過網站的安全防護”。

例如,在一些網站的登錄驗證中,無論是滑動按鈕還是填寫驗證碼,黑客都可以利用AI模仿真人操作,順利通過驗證。

“據我們觀察,AI繞過的準確率甚至可以高達100%。識別率越高,黑產的收費也越高,所以黑客會不遺余力地去提升AI攻擊的準確率和效率”,瑞數信息專家表示。

盡管黑客已經開始把AI當做武器來使用了,但安全廠商也同樣在快速跟進AI的發(fā)展。

以瑞數信息為例,早在2017年就開啟了AI技術在安全領域的研究。隨著網絡攻擊手段、方法的更新變化越來越快,攻擊特征越來越隱蔽,瑞數信息在獨創(chuàng)的“動態(tài)安全”技術基礎上加入AI技術,顛覆了傳統(tǒng)安全基于特征和規(guī)則的方式防護的思路,引領著安全防護由靜態(tài)走向動態(tài)、由被動走向主動。

基于瑞數信息“動態(tài)安全+AI”技術,企業(yè)可以筑起多道安全防線:

第一道防線,通過動態(tài)安全技術,靈活運用Web代碼混淆、JS混淆、前端反調試、Cookie混淆、中間人檢測等多種動態(tài)干擾功能,對攻擊者實施動態(tài)干擾;

第二道防線,通過疊加AI技術,對模擬真人等高度隱蔽性的異常訪問行為進行實時分析,實現更加精準的人機識別,識別各類已知與未知的攻擊。

基于這兩大瑞數創(chuàng)新技術,企業(yè)能夠在Bots自動化攻擊、0day攻擊、DDoS攻擊、API攻擊等多重攻擊場景中實現一體化防御。

近年來,瑞數信息在AI技術研發(fā)上仍在不斷精進,主要包括三個方向:

2022年初,在工信部、網信辦及公安部等單位主辦的“第三屆中國人工智能大賽”中,瑞數信息在Webshell檢測識別方向的比賽中以最高分榮獲A級證書,足見其雄厚的AI實力。

AI或成網絡安全的未來

毫無疑問,AI已經成為網絡攻防戰(zhàn)的新一代武器,任何一方都沒有選擇的余地,必須拿起AI來武裝自己。隨著ChatGPT的普及,AI技術會加速網絡安全領域的變革嗎?

瑞數信息專家認為,短期內還是AI與現有安全技術共存的態(tài)勢,但是長期來看,AI極有可能對現有的安全技術形成顛覆,讓安全廠商的競爭態(tài)勢重新洗牌。

“目前各家安全廠商都還在AI訓練與調優(yōu)模型的階段,市場上還是以大量的傳統(tǒng)安全技術為主。隨著算力提高、數據量變大、成本降低,AI技術會有一個量變到質變的過程,到那時候AI會替代傳統(tǒng)安全技術,替代人力工作”,瑞數專家表示。

在他看來,ChatGPT的出現,讓業(yè)界看到了GPT這類大模型的巨大潛力,其優(yōu)勢不容小覷:

第一,有了這類AI技術的加入,網絡安全防護可能變得更智能、反應更快,可以防護以前注意不到或防不住的攻擊行為,同時也可以通過AIGC(生成式AI)技術自動生成防護規(guī)則,大幅縮短攻擊響應時間。

正因如此,瑞數信息專家認為,ChatGPT底層的GPT模型或其他類似的模型,會被廣泛應用在網絡安全領域。

但值得注意的是,ChatGPT并不適合作為AI基礎模型直接應用于網絡安全領域進行精調。瑞數專家指出,一方面是因為ChatGPT超大規(guī)模模型導致訓練和運營成本高昂,即便作為API開放服務也沒有多少企業(yè)能夠承受;另一方面,安全領域有數據敏感、安全保密等特殊性,企業(yè)不太可能基于ChatGPT提供安全類數據去訓練模型。

因此,對于網絡安全行業(yè)應該有專屬的SecurityGPT,可基于GPT模型對網絡安全領域知識進行訓練,在降低模型規(guī)模的同時保持AI在安全領域的表現,尋找技術和成本之間的平衡點。

據了解,在ChatGPT還沒火之前,瑞數信息就已經在研究GPT模型了,目前相關技術正在實驗室研發(fā)中。未來,瑞數信息計劃將GPT接口開放給第三方調用,與各界伙伴共建AI在安全領域應用的生態(tài)圈。

結語

ChatGPT的出現,使得網絡安全攻擊變得更容易,給企業(yè)帶來了極大的風險。如今,在網絡安全攻防對抗模式不斷升級的趨勢下,以AI對抗AI必將是未來的發(fā)展方向。瑞數信息作為網絡安全領域創(chuàng)新廠商也將持續(xù)提升AI技術,為企業(yè)用戶搭建面向智能時代的新一代主動防御安全體系。

分享到

zhupb

相關推薦