與會的聯合國科學和技術促進發(fā)展委員會執(zhí)行主席、世界數字技術院創(chuàng)始理事長Peter Major表示，隨著人工智能不斷發(fā)展并影響全球各個行業(yè)，人工智能相關標準的國際合作變得越來越重要。制定全球公認的人工智能國際標準，有助于培養(yǎng)對人工智能的信任、促進創(chuàng)新，并確保人工智能系統(tǒng)在不同行業(yè)和地區(qū)可靠運行。
針對此次發(fā)布的標準，云安全聯盟（CSA）大中華區(qū)主席李雨航表示大模型系統(tǒng)的運行依賴于分布在全球相互聯系的供應鏈生態(tài)系統(tǒng)。全球人工智能大模型的廣泛應用帶來了前所未有的機遇，同時也暴露出供應鏈安全的巨大挑戰(zhàn)。WDTA發(fā)布該標準為大模型的全生命周期安全提供了系統(tǒng)性管理框架，解決了供應鏈中的安全挑戰(zhàn)，支持全球人工智能技術的安全和可持續(xù)發(fā)展，提升了行業(yè)的整體可信度。
信息顯示，《大模型供應鏈安全要求》是WDTA人工智能安全、可信、負責任（AI STR）系列標準之一。該標準給出了大語言模型的供應鏈安全保護框架，從數據準備、大模型開發(fā)到部署運維各個環(huán)節(jié)涉及的供應鏈相關安全風險和供應活動管理給出了要求，并給出了常見的供應鏈安全風險、典型安全案例等相關信息。通過這一標準，可有效識別和評估大模型系統(tǒng)生命周期中面臨的供應鏈潛在安全風險，如數據泄露、模型篡改及供應商不合規(guī)等問題，確保供應鏈的完整性、可用性、保密性，從而提升大模型系統(tǒng)的安全性。
據了解，這一標準不僅為大模型供應鏈中的供需雙方提供了系統(tǒng)性的安全管理框架，也為第三方機構和權威部門的安全審查和合規(guī)管理提供了可靠依據，進一步增強了大模型系統(tǒng)的整體安全可信發(fā)展。
世界數字技術院（WDTA）成立于2023年4月，是在日內瓦注冊的國際非政府組織。該組織致力于在全球范圍內推進數字技術，促進國際合作。AI STR計劃是WDTA的核心倡議，旨在確保人工智能系統(tǒng)的安全性、可信性和責任性，微軟、谷歌、Anthropic、螞蟻集團、百度等均為其成員單位。今年4月聯合國科技大會上，WDTA發(fā)布了由OpenAI、螞蟻集團、科大訊飛、谷歌等數十家單位參編的兩項大模型安全國際標準，均為AI STR系列標準。
在全球人工智能發(fā)展和治理廣受關注的今天，如何平衡AI的發(fā)展與安全，已成為國際社會面臨的共同話題。我國也在積極推動人工智能治理體系優(yōu)化完善，推出了《全球人工智能治理倡議》《國家新一代人工智能標準體系建設指南》等一系列政策。本次論壇上，與會嘉賓各自分享了觀點與展望，致力推動形成全球人工智能安全治理共識和創(chuàng)新合作。
全國網絡安全標準化技術委員會委員/WG7副組長閔京華表示，AI治理的根本目的在于保障AI的價值實現與風險的平衡。實現這一目的，從政策法規(guī)、技術標準到安全產品及服務等各個層面都需要行業(yè)共同努力協(xié)作。技術標準作為其中不可或缺的環(huán)節(jié)，凝聚了不同組織的專家共識，可確保人工智能系統(tǒng)是安全、可信賴和對所有人都有益的。
AI安全也是科技企業(yè)需解決的重要社會責任議題。螞蟻集團機器智能部總經理、安全實驗室首席科學家王維強表示，螞蟻集團長期關注AI安全，一方面積極參與技術標準規(guī)范建設，另一方面在研發(fā)大模型技術中時刻關注風險評估結果，實施并提升大模型的安全性、可靠性、可控性技術。螞蟻集團是較早布局可信AI技術的科技企業(yè)之一，其自主研發(fā)的大模型安全一體化解決方案“蟻天鑒”，相關檢測和防御產品已開放給20余家外部機構和企業(yè)使用。
除了標準發(fā)布，論壇現場宣布了國內首個大模型攻防主題的科技賽事—“全球AI攻防挑戰(zhàn)賽”正式啟動。該賽事聚焦AI大模型產業(yè)實踐，設計了“攻擊”與“防守”雙向賽道，邀請各路技術人才進行大模型自身安全和大模型生成內容的防偽檢測及大模型濫用風險檢測競賽，角逐百萬元科技獎金。
據了解，這一賽事由中國圖象圖形學會、螞蟻集團、云安全聯盟（CSA）大中華區(qū)聯合主辦，廣泛聯合清華大學、上海交通大學、浙江大學等C9高校及多家產學研組織共同發(fā)起，上海人工智能實驗室作為技術合作單位，旨在凝聚學界、行業(yè)力量，直面并解決大模型應用中潛藏的風險，助力全球AI產業(yè)健康可持續(xù)發(fā)展。
最后，本次論壇還發(fā)布了《AI可信度分析》報告。該報告由云安全聯盟（CSA）大中華區(qū)發(fā)布，其成員單位中國電信、西安電子科技大學、廣州大學、螞蟻集團、百度及天翼云等共同編制，不僅深入剖析了人工智能技術在實際應用中的可信性問題，從可靠性、安全性、透明性和公平性等關鍵維度，對當前AI技術的優(yōu)勢與挑戰(zhàn)進行了全面評估，并提出了AI系統(tǒng)可信度的策略，涵蓋技術措施、政策建議及行業(yè)最佳實踐。
