可信AI發(fā)展依賴人才體系建設

在人工智能被廣泛應用的今天，其安全和可信性引發(fā)了社會各界的關注，已經成為制約下一階段人工智能技術快速發(fā)展的瓶頸所在。早在2017年，國務院在《新一代人工智能發(fā)展規(guī)劃》中，就將人工智能的安全可信性研究、評估和有效管理作為重點提及。

如何破解人工智能在數據使用、流轉過程中的安全性問題？如何增強AI模型的抗打擊能力、穩(wěn)定性？如何破解AI決策過程的“黑盒”，增加人們對于決策結果的信賴度？如何防范因為數據、算法問題造成不公平性？可信AI技術研究，涉及人工智能中包括多方安全計算、智能對抗等多個細分技術域，并且對于技術的綜合性應用提出了更高的要求。

課程負責人、西安交通大學網安學院副院長沈超在采訪中指出，“真實工業(yè)場景中的問題往往是多面和交錯的，而高校傳統(tǒng)的學科教育則更側重于某一技術域的體系性和完整性。學生需要真實的場景案例，來幫助建立分析、解決綜合性問題的能力。”同時，課程的聯(lián)合負責人西安交通大學藺琛皓研究員也強調“可信AI的發(fā)展依賴于技術探索，而技術探索則來自于技術人才的培養(yǎng)。”

“及早建立對可信AI的關注和認知，將有助于推動高校參與可信AI技術研究，同時也能為產業(yè)培養(yǎng)更加‘接地氣’的綜合性人才”，本次課程講師、螞蟻安全天筭實驗室內容算法總監(jiān)祝慧佳表示。

產學合作培養(yǎng) 可信AI走入高校

公開資料顯示，自2015年起投入可信AI相關技術研究，螞蟻集團在智能風控、隱私保護、智能搜索等多樣化的數字服務場景中摸索建立了一整套“可信AI”技術理論及應用體系，在探索技術實踐的同時，積極參與和推動各類安全可信標準建設。

國際專利權威機構IPR daily在今年6月發(fā)布的《人工智能安全可信關鍵技術專利報告》中指出，螞蟻集團旗下的支付寶在該領域專利申請及授權數上均位列全球第一；其基于可信AI技術研發(fā)的反欺詐模型，也成為業(yè)內首個通過國家金融科技測評中心測評的人工智能算法金融應用，在安全性、性能、可解釋性等方面均以高標準通過。

其實不僅螞蟻，各家互聯(lián)網大廠和研究機構，也在積極投入可信AI相關技術領域的討論和研究。

2020年，商湯率先成立了人工治理倫理委員會，從算法、數據以及社會影響三個方面旗下產品線進行倫理審核。2021年，中國信通院與京東探索研究院聯(lián)合發(fā)布《可信人工智能白皮書》，對可信AI技術及行業(yè)發(fā)展提出建議。同年10月，哥倫比亞大學數據科學研究院主任周以真在權威期刊《ACM通訊》上發(fā)表文章《可信人工智能》，介紹「可信AI」的定義與研究意義。

作為學界和工業(yè)界研究的熱點問題，此次可信AI的前沿技術理論和實踐案例走入高校，既是響應國家“產學合作人才培養(yǎng)”的號召、促進人才培養(yǎng)與產業(yè)接軌，也為可信AI技術領域的多維發(fā)展做出了先行示范作用。

xiesc