可信AI發(fā)展依賴人才體系建設(shè)

在人工智能被廣泛應(yīng)用的今天，其安全和可信性引發(fā)了社會各界的關(guān)注，已經(jīng)成為制約下一階段人工智能技術(shù)快速發(fā)展的瓶頸所在。早在2017年，國務(wù)院在《新一代人工智能發(fā)展規(guī)劃》中，就將人工智能的安全可信性研究、評估和有效管理作為重點提及。

如何破解人工智能在數(shù)據(jù)使用、流轉(zhuǎn)過程中的安全性問題？如何增強AI模型的抗打擊能力、穩(wěn)定性？如何破解AI決策過程的“黑盒”，增加人們對于決策結(jié)果的信賴度？如何防范因為數(shù)據(jù)、算法問題造成不公平性？可信AI技術(shù)研究，涉及人工智能中包括多方安全計算、智能對抗等多個細分技術(shù)域，并且對于技術(shù)的綜合性應(yīng)用提出了更高的要求。

課程負責(zé)人、西安交通大學(xué)網(wǎng)安學(xué)院副院長沈超在采訪中指出，“真實工業(yè)場景中的問題往往是多面和交錯的，而高校傳統(tǒng)的學(xué)科教育則更側(cè)重于某一技術(shù)域的體系性和完整性。學(xué)生需要真實的場景案例，來幫助建立分析、解決綜合性問題的能力?！蓖瑫r，課程的聯(lián)合負責(zé)人西安交通大學(xué)藺琛皓研究員也強調(diào)“可信AI的發(fā)展依賴于技術(shù)探索，而技術(shù)探索則來自于技術(shù)人才的培養(yǎng)?！?

“及早建立對可信AI的關(guān)注和認知，將有助于推動高校參與可信AI技術(shù)研究，同時也能為產(chǎn)業(yè)培養(yǎng)更加‘接地氣’的綜合性人才”，本次課程講師、螞蟻安全天筭實驗室內(nèi)容算法總監(jiān)?；奂驯硎尽?/p>

產(chǎn)學(xué)合作培養(yǎng) 可信AI走入高校

公開資料顯示，自2015年起投入可信AI相關(guān)技術(shù)研究，螞蟻集團在智能風(fēng)控、隱私保護、智能搜索等多樣化的數(shù)字服務(wù)場景中摸索建立了一整套“可信AI”技術(shù)理論及應(yīng)用體系，在探索技術(shù)實踐的同時，積極參與和推動各類安全可信標(biāo)準建設(shè)。

國際專利權(quán)威機構(gòu)IPR daily在今年6月發(fā)布的《人工智能安全可信關(guān)鍵技術(shù)專利報告》中指出，螞蟻集團旗下的支付寶在該領(lǐng)域?qū)＠暾埣笆跈?quán)數(shù)上均位列全球第一；其基于可信AI技術(shù)研發(fā)的反欺詐模型，也成為業(yè)內(nèi)首個通過國家金融科技測評中心測評的人工智能算法金融應(yīng)用，在安全性、性能、可解釋性等方面均以高標(biāo)準通過。

其實不僅螞蟻，各家互聯(lián)網(wǎng)大廠和研究機構(gòu)，也在積極投入可信AI相關(guān)技術(shù)領(lǐng)域的討論和研究。

2020年，商湯率先成立了人工治理倫理委員會，從算法、數(shù)據(jù)以及社會影響三個方面旗下產(chǎn)品線進行倫理審核。2021年，中國信通院與京東探索研究院聯(lián)合發(fā)布《可信人工智能白皮書》，對可信AI技術(shù)及行業(yè)發(fā)展提出建議。同年10月，哥倫比亞大學(xué)數(shù)據(jù)科學(xué)研究院主任周以真在權(quán)威期刊《ACM通訊》上發(fā)表文章《可信人工智能》，介紹「可信AI」的定義與研究意義。

作為學(xué)界和工業(yè)界研究的熱點問題，此次可信AI的前沿技術(shù)理論和實踐案例走入高校，既是響應(yīng)國家“產(chǎn)學(xué)合作人才培養(yǎng)”的號召、促進人才培養(yǎng)與產(chǎn)業(yè)接軌，也為可信AI技術(shù)領(lǐng)域的多維發(fā)展做出了先行示范作用。

xiesc