“科技倫理治理委員會要做技術(shù)創(chuàng)新的守門人,以人為本,以社會價值為導(dǎo)向,以倫理道德為邊界,構(gòu)建科技企業(yè)社會責(zé)任?!卑⒗锇桶褪紫夹g(shù)官、阿里集團科技倫理治理委員會主席程立表示,數(shù)字經(jīng)濟時代的科技企業(yè)需要謹慎對待自身技術(shù)能力及影響力,對科技創(chuàng)新的邊界時刻保持警醒。程立說,阿里巴巴成立科技倫理治理委員會,旨在讓每一位阿里技術(shù)人踐行“好科技”的目標,推動公司治理體系升級,促進ESG戰(zhàn)略落地。
委員會主要職責(zé)是建立并持續(xù)完善阿里巴巴科技倫理治理體系,包括核心準則、倫理規(guī)范、審查評估機制等。委員會還將積極推廣負責(zé)任的創(chuàng)新案例,提升技術(shù)人員的倫理意識,促進阿里的技術(shù)在可用、可靠、可信、可控的體系中可持續(xù)發(fā)展。
在治理方法上,委員會將按照分類分級管理、個案專家研判、類案參照治理、不斷校驗迭代的方式,讓更多參與者加入到科技倫理治理中,及時識別風(fēng)險、進行有效管控,在實踐中優(yōu)化治理,以適應(yīng)技術(shù)發(fā)展與外部環(huán)境變化。
在行動上,委員會重點著手風(fēng)險能力建設(shè)和技術(shù)能力建設(shè)。風(fēng)險能力建設(shè),包括建設(shè)算法評估、風(fēng)險檢測、干預(yù)機制的全生命周期風(fēng)險管理流程,以及技術(shù)安全性、魯棒性、公平性、可解釋與可干預(yù)性等科技倫理審查和治理工具。技術(shù)能力建設(shè),包括增加在隱私保護、安全可靠、可信可控等關(guān)鍵方向前沿技術(shù)的布局和探索。
據(jù)介紹,阿里已經(jīng)圍繞用戶隱私保護、算法治理等重點議題展開具體行動。根據(jù)《個人信息保護法》的要求,阿里在集團各業(yè)務(wù)組織設(shè)置了專門的個人信息保護負責(zé)人,全面貫徹落實“數(shù)據(jù)采集最小必要原則”、“用戶知情和決定權(quán)最大化”,以及“全方位安全保障能力最強化”三個方向,來規(guī)范全生命周期中的隱私保護和數(shù)據(jù)安全。比如,今年淘寶推出“隱私號碼保護”服務(wù),針對開通服務(wù)的用戶,在交易過程中,淘寶將全程對消費者的真實手機號碼予以隱藏,商家、物流服務(wù)商均通過“虛擬號”聯(lián)系消費者,最大限度保障個人隱私不被泄露。
算法治理方面,阿里積極響應(yīng)《互聯(lián)網(wǎng)信息服務(wù)推薦管理規(guī)定》,制定了一系列管理規(guī)范,著重推動算法公平和透明。以商品搜索算法為例,強調(diào)加入打散設(shè)計,以提升搜索結(jié)果的多樣性;加強對新商家的扶持,以營造更公平的電商環(huán)境。重要算法上線或更新前,都將進行內(nèi)部評估,確定合規(guī)且符合倫理才能上線。
阿里巴巴集團科技倫理治理委員會由阿里巴巴集團首席技術(shù)官程立領(lǐng)導(dǎo),其核心成員分別來自阿里研究院、達摩院、法務(wù)合規(guī)、阿里人工智能治理與可持續(xù)發(fā)展研究中心以及相關(guān)業(yè)務(wù)板塊,下設(shè)多個具體工作小組。同時,委員會還引入了外部視角和監(jiān)督,聘請七位來自科技、法律、公共管理、哲學(xué)等領(lǐng)域的專家組成獨立的顧問委員會,為規(guī)則制定和倫理審查提供咨詢建議,采取多元協(xié)同治理機制,實現(xiàn)自律和他律的結(jié)合。
“我們希望與越來越多的學(xué)界、業(yè)界參與者們一起,積極推進科技倫理治理。通過多方協(xié)同合作,打造負責(zé)任、可持續(xù)的科技,建立敏捷和開放的治理機制,探索企業(yè)自律、行業(yè)共治與監(jiān)管規(guī)范相結(jié)合的解決方案?!背塘⒈硎?。
會上,阿里巴巴還聯(lián)合中國信通院共同發(fā)布《人工智能治理與可持續(xù)發(fā)展實踐白皮書》,針對當(dāng)前人工智能應(yīng)用中的熱點問題,從數(shù)據(jù)、技術(shù)、管理及協(xié)同治理等方面,系統(tǒng)性地介紹了阿里在數(shù)據(jù)安全和隱私保護、消費者權(quán)益和公平、未成年人保護等重要方向的行動實踐。