為應(yīng)對(duì)AI偽造技術(shù)帶來的新型安全挑戰(zhàn)，近日，全球人工智能頂會(huì)IJCAI 2025“深度偽造檢測(cè)、定位、可解釋性”學(xué)術(shù)研討會(huì)暨挑戰(zhàn)賽”正式啟動(dòng)報(bào)名。研討會(huì)將匯聚全球頂尖學(xué)者及產(chǎn)業(yè)人士，共同攻克多模態(tài)偽造、弱監(jiān)督偽造定位、偽造可解釋性、生成式AI對(duì)抗與防御等核心技術(shù)挑戰(zhàn)，同時(shí)，挑戰(zhàn)賽還提供超180萬數(shù)據(jù)集，針對(duì)AI欺詐風(fēng)險(xiǎn)進(jìn)行攻防實(shí)戰(zhàn)演練，助力AI安全研究。

研討會(huì)與挑戰(zhàn)賽由螞蟻數(shù)科主辦，新加坡科技研究局人工智能前沿研究中心，南洋理工大學(xué)，清華大學(xué)，中科院自動(dòng)化所，合肥工業(yè)大學(xué)，安徽省數(shù)字安全重點(diǎn)實(shí)驗(yàn)室，羅切斯特大學(xué)，布法羅大學(xué)，坎皮納斯大學(xué)等多家機(jī)構(gòu)聯(lián)合舉辦。

挑戰(zhàn)賽分設(shè)圖片賽道和音視頻賽道，通過“以賽促防”的方式，彌補(bǔ)現(xiàn)有檢測(cè)算法在精準(zhǔn)定位偽造區(qū)域與多模態(tài)音視頻協(xié)同偽造識(shí)別方面的不足，提升AI時(shí)代內(nèi)容安全水位。值得一提的是，面向挑戰(zhàn)賽，螞蟻數(shù)科開放了超過180萬偽造樣本的多模態(tài)深度偽造數(shù)據(jù)集，共涵蓋88種偽造技術(shù)，推動(dòng)建立可驗(yàn)證、可追溯的生成式AI內(nèi)容安全分析體系。

選手需訓(xùn)練AI模型，給出數(shù)據(jù)偽造概率值以及偽造區(qū)域/片段，準(zhǔn)確率TOP3戰(zhàn)隊(duì)將獲得賽事組委會(huì)頒發(fā)的證書及獎(jiǎng)金。目前賽事報(bào)名已正式啟動(dòng)，將于5月19日完成比賽，5月26日完成技術(shù)報(bào)告提交。選手提交的技術(shù)方案報(bào)告，賽事組委會(huì)將結(jié)合方案創(chuàng)新性、泛化性、實(shí)用性、可解釋性等多維度評(píng)選接收至研討會(huì)，優(yōu)秀團(tuán)隊(duì)將受邀參加研討會(huì)并作學(xué)術(shù)報(bào)告。選手可前往研討會(huì)官網(wǎng)查看賽事日程及研討會(huì)詳細(xì)話題https://deepfake-workshop-ijcai2025.github.io/main/index.html

公開信息顯示，螞蟻數(shù)科長(zhǎng)期關(guān)注并持續(xù)投入AI安全及風(fēng)險(xiǎn)防范，推動(dòng)AI時(shí)代的安全水位不斷提升。去年4月份，螞蟻數(shù)科發(fā)布了反深偽產(chǎn)品ZOLOZ Deeper，以防范用戶刷臉認(rèn)證場(chǎng)景中的“AI換臉”風(fēng)險(xiǎn)。螞蟻數(shù)科還加入新加坡人工智能倫理與治理倡議（AI E&G BoK），與行業(yè)機(jī)構(gòu)共建健康、穩(wěn)健、合乎道德的人工智能生態(tài)。

xiesc