網(wǎng)絡(luò)犯罪分子正在使用更為先進的技術(shù)手段，如網(wǎng)絡(luò)釣魚、勒索軟件和社會工程等，這使得數(shù)據(jù)泄露事件頻發(fā)。Jumio亞太區(qū)總監(jiān)丁娜娜提到：“僅在2024年第二季度，暗網(wǎng)上提供新加坡人身份數(shù)據(jù)的賣家數(shù)量就比去年同期增長了230%。”

Jumio發(fā)布的2024在線身份研究報告顯示，消費者對于生成式AI和深度偽造相關(guān)風險表現(xiàn)出極大的擔憂。調(diào)查結(jié)果顯示，近四分之三的消費者（72%）每天都擔心被深度偽造欺騙，從而泄露敏感信息或被騙金錢。特別是在金融行業(yè)中，高達67%的消費者懷疑他們的銀行是否有能力打擊深度偽造欺詐行為。

生成式AI與深度偽造的影響

生成式AI技術(shù)的快速發(fā)展不僅極大地提高了工作效率，也為欺詐和虛假信息的傳播創(chuàng)造了新的可能性。例如，利用生成式AI工具，欺詐者可以輕松地撰寫出精準專業(yè)的電子郵件，這增加了辨別真?zhèn)蔚碾y度。

丁娜娜指出：“機器人現(xiàn)在能夠在社交媒體上開設(shè)賬戶，并使用生成式AI撰寫看似有靠譜來源的帖子，用戶將很難區(qū)分真實信息和虛假信息。”

隨著AI技術(shù)的進步，遠程建立數(shù)字身份的信任變得越來越具有挑戰(zhàn)性。深度偽造技術(shù)可以創(chuàng)造出非常逼真但完全虛構(gòu)的視頻或圖像，進一步加劇了這個問題。

近期的一個案例是在新加坡，一名社交平臺用戶收到了一張看似是他本人的不雅照片，并遭到勒索，但實際上這張照片是通過深度偽造技術(shù)制作的。

除了面向消費者，金融行業(yè)也面臨諸多風險，新技術(shù)也同時催生了更多更難以識別、追蹤和打擊的金融欺詐案。真實案例顯示，有黑客正在利用竊取的面部識別數(shù)據(jù)瞄準亞洲銀行賬戶。

在泰國，黑客假扮政府機構(gòu)人員，用戶被提示下載一個 “數(shù)字養(yǎng)老金 ”應用程序，為了設(shè)置這樣的應用程序，受害者會被要求錄制一段用于面部識別的視頻，黑客之后會將其作為原材料制作深偽視頻實施詐騙。已知一名越南公民在一個類似的騙局中損失了4萬美元。

由此可以看到，數(shù)字世界中的每個人，無論是企業(yè)還是個人，面對網(wǎng)絡(luò)欺詐基本上無國界之分，都必須掌握應對網(wǎng)絡(luò)攻擊的知識和技能。對于AI技術(shù)帶來的新威脅，企業(yè)必須對可能危及其運營、安全和聲譽的各種風險保持高度警惕。企業(yè)也因此需要部署實施強大的技術(shù)方案，針對這些威脅建立更強大的防御機制，并最終領(lǐng)先網(wǎng)絡(luò)犯罪分子一步。

Jumio如何應對生成式AI帶來的信任危機

盡管利用深度神經(jīng)網(wǎng)絡(luò)、反深偽檢測等技術(shù)能夠?qū)π滦推墼p行為進行有效抵御，但由于黑客技術(shù)也在快速迭代，使得這種對抗變成了一個長期的“貓鼠游戲”，此時，在數(shù)字經(jīng)濟時代建立一種成熟的信任機制就變得非常關(guān)鍵。

對于AI技術(shù)帶來的新威脅，企業(yè)必須對可能危及其運營、安全和聲譽的各種風險保持高度警惕。企業(yè)也因此需要部署實施強大的技術(shù)方案，針對這些威脅建立更強大的防御機制，并最終領(lǐng)先網(wǎng)絡(luò)犯罪分子一步。

面對生成式AI帶來的欺詐風險，Jumio正在采取積極措施，利用AI來對抗AI驅(qū)動的欺詐。“我們必須保持領(lǐng)先于欺詐技術(shù)。事實上，越來越多的企業(yè)正在利用基于AI的生物識別和活體檢測技術(shù)來加固其欺詐預防系統(tǒng)?！倍∧饶冉忉尩?，“Jumio數(shù)字身份調(diào)查顯示，由于生成式AI的興起和深偽圖像的出現(xiàn)，54%的全球受訪者認為面部識別技術(shù)在身份驗證方面將發(fā)揮更大的價值?！?/p>

為了防止深度偽造，Jumio采用了先進的AI和機器學習模型，這些模型經(jīng)過各種真實世界數(shù)據(jù)的訓練。通過活體檢測技術(shù)，Jumio能夠發(fā)現(xiàn)復雜的攻擊，包括人臉交換、人臉變形和其他高級的欺騙攻擊。

欺詐者通常會以多個組織或消費者群體而非單一組織或個體為目標。Jumio推出了一種新的欺詐分析技術(shù)，該技術(shù)利用AI驅(qū)動的預測分析來識別跨企業(yè)網(wǎng)絡(luò)的欺詐模式，并在用戶通過身份驗證流程時準確預測發(fā)生欺詐的可能性。

此外，Jumio還在注冊過程中加入被動風險信號，如驗證用戶的個人身份信息、評估電子郵件和電話號碼的信用級別等，以提供更多一層保障。

Jumio的身份驗證流程簡潔高效，用戶只需拍攝身份證照片和自拍，即可在幾秒鐘內(nèi)完成身份驗證。當用戶上傳的照片不符合要求時，系統(tǒng)會提示用戶重新提交，從而降低因多次嘗試失敗而放棄的比率。

Jumio能夠基于面部的生物識別技術(shù)將自拍照中的特定面部特征（如眼睛、鼻子和耳朵的間距）與身份證件照片中的面部特征進行比較，來判斷兩者是否為一個人。通過活體檢測技術(shù)，還可以發(fā)現(xiàn)復雜的攻擊，包括人臉交換、人臉變形和其他高級的欺騙攻擊。

此外，Jumio采用了主動光源、視頻注入檢測以及眼部和面部運動分析等技術(shù)來阻止攻擊，并確認當前用戶及其身份證件確實存在。

在加強身份欺詐防范方面，Jumio會采用各種AI驅(qū)動的方法對身份證件進行欺詐檢查，確保數(shù)據(jù)和照片沒有被篡改，包括采用基于面部的生物識別技術(shù)和先進的活體檢測技術(shù)來檢測復雜的欺騙攻擊，如人臉互換和人臉變形。整個過程非常簡單，只需拍一張身份證照片，然后自拍，即可在幾秒鐘內(nèi)實現(xiàn)身份驗證。用戶旅程簡便、快速，能夠讓合法使用者快速登錄，同時將欺詐者拒之門外。

結(jié)語

隨著生成式人工智能技術(shù)的進步，深度偽造的發(fā)生頻率持續(xù)上升，這表明我們檢測這些欺騙行為的整體能力還存在巨大差距。這種持續(xù)的過度自信更反映出加強公共教育和使用更有效的技術(shù)解決方案的必要性。企業(yè)和消費者必須合作強化數(shù)字安全措施，以有效防止身份欺詐。

Jumio通過整合的端對端身份驗證和eKYC平臺，提供了一系列身份驗證服務，從賬戶開立到持續(xù)監(jiān)控，確保在線用戶的真實身份，保護企業(yè)的生態(tài)系統(tǒng)，并且可以滿足KYC/AML要求。

Jumio利用自動化、生物識別、人工智能/機器學習、活體檢測和無代碼編排等強大技術(shù)，結(jié)合數(shù)百個數(shù)據(jù)源，幫助企業(yè)有效打擊欺詐行為和金融犯罪，確保真實客戶能夠快速完成登錄，并滿足包括KYC和AML在內(nèi)的各項監(jiān)管合規(guī)要求。Jumio已在全球范圍內(nèi)處理了超過10億筆身份驗證的交易，業(yè)務覆蓋200多個國家和地區(qū)。

Jumio的未來目標是不斷提升欺詐檢測技術(shù)，以適應不斷變化的欺詐策略和技術(shù)環(huán)境。隨著生成式AI的易獲取性，欺詐策略正在跨行業(yè)演變，不僅僅限于金融服務。Jumio將繼續(xù)投資研發(fā)，保持在欺詐檢測、合規(guī)性和用戶體驗方面的領(lǐng)先地位。

lixiangjing

算力豹主編