如果你聽說過深度偽造（deepfakes），即人們做著從未做過的事或者說著從未說過的話的高度逼真視頻，你可能會認為這是一種可疑的技術(shù)發(fā)展成果。例如，它們可能被用于高級網(wǎng)絡釣魚詐騙中來冒充企業(yè)高管，在這類詐騙中，虛假語音郵件被用來向員工索要緊急資金。深度偽造技術(shù)逐漸進入我們的生活，在帶來驚喜和便利的同時，也暴露出一系列風險隱患，飽受爭議。

它們的存在引發(fā)了大量識別它們的方法的研究。

但深度偽造并非一無是處。事實上，它們可以被用于有益的用途。

它們可以讓跨國企業(yè)的高管用員工的母語傳達信息，實時翻譯演講內(nèi)容并且口型與所說的話相匹配。它們被用于創(chuàng)建逼真的模擬場景以促進員工發(fā)展，或者讓歷史人物重現(xiàn)生機，從而讓學校里的復雜話題更通俗易懂。

為何研究人員需要“有益的”深度偽造技術(shù)

醫(yī)學領域是有益的深度偽造技術(shù)的最大使用者之一。這些深度偽造技術(shù)通常被用于為機器學習程序創(chuàng)建額外的訓練數(shù)據(jù)。例如，當研究人員訓練人工智能（AI）在諸如磁共振成像（MRI）或X射線等醫(yī)學影像中檢測某些類型的癌癥時，他們可能會使用深度偽造技術(shù)來為其數(shù)據(jù)集添加更多影像。

這是必要的，因為許多數(shù)據(jù)集規(guī)模較小或者不完整。訓練人工智能模型需要對細節(jié)一絲不茍，需要大量的人工干預來標記數(shù)據(jù)集的某些特征。有時，掃描結(jié)果標記不正確或者標記不一致，因為不同的人使用了不同的標準。這些問題可能會使人工智能模型更難以準確學習。生成合成數(shù)據(jù)有助于克服這些挑戰(zhàn)，不過合成數(shù)據(jù)的質(zhì)量也必須得到仔細監(jiān)控。

制作深度偽造（作品）變得更容易了

IEEE高級會員Vivekanandhan Muthulingam表示：“雖然多年來制作深度偽造（作品）的技術(shù)變得更容易獲取了，但這仍然需要一定水平的專業(yè)知識?！?/p>

Muthulingam說：“現(xiàn)在有一些用戶友好型的工具和應用程序可供使用，這些工具和應用程序讓個人在沒有廣泛編程知識的情況下就可以嘗試制作深度偽造（作品）。然而，要獲得高質(zhì)量的成果仍然需要對機器學習原理和視頻編輯有更深入的理解。”

制作這些深度偽造（作品）的人也需要了解相關的主題內(nèi)容。

IEEE會士Houbing Song說：“要制作‘有益的’深度偽造（作品），既需要人工智能知識，也需要專業(yè)領域知識。”

倫理考量

專家警告說，僅僅因為深度偽造是出于善意目的而創(chuàng)建的，并不能免除倫理責任。負責任地使用它們意味著要誠實，并設置保護措施以支持學習和創(chuàng)新，同時又不危及信任或安全。在訓練數(shù)據(jù)方面可能也存在倫理考量，這些數(shù)據(jù)可能涉及版權(quán)或知識產(chǎn)權(quán)主張，或者是因為擔心將患者信息用于訓練數(shù)據(jù)。

也可能存在一些灰色地帶，在這些地帶深度偽造的價值并非一目了然。

Song說：“一個深度偽造作品是好是壞將取決于其益處與社會期望的契合程度。從長遠來看，如果我們善用深度偽造技術(shù)，那么該技術(shù)的益處將超過風險?！?/p>

了解更多：要深入了解研究人員如何使用機器學習在醫(yī)學圖像中創(chuàng)建合成數(shù)據(jù)，請查看IEEE的這篇文章：https://ieeexplore.ieee.org/document/10445413。

zhupb