Deepfake能夠憑借人工智能進(jìn)行人類(lèi)圖像合成的技術(shù)。采用一種號(hào)稱(chēng)生成化對(duì)抗性網(wǎng)絡(luò)的機(jī)器學(xué)習(xí)技術(shù),將現(xiàn)有的圖像和視頻合并并疊加到源圖像或視頻上。
生成的視頻可能非常逼真。該技術(shù)過(guò)去曾被用于制作虛假的名人色情和報(bào)復(fù)視頻。 Deepfake還用于創(chuàng)建虛假新聞報(bào)道。
數(shù)據(jù)集包含了來(lái)自 28 個(gè)不同場(chǎng)景下,由真人演員現(xiàn)場(chǎng)拍攝的 3000 多段視頻。谷歌希望能夠通過(guò)這些視頻數(shù)據(jù),更好的維護(hù)整個(gè)社會(huì)的網(wǎng)絡(luò)安全環(huán)境,并使得開(kāi)發(fā)者能夠利用這些數(shù)據(jù),開(kāi)發(fā)新的 Deepfake 檢測(cè)工具,更高效地識(shí)別 Deepfake 假視頻。
谷歌現(xiàn)在開(kāi)始與 Jigsaw 合作,并發(fā)布了一個(gè)自制的大型可視化數(shù)據(jù)集,該數(shù)據(jù)集已被納入 Face Forensics 視頻基準(zhǔn)測(cè)試。該數(shù)據(jù)集已合并到新的FaceForensics基準(zhǔn)測(cè)試中,該基準(zhǔn)測(cè)試由慕尼黑工業(yè)大學(xué)和那不勒斯菲里德里克第二大學(xué)運(yùn)營(yíng)。研究人員可以免費(fèi)訪(fǎng)問(wèn)這些視頻,以用于開(kāi)發(fā)Deepfake檢測(cè)技術(shù)。
谷歌認(rèn)真考慮了這些問(wèn)題。正如他們?nèi)ツ暝凇度斯ぶ悄茉瓌t》中發(fā)表的那樣,我們致力于開(kāi)發(fā) AI 的最佳實(shí)踐,以減少技術(shù)的濫用所帶來(lái)的潛在危害。
為了制作這個(gè)數(shù)據(jù)集,在過(guò)去的一年里,谷歌與眾多演員合作錄制了數(shù)百段視頻;并使用公開(kāi)的 deepfake 生成方法,從這些視頻中創(chuàng)建了數(shù)千個(gè) Deepfake 假視頻。