雷鋒網(wǎng)AI科技評論編者按：命運是天定的，顏值可是自己的。前段時間風靡的換臉小程序已經(jīng)讓一部分人娛樂了一把，你知道嗎？現(xiàn)在又出新技術了，deepfakes不僅可以換臉，還能將面部表情、動作都與另一張臉完美地融合在了一起。在技術革命到來的同時，濫用風險依然不可小覷······

本文來自Google AI的《contributing data to deepfake detection》在不改變原文意思的基礎上，雷鋒網(wǎng)AI科技評論的編譯如下：

深度學習已經(jīng)產(chǎn)生出了在幾年前還被認為是不可能實現(xiàn)的技術?，F(xiàn)代生成模型就是其中的一個例子，它能夠合成超現(xiàn)實的圖像，語音，音樂，甚至是視頻。這些模型在廣泛的應用程序中得到了應用，包括通過文本到語音轉換使世界更親近，以及協(xié)助生成用于醫(yī)學成像的培訓數(shù)據(jù)。

與任何變革性技術一樣，這也帶來了全新的挑戰(zhàn)。其中一種就是所謂的“ deepfakes”（由可操縱視頻和音頻剪輯的深度生成模型產(chǎn)生）。自2017年年底首次面世以來，已經(jīng)出現(xiàn)了很多開源的Deepfake生成方法，導致合成媒體剪輯的數(shù)量不斷增長。雖然很多人可能是想用一種幽默的方式展現(xiàn)自己，但也不排除有些人可能會利用這樣的技術做出對他人和社會有害的事情。

谷歌認真的考慮了這些問題。正如我們?nèi)ツ暝凇度斯ぶ悄茉瓌t》(AI Principles)中發(fā)表的，我們致力于開發(fā)人工智能最佳實踐，以減少潛在的傷害和濫用。去年1月，我們發(fā)布了一個合成語音數(shù)據(jù)集，以支持開發(fā)高性能假音頻檢測器的國際挑戰(zhàn)。作為這項挑戰(zhàn)的一部分，150多個研究機構和行業(yè)組織下載了該數(shù)據(jù)集，現(xiàn)在可以免費向公眾提供。

今天，我們與Jigsaw攜手，宣布發(fā)布一個由我們制作的大型的視覺deepfakes數(shù)據(jù)集，該數(shù)據(jù)集已被納入慕尼黑工業(yè)大學和那不勒斯大學費德里科二世的新FaceForensics基準中，谷歌作為共同發(fā)起方見證了這場付出各方諸多努力終于有所收獲活動。將這些數(shù)據(jù)納入Faceforensics視頻基準測試是與包含Matthias Niessner教授, Luisa Verdoliva教授和FaceForensics團隊在內(nèi)的領先的研究人員合作進行的，你可以在FaceForensics GitHub頁面上下載數(shù)據(jù)。

圖1：Google參與FaceForensics基準測試的視頻樣本。為了生成這些，隨機選擇了幾組演員，深度神經(jīng)網(wǎng)絡將一個演員的臉換到了另一個演員的頭上。

為了制作這個數(shù)據(jù)集，在過去的一年中，我們與雇傭的演員和志愿者演員合作錄制了數(shù)百個視頻。 然后，使用公開可用的Deepfake生成方法，我們從這些視頻中創(chuàng)建了數(shù)千個Deepfake。 由此生成的真實和虛假的視頻都傾注了我們的心血，我們創(chuàng)建這些視頻是為了支持Deepfake的檢測工作。 作為FaceForensics基準測試的一部分，這個數(shù)據(jù)集現(xiàn)在可供研究社區(qū)免費使用，可用于開發(fā)合成視頻的檢測方法。

圖2：演員們在各種場景中的拍攝情況。其中一些演員在這里(頂部)使用Deepfake技術換臉的樣本出現(xiàn)在 (底部)，這可能存在微妙的或劇烈的變化，取決于創(chuàng)建他們的其他演員。

由于這個領域的發(fā)展速度極快，我們將隨著Deepfake技術的發(fā)展將其添加到該數(shù)據(jù)集中，并且我們將繼續(xù)與該領域的合作伙伴合作。 我們堅信，要為蓬勃發(fā)展的研究社區(qū)提供支持，以減輕因濫用合成媒體而造成的潛在危害，而今天在FaceForensics基準測試中發(fā)布的Deepfake數(shù)據(jù)集正是朝著這個方向邁出的重要一步。

雷鋒網(wǎng)注：原文鏈接：https://ai.googleblog.com/2019/09/contributing-data-to-deepfake-detection.html

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權禁止轉載。詳情見轉載須知。