鑒別換臉視頻:臉書微軟和牛津伯克利AI學者聯手啟動研究
2019年09月06日11:06

原標題:鑒別換臉視頻:臉書微軟和牛津伯克利AI學者聯手啟動研究

美國科技巨頭們打算對AI(人工智能)換臉視頻下手了。

9月5日,美國社交巨頭Facebook(臉書)CTO(首席技術官)Mike Schroepfer發佈的一篇博客文章宣佈,Facebook正和微軟聯合來自牛津、伯克利等大學的人工智能研究者,研究如何檢測“deepfakes”換臉視頻。

行業聯盟Partnership on AI(人工智能合作夥伴)、康奈爾科技校區(Cornell Tech)、麻省理工學院(MIT)等機構也一道參與了這項工作。Partnership on AI的成員中包括Google、蘋果、亞馬遜、IBM等大型科技公司。

據英國金融時報9月5日報導,Deepfake換臉視頻的擴散會威脅正常的政黨競選。專家擔憂,這項技術可能會在2020年美國總統大選之前創造出更多換臉政客的假新聞。此次的聯合行動,是Facebook試圖解決這一令人擔憂的問題所做的努力。

為此,Facebook貢獻出了1000萬美元,以完成“檢測deepfake挑戰”,希望能夠激發新工具的創造,能夠用低成本的技術檢測出人工合成的假視頻。

作為該項目的一部分,Facebook正在委託研究人員製造一系列逼真的deepfakes換臉視頻,以創建用於測試檢測工具的數據集。公司表示,視頻將採用付費演員出演,不會使用任何用戶數據。這些視頻將在2019年12月份公開發佈。

據路透社9月5日報導,雖然在美國,目前還沒有質量極高的換臉視頻引發重大政治後果,但最近有關美國眾議院議長Nancy Pelosi的劣質編輯視頻片段已經證明,這種合成視頻可能會引發動盪。上述視頻中,Pelosi的演講被人為降速,讓她看上去含混不清。

上述報導介紹,一些研究人員正研究在捕獲點通過數字水印驗證視頻或圖像真實性的系統,但是,deepfake技術的迅速發展,讓合成視頻製作者和檢測人員之間展開了一場軍備競賽。

“這是一場貓鼠遊戲,如果我設計一個deepfakes檢測器,我就直接給了這些黑客一個新的模擬器進行反測試。”紐約大學Tendon學院計算機工程助理教授Siddharth Garg表示。

路透社的報導也提到了正在中國引發爭議的換臉應用ZAO,稱這一應用迅速登上了中國App store免費下載榜的首位,讓不懂技術的創造者更易換臉,現在ZAO由於隱私擔憂面臨了強烈反對。

而且,當下的互聯網上,通過讓這類合成視頻更易製作,一些deepfake創造者發現了新的市場機遇。從波蘭到日本,人工智能深度學習愛好者在Youtube上發佈手把手教程,並把人工智能合成的美國總統特朗普聲音以每50個單詞30美元的價格叫價銷售。他們還運營自助服務的網站,讓用戶能夠製作出deepfakes視頻。

Facebook目前還沒有出台關於deepfake視頻的具體政策。2019年6月,一則Facebook創始人馬克·朱克伯格的換臉視頻引發爭議,不過Facebook的做法不是撤下該視頻,而是以對待假新聞一樣的方法處理這個內容,並最終對其進行了限流。

2019年6月,美國眾議院對deepfakes展開聽證會。2019年7月,眾議院情報委員會主席Adam Schiff要求Facebook、Twitter、YouTube母公司Google等科技公司提供對抗deepfakes視頻的方法。

9月5日當天,Schiff發佈聲明表示,Facebook此次發起的行動是“有意義的一步”。

關注我們Facebook專頁
    相關新聞
      更多瀏覽