AI換臉技術引發熱議:眼見未必為實
2019年03月01日11:11
原版朱茵
原版朱茵
換臉楊冪
換臉楊冪

  原標題:楊冪“換臉”視頻熱傳 AI讓你想變誰就變誰?

  記者:孔小平

  近日,有網友上傳了一段楊冪“換臉”視頻,視頻中製作者通過AI技術,把楊冪的臉換到了朱茵在《射鵰英雄傳》中飾演的角色黃蓉上。該視頻立刻引發全網熱議,熱搜不斷。網友紛紛表示這段視頻毫無違和感,甚至“感謝科技,終於讓楊冪有了演技”。網絡大面積驚歎之餘,這種“分分鍾換臉”的黑科技也讓人細思極恐。

  [事件回放]

  “楊冪版黃蓉”竟毫無破綻

  94版《射鵰英雄傳》里朱茵扮演的黃蓉非常靈動俏皮,不少場景堪稱經典。B站一位叫“換臉哥”的Up主,將楊冪的臉用AI技術換到了劇中“黃蓉”的身上,看下來,“楊冪版黃蓉”的表情和肢體動作很順暢,絲毫看不出破綻,因為太逼真,在網上也迅速引起軒然大波。據悉,這位換臉哥此前就發佈了多個給影視劇角色換臉的視頻,被換臉的有《冰與火之歌》里的龍媽,《鐵達尼號號》里的rose,《喜劇之王》里的柳飄飄,《古墓麗影》里的勞拉等等,而替換上去的,都是楊冪。

  這不是個例

  該視頻出現後網友從驚呆到驚歎。網上甚至有個話題叫“將朱茵的黃蓉換成楊冪的臉”,閱讀量居然飆升到1.1億多,討論更有2.5萬個。有網友表示,在技術的加持下,誰都能成為演技派,以後換臉技術是不是會成為摳圖表演者的新捷徑了?未來明星們拍戲無需到場,直接簽訂一份“允許換臉”的授權合同,就可以影視作品製作了。

  其實“AI換臉”並不是從@換臉哥開始的,只是因為“楊冪版黃蓉”而引發了更廣泛的關注。

  @換臉哥製作這段逼真視頻的工具叫deepfake,國外在2017年就出現了,曾有人用明星換臉製作了一些不雅視頻,不幸中招的明星包括蓋爾·加朵、斯嘉麗·約翰遜等。當時引發了很大爭議,不少平台都明確禁止此類視頻傳播。

  “簡直是技術猥褻,求整治”

  在deepfake傳入國內後,國內也有網友製作過換臉視頻。比如把宅男們喜聞樂見的女主播換成國內當紅小花,播放量都在幾十萬。之前荷李活女演員斯嘉麗·約翰遜就曾預言,“讓任何一個人成為這項技術的攻擊目標只是時間問題。”

  因此記者看到很多清醒的網友也認識到,公眾人物只是首當其衝“被技術”的,如果有人惡意利用和濫用,那任何人可以變成任何人,對所有人都不安全。更有網友表示,“換臉”簡直是一種赤裸裸的“技術猥褻”。無數網友呼籲相關部門“求整治”!

  發佈者已下架相關視頻

  27日,該視頻發佈者@換臉哥發微博道歉,表示已與楊冪官方工作室溝通,並下架了相關視頻。並稱,普通的AI換臉技術可能只能用於娛樂作用,諸如軍事用途等更高級別的AI技術,其安全性高,目前的民用AI技術也不會構成威脅,並表示這對所有人來說是一個警示,大家應尊重版權與肖像權,專注於技術本身。

  [連鎖反應]

  細思極恐,刷臉支付安全嗎?

  此事無疑給社會造成了一定負面影響,但細思極恐,如今無人駕駛、人臉識別、智慧城市、智能家居等各類場景中都在運用AI,包括人臉識別系統,但一旦後端控製系統被攻擊,出現規模化、連鎖式的崩盤,AI失控的後果不堪設想。網上報導顯示,2019年1月,荷蘭Deeptrace實驗室發佈一份deepfake發展報告稱,2018年“deepfake”關鍵詞的搜索次數比2017年增長了1000倍。

  27日深夜,@阿里安全在微博做出科普和回應。阿里安全圖靈實驗室高級算法專家覺奧在視頻中指出,當前主流的換臉技術是基於深度學習模型的,其核心是一個“自動編碼器”,具體而言,通過人臉檢測技術,把視頻中兩個人,比如朱茵和楊冪的臉抓取下來,數量需要幾千到幾萬張,之後訓練這個自動編碼器和兩個解碼器,一個解碼器生成朱茵,另一個生成楊冪,訓練好以後,輸入朱茵的臉就能生成楊冪的臉了。

  這一技術的應用會引發何種問題?覺奧表示,除了換臉引發的道德和倫理問題,“黑灰產業”利用AI換臉,是目前常見的一種攻擊手段,“在人臉識別系統中,識別換臉的技術叫活體檢測技術,這是一個攻防對抗技術,即用AI的手段來解決AI的攻擊。”覺奧也表示,通過深度學習技術,訓練模型,來通過兩者的紋理、膚色、反光等特性的不同而識別出來。可實現在毫秒級時間內揪出假人臉,目前識別準確率達到99.9%。同時他也指出,“這幾年,由於深度學習的迅猛發展,攻、防的技術都在不斷進步,這是一個持續、動態對抗的過程,我們有信心和能力做好。”

  為此@阿里安全表示,阿里的人臉識別活體檢測技術能夠毫秒級辨別,成功率高達99.9%,防控技術還是有的,大家無需過於擔憂。

  [記者採訪]

  新技術不能突破法律底線

  南京大學法學院教授、博導徐棣楓接受記者採訪時表示,早前也有過模擬明星聲音的侵權行為,他認為,“AI換臉術”作為科技來說,是沒有對錯之分的。AI換臉明星,與不經允許使用別人照片的行為是類似的,都涉嫌侵犯肖像權。不合理使用技術的平台和個人,都應該受到法律的約束。

  那“換臉術”應用的邊界在哪裡?徐棣楓表示,以前是PS照片,現在換臉術就是PS視頻,不能隨便用別人的照片和視頻這些法律意識也在漸漸養成。另外,這種AI換臉技術存在一定的潛在風險,目前有對其適用的法律規範。

  採訪中也有傳播方面的專家表示,AI技術發展使普通人能享受到科技帶來的便利,但新技術應該驅動良性的文化創意更新迭代,切忌用到歪路上去,更不能突破底線挑戰公序良俗。

關注我們Facebook專頁
    相關新聞
      更多瀏覽