這項技術在美國被全網封禁 不過還是擴散到了全球
2019年02月28日04:39

  原標題:換臉與識臉是“以子之矛攻子之盾”

  人工智能(AI)已經進入人們生活的方方面面,但是,由AI引發的爭議、陷阱和困局同樣伴隨著人們。由於人工智能深度換臉技術DeepFakes引發激烈爭議和擔心其後果擴大,國外已經在禁用這一技術,但是國內卻出現了疑似用深度換臉技術製作的影視節目。

  近日,在嗶哩嗶哩網站上一位用戶名為“換臉哥”的博主上傳了一段楊冪飾演《射鵰英雄傳》里“黃蓉”的視頻。從幾張視頻截取的動圖可以發現,除了臉部五官是楊冪的,髮型和服飾卻是原演員朱茵的扮相。不過目前這條視頻在嗶哩嗶哩網站已經失效。

  視頻在網上釋出後,引發激烈爭論,“將朱茵的黃蓉換成楊冪的臉”這個話題在微博上的瀏覽量甚至達到1.2億次。有人認為這是對原演員的不尊重,甚至會導致部分流量明星可以不用擔心演技問題,瘋狂軋戲——只要先用替身完成拍攝,最後再用AI技術進行換臉,省時又省力。還有不少人認為這嚴重侵犯了隱私和肖像權。

  當然,嚴重的問題還不止於此,如果讓同樣是人工智能的人臉識別技術去識別深度換臉生成的人臉,結果會怎樣呢?不得不說,這是人工智能引發的現代以子之矛攻子之盾。

  DeepFakes這個術語是深度機器學習(deep machine learning)和假照片(fake photo)的縮寫。這項技術完全可以用來製作各種偽證、假證件和假象,例如偽造政治家的行為、公開演講,製作色情內容,還可以通過換臉來敲詐政治人物和有錢人。更重要的是,當換臉技術製作的假視頻源源不斷出現之時,就像喊狼來了的孩子一樣,到後來,真實的視頻、錄像就不再有人相信了,李鬼就會替代李逵,真實和誠信將毀於一旦。

  意識到人臉交換技術製作假視頻的危害性,美國卡內基國際和平基金會還專門發表文章《國家如何應對DeepFakes?》,認為DeepFakes正在給政府與企業帶來破壞性的影響,尤其是對反恐和國家安全造成危害。於是,人臉交換技術在美國被全網封禁,Reddit討論版被刪除,其GitHub開源代碼也被清除。FakeApp的官網目前也已無法使用。

  儘管如此,人臉交換技術還是已擴散到全球,現在中國也受到這一技術的影響。這也意味著,人臉交換技術可能是禁不住的,原因在於,這項技術的確有很大的實用性,僅僅在影視娛樂產業,就可以節約成本,並獲得很好的拍攝效果,尤其是科幻片,先通過計算機模型拍攝大型場面和驚險鏡頭,甚至可以不用替身,在後期製作時只需把演員的頭像換到人物軀幹上,就可以獲得極為逼真的影視效果。

  而且,人臉交換技術實際上是對正在推進的人臉識別技術一個沉重打擊,如果人工智能不能識別換臉後的假臉,真正的人臉識別技術就會陷於停滯,人工智能走入人們的生活也將受到局限。

  這實際上就是在逼迫人們以魔高一尺,道高一丈來應對,要利用人工智能來對付人工智能,攻破這個以人之矛攻人之盾的自相矛盾。現在,日本一些研究人員認為,可以通過微小的細節去發現線索,讓人臉識別人工智能可以區分換臉技術製造的假視頻。這實際上也是矛與盾兩種人工智能的較量和比拚。

  當然,在有效的識別假視頻人工智能軟件研發出來並應用之前,目前當然需要禁止深度換臉技術的使用,不過這隻是權宜之計;另一方面,也需要結合多種方法,如人工識別、信源調查和交叉核實等多種方式來判別視頻的真偽。( 張田勘)

關注我們Facebook專頁
    相關新聞
      更多瀏覽