:::

Rti 中央廣播電臺 中國擬立法禁止「AI換臉」

  • 時間:2019-04-24 08:33
  • 新聞引據:美國之音
  • 撰稿編輯:新聞編輯
中國擬立法禁止「AI換臉」
「深偽」(Deepfake)AI科技可偽造前美國總統歐巴馬的談話影像,擬真程度極高,宛如真的歐巴馬現身說話。(美聯社/達志影像)

中國十三屆全國人大常委會第十次會議20日開始審議民法典人格權編草案二審稿。草案提出,民法應禁止任何人以基於人工智慧(AI)的「深偽」(deepfake)技術替換網路視頻中的人物面部,以保護肖像權。

小檔案:Deepfake,是英文「deep learning」(深度學習)和「fake」(偽造)的混成詞,專指用基於人工智慧的人體圖像合成技術。此技術可將已有的圖像和影片疊加至目標圖像或影片上。Deepfake亦可用來製作虛假的名人性愛影片和報復性色情媒體。Deepfake也可以用以製造假新聞及惡意惡作劇。

中國官方的新華社說,深偽可以製作使人難辨真假的動態人臉畫面和聲音,「AI換臉」可以隨意替換視頻的角色面部。報導說,這引發了人們對相關技術可能侵犯肖像權、危害社會公共利益乃至國家安全的擔憂。

此次提議的「民法典人格權編草案二審稿」建議規定:任何組織或者個人不得以醜化、污損,或者利用信息技術手段偽造等方式侵害他人的肖像權。


「深偽」(Deepfake)AI科技可偽造政治人物的談話影像,擬真程度極高。(AFP)

AI換臉逼真 看不出破綻

「AI換臉」今年2月在中國網路空間討論中引起熱議,起因是一名「深偽」技術專家發布的一段「移花接木」視頻。視頻中,當代中國女演員楊冪的臉被用在了1994年版《射雕英雄傳》中黃蓉的角色上。視頻中的人物表情自然逼真,許多網友感嘆「看不出破綻」。

但這段視頻也引起了當事人的不滿。視頻製作者「肖先生」發文道歉,稱自己是一名AI神經網路學習的研究人員,初衷只是希望讓更多人認識這項技術,並在自己的網站上刪除了這段影片。

此次「換臉」風波也使人擔憂「深偽」技術的可能引發的社會和政治影響。


「深偽」(Deepfake)AI科技可偽造政治人物的談話影像,擬真程度極高。(AFP)

眼見不為憑!

2018年7月,美國演員兼製片人喬丹·皮爾(Jordan Peele)製作了一段美國前總統歐巴馬「譴責」現任總統川普的「深偽」視頻。2017年7月,華盛頓大學的研究人員開發出了一套基於人工智能的「算法」,這套算法可以修改一段講話視頻中歐巴馬的嘴形,使之準確匹配任何聲音內容。

皮爾說,他參與製作偽造歐巴馬講話內容的視頻是為了告誡人們警覺:視頻資料並不總是消息的準確來源。

而中國此番網上流傳的「深偽」視頻似乎技高一籌:視頻中的人物不僅換了口型,而是整個「換臉」。

長期關注假信息傳播的美國國會參議員魯比歐(Marco Rubio)今年2月發布聲明警告說:「美國的敵人已經在使用虛假的圖像在散播不滿情緒、企圖分裂我們。」他說:「想像一下,如果一段視頻表現的是選票失竊、政治領袖說出不雅言論、或是在國外衝突中有無辜平民遇害。」


「深偽」(Deepfake)AI科技可偽造政治人物的談話影像,擬真程度極高。(AFP)

假訊息2.0升級版

中國的AI視頻製作者「肖先生」說,實現逼真的深偽的技術門檻很高。他說,這項開源技術需要應用者有一台有8核CPU V100顯卡的主機,「這就足以讓很多人打退堂鼓,研發過程也很枯燥乏味」。

不過,計算機專家認為,深偽技術要達到任何用戶都能使用的簡易程度只是時間問題。

美國國會山報(The Hill)援引智庫「新美國中心」研究院彼得·辛格(Peter Singer)的話說,深偽技術「肯定會被用作一種武器」,被用於擾亂國內政治,或者被敵對國家用於在戰場上取得先機。

(本文轉載自VOA,原標題《中國擬立法禁止「AI換臉」》)


片段中的前美國總統歐巴馬是由「深偽」(Deepfake)軟體製作而成,擬真程度極高,宛如真的歐巴馬現身說話。(圖/翻攝自YouTube)

相關留言

本分類最新更多