楊冪被"換臉"惹爭議 專家:亟待規范AI技術

2019年03月22日07:21  來源:法制日報
 
原標題:真實虛假界線或被打破亟待規范AI技術

近日,女演員楊冪因為一段“換臉”視頻上了熱搜。

視頻中《射雕英雄傳》中扮演的“黃蓉”角色被替換為楊冪,一般人很難肉眼識別出這是“移花接木”的結果。

這段視頻發布后立即引發網友熱議:有人認為,以后演員可以不在拍攝現場,完全可由替身完成,后期再將臉替換上去﹔也有人質疑,這種做法涉嫌侵犯了當事人楊冪的肖像權﹔更有人擔憂,刷臉識別的各類手機支付方式將不再安全。

面對涉嫌侵權爭議,視頻制作者回應稱:制作視頻主要用於技術交流,並無營利行為。

相關回應未能平息爭議,視頻背后的AI換臉技術讓不少人細思極恐。

那麼,視頻制作者的“換臉”行為是否合法?AI換臉技術的出現將帶來哪些風險?如何加以規制?就此,《法制日報》記者近日採訪了業內專家。

無營利不能作為抗辯理由

前不久,一個“朱茵變楊冪”的視頻在bilibili(視頻彈幕網站)上火了,視頻被傳至微博后引起軒然大波,侵權、安全等爭議聲接踵而至。

記者注意到,這段視頻節選自1994年版本《射雕英雄傳》,劇中“黃蓉”角色的扮演者為朱茵,視頻制作者在AI技術運用的幫助下,用楊冪的臉完美替換了朱茵,不僅毫無違和感,而且普通人根本無法看出被替換過。

視頻引發爭議后,視頻制作者隨即下架視頻,並在微博上公開回應稱:“創作初衷是希望讓更多朋友認識這項技術,避免將來有人在偽造明星負面內容的視頻時,會給公眾人物帶來更大的損失。同時也讓更多人了解造假視頻背后的工作原理,提高公眾辨識能力。”

據媒體報道稱,視頻在被撤下之前,微博閱讀量超過1.2億、討論數達2.8萬條。

那麼,制作並傳播換臉視頻是否合法呢?無營利行為是否可以用來侵權抗辯呢?

“楊冪換臉視頻,已經侵犯了當事人的肖像權。”中國科學技術法學會人工智能專業委員會委員李晟教授告訴記者,在互聯網的生產模式之下,很難以傳統的“營利”標准來界定是否侵權。

李晟進一步指出,換臉視頻制作之后在網絡上流傳,無論對制作者本人,還是對相關網站而言,其形成的流量已構成一種營利的新形態,並不因為視頻本身無需付費,就能以非營利性質為由對侵犯肖像權進行抗辯。

肖像權是一種人格權,除體現商業價值外,還具有精神利益這一基本屬性。李晟直言:“即便《射雕英雄傳》的朱茵版本在觀眾心目留下了美好印象,也不能代表其他演員願意將自己的形象代入其中,當事人可以通過主張肖像權來提起侵權訴訟。”

西南政法大學人工智能法學院副教授劉小紅認為,依據侵權責任法有關規定,認定是否侵犯演員楊冪的肖像權,無需考慮營利因素,而應判斷行為人是否有過錯。

劉小紅告訴記者,侵權責任法第二條對民事權益作了列舉式規定,其中就包括肖像權、名譽權等。第六條規定,行為人因過錯侵害他人民事權益,應當承擔侵權責任。第七條規定,不論行為人有無過錯,法律規定應當承擔侵權責任,依其規定。顯然,按照侵權責任法規定,對於換臉是否構成侵犯肖像權,並沒有附加營利的條件。

換臉技術門檻大幅度降低

據報道,換臉這項AI技術在國外名為Deepfake,已經出現一年多。由於門檻不高,已經造出許多假視頻,涉及對政治人物、明星的惡搞等,甚至還被用於制作不雅視頻。

而在國內,“被換臉”的演員也不止楊冪一人,據網友爆料,楊穎、劉亦菲、劉詩詩、趙麗穎等演員的AI換臉視頻,均在網絡上出現過。

記者採訪了解到,對視頻人物的改頭換面,並非全新技術。早在照相機時代,就已經出現對政治人物的改頭換面。后來,隨著PS技術的發展,照片改造更加容易,以至於發展出合成不雅照片進行詐騙的產業鏈。

“Deepfake技術的出現,大幅度降低了換臉的技術門檻。”在李晟看來,與此前相比,Deepfake的運用使得普通人有可能按照自己的意願進行技術處理,恰似“舊時王謝堂前燕,飛入尋常百姓家”。

李晟提醒,Deepfake技術的運用將帶來通過量的積累引起質變的社會效應。如果只是個別人在運用,那麼,現有的法律規則足以有效應對﹔如果該技術被普遍運用,則現行法律體系難以僅僅通過肖像權或名譽權這樣的權利規范加以應對。

李晟解釋說,如果該技術被普遍運用,傳統意義上關於“真實”與“虛假”的界線在很大程度會被打破,這也是當前面臨的真正挑戰。這意味著過去基於對“真實”的判定為基礎而採取的法律行為,有可能都成為建構於流沙之上的“城堡”,比如,更為普遍但更難以察覺的詐騙、訴訟中的虛假証據及更容易散布的謠言等。

人工智能技術是把雙刃劍

從智伴機器人到自動駕駛汽車,再到法院的智能語音識別、智能審判系統等……近年來,人工智能開始走下神壇,進入民眾視野。

記者注意到,無論是國家層面,還是企業視角,人工智能都被提上了新的高度。

在國家層面,今年的政府工作報告中的“深化大數據、人工智能等研發應用”,足以說明對其重視。

在企業層面,全國人大代表、百度董事長李彥宏在今年兩會期間提交的三份議案均涉及人工智能領域,這是李彥宏連續第五年在提案中關注人工智能話題。

一邊是國家政策的大力扶持,人工智能的迅猛發展﹔另一邊則是人工智能帶來不容忽視的社會風險和法律挑戰。

“AI換臉術是人工智能技術發展的一個產物,也是人工智能科技應用的一種形式,它在自我娛樂、娛樂大眾的同時,也帶來了一些法律風險和法律問題,比如可能侵犯隱私權、肖像權、名譽權等。”劉小紅認為,人工智能技術本身是一把雙刃劍,它在為人類提供便利的同時,也給人類社會帶來諸多風險:AI換臉術只是其中之一,其他風險包括無人駕駛汽車撞上行人問題、無人超市引發的員工解聘潮、醫療機器人操作失誤引發的手術失敗等。對於人工智能產業的發展,無論是從國家戰略、企業發展,還是從人民的需求來看,都應持肯定和支持態度。

劉小紅同時指出,在人工智能產業的發展過程中,應該處理好國家干預與企業自主經營的關系,企業享有自主經營權,自主生產、設計、研發人工智能產品,但涉及到國家安全、公共安全時,政府需要積極干預。還要處理好企業與消費者的關系以及企業的社會責任問題。此外,還涉及價值的選判,如法律與倫理問題。

在如何應對挑戰上,李晟認為,應堅持的一項基本原則是,區分其挑戰屬於安全、權利抑或治理層次。

“治理層次的挑戰最值得關注,數量的累積呈幾何級數增長帶來的系統性風險不容忽視,例如,Deepfake換臉如果成為普遍將真假難辨。”李晟告訴記者,為此,法律規制應突出圍繞AI技術本身來展開,不能局限於技術運用產生的具體個案,要注意該技術來自於什麼平台,可能造成哪些全局性的影響,從而採取更有針對性的規制。(記者 侯建斌)

(責編:宋心蕊、趙光霞)

推薦閱讀

“2018新聞傳播學院院長論壇”舉行
  “2018新聞傳播學院院長論壇”11月10日在廈門大學舉行。人民日報社副總編輯盧新寧,福建省委常委、宣傳部部長、秘書長梁建勇,廈門大學黨委書記張彥,教育部高等教育司司長吳岩等與會並致辭。
【詳細】“2018新聞傳播學院院長論壇”舉行   “2018新聞傳播學院院長論壇”11月10日在廈門大學舉行。人民日報社副總編輯盧新寧,福建省委常委、宣傳部部長、秘書長梁建勇,廈門大學黨委書記張彥,教育部高等教育司司長吳岩等與會並致辭。 【詳細】

第五屆世界互聯網大會
  由國家互聯網信息辦公室和浙江省人民政府共同主辦的第五屆世界互聯網大會於11月7日至9日在烏鎮召開。本屆大會以“創造互信共治的數字世界——攜手共建網絡空間命運共同體”為主題。
【詳細】第五屆世界互聯網大會   由國家互聯網信息辦公室和浙江省人民政府共同主辦的第五屆世界互聯網大會於11月7日至9日在烏鎮召開。本屆大會以“創造互信共治的數字世界——攜手共建網絡空間命運共同體”為主題。 【詳細】