人民網
人民網>>傳媒

推特反Deepfake策略 能否揭下人們換上的"假面"?

2019年11月14日07:30 | 來源:新京報
小字號
原標題:推特反Deepfake策略,能否揭下人們換上的“假面”?

鑒於立法總是落后於現實,在類似於Deepfake事件中,由處於第一線的企業制定規則加以約束,確實很有必要。

中國的“雙十一”狂歡剛剛落幕,大洋彼岸的社交媒體巨頭——推特又吸引了來自科技圈的關注度。

11月12日,推特正式發布首個反Deepfake(換臉神器)策略草案。該公司表示,如果Deepfake內容威脅到某人的人身安全或可能造成嚴重傷害,他們會將該內容從推特上刪除。目前,推特已開始就此項草案向公眾征集意見。

可能中國人對Deepfake不太了解,但提起前段時間引發爭議的某款換臉軟件,大家一定不會陌生。而這款換臉軟件就借鑒了Deepfake的原理。

Deepfake是個新詞,它實際上是個組合詞,即“深度學習”和“假”的組合。顧名思義,作為一種人工智能基礎的人物圖像合成技術,它可以通過機器深度學習,將現有的圖像和視頻組合並疊加成新的圖像和視頻。這些內容看起來就像真的一樣,但從來沒有發生過。

比如,在一個場景或新聞事件中,通過Deepfake把某個人加進去,使他說一些話或者做一些動作。

Deepfake真正的危害在於,如果這種技術大行其道,它有可能會顛覆人類千年來所形成的某些“朴素真理”,比如“眼見為實”。當真相被輕易混淆,尤其是當這些真相涉及某些重要的人物、場景、事件時,可以想象,將會造成多大的混亂。

比如,幾個月前,美國民主黨議員南希·佩洛西的一段演講視頻在Facebook上瘋傳。視頻中佩洛西的語速被降到了原版的75%左右,同時音調也被人為調高,陰陽怪氣,宛如醉酒一般,產生了很惡劣的影響。

技術當然是無罪的,但當技術進步有可能超出人類的把握能力,有可能對人類生活造成威脅的時候,對技術應用加以防范和管控卻也是必要的。

實際上,很多國家已經充分認識到這一點。比如,在2018年的世界人工智能大會上,中國國家主席習近平曾在賀信中指出,在把握好新一代人工智能所帶來之發展機遇的同時,要“處理好人工智能在法律、安全、就業、道德倫理和政府治理等方面提出的新課題”。

在社會治理中,技術進步與立法能夠齊頭並進當然是最理想狀態,但鑒於立法的慎重性,現實中立法落后於技術進步卻是常態。在這種情況下,在類似於Deepfake事件中,由處於第一線的企業制定規則加以約束,確實很有必要。

如今,社交巨頭推特已經走出了第一步,相信未來各大科技巨頭都會有所跟進,而中國的互聯網企業也不妨隨時保持高度關注。畢竟,技術的“雙刃刀”效應是不分國界的。

□信海光(專欄作者)

(責編:宋心蕊、趙光霞)

分享讓更多人看到

傳媒推薦
  • @媒體人,新聞報道別任性
  • 網站運營者 這些"紅線"不能踩!
  • 一圖縱覽中國網絡視聽行業
返回頂部