人工智能推動新聞造假 未來還能看到真實的世界嗎

陸益峰

2018年02月01日07:31  來源:文匯報
 
原標題:未來,我們還能看到真實的世界嗎

近日,好萊塢女星、電影《神奇女俠》的主演蓋爾·加朵出現在“不可描述”小影片中的消息讓人大吃一驚。不過,這其實是有外國網友“移花接木”的結果,但與一般PS技術不同,他運用了當前最熱最火的人工智能技術。然而,如果人工智能PS技術運用在新聞領域的話,會產生什麼后果呢? 其實,技術人員已經展示了這種可能——一般的受眾對此真假難辨,甚至會產生一種錯覺:“我所看到的世界是真實的世界嗎?”

如果說人工智能技術的發展可能讓假新聞插上翅膀,那麼背后的利益鏈則是假新聞泛濫的主要推動力。比如在2016年美國大選中,各種假新聞對總統選舉產生巨大影響,時至今日“通俄門”事件仍在美國發酵。不過,梳理美國大選背后的假新聞可以發現,制造、傳播假新聞已成為一條灰色產業鏈,許多人以制造假新聞謀生,甚至還出現了專門的“機器人水軍”工廠。而這些,目前都處於法律的灰色地帶。

人工智能技術推動視頻音頻造假

據美國有線電視新聞網(CNN)報道,2017年7月,華盛頓大學的研究人員利用人工智能技術,制作了一段時長1分55秒的美國前總統奧巴馬演講的假視頻,其圖像和聲音都達到以假亂真的水平。研究團隊設計了一個人工智能程序,讓其分析互聯網上奧巴馬的各種音頻和視頻,經過17個小時的“自主學習”后,人工智能就能通過奧巴馬的聲音,判斷出對應的面部細節,從而模擬出匹配的數字圖像。

該項目研究員之一的史蒂夫·塞茲表示,當你使用視頻聊天軟件時,經常會因為卡頓和低分辨率導致體驗比較差,但聲音卻很清晰,因此如果可以通過聲音來提高視頻質量,那就太棒了。然而有人擔心,這樣的技術如果被別有用心的人掌握,那麼可以通過制造假新聞、假視頻來牟利或達到其他目的。這樣的擔心並非多余,最近多位好萊塢女星“被色情”就是如此。

其實,類似的技術這兩年已如雨后春筍般出現。2017年11月,著名圖像軟件公司、Photoshop的開發商Adobe發布了一款基於人工智能的新產品Project Cloak。在產品演示中,一段視頻中的一對情侶可以輕鬆地被PS掉,而倫敦塔橋旁邊的電線杆也能輕鬆抹去。雖然這個產品的出現大大方便了視頻剪輯,讓一些非專業人士也能實現視頻編輯,但背后的風險也不可小視。2017年7月,一位中國游客在美國的一個火山口游玩,卻不幸跌倒滑入岩漿的短視頻曾在社交網絡上被廣泛傳播,但其實這視頻被PS過了,真正原視頻是該游客在美國海邊游玩不幸滑入大海中。造假者把海水PS成岩漿,但是稍微仔細看的話,破綻還是不少,比如岩漿不可能具有海水那樣的流動性等。不過,未來隨著人工智能技術的成熟,不排除PS得更逼真,讓受眾更難分辨。

另外,Adobe曾在2016年推出過音頻編輯軟件Project VoCo,該軟件被稱為“音頻界的Photoshop”。隻要在該軟件中輸入一段約20分鐘的錄音,它就能生成一個語音音素模型。通過該模型,你就能“偽造”別人的聲音了。

“機器人水軍”已形成灰色產業鏈

2016年可謂社交網絡假新聞爆發元年,其背景是美國大選。在美國大選中,假新聞和它的配套服務已成為一種商品,供應商在網絡上公開出售、明碼標價,擁有清晰的商業模式和完整的產業鏈。據歐洲網絡安保公司Trend Micro的數據顯示,能對大選結果產生影響的假新聞全程服務費用在40萬美元左右,能煽動民眾上街游行的假新聞服務費用在20萬美元左右。

如果說這些數據或描述有些枯燥的話,那麼媒體曝光的真實案例就令人大開眼界了。據英國《衛報》報道,在馬其頓共和國一個叫維勒斯的小鎮上,在美國大選期間居然有100多個支持特朗普的網站。當然,這些網站上全是假新聞,比如“教皇宣布支持特朗普”等。這些假新聞通過聳人聽聞的標題吸引了大量流量,通過臉書、推特等社交網絡大肆傳播,網站主則通過谷歌廣告獲取利潤。據報道,一位18歲的小鎮青年鮑裡斯擁有兩個假新聞網站,大選期間賺了1.6萬美元,而馬其頓的平均月薪僅為370美元。

在技術日新月異的今天,各種造假手段也是層出不窮,比如出現了專門的制造和販賣“機器人水軍”的公司。據美國《紐約時報》1月28日報道,美國有一家名叫“Devumi”的公司,專門在臉書、推特等社交網絡上制造“機器人水軍”帳號,然后賣給電視演員、企業家、運動員等“想出名或者想在互聯網上施加影響力 的人”。此外,“Devumi”還提供YouTube評論、音樂主持網站SoundCloud上的播放點擊等業務,每條隻需幾美分。據悉,該公司一共制造了350萬個推特“機器人水軍”帳號,除了姓名,帳號的人物信息(如照片、狀態等)都是從某個真實用戶那裡克隆而來,每個帳號又被賣給多個客戶,據推算,僅此一家公司就已經為客戶提供了兩億多的推特粉絲了。通過“售粉”和發布自動評論等業務,“Devumi”獲利巨大。

目前,美國社交網絡正遭到“機器人水軍”的嚴重侵襲。根據計算,在推特聲稱的活躍用戶中,有多達4800萬個賬號是模擬真人的賬號﹔而臉書去年11月透露,可能有6000多萬個自動帳號。這些“機器人水軍”帳號可以影響廣告受眾,破壞企業聲譽,甚至影響民眾的大選投票。然而,它們的制造和銷售卻處於法律的灰色地帶。好消息是,在“Devumi”公司被披露后,紐約州總檢察長施奈德曼表示已對該公司開啟了調查,因為根據紐約法律,冒充和欺詐是非法的。

美國皮尤中心的調查顯示,24%的受訪者承認曾轉發過社交媒體上假新聞,82%的人認為自己經常在網絡上看到虛假消息,64%的人覺得假新聞已擾亂了社會基本秩序。假新聞的危害不言而喻,對其進行打擊則剛剛起步。一是社交媒體平台通過算法改進,減少對假新聞的推送﹔二是設立第三方事實查驗機構,加強對事實的審查﹔三是加強對假新聞的監管和處罰,比如臉書、推特都封禁了大量假新聞賬號﹔最后,國家立法打擊假新聞等。魔高一尺,道高一丈。這場真相與虛假信息之爭,恐怕還會持續下去。

(責編:宋心蕊、趙光霞)

推薦閱讀

升國旗唱紅歌送祝福 盤點媒體國慶創意策劃
  今年10月1日,中華人民共和國迎來了68歲的生日,不少人的朋友圈裡也被各種各樣獻給祖國的祝福“刷了屏”。媒體們各出奇招,用MV、H5等新穎的形式“烹飪”出了不一樣的國慶報道“大餐”。
【詳細】升國旗唱紅歌送祝福 盤點媒體國慶創意策劃   今年10月1日,中華人民共和國迎來了68歲的生日,不少人的朋友圈裡也被各種各樣獻給祖國的祝福“刷了屏”。媒體們各出奇招,用MV、H5等新穎的形式“烹飪”出了不一樣的國慶報道“大餐”。 【詳細】

慶祝建國68周年 重溫媒體開國大典報道
  1949年10月1日,在天安門舉行的盛大的開國大典,向全中國、全世界庄嚴宣告中華人民共和國的誕生。在慶祝建國68周年之際,讓我們重溫當時關於開國大典的新聞報道,再次感受那一神聖而又偉大的時刻。 
【詳細】慶祝建國68周年 重溫媒體開國大典報道   1949年10月1日,在天安門舉行的盛大的開國大典,向全中國、全世界庄嚴宣告中華人民共和國的誕生。在慶祝建國68周年之際,讓我們重溫當時關於開國大典的新聞報道,再次感受那一神聖而又偉大的時刻。 【詳細】