人民网
人民网>>传媒

推特反Deepfake策略 能否揭下人们换上的"假面"?

2019年11月14日07:30 | 来源:新京报
小字号
原标题:推特反Deepfake策略,能否揭下人们换上的“假面”?

鉴于立法总是落后于现实,在类似于Deepfake事件中,由处于第一线的企业制定规则加以约束,确实很有必要。

中国的“双十一”狂欢刚刚落幕,大洋彼岸的社交媒体巨头——推特又吸引了来自科技圈的关注度。

11月12日,推特正式发布首个反Deepfake(换脸神器)策略草案。该公司表示,如果Deepfake内容威胁到某人的人身安全或可能造成严重伤害,他们会将该内容从推特上删除。目前,推特已开始就此项草案向公众征集意见。

可能中国人对Deepfake不太了解,但提起前段时间引发争议的某款换脸软件,大家一定不会陌生。而这款换脸软件就借鉴了Deepfake的原理。

Deepfake是个新词,它实际上是个组合词,即“深度学习”和“假”的组合。顾名思义,作为一种人工智能基础的人物图像合成技术,它可以通过机器深度学习,将现有的图像和视频组合并叠加成新的图像和视频。这些内容看起来就像真的一样,但从来没有发生过。

比如,在一个场景或新闻事件中,通过Deepfake把某个人加进去,使他说一些话或者做一些动作。

Deepfake真正的危害在于,如果这种技术大行其道,它有可能会颠覆人类千年来所形成的某些“朴素真理”,比如“眼见为实”。当真相被轻易混淆,尤其是当这些真相涉及某些重要的人物、场景、事件时,可以想象,将会造成多大的混乱。

比如,几个月前,美国民主党议员南希·佩洛西的一段演讲视频在Facebook上疯传。视频中佩洛西的语速被降到了原版的75%左右,同时音调也被人为调高,阴阳怪气,宛如醉酒一般,产生了很恶劣的影响。

技术当然是无罪的,但当技术进步有可能超出人类的把握能力,有可能对人类生活造成威胁的时候,对技术应用加以防范和管控却也是必要的。

实际上,很多国家已经充分认识到这一点。比如,在2018年的世界人工智能大会上,中国国家主席习近平曾在贺信中指出,在把握好新一代人工智能所带来之发展机遇的同时,要“处理好人工智能在法律、安全、就业、道德伦理和政府治理等方面提出的新课题”。

在社会治理中,技术进步与立法能够齐头并进当然是最理想状态,但鉴于立法的慎重性,现实中立法落后于技术进步却是常态。在这种情况下,在类似于Deepfake事件中,由处于第一线的企业制定规则加以约束,确实很有必要。

如今,社交巨头推特已经走出了第一步,相信未来各大科技巨头都会有所跟进,而中国的互联网企业也不妨随时保持高度关注。毕竟,技术的“双刃刀”效应是不分国界的。

□信海光(专栏作者)

(责编:宋心蕊、赵光霞)

分享让更多人看到

传媒推荐
  • @媒体人,新闻报道别任性
  • 网站运营者 这些"红线"不能踩!
  • 一图纵览中国网络视听行业
返回顶部