AI深度换脸技术惹争议 工信部约谈ZAO要求自查整改

白金蕾 罗亦丹

2019年09月05日07:28  来源:新京报
 
原标题:工信部约谈要求整改 ZAO用户协议已修改

  网红换脸应用ZAO,因工信部约谈再次被推上风口浪尖。

  一夜刷屏朋友圈,遭遇用户条款、隐私权限质疑,被微信朋友圈封杀,ZAO近日经历了大起大落。

  9月4日,针对工信部约谈问询一事,ZAO运营团队回应称,上线以来,一直和各主管部门保持着积极顺畅的沟通,将严格按照法律法规和各主管部门的要求,按照更加严格的标准,全面加强内容管理、完善各项管理机制,确保用户个人信息安全和数据安全。

  目前ZAO已经上传了新版用户协议,北京盈科(杭州)律师事务所律师方超强对新京报记者表示,新版协议符合网络安全法“数据提供给第三方时必须由用户再次授权”的要求,从隐私保护的角度看没问题了。

  工信部约谈,要求自查整改

  近日,一款名为“ZAO”的换脸社交软件在朋友圈刷屏,不少人称自己“刷了一整夜”。走红之后,ZAO的用户协议也引发了广泛质疑,部分用户在网络上公开表达了关于隐私、肖像权等问题的担忧。

  根据工信部官网消息,2019年9月3日,针对媒体公开报道和用户曝光的应用程序ZAO用户隐私协议不规范,存在数据泄露风险等问题,工信部网络安全局对北京陌陌科技有限公司(下称:北京陌陌)负责人进行了问询约谈,要求其开展自查整改,依法依规收集使用用户个人信息,规范协议条款,强化网络数据和用户个人信息安全保护。

  同时,工信部网络安全局还要求北京陌陌要进一步加强新技术新业务安全评估,切实采取有效措施,积极防范自有业务平台被利用实施电信网络诈骗等风险隐患。

  针对工信部的约谈和问询,ZAO运营团队回应称,将严格按照法律法规和各主管部门的要求,按照更加严格的标准,全面加强内容管理、完善各项管理机制,确保用户个人信息安全和数据安全。

  工商登记信息显示,ZAO的运营主体是长沙深度融合网络科技有限公司,由海南喵咖网络科技有限公司(下称:海南喵咖)全资持有,而后者股东为自然人王力、雷小亮,分别持股50%,王力为陌陌总裁、首席运营官,雷小亮为陌陌联合创始人。海南喵咖的股权全部出质给北京壹六零二信息技术有限公司(下称:壹六零二),后者为北京陌陌的全资子公司,北京陌陌为陌陌科技香港有限公司的全资子公司。也就是说穿透后,无论从实控人还是股权出质角度,ZAO都是隶属于陌陌公司的一款产品。

  一夜刷屏AI深度换脸技术惹争议

  根据App Store介绍显示,ZAO使用AI技术,仅需要一张正脸照,用你的脸制作网络热门表情包,出演经典电影片段,跟idol、朋友飙戏。值得注意的是,该软件提示公众人物只能通过手机拍摄来添加面孔,确认肖像权有效后使用。

  根据ZAO用户协议内容中的必要授权协议:用户上传发布内容后,意味着同意授予ZAO及其关联公司以及ZAO用户在“全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利”,“包括但不限于可以对用户内容进行全部或部分的修改与编辑(如将短视频中的人脸或者声音换成另一个人的人脸或者声音等)以及对修改前后的用户内容进行信息网络传播以及《著作权法》规定的由著作权人享有的全部著作财产权利及邻接权利”。

  上述用户条款在2019世界人工智能大会引发热议,腾讯研究院助理院长程明霞提到这一应用程序的走红时表示,一方面可以看到人们对AI非常感兴趣,踊跃上传自己的照片,查看效果;另一方面如果仔细查看用户条约也存在着潜在的风险。她认为应该确保AI的“可知”、“可控”、“可用”、“可靠”。“科技公司应该追求长期价值,日活、月活、估值都是短期的,社会价值才是长期的。”程明霞说。

  9月3日,ZAO运营团队在微博中公告回应隐私问题称:不存储面部生物特征,不影响支付。

  ZAO运营团队在上述公告中称,不会存储个人面部生物识别特征信息。在用户的使用过程中,为保护肖像权不被冒用,ZAO设置了真人验证环节,整个过程仅为验证用户上传的照片是用户本人。ZAO所呈现的“换脸”效果,是根据用户提交的头像照片,按照用户选定的素材场景,通过后期技术叠加所实现的虚构图像,并没有采集任何个人生物识别特征。用户删除信息或注销账号,ZAO均会依据相关法律法规的规定删除相应信息。

  ZAO还称,使用ZAO不会产生支付风险。刷脸支付安全门槛极高,仅通过一张照片实现的“换脸”技术完全无法突破刷脸支付的安全系统。

  ■ 追访

  ZAO紧急修改用户协议,律师称新协议无隐私问题

  新京报记者发现,9月3日,ZAO更新了隐私协议以及用户协议。

  在新版协议中,此前颇受争议的“您同意或者确保实际权利人同意授予ZAO及其关联公司以及ZAO用户全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利”,以及“如果您把用户内容中的人脸换成您或其他人的脸,您同意或确保肖像权利人同意授予ZAO及其关联公司全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利”两段表述已经删去。

  北京盈科(杭州)律师事务所律师方超强此前对新京报记者表示,旧版的用户协议严重限制用户的权利义务,且数据给第三方或关联方使用时没有说明给用户授权不合规。

  而在新版协议中,ZAO表示用户上传的内容仅限用于“您提供上传/发布短视频以及利用技术对平台上的短视频进行局部修改生成新的短视频的服务,相关内容将严格按照相关法律法规的规定保留在ZAO上,除非为了改善ZAO为您提供的服务或另行取得您的再次同意,否则ZAO不会以任何形式或目的使用上述内容。”

  对此,方超强9月4日对新京报记者表示,新版协议符合网络安全法“数据提供给第三方时必须由用户再次授权”的要求,从隐私保护的角度看没问题了。

  而在肖像权属问题上,ZAO在用户协议中强调,其为保证肖像权不被冒用,设置了真人验证环节。新京报记者使用ZAO发现,只有通过摄像头验证,才可以公开发布制作好的视频,若发布他人肖像制作的视频,则必须也请肖像权属人进行摄像头验证,或与已经验证好的用户加好友才可公开发布制作好的视频。

  值得一提的是,此次更新的用户协议及隐私协议会以弹窗形式提示用户,用户若不同意该协议,ZAO会弹出“ZAO无法继续使用你的信息,可临时同意条款去保存数据,然后注销账号”的提示字样。

  方超强表示,平台向用户提供条件,用户不同意就无法使用,这是合理的。而有从事隐私合规性方面研究的专家对新京报记者表示,用户不给APP开启权限,APP就不让用户使用的行为属于“强制索权”,并不合规,但若该项权限属于APP的基本业务范畴,若不授予APP就无法使用,则不属于“强制索权”。从这点看ZAO目前索取的储存和相机权限都属于其基本业务范围,肖像权的使用也对用户进行了明示提醒,在隐私规范方面已较为完善。

  ■ 延展

  AI换脸技术易被黑产利用

  AI换脸技术被应用其实并不是新鲜事,早在今年年初,一段通过AI技术将《射雕英雄传》中朱茵脸部替换成杨幂的视频就在网络引起热议。

  多家外媒曾报道Deepfake和DeepNude在国外引起的热议。有报道称,随着越来越多的人正在利用FakeApp制作名人的色情视频,FakeApp正在引起恐慌。

  新京报此前报道,随着AI技术走红以及门槛降低,售卖明星换脸的淫秽视频已经成为一门地下生意。闲鱼上还有卖家提供“定制换脸”服务。

  在2019世界人工智能大会上,腾讯优图实验室总经理吴运声表示,“现在网上有换脸的技术,可以通过技术制造声音、视频,还可以用技术模拟出摄像头的录制,比如你没有到这里,但技术可以把你做到这里,很容易被黑产、灰产利用。这些让我一直思考技术的准则在哪里,底线在哪里。”他还表示,“黑产、灰产不断有对抗(技术)的手段,在解决对抗问题的过程中,我们也在不断推进技术往前发展。”

  著名学者吴伯凡则认为,人在使用技术的时候一定要有初心,让科技向善。“之前的技术没有自主性和主动权,比如火、核能都不能自主做事,但人工智能是有自我学习能力的,是非常特殊的,就一定要解决向善的问题。”

  对于“AI换脸技术”,网络安全专家张百川曾表示,技术本身没有问题,是有人利用技术作恶,大众需要在日常生活中,注重个人隐私保护。那么该如何防范?其表示,“个人很难防范,如果你有照片在互联网上,就会有(被利用)的风险”。

  App Annie数据显示,ZAO于8月31日成为苹果应用商店中国区免费下载榜第二位,此后三天登顶苹果应用商店中国区免费下载榜榜首。

(责编:宋心蕊、赵光霞)

推荐阅读

“2018新闻传播学院院长论坛”举行
  “2018新闻传播学院院长论坛”11月10日在厦门大学举行。人民日报社副总编辑卢新宁,福建省委常委、宣传部部长、秘书长梁建勇,厦门大学党委书记张彦,教育部高等教育司司长吴岩等与会并致辞。
【详细】“2018新闻传播学院院长论坛”举行   “2018新闻传播学院院长论坛”11月10日在厦门大学举行。人民日报社副总编辑卢新宁,福建省委常委、宣传部部长、秘书长梁建勇,厦门大学党委书记张彦,教育部高等教育司司长吴岩等与会并致辞。 【详细】

第五届世界互联网大会
  由国家互联网信息办公室和浙江省人民政府共同主办的第五届世界互联网大会于11月7日至9日在乌镇召开。本届大会以“创造互信共治的数字世界——携手共建网络空间命运共同体”为主题。
【详细】第五届世界互联网大会   由国家互联网信息办公室和浙江省人民政府共同主办的第五届世界互联网大会于11月7日至9日在乌镇召开。本届大会以“创造互信共治的数字世界——携手共建网络空间命运共同体”为主题。 【详细】