云栖科技评论第102期--传媒--人民网
人民网首页
102

卷首语

人民网公众号

阿里云公众号

尤瓦尔·赫拉利与李飞飞是怎样讨论“AI威胁论”的?
   近日,斯坦福大学社会与伦理中心举办了一场名为“未来AI”的主题活动,邀请到了《人类简史》、《未来简史》作家尤瓦尔·赫拉利,一同在座的中心新任“所长”,是去年从谷歌云AI首席科学家任上离职的李飞飞。

   尤瓦尔·赫拉利和李飞飞,一个哲学家,一个科学家,两个原本毫无交集的人因为AI而汇聚一堂,也因为AI,产生了思想上的激烈撞击。

   尤瓦尔·赫拉利坚信,AI会带来“哲学危机”。他表示,哲学危机一半来自AI与计算机技术,另一半来自脑科学和生物科技。如果总结为一个公式,生物科技x计算能力x数据=攻击(hack)人类大脑的能力。

   换句话说,不仅哲学家们几千年来讨论的诸多哲学概念将在算法面前土崩瓦解,其还会洞悉思想和心智,并从这一维度具有攻击人脑的能力,甚至于人文主义所推崇的自由意志将面临严峻挑战,机器或将会代替人类做出更明智的选择。

   虽然尤瓦尔·赫拉利作为历史学家、哲学家、社会评论家的工作,就是指出技术发展中存在的危险,但是他的这些观点还是让在座的科学家们感到震惊,从媒体报道上看,许多人认为,他未免太危言耸听了。比如,李飞飞就是他们中的一个。

   李飞飞强调“任何技术都有两面性”,比如说“人类从火的发现开始所创造的任何技术都是一把双刃剑”,但是,AI带来的机遇和潜在的危机应该被正确看待。

   这位在谷歌云职位最高的AI科学家承认,未来AI发展所面临的挑战和问题需要各界专家学者共同探讨研究,重新构建下一代AI发展规划,但是要相信“AI是一项革命性的技术”。

   从“第三次人工智能浪潮”开始至今,AI已经取得了非常耀眼的进步,但是与物理、化学、生物学相比,它仍然是一门新兴的科学,而且也才刚刚进入“技术道德伦理讨论的关注范围内”,一味强调“AI威胁、AI风险”与一味吹捧AI的社会价值都不可取。

   事实上,就算是在备受争议的“AI取代人工”这个问题上,也已经有分析公司提出“AI将在2020年创造50万个新增就业机会(减少180万个,增加230万个)”。

   曾经有很多比AI更具威胁的技术被创造出来,但历史证明,我们的社会有能力让任何一项技术朝着安全可控、对社会有益的方向发展,AI与其他那些曾经被视作洪水猛兽的技术一样,都应当被一视同仁,让哲学家、科学家和社会大众一起面对。

                                 阿里云研究中心 崔昊

  编辑制作:人民网研究院  内容提供:阿里云研究中心
  本刊仅用于行业交流,非商业用途。编辑或专家观点独立,不代表本刊立场。部分所选用内容,未能与作者取得联系,请联系本刊:yjy@people.cn

1、谷歌称Fuchsia OS系统将支持更多设备


谷歌称Fuchsia OS系统将支持更多设备

  【新闻摘要】 据国外媒体报道,在近日举行的谷歌I/O开发者大会上,Android和Chrome掌门人希罗史·洛克海默(Hiroshi Lockheimer)对外披露称,被寄予厚望的Fuchsia OS“并不是新一代Android或Chrome操作系统”, Fuchsia只是在打造操作系统领域的全新艺术,谷歌将把从Fuchsia OS中学到的东西整合到其他产品中。他同时表示,Fuchsia OS可以以不同的外形出现,而不仅仅是智能手机或个人电脑。有媒体表示,希罗史·洛克海默的表态或许暗示Fuchsia OS可能适用于智能家居设备、可穿戴设备,甚至可能是增强或虚拟现实设备。(阅读报道)
  【小云评论】 在Android和Chrome获得巨大成功之后,谷歌一直希望将其在智能手机和个人电脑之外予以复制,从而在经历了个人电脑、智能手机两大浪潮之后,紧紧抓住下一个“数字化设备的浪潮”,在这方面,谷歌的直接竞争对手亚马逊做的略高一筹:据不完全统计,截止2019年4月,搭载亚马逊智能助手Alexa的智能设备出货量超过1亿台,Alexa系列智能音箱累计出货量已超过5000万台。虽然Alexa仍然只是智能语音助手,无法与打出操作系统概念的Fuchsia OS的相比,但亚马逊已经在智能设备领域建立起了稳固的生态,从智能语音助手到操作系统,或许只有一步之遥。

2、美国再斥资6亿美元研发百亿亿次超算


美国再斥资6亿美元研发百亿亿次超算

  【新闻摘要】 美国能源部近日宣布,将与超级计算机厂商Cray(中文名:克雷)合作,计划在2021年建成全球最快的百亿亿次级别超级计算机Frontier,这一系统将用于加速科技创新,并帮助美国高性能计算和人工智能领域保持领先地位。据美国能源部表示,超级计算机Frontier的性能将超过1.5 exaflops,大约是目前顶级超级计算机速度的50倍,它将在美国橡树岭国家实验室建造,主要基于Cray的Shasta架构和Slingshot互连技术,并采用AMD公司的EPYC CPU和Radeon Instinct GPU作为核心处理器。美国橡树岭国家实验室(Oak Ridge National Laboratory)是美国能源部所属的科学和能源研究实验室。2005年以来,该实验室已经部署了当时最快的计算机系统Jaguar、Titan和Summit。(阅读报道)
  【小云评论】 美国能源部目前共致力于三台百亿亿级超级计算机的建造,即田纳西州橡树岭的Frontier,伊利诺斯州阿贡国家实验室的“极光”Aurora和加利福尼亚州的El Capitan,所有这些机器预计将在2021至2022年部署。即使对于美国来说,这也是前所未有的:从未有国家同时建设两套以上的下一代超级计算机,因为这将耗费巨大的人力、物力和财力。在这背后,是一场涉及中、美、日、欧的全球超级计算机领域“军备竞赛”,毕竟计算技术是数字经济时代的基石。

3、高通近40款芯片被曝出泄密漏洞


高通近40款芯片被曝出泄密漏洞

  【新闻摘要】 据国外媒体报道,英国安全公司NCC Group公布了藏匿在逾40款高通芯片的旁路漏洞,可用来窃取芯片内所储存的机密资讯,并波及采用相关芯片的Android设备。这一编号为CVE-2018-11976的漏洞,涉及高通芯片安全执行环境的椭圆曲线数码签章算法,将允许黑客推测出存放在QSEE中、以ECDSA加密的224位与256位的密钥。媒体报道中透露,NCC Group早在去年就发现了这一漏洞,并于去年3月知会高通,高通则一直到今年4月才正式修补。(阅读报道)
  【小云评论】 2018年以来,芯片漏洞问题愈演愈烈,从英特尔、AMD到高通,几乎所有主流通用芯片供应商都深陷其中,影响范围也从服务器、PC蔓延到Android手机和智能设备。实事求是的说,随着软件定义趋势(甚至是软件定义芯片)的发展,以及软件芯片化特性的增强,芯片中的安全性问题几乎必然会呈现增长趋势,而且由于一代芯片微架构往往用于型号众多的芯片中,一旦出现问题,也必然会波及范围极广。但这并不意味着不应当在芯片领域探索软件定义,关键是要及时发现、处理潜在安全隐患,而非时隔近15个月才行动起来。

4、MIT用深度学习预测乳腺癌患病概率


MIT用深度学习预测乳腺癌患病概率

  【新闻摘要】 近日,麻省理工学院计算机科学与人工智能实验室(CSAIL)和马萨诸塞州综合医院(MGH)合作,共同打造了一个新的深度学习模型,可以通过分析乳房 X 光图像,找出人眼不易察觉的特征和规律,从而预测女性是否可能在未来五年内罹患乳腺癌。训练结果显示,该模型的预测准确率约为31%,远超传统预测方法的18%。研究团队认为,以深度学习驱动的预测系统有望推动新的乳腺癌筛查计划,可以将基于年龄的传统筛查建议,变成基于风险因素的更加科学的个性化筛查建议。(阅读报道)
  【小云评论】 值得注意的是,这一深度学习模型并非诊断而是预测,它能发现人眼不易察觉的特征和规律,从而将准确率提高超过70%,由于早期乳腺癌的5年生存率高达 98-100%,这意味着将有近乎一倍以上的患者可以得到及时有效的治疗。更重要的是,深度学习模型对不同族裔女性的预测准确率相同,包括Tyrer-Cuzick 模型在内的很多现有模型大多依照白人女性数据建立,对非白人族裔的预测效果较差,可能有超过10%的差距。在深度学习的帮助下,这一误差或将不复存在。人工智能既可以超越人类的观察和认知水平,提高疾病预测,更可以弥补原有医学手段的缺陷,实现医疗服务的包容性发展。

5、微软 Build 2019大会发布多项更新


微软 Build 2019大会发布多项更新

  【新闻摘要】 近日,微软年度开发者大会 Build 2019 在美国西雅图拉开帷幕,微软 CEO 萨蒂亚·纳德拉证实微软目前在全球拥有 54 个数据中心区域,其中包括一个位于南非的主要数据中心区域,并表示“随着计算渗透到我们生活的各个方面,开发者的选择将决定我们所生活的世界,(因此)微软致力于(通过云)为开发者提供跨越不同栈层的可靠工具和平台,创造神奇的体验,为每个人创造新的机会。”此外,在 Build 2019 上,微软推出了25 个关于 Azure 主要功能和更新的介绍,这家公司已将Azure 推向更为广阔的领域,包括Edge 浏览器,Azure Kinect,Azure 数据盒,Azure IoT等新领域、新服务被提出,甚至使用 Azure 连接 Hololens 2 增强现实眼镜。(阅读报道)
  【小云评论】 显然,Azure 已经成了微软所有业务的支撑平台,更是微软开发者战略的底层基础,对于将Azure云服务视作“全球计算机”的纳德拉来说,Azure的重要性不言而喻。正如文章中所说,从今年的微软 Build 大会可以看出,微软把 Azure放在重要的战略地位,其他所有的服务和产品都建立在此之上。此外,微软也在努力将 Azure打造成一个开放平台,提供新的开源技术和开发工具,为下一步“万物互联”做准备。

6、亚马逊被曝光使用AI监控员工


亚马逊被曝光使用AI监控员工

  【新闻摘要】 近日美国科技媒体the Verge公开了一份亚马逊公司内部文件,虽然出于保护当事人隐私目的,这份文件的很多语句已被删去,但仍然显示出在亚马逊的仓库中,强大的AI系统不仅能跟踪每个人的工作进度,甚至还能精确计算工人消极懈怠的“摸鱼”时间(Time Off Task),这意味着亚马逊仓库的工作人员不仅每小时必须完成几百个包裹的包装工作,而且工作的全过程都被AI所监控。不仅如此,根据the Verge公开的文件,亚马逊的AI“监工”还可以根据实时数据,生成在线解雇指令,直接绕过主管开除工人。(阅读报道)
  【小云评论】 这份亚马逊内部文件披露了一个令人震惊的事实:在亚马逊仓库,机器不仅可以取代人类劳动,甚至可以自己决定开除人类,即对人类的工作做出冷酷的评价和决定,这已经超越了人机协同的一般概念。对于亚马逊来说,这或许有助于对员工的管理或是提高仓库的工作效率,但这对于员工是不恰当的,甚至会对工人的心里健康留下深远的负面影响。需要指出的是,类似的AI应用并不是行业的通行做法,其背后是亚马逊高压力的工作状态和近乎苛刻的工作要求,所以,AI监控甚至开除员工,只是亚马逊备受争议的员工管理方式的一种体现,并不能代表未来机器与人之间的劳动关系。

7、Facebook数字支付项目“Project Libra”曝光


Facebook数字支付项目“Project Libra”曝光

  【新闻摘要】 据《华尔街日报》报道, Facebook正在推进名为“Project Libra”的数字支付项目,该项目的核心是一种数字货币,主要目的是让用户可以彼此相互转账,并使用该数字货币在脸书及互联网上购物。目前,脸书正在招募数十家金融公司和在线商户,协助推行这套基于数字货币的支付系统。报道称,Facebook正在为这一项目寻求大约10亿美元的外部投资,同时开发类似比特币“挖矿”的奖励机制。此外,Facebook的这一数字货币可能将与一揽子法定货币挂钩,而非只是美元。换句话说,该数字货币将是俗称的“稳定币”,币价会相对平稳。(阅读报道)
  【小云评论】 在外界看来,Facebook进入数字支付和数字货币领域只是时间问题,就像许多其它公司一样,脸书正在探讨如何运用区块链技术的力量,也认识到未来支付手段和支付介质可能产生的巨大变化。但更重要的是,Facebook的目标肯定不仅局限于自家的网站服务,而是要更深入用户的生活,打造出一套可以在互联网上通用的支付系统。就像目前Facebook用户已经可以使用其帐户登入许多其它网站,未来Facebook更希望用户可以使用其支付工具,在不同网站上购物。

8、美国警方破获一起机器人绑架案


美国警方破获一起机器人绑架案

  【新闻摘要】 近日,在美国加利福尼亚州的伯克利市,警方破获了一起“绑架案”,一名男子因看不惯在伯克利街道上漫游的送货机器人,便将机器人“劫持”或者说偷走,将其锁在自己的汽车后备箱中。被警方救出的受害者名叫 Kiwibot 机器人,在美国送货机器人领域中算是颇有名气,由加州大学伯克利分校所孵化的机器人初创公司研制,从 2017 年开始提供服务至今,Kiwibot 完成 3 万次交付,已打造超过 150 个机器人。(阅读报道)
  【小云评论】 一名45岁的代课教师是此案的嫌疑人,他“劫持”机器人是因为“看到这些机器人漫游在街头上,感到很沮丧”,以及“不喜欢这些机器人”,此外,虽然说外界媒体纷纷使用“劫持”来形容此案,但伯克利警方还是以“涉嫌犯下盗窃重罪”逮捕了这名男子。随着送货机器人越来越多,任何机器之前的关系就成了一个不得不解决的问题,特别是当部分体积较大的机器人甚至占据了整个行人道,影响行人的权益,或是有人感觉机器人抢走人类送货员工作的心理剥夺感发生时,这些冲突就会愈演愈烈。人工智能治理课题的研究迫在眉睫。

9、“未来AI”会议:需要重视AI威胁与发展趋势研究


“未来AI”会议:需要重视AI威胁与发展趋势研究

  【新闻摘要】 近日, 斯坦福大学社会与伦理中心,斯坦福“以人为本”AI研究院和斯坦福人文中心共同主办了一场“未来AI”主题活动,畅销书《人类简史》、《未来简史》作家尤瓦尔·赫拉利和AI界“女神”李飞飞分别谈到对未来AI发展的一些看法。赫拉利在讨论中重述了他在《未来简史》中的预言,他认为当AI与脑科学、生物科技、大数据联合起来时,将具备攻击人类大脑的能力。而李飞飞坚信任何技术都有两面性,AI带来的机遇和潜在的危机应该被正确看待。未来AI发展所面临的挑战和问题需要各界专家学者共同探讨研究,重新构建下一代AI发展规划。(阅读报道)
  【小云评论】 长期以来,尤瓦尔·赫拉利都对AI会威胁人类深信不疑,他多次强调“AI会具备入侵人脑的能力”甚至会将其付诸实施,这位畅销书作家认为,AI真正入侵人类大脑的能力不是指收集用户购买习惯,网页浏览记录,进行广告推荐,而是算法可以直窥人的大脑和心脏,收集数据。李飞飞则更加乐观,她认为AI是一项革命性的技术,虽然与物理、化学、生物学相比,它仍然是一门新兴的科学,但有了数据、计算力,AI正在对人类的商业和生活产生各种各样的影响。当然,在人文学家、哲学家、历史学家、政治科学家、经济学家、伦理学家、法律学者、神经科学家、心理学家以及其他众多领域科学家的共同努力下,重构下一阶段AI的研究和发展是当前非常重要的工作。

10、中国应用在美国悄然兴起


中国应用在美国悄然兴起

  【新闻摘要】 据美国媒体报道,最近几年由中国一些大科技公司开发的移动应用(以下简称APP)逐渐在美国消费者中流行起来。移动应用研究公司Sensor Tower统计的数据显示,2019年第一季度由中国公司或中国大投资者投资的公司开发的应用,在美国获得了6.748亿美元(约合45亿元人民币)收入,营收同比增长了67%以上。中国科技公司借助APP成功进入了美国,比如TikTok就取得巨大成功,第一季度成为美国下载次数第三大的应用,只落后Facebook的Messenger和“Color Bump 3D”游戏。(阅读报道)
  【小云评论】 美国用户需要抖音,就像他们是如此迫切地需要阿里巴巴速卖通上的纹身花臂袖套,无论是国内还是国外的用户,无论是移动应用,还是商品,具备吸引力的时髦产品,加上优质的服务和过硬的产品质量,互联网已经能让人们跨越文化、空间和时间获取所需。当然,对于希望拓展国外市场的中国公司来说,还要进一步了解和贴近国外市场用户,保持持续迭代优化的能力,确保可以持续与用户产生共鸣。而对于是否是中国公司,用户自然会“用脚投票”,而非追溯他们所使用的APP到底是来自中国还是美国。