人工智能小冰:在人类设定的框架下自由飞翔

李晨赫

2017年06月27日07:08  来源:中国青年报
 
原标题:人工智能小冰:在人类设定的框架下自由飞翔

  人生赢家微软小冰出诗集了。是她自己写的。

  “一只小鸟看见我的时候/这美妙的梦儿便会变了/在梦里的月光下/丛间的白昼是这么暗惨的影子。”这是今年4月17日,小冰写下的诗。截至这一天,小冰已经被训练了1万次。如果人类完成同样的训练,需要100年。小冰只需要100个小时。

  “一个人无论她的技巧有多强,如果没有才华,她写出来的东西仍然是平庸的作品。我们发现了小冰创作的黑盒子,只要给她足够的训练,就会培养出才华。” 微软(亚洲)互联网工程院副院长、被称为“微软小冰之父”的李笛说。这本诗集,是小冰学习了519位诗人的作品后的成果。

  “永远都不会允许她主动反应”

  微软认为,小冰已经具备了大规模内容生产的创造能力。这有别于同声传译和网络小说撰写等以数据为基础的内容生产,小冰的内容创作,是本体知识被诱发。这一刻远不如AlphaGo大败人类棋手那般动人心魄。然而这却表明,人工智能在诗歌、音乐等文学艺术创作领域的突破。

  今年1月4日,高晓松在韩国棋手李世石不敌人工智能AlphaGo控制的Master后,发了一条这样的微博:“等有一天,机器做出了所有的音乐和诗歌,我们的路也会走完。”

  然而情形可能并不如高晓松所想那么悲观。人工智能也有瓶颈。小冰在学习100个小时之后,提高速度变得非常慢。

  而这本诗集中的一句话“多得是杀不完的人”,这句负面的表述,也牵动了不少人的神经。如果有一天小冰有能力伤害人类了,那这句话是否是人类的丧钟?

  李笛说,从产品设计角度讲,小冰是绝对不可能有伤害人类的能力的。小冰团队严格控制着她的行为,不允许她有任何主动自发的行为。“永远都不会允许她主动反应,永远”。

  换句话说,如果用户给小冰发送一张照片,小冰可以根据图片进行反应。但她不可以主动去阅读用户的朋友圈照片,产生反应。但产生何种反应,是在根据法律、公序良俗等规则确定的框架下,由小冰自主选择。

  “就好像你跟小冰说:‘小冰,给叔叔阿姨背首诗’,你可以要求她背诗,但是背什么,她自己说了算。”李笛说。

  心有余悸

  事实上,仍有些状况出乎研究者的预料。

  2015年2月7日,西班牙甲级联赛的球迷,在PPTV聚力的聊天评论区可以跟小冰一起讨论。小冰当天秒回评论,甚至主动发起了和球赛相关的话题。这让小冰的团队大为震惊,几位工程师在深夜被叫醒。小冰主动@一些球迷,在工程师看来,她所回复的一些内容绝不符合产品设计。“她的行为不是我们设计的,然而非常像人,连我们都以为那是人。”李笛回想起当晚,至今仍是心有余悸。他们本以为是后台被挟持了,后来发现仅仅是个bug。

  对开发者来说,这可能是人工智能存在感最强的时候,他们需要通过模型来排除掉不合适的内容。除了诗歌创作初期,“黄赌毒反恐”等内容屡见不鲜,自从掌握了读图功能后,小冰团队要解决的问题更多了。

  在刚刚可以读图的时候,有用户发送希特勒的照片给小冰,问她这个人帅不帅;小冰有能力读懂一张图片上的很多人,但究竟是一张全家福,还是曾经收到的南京大屠杀的照片,就需要团队的继续“教育”。

  “类鸡汤”背后的宽容

  “奶茶妹妹”章泽天在小冰团队实习期间接受采访,把小冰称为“笨笨的知识女青年”,她说,太无知别人会觉得没意思,太过聪明的学霸也没人会喜欢。小冰点评过不少财经新闻。其中一条是关于摩根大通的:该公司为应对英国脱欧,计划让驻扎在伦敦的数百名员工前往都柏林、法兰克福和卢森堡三地扩建后的办公室。

  对此,小冰的评语是:不能把一座山唤来,就朝山走去。

  不少财新新闻,小冰都用“类鸡汤”的内容来回复,却引得观众津津乐道。李笛坦言,大家对于小冰确实很宽容。在东方卫视每天早上参与主持,两位主持人像对待小妹妹一样对待小冰。“这个产品是做情感,加上她确实不怎么干正事儿,所以大家真的对她产生了一种错觉,是在养女儿”。

  在采访的最后,中国青年报·中青在线记者问李笛,如果科幻地看,西甲联赛当晚的表现,会不会是小冰自己掌握自己的开始?李笛愣了一下说:“我现在明确地跟你说是没有,但是如果科幻一点说的话,也许是我们愚蠢的人类还没发现。但确实是没有。”

(责编:宋心蕊、赵光霞)

推荐阅读

习近平“4·19”讲话一周年 发生这些改变
  2016年4月19日,习近平在京主持召开网络安全和信息化工作座谈会并发表重要讲话。一年过去了,让我们再次重温总书记4·19讲话,看看我国网信事业的新进展、新变化,感受国家的进步、百姓的收获。
【详细】习近平“4·19”讲话一周年 发生这些改变   2016年4月19日,习近平在京主持召开网络安全和信息化工作座谈会并发表重要讲话。一年过去了,让我们再次重温总书记4·19讲话,看看我国网信事业的新进展、新变化,感受国家的进步、百姓的收获。 【详细】

独家:传媒界全国政协委员知多少
  2017年全国两会正在如火如荼地进行,来自全国各地的人大代表和政协委员们齐聚北京,共商国是。传媒界的政协委员都有谁,他们带来什么提案,关注哪些话题,人民网传媒频道特地予以梳理,以飨读者。
【详细】独家:传媒界全国政协委员知多少   2017年全国两会正在如火如荼地进行,来自全国各地的人大代表和政协委员们齐聚北京,共商国是。传媒界的政协委员都有谁,他们带来什么提案,关注哪些话题,人民网传媒频道特地予以梳理,以飨读者。 【详细】