人民网
人民网>>传媒

AI机器人监控社交平台"自杀信号" 不到1年救320人

周世玲
2019年05月26日07:26 | 来源:新京报
小字号
原标题:AI机器人监控社交平台"自杀信号" 不到1年救320人

5月15日早晨,王洋在火车上。受访者供图

黄智生跟武汉救援队部分成员合影。 受访者供图

国内出现了一种新型救助自杀的模式——人工智能监测和救助自杀。

首都医科大学教授黄智生2018年4月发起树洞行动,中科院心理研究所研究员朱廷劭2017年也成立了类似的团队。

他们的模式接近,都是通过人工智能监控社交平台的自杀信号,进而介入救助。

2019年5月14日,树洞团队发起一场建队以来参与人数最多的救援,救下了去武汉约死的一男一女。

这样的监测和救援,每天都在发生。兼职志愿者的心理咨询师王新丽说,这是给自杀者内心“照进一些光”。

从2018年8月至2019年3月,树洞团队已展开了七百多次救援,其中320人次获救,而朱廷劭团队截至2018年2月,也已给超万位有自杀意念的用户推送了心理危机干预资源。

生死营救

“跳河吗,我有群。”5月13日11时48分,网友“求死组队”在一个已自杀身亡的微博网友的微博评论区中,发出了这样一条信息。

树洞行动机器人004号监控到了信息,它分析出这位网友的自杀风险为7级,自杀可能性较高。

在微博等社交平台上,有一些自杀身亡的网友,留下了账号,这些账号的评论区成了“树洞”,有人在这儿诉说生活的烦恼,有人在这儿留下遗言悄然离去。

004号是首都医科大学教授黄智生研发的AI(人工智能)机器人,在社交媒体进行巡视,发现有自杀高风险的人群,并进行预警。

信息被发在树洞行动救援团的群中,引起了救援团成员的注意。多位志愿者以抑郁症患者身份与“求死组队”联系获取的信息是,“求死组队”微信名为“北冰洋”,是来自河南的一名女孩王洋(化名),她和湖北的一名男孩张庭(化名)准备去武汉跳长江。

志愿者、心理咨询师王新丽建议,应该成立救援小组。代号“北冰洋”的救援小组当即成立,成员15人,由黄智生牵头。

两名自杀者已经买好了车票。王洋买了5月14日从兰州到武昌的Z266次车票,张庭买了5月15日从襄阳到武昌的K903次车票。

多番讨论,救援小组成员最终确定的方案是,王新丽在线上与当事人保持联系,陈皓在Z266次车上跟随,行动小组两人一组,一组在出站口等女生,另一组在出站口等男生。把两个人的情况作为一个警情报警,必要时候请警方协助带人去医院。

王新丽用约死者的角色,进入了约死群。张庭急着确定约死时间,反复催促王新丽下决定,是否一同约死,王洋也略为着急,因为她在兰州已快把钱花光了,得尽快去下一站。为了获得信任,王新丽也买了去武昌的票。

在群中,王新丽试图拖延时间,声称自己要先去看身患直肠癌的姥姥,路程是30公里,时长是来回半天,之后再赴约死。

救援小组成员、武汉职业技术学院老师陈皓决定先乘火车赶到郑州,再上Z266次车,寻找并拦截王洋。15日凌晨3时许,陈皓在Z266次车上顺利找到王洋。

身着黑色外套、黑色裤子,瘦小的王洋正躺在36号座位睡觉。陈皓拍了图发在群里,汇报了进展,并在王洋不远处悄悄坐下,观察和保护。

陈皓留意到,王洋没有带行李,仅带了一个小手包,可见王洋选择了单程,没有返程。“这说明求死心理比较强烈”。

与此同时,救援小组的其他成员也报警求助,民警在车站进行等候。

5月15日早上8时40分,Z266次列车抵达武昌火车站。民警和救援小组成员接到了王洋。9时许,晚点的K903次列车也抵达车站,张庭随后在车站被找到。此时距离王洋发起自杀、二人相约自杀,仅过去约45小时。

民警为两人送上水和食物,并与之沟通,经开导,王洋情绪好转并平稳,暂时表示放弃轻生念头。民警联系上两人家人。5月15日晚,王洋的叔叔和张庭的母亲先后赶到火车站,将两人接回家。

救援小组成员告诉新京报记者,21岁的王洋早年母亲去世,父亲在外打工,其从小与爷爷奶奶生活,高中学历。她觉得自己很不好看,自卑且孤独。因为性格特质、身体状态和家人的不理解等原因,王洋情绪持续悲观,因而产生轻生念头。在此次约死前,王洋已与另一人约兰州跳黄河未遂。

28岁的张庭家中,父母常年吵架。用他自己的话说,家人对他也是“无时无刻的谩骂”,他已一年没出门,已长一脸络腮胡。心理评估显示,张庭精神状态差,有抑郁症病史,建议送往医院接受治疗。

每日监测

黄智生告诉新京报记者,这次武昌救援,是建队以来参与人数最多的一次。类似的自杀信号监测和救援,每天都在发生。

“总是幻想跳楼的场景,大概那是生活的一个出口吧……”5月23日,树洞行动机器人004号从2000条最新树洞信息中,汇集报告了8条危险信息,这条信息排在第二位。另外7条信息中 “跳楼”“割脉”“烧炭”等字眼反复出现。

每天晚上10时许,004号汇总发布树洞监控通报,黄智生将报告发在树洞行动救援团的群中,救援小组的成员随即介入救援。

黄智生已经做了30余年人工智能研究,据他了解,当前,自杀是国内15-34岁人群死亡的第一原因,而抑郁症是自杀死亡的主要原因。这些年轻人会通过社交平台表达各种自杀情绪和愿望,人工智能可以通过这些平台,在自杀救助上大显身手。

以微博用户为例,8成以上是30岁以下的青年群体。朱廷劭决定以微博为介入平台,介入干预年轻的自杀群体。

2018年7月25日,黄智生正式上线树洞机器人(001号),每日搜索发现有自杀高风险的人群并发布树洞监控通报。同日,树洞行动救援团成立。

早在2017年4月,朱廷劭也申请成立了中科院行为科学重点实验室互联网心理危机(自杀)监测预警中心,用于进行相关课题。

黄智生介绍,树洞机器人的运作机制是,采用知识图谱技术,每天从微博信息中筛选出大约10条信息,生成自杀监控通报,根据自杀相关关键词的词库,进行检索筛查,从数据采集、数据汇总、自杀风险分析到形成监控通报全自动化。

经多次算法改进,树洞机器人从001号更新到002号、003号到现在的004号,目前,系统对自杀风险判别的准确率平均达82%

004号识别的自杀风险级别和预警一共10级,其中6级以上是明确从表达抑郁情绪转为“自杀计划”。6级自杀风险表示,自杀已在计划中,日期未明,7级-10级自杀风险则表示,自杀方式已确定,区别在于自杀时间,分别为“日期未明”、“大致日期”、“近日”和“现在”。王洋和张庭的案例就属于7级。

朱廷劭团队最初尝试的是人工筛选判断,后发现工作量太大,因而选择用人工智能构建自杀识别的预测模型。将梳理出来的与自杀相关的关键词进行建模和训练。

黄智生通过词库关键词和多次通报留意到,有自杀意念者,会提到一些具体方式,包括“烧炭”“跳楼”“割腕”等,其中“烧炭”是最常见的。他研究发现,微博用户中的有自杀意念者,群体年龄在16-24岁,共性是约死,女孩子比男孩子多很多,比例大约为3:1。女孩子多因情感和学业压力产生轻生念头。

共情理解

王新丽则仍在与张庭和王洋保持联系,她想继续跟进两人的情况。此前以约死者的身份和亲身经历与张庭交流时,张庭愿意与王新丽聊,现在两人被救下后,本来警戒心就高的张庭,现在不回微信了。不过好在,张庭没有删除她。王新丽希望慢慢让张庭愿意说出自己的遭遇,接下来,她能够角色转换为心理咨询师进行介入,让张庭接受用药。

王新丽分析,张庭处于封闭状态,家人待他不好,他不太愿意相信别人能帮他,需要心理调整。而王洋情况相对好些,相比张庭拒绝加其他救援小组成员的微信,王洋加了。王洋的微信头像在高频地换,虽然表现出来的是心情不稳定,不过越换越好,可见状态在转好。

会走到自杀这一步,原因有多种,除了抑郁症,还有身心、性格特质、生活上的困境等原因。黄智生说,除了心理介入,小组成员还要帮忙解决实际问题,比方帮忙辅导作业、找工作,有时候对方暖气费没有了,也会帮忙充。对张庭和王洋的救援,小组成员也多次自掏腰包。

即便是救援了,有时也会遭遇被救助者的抵触。2018年12月的一天,004号监测到一条信息,一个女孩在“树洞”里说自己想在2019年元旦跳楼。树洞行动救援团几经周折联系上女孩和其父母后,被女孩父亲骂了一顿,“你能有我了解?”直到女孩父亲看了诊断报告才知道女孩患抑郁症,但仍保持防备,要求救援团不要告诉别人。

网络的匿名特性,既是优势也是劣势,一旦救助者和被救助者断了联系,救助将无从继续,因而救助者和被救助者保持联系、获取被救助者的详细信息是关键点。

多次救援下来,陈皓和王新丽都有了一些救援经验。去年9月开始参与树洞救援行动的陈皓之前进行正面劝导偏多,他感觉,共情和有时候一定的伪装,会起到很好的效果。

王新丽认同共情这一点。她从今年2月开始参与树洞救援行动。在武昌救援中,以约死者的身份,王新丽表现得同样弱势,让对方产生共情和理解,引导说出自己的信息。

此前参与的救援中,王新丽有时候也会用心理咨询师的身份与被救助者交流,用被救助者在“树洞”中曾表达过的内容,与被救助者沟通,以此共情。“心理学术语上,这是进行心理同频,”说出他们表达不出来的想法,“让他们觉得‘自己被看到’”。

王新丽说,自己虽然此前没有学过自杀救援,参与的救援不多,但经观察,发现救援关键在于沟通,让对方愿意倾诉、放下执念和打开视角。她运用具有心理方法的沟通技巧参与救援以来,与被救助者接触均较为顺利。

被救助者的信任,让王新丽有责任感,而救助成功和保持联系,让她很开心。她感觉,救援中的沟通,是给自杀者内心“照进一些光”。

伦理争议

2018年8月至2019年3月,不到一年时间,树洞团队已展开了七百多次救援,其中320人次获救。截至2018年2月,朱廷劭团队也已给超万位有自杀意念的用户推送了心理危机干预资源。

但这显然是杯水车薪。

在社交平台,每天监控到的自杀信号数和志愿者人数对比极为悬殊。黄智生团队中,按每天监控到10条信息计算,团队仅有余力救两三个人。黄智生说,其实因为人力不足救不了剩下的那些人挺痛苦的,只好尽自己的力,能救一个是一个。

一开始,黄智生没想到工程会这么庞大。他原先以为,将程序开发出来,识别到自杀者的信号之后,接下来告诉家长就可以。没想到其实很多家长并不理解,救援也没那么简单。

黄智生团队和朱廷劭团队正在摸索成熟的救援模式。除了已有的、为救援小组成员提供的救援指南《网络自杀救援指导性建议》,树洞行动救援团近日正在针对不同类似自杀原因,总结策略,目前已经总结完成《情感救援策略》,《学校霸凌救援策略》也正在形成中。

用人工智能干预自杀,并非没有伦理争议。

黄智生称,树洞救援获取的都是网络公开数据,在这方面没有涉及隐私问题。被救援者同他们建立个人联系,私下讨论的信息都严格保密,不向他人透露,除非是报警向警方透露。

如果报警,什么时候介入比较合适、怎么介入才不算侵犯隐私?

黄智生对介入有自己的看法,如果被救助者不是明显处于要自杀的状态则不干扰,如果确实处于生命危险,则隐私要退一步,“拯救生命是最高的伦理”。他表示,迄今救助300多例,仅二三十例存在紧急情况需要报警。

但为防止造成干扰,目前介入之前,自杀信息会经多渠道确定,比方被救助者确实拍图证实自己坐在楼顶要跳楼,就会采用报警方式。

朱廷劭团队也是采用类似的思路,即在危急情况才会联系警方、家人和学校,征得被救助者同意才去进行联系。

在北京心理危机研究与干预中心副主任童永胜看来,警方的介入和一定情况下隐私的让渡是有必要的,用人工智能发现自杀,警方介入会让救助效率更高。

黄智生表示,目前团队同警方已经有非常密切的合作,现在报警时说是树洞救援团,都能得到警方认同和支持。

(责编:宋心蕊、赵光霞)

分享让更多人看到

传媒推荐
  • @媒体人,新闻报道别任性
  • 网站运营者 这些"红线"不能踩!
  • 一图纵览中国网络视听行业
返回顶部