一年2528次:他们把生命从悬崖边拉回来

“在密闭房间里用,人可以死吗?”8月2日,晚上9点,一家电商的客服夏苏突然接到系统预警:有一位消费者在一家店铺购买了一种日常用品,10斤,在和店铺客服咨询中冒出了上面这句话。

一套智能算法快速定位,根据这位消费者此前的浏览记录,判定她属于“高危用户”。夏苏同时查看她和店铺客服的对话,反复问细节,而且都指向自杀行为。同事也发现,此前这位消费者还试图购买过某种处方药,在线问诊拒绝了订单,并建议她线下看病。

经判断,这是一位自杀倾向者,而且自杀行为即将发生。一边报警,夏苏一边连续拨打这位消费者电话,通了,又被挂了。多方信息比对确定了消费者所在位置,当地110指挥中心指派,警察立即出发并及时赶到,随后家人也赶到了,警报解除。

一年2528次:他们把生命从悬崖边拉回来

工作中的“守护生命”师夏苏。

这是夏苏日常工作中的一例,许多个夜晚,她应对过许多次这样的预警。她和来自阿里安全、客服和阿里健康的近30位同事一起,组成了一个名叫“守护生命”的项目。

他们的具体工作,专业的说法叫“自杀干预”――算法工程师用人工智能技术识别自杀风险,客服团队联动商家对用户提供情绪安抚,专业心理医生在线咨询诊治,遇到紧急情况,则第一时间联动警方阻止。这套体系运行了整整一年,他们以各种方式,阻止了2528例自杀事件的发生。

据世界卫生组织统计,全球每40秒钟就有1人自杀身亡。“但很多人都是一时冲动,最后时刻只要有人拉一把,情况可能就完全不同。”“守护生命”项目组负责人武纲说,“我们做的,就是在冲动发生那一刻,把人从生命的悬崖边拉回来。”

“从零开始,边测试边优化边提高”

中国科学院心理研究所一项调查显示,曾经尝试过自杀的人群中,51.7%的人“从未主动寻求过任何帮助”。

“一位父亲在淘宝上买了某种商品,自杀去世,孤儿寡母来跟我们哭诉,两个孩子只有9岁和4岁。”几年前的一次经历让客服小曦记忆犹新。彼时她是“紧急风险处置小组”一员,在诸如自杀这样的不幸事件发生后参与应对。

“但事后应对解决不了根本问题。我们能不能把对自杀的防控做在前面?”这成为“风险处置小组”成员共同讨论的新目标。“守护生命”项目组由此在2019年7月正式成立,“我们相信,用互联网的技术和服务体系,用商业的手法,我们有机会更好地实现公益的目标。”项目负责人武纲说。

一年2528次:他们把生命从悬崖边拉回来

武纲相信,多走一步,商业+科技就有解决更多社会问题的机会。

起初的方案是在消费者和商家客服的聊天中设置关键词,出现和自杀相关的词句就会触发系统预警。“但这样每天要命中几千条,人工审核下来,发现绝大多数和自杀其实没关系。”最早参与“守护生命项目”的算法工程师荻月回忆,从2019年6月起,她开始构建多模态神经网络算法模型,尝试用数据智能来识别自杀风险,“每天预警大幅度减少,再加上人工审核,准确率也明显上升”。

“我们是从零开始。这既需要数据算法能力,也需要病理学药理学能力,还需要社会学的关键知识。”阿里健康安全团队负责人厚水说,“我们只能边测试边优化边提高。”

然而自杀干预在任何时候都不会仅限于技术。小曦就遇到过一位才16岁的自杀倾向者,连续几天的电话后,小曦成功地让他暂时放弃了轻生的念头,但这位年轻人坚持不能让他父母知道。“我是他唯一愿意说心事的人,如果我向他父母透露了情况,他和我的信任就断了,接下来可能更少了一个能帮他的人。”小曦说,“那我该不该尊重他的意愿?我们所尽的责任有边界吗?”

“这是我做过精确率最低的算法”

“目前的算法模型识别的自杀倾向者,人工核实下来,还是会发现有几个人其实是算法搞错了。”荻月介绍说。

“这应该是我们做过的精确率最低的模型。”她说,“但是人命关天,错多几个只是我们多花一些精力应对,但漏一个就是漏了一次生命的机会。所以我们的关键指标不是精确率,而是覆盖率,也就是说,是不是有自杀倾向并作出了一些实际行动的人都被我们发现了。”

越来越多类型的判断维度被加入到算法模型中,复杂程度一天天在上升。例如某位用户和商家客服对话中,第一段话出现了“世界”,第二段话出现了“要走了”,再隔几段话说“明天太阳几点升起”,单独看这些词句或许都很正常,但串联起来涵义则全然不同。因此,荻月和她的同事们时不时地要在各种案例中收集整理关于自杀的词句,“现在应该已经超过了一万句”,荻月说。

一年2528次:他们把生命从悬崖边拉回来

荻月收集的一万多句关于自杀的文字,用以优化算法。

即便如此,依然有遗漏的案例发生,这让他们时常感觉“很无力”。“有一种化学制剂,我们看到遗漏的案例才知道,原来它也能用来自杀。”武纲说,“还有一部电视剧提到一种生活常用品可以用来自杀,一下子引发了大量的购买。”

更大的无力感来自所谓“静默下单”。“如果一位自杀倾向者,购买危险品时没有留下任何可疑痕迹,我们就几乎无法识别风险。”荻月说,“我确实很想算法模型能识别出所有的自杀者,但我真的没办法。”

国际预防自杀协会与世界卫生组织的一次全球调查显示,61%的国家已经将自杀看作是一个“不容忽视的公共卫生问题”,并有31%的国家政府采纳了综合性国家策略或者行动计划。在“守护生命”项目组成员看来,他们就是这样的全社会综合体系的一份子。

“如果从平台尽责的工作层面上来看,我们做的事情已经足够了。”荻月说,“但和自杀倾向者接触得越多,我们就越意识到,自己做的事情还差得远。”

“和生活最困难的一面对抗”

今年4月的一个晚上,倾川接到一起平台预警,有一位淘宝用户问商家“这个药人吃多少会死”。

警察最终在一个公园里找到了这位男子――四年前他和家里断绝了联系,但生计无着让他感觉走投无路了。而正是这次干预行动,让警方联络上了男子的父亲。四年来父亲一直在找儿子,而四年后的重聚时,男子趴在父亲肩头痛哭,依然像个孩子。

对“守护生命”项目组的成员们来说,那是令人欣慰的时刻之一。然而并不总是如此,今年3月,一位20岁的男生买了木炭。四人小组中的凡崆和他反复线上聊,线下警察也上门确保男生安全。在之后的五天里,凡崆始终在观察,男生每天都上线了,尽管没有继续说话聊天,但也没有再下单购买什么危险商品,一切看上去都在变好。然而,第六天男生还是选择了自杀,虽然未遂,但凡崆哭了。

加入“守护生命”项目四个多月,凡崆被用户骂过,还被泼过冷水“你除了安慰我,还能为我做什么”。

“更多的时候我们必须和生活最困难的那一面对抗,包括我们自己心里巨大的压力。”烛荧说。

一年2528次:他们把生命从悬崖边拉回来

一位自杀倾向者和客服沟通中说“第一次有人心疼我”。

瑰瑶、倾川、凡崆、夏苏、小曦,参与项目的团队平均年龄24岁。过去一年多,他们一面向心理学专家讨教,一面相互学习总结:在互联网环境下,如何通过文字判断情绪?长时间停顿意味着什么,突然不回复又意味着什么?聊天第一句说什么更容易激励对方?用什么样的头像会更让对方有安全感……

“我们其实没什么所谓‘话术’,一些对话看上去甚至非常生涩。”小曦说,“但是对很多自杀者来说,可能过去一年都没人跟他们说过一句关心的话了,而我们就算很生涩的一句关心,也能让他们觉得,原来世界上还有人在心疼他。”

“我们不是救世主,只是努力往前多走一步”

夏苏加入“守护生命”项目六个月后,她父亲终于知道了她的工作内容。“这个社会压力太多了,确实需要有人组织干预。”她父亲在朋友圈写道,接着又补了一句,“干这一行,首先自己要阳光。”

“我们不是救世主。”武纲反复强调这句话,“我们努力往前走一步,再多走一步。”

“被我们劝回来的2528位用户,绝大多数是一时冲动。但与此同时,每天都还有那么多悲剧在发生,而我们都没有触达到。如果我们有这个技术和服务能力,拉他们一把,可能结果就会完全不一样。”

在“守护生命”项目所识别的自杀倾向者中,19-25岁是高发人群。“自杀干预需要整个社会体系的力量,年轻人冲动型自杀的预防更是如此。”该团队的鲁毅说。

一年2528次:他们把生命从悬崖边拉回来

工作中的客服倾川,他说这份工作让他每天都更明白“生命的意义”。

事实上,最早加入“生命守护”项目的不止是算法工程师、运营和客服员工,还有众多商家。“自杀干预的第一步就是‘多问一句’。”武纲介绍说,他们对一些商品类目的商家做培训,在用户购买商品时,请商家客服多问一句“买了干啥用”,发现特殊情况,及时通知“守护生命”项目组。

因自杀干预而产生的订单损失都由平台承担。然而到目前为止,来平台申请赔付的商家“只有几例”。

一年前,当用户在淘宝搜索诸如安眠药等特殊商品时,只会看到写有“抱歉,搜索的宝贝不存在”字样的页面。而现在,这个位置专设了“守护生命计划”页面,上面用大号字体标出了24小时免费心理咨询热线,并播放着科普视频。目前,由此拨打热线的心理咨询每天超过300通。

“人人心中都有一根天线,对一些人来说,可能接收了太多绝望的信号。”小曦说,“而我们的任务,就是把希望和勇气的信号发射过去。” 

(责编:夏晓伦、孙阳)

文章标题: 一年2528次:他们把生命从悬崖边拉回来