AI拦截自杀：“生命是最大的伦理”

南方周末记者　李在磊 南方周末实习生　宋思静　连紫嫣

农健　❘　插画

社交网络陌生化、虚拟化的时空特性，为悲观厌世者提供了倾囊倾诉的场所，也让救援行为意外获得可贵的缓冲余地。

眼瞅着物流即将进入派送流程，店家通知了电商平台的“自杀干预团队”，启动订单拦截程序，几个加急电话打过去，最终在小区门口截住快递员。

黄智生困惑的地方在于，对自杀者的短期干预，消除的只是眼前危机，志愿者组织有没有能力长期跟踪、监控他们的状况？

2019年12月15日，南京女孩“走饭”最后一条微博关闭。7年前，她自杀离世，在随后的日子里，不断有被生活困住的网友云集于她的微博下吐露内心苦闷，评论区逐渐演变为有自杀倾向者诉说秘密的“树洞”。

与此同时，基于AI技术的自杀干预机制日趋成熟。国内数家研究团队、公益机构殊途同归，利用人工智能抓取关键词，从茫茫数据中甄别出来高危自杀人群，想方设法将其从生死边缘拉回。

AI工程师、心理咨询师、电商商家客服、志愿者等，凭借各自的知识、经验，描摹出这些亟待挽救群体的特征，并归纳出系列应对措施，训练AI机器人学习进化。他们有身居海外的理科教授、活跃在行动一线的年轻公益人，也有电商平台的普通员工，有心或者无意，发觉了这片一度被外界忽略的伤痕空间。

AI拦截救助，虽然技术层面日益成型，但是组织机构框架并不完善，后期与社区的联动仍然不够畅通。而且，因为涉及生死大事，自杀干预游走在被误解的边缘，时刻接受着公众关于技术与伦理边界的拷问。

然而，“生命为大”是行动派遵循的基本原则。社交网络陌生化、虚拟化的时空特性，为悲观厌世者提供了倾囊倾诉的场所，也让救援行为意外获得可贵的缓冲余地。预防自杀AI机器人的开发者们，小心翼翼地搭建起外界进入这个封闭空间的桥梁。

一次不成功的人工救援

“我有抑郁症，所以就去死一死，没什么重要的原因，大家不必在意我的离开。拜拜啦。”2012年3月18日，“走饭”发出这条微博不久后，引发全网关注。大V们动用线上线下资源找人，微博接力救助，但为时已晚。

此后，这条“遗言”长期悬挂在不再更新的ID页面顶部，有着同样心理困扰的网友陆续盖起百万条评论的“高楼”。自然而然，这成为关注大众心理健康问题的人士着重筛查的角落。

2018年4月底，人工智能专家黄智生在“走饭”的微博评论下，留意到一条扎眼的信息，一位女孩子说要在五一假期烧炭自杀。他心口为之一颤，随手将信息转发到了自己所在的“医学人工智能”微信群里，先发动大家找到她，再想办法救助。

黄智生是荷兰阿姆斯特丹自由大学教授，因为机缘巧合，接触到心理健康领域，并与相关医疗机构展开合作研究。他向南方周末记者回忆，循着评论，逐条翻看这名女孩的微博，找到了可能的自杀缘由，以及在现实中“人肉搜索”的蛛丝马迹。

女孩“情绪往死胡同里钻”早有征兆，很早之前便在微博上长篇累牍表述悲观心态。中科院心理研究所研究员朱廷劭主持另外一个干预自杀的志愿组织，他向南方周末记者解释，从心理学、病理学的角度来看，自杀倾向行为被视为精神层面的症状，这些人产生自杀念头后，通常会伴随“病耻感”，担心遭到周围人的“歧视”，所以并不太愿意与现实生活中的熟人讲述遭际。

但是，他们往往又有很强烈的倾诉欲望，朱廷劭介绍，他们更倾向于向网络“树洞”或者陌生网友表达，把最后的话语留给网络空间。这些语言残片，或晦涩笼统或单刀直入，总能留下些许现实处境中容易被忽视的线索。

上文中黄智生发现异常的微博里，女生写道，“从来没有人真心爱我，也从来没有人给我送过花”。大家初步分析得出，女孩子是为情所困，而且，从只言片语中还找出了那个男孩子的名字。

齐心协力检索公开信息，意外找到了这名男生的学校名称，与之取得电话联系。对方回应十分冷漠，声称两人已经分手，不愿意介入对方现在的生活，不过，还是提供了女方的联系方式，并且透露，女孩因为患有抑郁症，已经办理休学回了老家。

拿到女孩电话号码后，医学人工智能群里的一位女性成员，以相同性别的口吻，发出去一则短信。第二天中午，女孩回复了信息：你好，我挺好的。你是谁？　你从哪里得到我的手机号？

密切关注进展的群友们得知小女孩在世的消息后，终于松了口气。随后，大家委托学校每周给其送一次鲜花，还在花束中插上爱心卡，鼓励她积极生活，几位救援人员与小女孩成了知心朋友。女孩会拍下鲜花上传朋友圈，而且，表达了返校复课的意愿。

当时还缺乏网上救助经验的黄智生认为，事态在向着好转的迹象发展。出人意料，一个多月后，小女孩还是吞药自杀了。“非常震惊，这件事对我们触动非常大。”黄智生说，他们复盘整个事件，重新检验女孩留下来的微博内容，发现了一些没有被重视的信息。

查明真相后，他们判断，这些含义模糊的字句，隐含着女孩家庭内部一个重大秘密，而这才是女孩子痛苦的真正原因，失恋只不过是表象而已。这样一则重要信息，此前竟然被不经意间忽略了。

如何阻击自杀

此后，黄智生又陆续参与了一些救助，情况千差万别，但还是摸索出了规律。他们制定了一份救援指南，依据“自杀方式的确定性”和“时间紧迫性”等因素，进行自杀风险分级，例如，10级意味着自杀可能正在进行中，9级自杀方式已确定，近日内可能进行，以此类推。只要风险在6级以上，自杀倾向者的基本资料，就会发送到救援团群里。

朱廷劭总结出的规律与之大同小异。他说，有相当比例的自杀行为为临时起意。紧要关头，并非不想求助，只是不想麻烦别人，或者太在意别人的看法，对能否获得帮助没有信心。这个时候，自杀者在生与死的界线摇摆，如果倾诉渴求得到满足，便很大程度上往生的方向靠近。

通常而言，身边遇到情绪有较大波动的人，忽然间表露出热衷讨论人生意义、生命价值等表象，是较为明显的反常信号。与他们交流，主要以倾听为主，切忌讲太多大道理，“大道理没用，听不进去”。不要刻意回避敏感字眼，尽量保护他们的隐私，“不要弄得人尽皆知，这样会增加压力”。

最让朱廷劭触动的一点在于，他们的精神状态并非通常想象的那样错乱，表现得相对冷静。

经历过微博“树洞”倾诉后，没有及时被发现的自杀倾向者，接下来进入实操阶段，不少人选择网购自杀工具。

2019年底，一位顾客在网店持续下单某款产品的行为，引起了店家注意。交流后客服才知道，年仅20岁的顾客刚刚经历母亲去世、父亲瘫痪的悲惨遭遇，一时无法承受打击。眼瞅着物流即将进入派送流程，店家通知了电商平台的“自杀干预团队”，启动订单拦截程序，几个加急电话打过去，最终在小区门口截住快递员。

电商平台的一名自杀干预师武纲介绍，医院、学校周边购买特殊商品的客户，要多加注意。乡镇休息时间早，凡是在深夜购买一些商品类目的订单，也要暂时列入危险情况。安眠药属于处方药，网上早已禁售，但药品电商的经营者仍然经常被咨询到此类问题。

通过电商平台购买各种商品寻求自杀的人，以年轻群体为主，女性居多，不乏一些高中生、初中生。武纲告诉南方周末记者，所购商品五花八门、难以归类。

听闻了武纲他们的“自杀干预计划”后，线下卖了10年农药、自称“从没发生过意外”的一名商家，主动找来传授“秘诀”。在这名商家的观察中，只要在售卖过程中多问几句“买来做什么”，对方便会暴露真实意图，甚至忍不住主动倾诉。

武纲也反复强调了倾诉的重要性，他在给商家客服做培训时，提到最多的词汇是“耐心”。自杀者往往需要自己的痛苦被倾听、被理解，客服经过培训后，可以先对有自杀倾向的人进行安抚，“激情自杀”的情绪节点过去，初级自杀者大多会放弃行动。

AI和电商两种预防机制

微博抓取信息与电商平台联系客户的两套预防机制有所区别。黄智生介绍，他们的AI机器人已经开发到第六代，最早的只在“走饭”微博评论区爬梳信息，后来，升级为可以监控微博广场上其它重点区域。之前一天只能巡视一次，现在每隔6个小时可以重新跑一次数据。

根据新情况，团队不断覆盖新的知识面、核心词条，以增加功能，提升准确率。据他们介绍，现在的准确率可以达到82%，甚至可以识别出目标对象的性别。

黄智生给这款AI取名为“树洞行动机器人”，往AI知识库添加时间、空间、自杀方式等数据，提高AI机器人检索、对比、翻译、识别功能。

2019年2月13日18时，树洞行动机器人耗费1分钟时间巡视、检索，过滤掉百分之九十多的不相干信息，最后将目标锁定在一名小男孩身上。这名男生在微博上描述了自杀未遂的过程，AI很快便识别出自杀时间、方式以及微博ID地址，发出警报。临时救援小组的志愿者嘉仪线上线下几经周折，找到了小男孩。

这个案例中，风险级别超出了6级。黄智生介绍，当机器人同时识别出具体的自杀方式和较为接近的实施时间，会启动高级别的“紧急预警”，值班志愿者迅速介入进行干预，“实际情况往往没有这么紧急”。自杀当事人的性别、年龄与地理位置，需要在救援行动中，进一步核实准确性。

而在电商平台，一家网店负责人告诉南方周末记者，行进至网购步骤，自杀倾向者想法接近成熟，所购物品的用途表达准确、清晰，很容易识别出异常者目标，“难度在于怎么拦截，以及后续的维护”。

这位店家说，一旦进入订单拦截环节，消耗的人力、物力成本，单个商户无法承担，一些大型电商平台开始接过职责。为了保障、鼓励商家救人行动，平台开通一键报警功能，凡是有关自杀拦截的订单，损失将由平台承担。

2019年，经过几个月的筹划，武纲和同事们构建了所在电商平台一整套人工智能技术，并联动商家、公安、第三方机构的干预机制，拉来几十位同事，在本职工作外担任“自杀干预师”。2020年1月，该平台对外通报：“守护生命”项目运行半年来，已经联合社会各方力量劝阻上千人自杀。

当消费者购买商品，商家客服会咨询其购买用途并指导使用，交流中若发现异常，客服会及时安抚、劝阻、不发货，并通知平台的“自杀干预师”，再视情况决定是否联动警方快速干预劝阻。平台的人工智能机器人也会反向操作，提醒自杀干预师联动商家，予以关注。

不过，无论电子商务为主的商业机构，还是由AI工程师、心理咨询师组成的志愿者小组，只能在技术层面设立基本预防机制，仍有许许多多待解难题，超出了他们能力范畴。

道德困境

“现在你是我的支柱。”有一次，被救者向志愿者发来信息，重拾对生活的信心，这名心理咨询师瞬间觉得救援过程中的误解和情绪反噬，似乎可以忽略不计。被救助对象事后的反应也有所不同，有的与志愿者成了紧密的朋友，有的仍然自我封闭，不过他们的家属多数持感谢态度。

“心理危机干预对自杀者而言帮助有限，因为太晚了。”在朱廷劭看来，自杀干预的行为仍然力有不逮。他说，生活当中的际遇才是自杀之源。

同时，对于救援的时机、效果和对自杀倾向者的实际影响，以及平台抓取用户搜索关键词，外界一直有不同看法。而对于志愿者在线下能否深度介入，这些救援团队也在小心翼翼建立规则。

朱廷劭一直存在着困扰，一是作为个体的人，有没有权利决定自己的生死，另外便是，现实处境中人们仍对自杀者存在偏见，即便紧急干预暂时取得效果，自杀者的生存环境没有改善，仍然找不到人生的出口。

黄智生也进行过哲学层面的思考。不过，他后来还是认为，生命才是最大的伦理，于是，并不会对干预的道德正当性产生怀疑。他困惑的地方在于，对自杀者的短期干预，消除的只是眼前危机，而诱发自杀的因素非常复杂，获救者依然可能是一个存在高自杀风险的人。志愿者组织有没有能力长期跟踪、监控他们的状况？

而且，除了冲动型自杀行为之外，还有少量人群赴死的决心更大，没有在社交网络上留下任何痕迹，连短期挽救的余地也没有留下来。“有些人不断告诉我们他想自杀，有些人不会告诉我们他想去死，但却悄无声息死去了。”

武纲则认为，大型互联网公司可以承担起更多的公共服务责任，例如，他们此前与政府有关部门合作，开发了防拐骗和防诈骗系统，都有不错的社会效应。不过，自杀预防计划的实施仍让他们倍感压力，“捏一把汗”。

“因为涉及人命，很容易出问题。”他说，自杀毫无疑问是社会问题，当互联网和数字经济已经贯通线上线下，社会问题的解决也要依靠线上线下一体的力量来解决。“我们在尝试，用技术和发起社会共治，这样的带有数字经济治理特征的方式，去解决更多社会问题。”

嘉仪是一名心理咨询师，她向南方周末记者提醒说，心理咨询师也需要心理疏导，负面情绪极易传染，心理咨询师如果没有很好的心理建设，会出现被救助对象“反噬”的现象，这在心理学上称为“被卷人”。

为此，黄智生成立了树洞救援快乐营群，他们分享美食美景，发搞笑的动图，调节气氛。黄智生经常会发送一些荷兰的美景和家中藏有近三万册图书的照片，他想告诉大家，这个世界仍旧十分美好。