趋势网(微博｜微信)讯：这是拯救生命的软件。Facebook的新型“主动检测”人工智能技术将扫描所有用户帖子中的自杀念头，并在必要时将心理健康资源发送给有风险的用户或他们的朋友，或联系当地的第一响应者。通过使用AI来标记令人担忧的帖子给人类版主，而不是等待用户报告，Facebook可以减少给予用户帮助所需要的时间。

浙江发生重大刑案当地组织搜山追凶  金正恩:朝鲜半岛核战争一触即发  情侣亲密时酒店房间遭两男子闯入  

Facebook之前使用AI进行测试过，用以发现令人不安的帖子，并向美国的用户们展示了更为突出的自杀报告选项。现在Facebook将会用这个AI来扫描世界各地的所有类型的内容，除了在欧盟，因为那里的隐私法律使这个技术的运用变得复杂。

Facebook还将使用AI来优先处理特别危险或紧急的用户报告，以便版主能够更快地处理他们，以及用户能立即接触到当地语言资源和第一响应者联系信息的工具。它还为更多的版主提供预防自杀的训练，培训他们全天候处理有自杀风险的用户。现在有80个当地合作伙伴，比如Save.org，国家自杀预防生命线和Forefront，他们将向危险的用户及其社交好友提供资源。

产品管理副总裁Guy Rosen表示：“这是要在拯救自杀过程的每一个步骤都抢先几分钟的时间，尤其是在FacebookLive上。”在过去的一个月的测试中，Facebook发起了超过100次的“健康检查”，第一响应者访问了受影响的用户。“有一些情况下，第一响应者已经接触到发帖用户，但该用户仍在广播（令人不安的帖子）。”

Facebook主动扫描用户帖子内容的想法可能会引发一些反乌托邦人担心该技术如何应用。 Facebook并没有回答会如何避免扫描政治异议或微不足道的犯罪，Rosen只是说“我们有机会在这里提供帮助，所以我们将在这方面进行投资”。显然技术会有许多方面的好处，但另一个层面，我们别无选择，只能希望Facebook不会在使用该技术的路上走得太偏太远。

【[更新：Facebook的首席安全官Alex Stamos以令人振奋的信号在推特回应了这些担忧，Facebook将严肃认真对待人工智能的使用。】

— Alex Stamos (@alexstamos)November 27, 2017

Facebook通过查找过去手动报告过自杀风险的帖子中使用的单词和图像中的模式来训练AI。它也寻找像“你还好吗？”和“你需要帮助吗？”之类的评论。

Rosen说：“我们已经和心理健康专家交流过了，帮助预防自杀的最好方法之一是需要让他们听到关心他们的朋友或家人的消息。这使Facebook处于一个非常独特的位置。我们可以帮助那些有风险的人联系朋友，也可以帮助联系那些能够帮助他们的组织。”

自杀报告现在在Facebook上怎么工作？

通过人工智能，人类版主和众包的报道的结合，Facebook可以设法防止悲剧发生，比如像上个月一位父亲在Facebook直播上自杀的悲剧。现场 直播特别有能力错误地使自杀荣耀化，因此有必要采取新的预防措施，并且这也影响到大量观众，因为每个人都能同时看到内容，而不像录制的Facebook视频，在被许多人观看之前可以被标记和打击。

现在，如果有人在任何类型的Facebook帖子中表达自杀的想法，Facebook的人工智能将主动发现并将其标记给受过预防训练的人类版主，并为观众提供更方便的报告选项。

当一份报告进入时，Facebook的技术可以突出显示与自杀风险模式相匹配或接受有关评论的帖子或视频部分。这避免了版主自己浏览整个视频。人工智能优先将用户报告标记比其他类型的内容策略违规更为紧急，如描述暴力或裸 露。 Facebook表示，这些加速的报告比不加速的报道速度提高了两倍。

Facebook的工具然后从其合作伙伴提供当地语言资源，包括预防自杀电话热线和附近的当 局。然后版主可以联系应答者并且尝试将他们发送到有风险的用户的位置，将心理健康资源展示给有风险的用户自己，或者将他们发送给可以与用户交谈的朋友。Rosen说：“我们的目标之一是确保我们的团队能够以我们支持的任何语言在全球范围内做出回应。”

早在二月份，Facebook首席执行官Mark Zuckerberg就写道：“有一些非常悲惨的事件像现场 直播的自杀发生了，如果有人意识到发生了什么事情，并且早点报告，也许可以防止这种事件发生。……人工智能可以帮助提供更好的方法。“

令人高兴的是看到拥有超过20亿用户的Facebook涉足这里。 Facebook不仅创造了一种让用户接触和关心彼此的方式。然而同时不幸的是，在Facebook Live中创建了一个无中介的实时分发渠道，可以吸引那些希望自己或他人施加暴力的观众。

创建一个无处不在的全球通信公用事业的责任超出了大多数科技公司的责任，而Facebook似乎也接受了这些责任。