当算法促进自我伤害发生时，谁该来负责？

资料图

现在，他们称Russell是在遭受抑郁症和网络内容的负面影响时死于自残行为--而算法本身也受到了关注。

这不是第一次科技和自杀在高调的案件中发生碰撞，从而推动了科学和法律的界限。这当然也不会是最后一次。越来越多的研究表明，社交媒体平台在用户的抑郁症、身体形象问题和其他心理健康挑战方面发挥了作用。据《纽约时报》报道，虽然迄今为止大多数案件都集中在利用平台进行网络欺凌的个人身上，但对Russell之死的调查标志着“也许是第一次在任何地方，互联网公司被合法地指责为自杀”。

然而英国的裁决并不一定意味着社交媒体公司被追究责任。首先，验尸官法庭不能实施惩罚，Meta和Pinterest的高管被迫作证，但没有人付钱更不用说进监狱了。更重要的是，现有的研究将心理健康问题和社交媒体平台联系起来大多取决于X和Y都发生了变化，但是否一个导致另一个就很难说。对跟社交媒体相关的自杀事件的明确责任归属仍是遥不可及的。

毕竟，Molly Russell并不是唯一一个其死亡原因的确定可以使用一些法院授权的细微差别的人。每年有650万人死于空气污染还是死于化石资本？心脏病发作是美国的主要死因还是贫穷的循环？就这一点而言，哪种自杀不是在一长串相关斗争中的自我伤害行为？

如何回答这些问题非常重要。但在美国，这类案件的未来取决于法官和陪审团是否愿意跟越来越长的因果关系链进行斗争。这也将迫使立法者和他们的选民做出令人不舒服的选择。采取大胆的飞跃、超越现有的自杀科学或不耐烦地等待新的结果。

如果需要说的话。鼓励自杀很糟糕，无论它来自学校的恶霸、匿名账户还是你的新闻提要，但这并不意味着它是非法的。

2006年，密苏里州一位名叫Lori Drew的母亲和她的雇员创建了一个假的MySpace账户，其冒充一个她命名为Megan Meier的少年男孩。Drew用这个账户跟她13岁的邻居Megen Meier交谈。Drew认为Meier散布了关于Drew自己的十几岁的女儿Sarah的谣言。信息开始是打情骂俏的，但最后“Josh Evans”据称告诉Meier“没有你，世界会更美好"。不久之后，Meier就死了。

即使在假MySpace账户的消息传出后，当地警方也拒绝逮捕Drew。Meier夫妇从未对她提起民事诉讼。当洛杉矶的美国检察官办公室根据1986年的网络安全法案《计算机欺诈和滥用法(CFAA)》对Drew提出联邦指控时，该案件陷入了困境。Drew最终以自由身离开。

下一次这些问题在美国出现时，事情的发展有些不同。2014年，马萨诸塞州18岁的Conrad Roy自杀身亡。他的手机显示了与异地女友Michelle Carter多年的对话，后者通过短信反复催促他自杀。Roy死亡时，Carter只有17岁，后来在少年法庭被判定为非自愿过失杀人罪并在监狱服刑11个月。

佛罗里达大西洋大学的政治理论家Mark Tunick表示，根据媒体对Carter行为的报道，惩罚她的愿望是合理的。但在《Texting, Suicide, and the Law》一书中，Tunick认为，马萨诸塞州的两类过失杀人罪--不作为（或未能干预）和作为（鲁莽造成的伤害）--并不适用于Carter。首先，这个少年没有像父母或医生那样有责任保护Roy。更重要的是，法院无法证明Carter造成了Roy的死亡。

许多法律理论家或多或少同意。在美国法院，原因问题通常由“如果没有”测试来决定。由于自杀在传统上被视为个人的自愿行为，法院通常认为在那些决定性的最后时刻，任何其他因果关系链都会被打破。Carter可以发送她想要的所有短信，但在这种思路下，真正的 “如果没有”是Roy自己的行为。

社会传染的力量使自杀的个人责任的概念进一步复杂化。纽约州精神病学研究所的社会流行病学家David Fink表示，这可能是个人的行为，但自杀“在大多数情况下是一种社会疾病’。方法和理由在不同的时间和文化中差异很大。经济因素似乎对自杀率有深远的影响。现在，医生和科学家正在努力解决社交媒体在传播有害思想方面的作用。

至少从20世纪70年代开始，流行病学家已经表明，接触到自杀--无论是朋友或家人的死亡还是通过大众媒体--会增加一个人产生自杀想法或行动的风险。在这种背景下，指责个人感觉既适得其反又不完整。

然而研究人员一直在努力确定这些想法可能传播的明确机制。不列颠哥伦比亚大学的社会学家Seth Abrutyn称，问题的一部分归结于研究人员可用的方法。

在该领域的一端是聚集在密切关系之间的自杀，如在被监禁者、高中生和美国本土青年之间形成的自杀。为了了解社区中的一个自杀事件是否以及如何引发其他自杀事件，像Abrutyn这样的研究人员对那些仍活着的人进行了深入访谈。他们发现，自杀的想法和行为的传播与其说是“传染”，不如说是教育。就像学习下棋或吸烟一样，死于自杀的人似乎教给他们周围的人一种新的方式来思考他们的苦恼、自杀的手段及更多。

另一端则是以较小的力量但在更广泛的网络中传播的自杀，如名人自杀后的情况。这类案件采用统计方法进行研究并寻找基于特定年份的数据所预期的自杀人数的波动。例如，在演员罗宾·威廉姆斯自杀后的几个月里，研究人员发现自杀人数比预期多10%--可能是媒体广泛报道的结果。

但这两种方法在回答关于自杀的一些最基本的问题时都显得不足。访谈受限于自我报告的准确性及自杀群中的许多人已经不在世无法分享他们的故事。虽然统计方法可以证明关于自杀的叙述fico重要，但它们并没有提供多少关于如何改变这些信息以使其更好的洞察力。

近年来，很明显，社交媒体位于这两个既定的极端之间，而填补这一灰色区域所需的数据正是属于那些希望掩盖其对用户影响的公司。虽然TikTok、Instagram、Facebook、Twitter和其他平台都明确表示他们的目标是在遥远的距离上促进密切联系，但他们不愿意对其后果进行任何独立分析。这使得研究数字网络上的自杀传染实际上是不可能的。

自杀学家也知道，试图将自杀的责任归咎于人，可能会适得其反。Abrutyn的研究表明，我们谈论自杀的方式本身就是一个载体。在2019年对一个青少年自杀事件频发的社区的研究中，Abrutyn和他的同事表明，将这些死亡合理化为学生“逃避”诸如“学校压力”等问题的愿望，似乎让其他有类似挑战的学生知道，自杀对他们来说也是一种选择。

很容易将这种逻辑延伸到Russell的案例中。如果每个人都同意压抑的社交媒体帖子可以促使一个人自杀，那么就有理由让更多的人在这个理由下死亡。但同样的道理，Abrutyn表示，正确的叙述也可以减少自杀想法或行为的风险。找到谈论个人和社区复原力的方法及为正在努力解决自杀念头的人提供资源事实上可以起到保护作用。

也许人们可能永远无法让每个人都满意地说，社交媒体导致了Molly Russell的死亡或其他任何人的死亡。但这并不意味着我们不能努力防止未来的伤害。

在美国，鼓励自杀的言论可以通过新的立法被明确禁止。虽然关于这一主题的学术研究仍处于起步阶段，但律师Nicholas LaPalme提出了一个名为“压倒性意志”的新框架。这个标准将承认像Carter这样的人 当其受害者已经在跟抑郁症作斗争时，他们的话语是多么得有力。如果法院承认某人可以压倒另一个人的意志，那么因果关系链就可以保持完整，“因为受害者当时没有精神能力选择”抵制对方的话。

抛开有争议的“精神能力”和自主权问题，“压倒性意志”的框架很容易延伸到像Russell这样的案件。十年前，人们很容易把Facebook这样的网站当作一个中立的工具，由个人用户为好的或坏的而挥霍。然而现在，人们当然可以说，算法平台压倒了用户的意志，因为它找出了用户的弱点并针对他们提供了让他们参与更多、感觉更糟糕的内容。

问题是，美国人是否愿意生活在像这样的法律的影响下？如果这种类型的内容是非法的，平台将需要设计方法来证明他们的算法没有把用户推向更深的抑郁和自杀。但重要的是要承认，这些公司可能会使用更多的算法来清除他们平台上任何潜在的犯罪内容。东伦敦大学的数字文化研究员Tony D. Sampson说道：“算法不能很好地处理灰色地带。”因此，无论产生什么样的过滤器都会非常粗糙；如果所有跟自杀有关的内容都被禁止，像这样的文章可能无法通过。如果没有对自杀传染机制的深入了解，也没有真正的办法使这些工具更加精确。

鉴于这些限制，立法可能更好地专注于迫使社交媒体公司重新设计其推荐系统并逐步从搜索中删除有害内容--而不是将这些帖子的所谓后果定为犯罪。最重要的是，政府还必须迫使社交媒体公司将数据交给独立的研究人员，他们可以利用他们的发现来指导更精确的内容禁令，甚至可能确定这些平台可以支持跟自杀想法或行为作斗争的用户的积极方式。

将Meier、Roy和Russell等死亡政治化可能具有巨大价值--但前提是它们能帮助处于类似情况的人。目前，收集所需证据以进行知情对话可能更有帮助。