当屏幕里只有绝望…英国少女被算法杀死？

英国少女茉莉2017年在家中自杀身亡，经过五年的调查，英国法院认定将其死因“直接归咎于”社交媒体。 (影片截屏)

2017年11月，14岁的英国少女茉莉(Molly Russell)在家中自杀身亡。茉莉的父母难过且震惊不已，他们回溯，责怪自己是否忽略了茉莉的求救信号？是否没有察觉到茉莉的情绪变化？他们事后在茉莉的手机里发现可能导致茉莉轻生的线索：自杀前的几个月，茉莉在Instagram存下2100则跟自杀、自残和忧郁内容有关的贴文；在她使用的Pinterest平台里，也存下469则相关负面内容。

在社交平台的世界里，一旦搜索或浏览过相关内容，算法就会向用户推播源源不绝的相关内容——即便这一些都是负面的贴文。因此，这意味着有忧郁症的茉莉在搜索相关负面内容后，就会跌入算法的黑洞里，无可避免地大量接触这一些让自己身心承受严重影响的贴文内容。

经过五年的调查，验尸官也在9月30日表示，仅仅将茉莉的死因归咎于自杀并不安全(safe)，他裁定“茉莉是在遭受忧郁症和网络内容的负面影响后，死于自残行为。”

认定死因归咎社媒

这次判决是英国第一宗官方认定将死因“直接归咎于”——而不是有关联——社交媒体的青少年自杀案例。验尸官认为茉莉在网络上浏览的内容并不适合14岁的年纪，而患有忧郁症的茉莉在接触大量的负面内容后，最终导致她选择结束自己的生命。

茉莉死后，她的家人成立了“茉莉玫瑰基金会”(Molly Rose Foundation)，希望协助25岁以下族群的生命教育， 帮助他们摆脱网络负面内容。茉莉的父亲伊恩(Ian Russell)也积极呼吁政府推动《网络安全法》，要求社交平台必须保护青少年免受网络负面内容的伤害。

在社交平台一旦搜索或浏览过相关内容，算法就会向用户推播源源不绝的相关内容。 (Getty Images)

由此延伸的重要问题也是：在儿童和青少年面前，社交媒体巨头需要负什么责任，尤其如何确保与创建一个更安全的网络环境？此次出庭的Instagram和Pinterest代表分别又说了什么？

茉莉出生于伦敦西部，生长于一个幸福美满的家庭。在家人的眼里，14岁的茉莉积极、开朗聪明，她喜欢音乐剧《汉弥尔顿》、喜欢澳洲乐团到暑五秒(5 Seconds of Summer)、喜欢哈利波特，同时也担任学校表演的主角。从外观上看来，茉莉就如同同龄的青少年一样，有相似的兴趣和爱好。

尽管如此，伊恩察觉女儿有一些变化：茉莉变得比较沉默寡言，在房间的时间里也越来越长。不过看着茉莉也有参与家庭活动，伊恩也就把女儿的行为归结于青少年阶段会经历的情绪波动。2017年9月，伊恩也开口告诉茉莉，家人很担心她的状况，但茉莉仅仅表示“这是我正在经历的一个阶段(just a phase I'm going through)。”

茉莉的死也引起英国威廉王子夫妇的关注。图为2019年，威廉王子夫妇与茉莉的父亲伊恩（右）在一场活动中见面。 (美联社)

最后晚餐毫无异样

同年11月20日，茉莉和家人吃完晚餐后，一起观赏在英国备受欢迎的电视节目《我是名人，救我出去！》(I'm a Celebrity…Get Me Out of Here!)，结果就在隔天早上7点，家人打开茉莉的房门后，发现她已经自杀身亡。对茉莉家人而言，她的死“毫无预警”，且茉莉在最后一顿晚餐上，也“毫无异样”，这让伊恩开始调查女儿的可能死因，并从她在社交媒体上浏览过的内容发现了一个他不曾想像过，但茉莉生前正在经历的黑暗世界。

茉莉生前较常浏览的社交平台是Instagram和Pinterest。在调查过程中，伊恩发现茉莉在自杀前的6个月浏览了大量令人不安和绝望的内容。根据《卫报》整理，茉莉在Instagram平台上保存、点赞和分享约1万6300则有关图像、文本和影片的贴文，其中的2100条与自杀、自残和忧郁有关。此外，茉莉也在Pinterest平台上保存与自残和自杀有关的469张图片，并且将之命名为“没什么好担心的”。

这一些负面内容影响有多大？茉莉生前曾在Instagram上浏览过138支和自残、自杀相关的影片，一名儿童心理咨询师在听证会上就形容自己在看了这一些影片后，有好几个星期都难以入睡，也有人指出影片根本难以完整看完。而部分影片内容也在听证会上重复播放，试图让在场的人了解到伊恩的所言与所感：持续接触负面内容后，对身心造成的严重影响。

伊恩指出茉莉浏览的内容是一个他不认识的网络世界，“一旦陷入其中，就意味着它会不断向你推荐更多相关内容，你逃不掉的。”例如，茉莉在Pinterest上搜索忧郁症的相关内容后，Pinterest还主动向茉莉推荐“10个你可能喜欢的忧郁症别针”(10 depression pins you might like)。

英国预防青少年自杀的组织Papyrus首席运行官Ged Flynn就告诉《BBC》，许多有自杀念头的年轻人会试图在网络上了解“我是唯一一个有相同感觉的人吗？”然而当他们越这么做，网络上的算法就会越推播与自杀、自残相关的内容给他们。这意味着，算法的设计与规则，让茉莉主动地、被动地被大量的负面内容包围。

茉莉父亲呼吁陷入情绪困境的人积极求助，而不是参与可能有害的网络内容。(本报档案照)

此外，从茉莉在Twitter抒发心情的推文里，也可发现她的身心如何一步步被侵蚀(茉莉浏览Twitter的时间较少，因此Twitter代表并没有在此次出庭)。BBC报导，茉莉生前在Twitter的帐号名为“Idfc_nomore”，伊恩认为命名的由来是：我他妈的不在乎(I don't fucking care nomore)。

求助信号石沉大海

茉莉第一张发布在Twitter的图片是一个女孩仰望着夜晚的星空，上面写着“我已经准备好成为其中一颗星星了”(I'm ready to become one of the stars)。2017年2月4日，茉莉首次在推特上写道：“我不需要被拯救(saved)，我需要被找到(found)。”她也分享了一则似乎是从Pinterest截屏而来的图片，内容大意为：即便有漂亮的家，漂亮的衣服，衣食无忧，但不代表这个人就不会受忧郁或焦虑所苦，不会有任何问题。

或许，茉莉生前将自己的忧郁症隐藏得很好，但她也曾试图求助过，只是求助的方向错了。茉莉在Twitter的自介字段上写着“哈利波特是生命”，其实她曾求助于哈利波特的作者JK罗琳，她告诉JK罗琳自己充满想要自杀的念头，但她的求救信号淹没在JK罗琳帐号的1390万粉丝之中。或者，茉莉也曾向自己喜欢的影星求助，但一样石沉大海。

综合以上因素，这也是为何法院最终将茉莉的死“直接归咎于”社交媒体上的原因——尤其，部分的贴文也呈现浪漫化自杀或自残行为的内容，有些甚至将之包装成一种艺术、创意的形式呈现在用户面前。——那么，面对茉莉的死，社交媒体的代表们怎么说？

Instagram母公司Meta的代表伊丽莎白(Elizabeth Lagone)和Pinterest社群营运负责人贾德(Jud Hoffman)皆亲自出席听证会。

在听证会上，伊丽莎白为Instagram辩护，她指出部分关于忧郁症和自杀的贴文内容适合青少年浏览，因为这一些贴文内容试图提高用户对自身心理状态的意识，同时他们也在分享自己的感受。然而茉莉家人的辩护律师也质疑：怎么会指望一个14岁的孩子能分辨这一些贴文的用意，例如这到底可以提高用户对自我心理状态的意识，还是反而会美化和鼓励用户做出自我伤害的行为？

对此，伊丽莎白也道歉，表示茉莉浏览过的部分贴文内容确实违反了Instagram平台守则。而贾德则回应Pinterest依然不完美，违反平台政策的内容至今可能还存在，她对茉莉所看到的内容深感遗憾。

“谢谢你成为我的女儿”

茉莉的离去，让伊恩意识到网络环境对儿童和青少年的身心影响。他呼吁英国政府尽快通过网络安全法保护青少年，同时也表示希望茉莉案子所得到的关注和查看，有助于防止类似的悲剧再度发生，“如果这一些令人窒息、疯狂的内容是安全的，我的女儿茉莉可能还活着，我们不会是失去亲人的一家四口，而是我们五个人都会期待我们可爱茉莉的未来，一个充满目标和承诺的生活。”

随着手机、社交媒体的普及，网络环境对儿童和青少年造成不可忽视的身心影响。(Getty Images)

也是在听证会结束后，伊恩再次向女儿茉莉致意，说道：“在一点上，我只想说无论这看起来有多么黑暗，但总有希望。如果你正在挣扎(struggling)，请与你信任的人或者许多提供援助的出色组织聊聊，而不是参与可能有害的网络内容。请尽你所能，活得长久，保持坚强。”

“我想说的最后一件事是感谢茉莉，谢谢你成为我的女儿。谢谢你。”

在青少年面前，社交媒体巨头需要附上什么责任，尤其如何确保与创建一个更安全的网络环境？ (Getty Images)

免责声明：本网转载的文章仅为传播更多信息之目的，本网未独立核实其内容真实性，文章也不代表本网立场。如文章侵犯了你的权利，请联系我们修改或删除。本网提供的内容，包括并不限于财经、房产类信息，仅供参考，不构成投资建议；本网内容，包括并不限于健康、保健信息，亦非专业意见、医疗建议，请另行咨询专业意见。本网联系邮箱：contact@cacnews.ca