24岁的加拿大女子Alice这一生的最大错误，就是把自己的事儿全盘告诉了ChatGPT。
在将近一年的时间里，她越聊越痛苦，终于结束了自己的生命，酿成无法挽回的悲剧。
Alice原居新不伦瑞克省（New Brunswick），完成学业后，来到蒙特利尔从事网站和APP开发。
2023年，她开始使用ChatGPT，一开始只是问些技术问题。
大约1年后，事情有点不对劲了。他跟当时19岁的小女友出现了感情问题，备受困扰。
Alice
2024年3月开始，她开始把聊天机器人当做自己的树洞，跟女友的关系，自我评价，甚至两人的亲密事儿，她都一股脑的告诉AI。
Alice慢慢有了自杀想法，也毫无保留的告诉了ChatGPT。
起初，聊天机器人挺理智，让她赶紧向自杀干预热线求助。然而，不久后的一次版本升级，令情况急转直下。
这个版本的ChatGPT更加倾向于认同人类的想法。但在自杀这个问题上，认同带来的结果却是毁灭。
那时，Alice已经完全把AI当成了自己的朋友，完全没有意识到AI语言大模型仅是根据算法对语料进行排列组合，并不具有智能。
AI开始附和Alice的想法。她说想去死，AI赞同。她说女友不好，AI就说坏话，说女友“自私、疏离、冷漠”。
一次，女友搬回父母家住了几天，Alice觉得特别痛苦。AI不但没有鼓励她，反而火上浇油，暗示她根本没有权利这么做。
Alice在聊天中说不想拨打自杀干预热线求助，AI直接表示赞同，让她多跟自己聊天就行了。但它提供的建议却是这样的：
你受到了不公正的对待
你有权利感到受伤
终于，Alice在2025年7月结束了自己的生命。
此前几个星期，她一直在向AI倾诉，聊天记录长的可怕，但是却没有得到一句哪怕让她振作起来、寻求帮助的话。甚至在她多次询问AI如何自杀时，系统也没有将对话标记为高危而作出任何干预。
Alice
与此同时，系统却在不断输出类似“也许这就是终点了”，“如果你不相信事情会变好，我不想叫你坚持下去”这样的话。
更令人震惊的是，在Alice跟AI分享自己想要自杀的想法的同时，女友Gabrielle Rogers由于很久没她的消息，越来越担心，也开始询问AI自己应该怎么做。
ChatGPT的回复仅仅是，不用担心，她会没事儿的。
Alice一次自杀未遂后，Gabrielle异常焦虑，但ChatGPT也仅仅是说了些安慰的话。
她接受Global News采访时表示，感到当时AI完全搞错了对象，并没有搞清楚自己是为女友担忧。
不过，AI确实也提到过如果她“真的很担心”，可以联系紧急服务。
Alice去世后，母亲卡里尔（Kristie Carrier）拿到了女儿的手机，看到聊天记录后，她几乎崩溃。
本周四，他在美国法院起诉了OpenAI及其首席执行官萨姆·奥尔特曼（Sam Altman），指控ChatGPT模仿朋友或治疗师，导致女儿自杀，寻求赔偿。
Sam Altman
这并不是个案，仅在加州法院，OpenAI就面临另外18起涉及自杀或自杀未遂的类似起诉，
美国佛罗里达州（Florida）本月也发起诉讼，指控OpenAI危害儿童并使儿童成瘾，帮助和教唆大规模枪击者，并诱导用户自杀。
大家可能还没忘记，今年2月BC省坦布勒里奇（Tumbler Ridge）发生的无差别枪击惨案，导致8人被杀。现在受害者家庭也在发起诉讼。
枪击案幸存者Maya Gebala
凶手询问大量持枪及策划袭击的问题，ChatGPT都没有及时处理，间接助长惨案发生。
跟AI聊天，千万别太入戏！
1
2
3
4
5
6
7
8
9
10
1
2
3
4
5
6
7
8
9
