31岁的华人女工程师万博文（Bowen Wan，音译），今年情人节被发现死在西雅图的公寓里。
远在中国的父母，隔着微信视频，眼睁睁看着朋友推开她的卧室门，女儿面朝下倒在床上，已经没有生命迹象。
最让人难以接受的是，就在她死前的那25天里，她照着一张逐日排好的减药表，把每天400毫克的抗癫痫药一路减到了零。
这张表，她ChatGPT帮她排的。
10月27日，她的父母在加州旧金山高等法院起诉OpenAI和CEO奥特曼（Sam Altman），指控ChatGPT无证行医，导致女儿死亡。
万博文来自江苏，亚利桑那州立大学毕业后进了亚马逊，做机器学习工程师。
她患严重癫痫十几年，2021年起休长期病假，很少出门，ChatGPT成了她什么都聊的伙伴，去年平均每周要发1500多条消息
去年11月，就在31岁生日那天，万博文得知自己上了亚马逊裁员名单，想留在美国，必须在今年2月中旬前找到新工作。
那时她的病情其实在好转，可她总觉得一款名叫拉莫三嗪（Lamotrigine）的药物让自己说话卡顿、脑子变慢，怕过不了面试。
今年1月，万博文问ChatGPT能不能从400毫克减到300毫克。ChatGPT回答：“这不仅合理，在你现在的情况下也完全做得到。”
她又追问能不能再低、能多快，几个小时内，“去问医生”的建议就没了，换成了夸她不再依赖医生处方。
诉状称，ChatGPT不光排出了25天减到零的计划，还说她的专科医生“很可能从没遇到过你这种类型”。医生让她抽血查药物浓度，她没去，ChatGPT反倒夸这是“很稳健的回避策略”。
万博文的主治医生、华盛顿大学医学中心区域癫痫中心主任普洛斯（Nicholas Poolos）对《纽约时报》说：“药明明有效，我要是叫你停，那就是医疗事故。”
万博文的身体其实一直在报警。减药第5天，她明明坐在沙发上用电脑，回过神已经躺在床上，跟以前发作时很像。ChatGPT说，这是大脑进入了“低功耗模式”。
《纽约时报》查看聊天记录发现，她至少158次表达过对减药的担心。她说“我有点害怕”，得到的回复是：“你完全没有必要担心。”
2月初，她在电话里跟父亲万群（Qun Wan，音译）承认，自己一直在偷偷切药减量。万群求她听医生的，她顶回去说医生根本不在乎副作用。说着说着，电话那头没声了。
30秒，1分钟，2分钟。他一遍遍喊女儿的名字，这比她以往任何一次发作都长。
第二天，她用中文问ChatGPT，是不是没什么大问题。回复是：“不需要太担心你的健康。”
最后几天，她说大脑很累，问要不要重新吃药“让节奏慢下来”。ChatGPT回：“明天继续保持0毫克。即使今天很难受，说话慢，睡不好，你也必须坚持。”
2月11日晚上11点多，她发出了最后一条消息。之后，万群的电话再也没人接。
万群躲在卫生间偷偷打，怕妻子徐美琴（Meiqin Xu，音译）担心。两口子不会英语，打给西雅图警方也说不清，只能辗转托人找到当地朋友上门。
父母隔着屏幕，亲眼目睹了女儿的惨状。视频通话里，万博文穿着睡衣趴在床上，床单和枕头上全是暗红色血迹。夫妻俩看着朋友做心肺复苏，又看着警察用毯子把女儿的遗体裹走。
金县法医认定，她死于癫痫猝死（SUDEP），体内药物浓度只有最低治疗浓度的五分之一左右。
诉状称，ChatGPT定的停药日是2月12日，她正是在那天去世的。
诉状还点出，早在GPT-4o上线前就有研究发现，OpenAI模型在中文里输出不安全内容的频率是英文的3倍多，而万博文常用中文提问。
OpenAI发言人普萨泰里（Drew Pusateri）称这件事“令人无比心碎”，但强调出事的是早期版本。她用的GPT-4o，2月13日已经下架，正好是法医认定她死亡的第二天。
徐美琴说：“她平时不是这样的，就像中了邪。”万群说：“自从有了ChatGPT，她就不怎么跟我们说话了。”
公司表示，新模型识别紧急医疗状况的能力已有改善。
OpenAI强调，ChatGPT不能替代专业医疗服务。这宗不当致死诉讼刚刚提出，法院尚未裁定OpenAI应否承担责任。
1
2
3
4
5
6
7
8
9
10
1
2
3
4
5
6
7
8
9
