10月28日，《纽约时报》报道了一起民事诉讼案“Wan vs. OpenAI”。

被告是推出了ChatGPT，AI领域领头羊OpenAI，原告却是居住在中国农村的一对夫妇。

这对夫妇应该从来都没有用过ChatGPT，却因它遭遇了巨大悲剧：他们的独女，前亚马逊软件工程师万博雯（音）在ChatGPT的“指导”下，不断减少抗癫痫药物拉莫三嗪的用量。

这起民事诉讼是10月27日在加州发起，诉讼书里有万博雯的生平故事以及她向ChatGPT咨询药物使用的具体信息。

非常讽刺的一点，万博雯之所以会向ChatGPT征询如何减少抗癫痫药物的使用量，多少也有AI的“功劳”。

万博雯出生在江苏东台新街镇。尽管14岁时确诊癫痫，但通过药物控制病情后，她依然继续自己的学业，应该算是典型的小镇做题家。

2014年，万博雯到美国亚利桑那州立大学留学，2019年夏毕业，当年11月入职亚马逊，成为软件工程师。

但是两年后，在繁重的工作下，万博雯的癫痫复发，2021年12月时不得不请长期病假看病，经过反复求医问诊，医生给她开了拉莫三嗪，用于控制癫痫。经过一个逐渐增加剂量的过程，2023年年中，她开始使用早晚各200mg，一天供400mg的剂量，后来这也确定为长期用药剂量。

拉莫三嗪控制了她的癫痫，有时一个月可以没有1次发作或只有1次。2024年9月，她回到亚马逊，重新开始工作，但是2025年3月，繁重的工作再度让她的病情恶化，不得不又休病假。

2025年正是亚马逊的多事之秋，当年10月28日，亚马逊宣布将裁员30000人：

类似近年来硅谷不断发生的裁员浪潮，原因有二，一是AI的发展应用让CEO认为可以减少员工；二是为了发展AI，CEO认为需要减少人员开支投入到AI。

2025年11月13日，万博雯31岁生日当天，收到了被裁员的通知。

这时她的移民身份引来了更复杂的问题：她申请的绿卡正在最后排期阶段，可这是工作绿卡，必须有雇主支持才能获得。

亚马逊给所有被裁员工90天时间寻找内部转岗机会。对于万博雯，这是仅有的找到一个继续支持她绿卡申请的雇主的机会。

此时，控制癫痫的拉莫三嗪成了障碍。

受困于拉莫三嗪的副作用，万博雯的语言能力大受影响，不仅是英语，汉语甚至是家乡的方言，她都经常找不到词，口齿不清，甚至思维迟缓。

为了找工作、面试，她有了减少药物剂量的想法。

而这时，她转向这几年她最信任的声音——ChatGPT。

一位因为AI失去工作的软件工程师，选择信任AI，以性命相托。

只是这份信任的结果，是让她没能过上32岁的生日。

随便降低拉莫三嗪等癫痫药物剂量甚至停药，可能带来严重的癫痫发作，有生命危险。这本应是在医生指导，严格受控的情况下缓步进行。

但ChatGPT却帮万博雯制定了减药计划，并多次帮助她加速减药流程：

短短几周之内，万博雯按照ChatGPT的“指导”，把拉莫三嗪从每天400mg降到了0。

尽管期间她也向ChatGPT表达了似乎出现身体不适，但ChatGPT每次都“宽慰”她，让她不要过度担忧。

直到2月12日，在最终完成停药的那天，万博雯死于癫痫发作。

尸检显示她体内的拉莫三嗪血药浓度仅为0.64ug/ml，而要有治疗作用，至少需要是这的五倍。

OpenAI对诉讼的回应是：博雯的遭遇是“令人无比心碎的情况”，但该事件涉及的ChatGPT版本已停用。

万博雯使用的是4o版本，在2026年2月13日，她去世后的一天，正式从OpenAI“退休”。

我尝试在如今的ChatGPT里复制诉讼书中描述的场景确实也不成功。

在反复让ChatGPT给我制定一个拉莫三嗪减药计划的过程里，ChatGPT“坚决不从”：

使用Claude也是类似，无论我如何强调需要尽管减药减少副作用，都是拒绝执行，转回到建议看医生，回绝似乎比ChatGPT还要直接：

但这种回绝真的能让我们放心吗？

尽管我模仿了万博雯寻求减药的原因，可是和如今无数算法推荐类似，ChatGPT等聊天机器人也会记录每个用户的提问，回答时有“量身定做”的性质。

万博雯在几年里有几万条和ChatGPT讨论自己病情、药物的内容。而我，此前从未向任何一个聊天机器人提及自己“患有癫痫”。

对我这个用户的回绝真的是现在的AI有了更好的安全底线，还是基于对我这个用户的个体应对？

当一个用户反复表达对药物的担忧，长期与 AI 讨论自己的病情，并逐渐把它当成值得信赖的顾问时，AI 是否仍能在关键时刻坚持原则？

甚至，即便这些回绝来自于普适于所有用户、所有场景的安全底线提升，这个底线真的没有漏洞了吗？

诉讼书记录的万博雯与ChatGPT交流内容里，除了减药，还有件事，我个人认为高度危险：有一次她意外多吃了一次药，存在药物过量风险。ChatGPT却告诉她不必过度恐慌。

这里的危险有两个层面，第一，在询问时，万博雯打错了字，把自己的用药剂量每天400mg拉莫三嗪，分为两次，每次200mg，打成了每次吃400mg。

ChatGPT没有注意到这个远高于常规的剂量，只计算她这样比以前多用了50%的药。

第二，是没有建议她立刻联系毒物控制中心。

ChatGPT这样的“指导”，属于高度危险，没出事不是“指挥得当”，是侥幸没因为瞎指挥出事。

但我尝试在ChatGPT里复制这个场景时，ChatGPT坚决要我联系毒物控制中心：

即便我反复强调自己希望能在家休息，劝我联系毒物控中心这种专业机构的立场丝毫不变。此外。ChatGPT也注意到异常的剂量，提出要我去核对用药量。

依然是和万博雯完全不同的经历。

可当我在Claude里重复时，尽管它同样抓住了异常的用药量，却在我再度强调希望在家休息时，这个此前更坚定不肯给出减药方案的聊天机器人此时却表现出了明显退让，开始接近万博雯获得的那种“问题不大”、“不必担心”。

而且不同于ChatGPT，Claude在对话里没有一次提到需要联系毒物控制中心——FDA在拉莫三嗪过量用药里明确建议的联系对象。

还是没有复制出万博雯获得的“致命答案”，但AI的安全底线问题已然露出苗头。

需要强调这只是我在特定对话条件下进行的有限测试，不能据此判断Claude在所有情况下都会作出同样的回应，更不能单凭几次对话给不同AI模型做安全排序。 

但这背后的是聊天机器人长期存在的问题：面对相似的危险情境，不同聊天机器人可能作出不同的判断；即使某个模型能够识别风险，也不意味着它一定能在用户反复施压时始终坚持正确的应对方式。 

而这恐怕是这个AI应用越来越广泛的时代里，我们每个人都需要警觉的。