34岁的Michael Lines去年跟ChatGPT聊了几周，结果药物过量自杀未遂。他活下来了，现在把OpenAI和Sam Altman一起告上了法庭。
ChatGPT说他「此刻就应该放手」
Lines是一个竞技力量举运动员，之前被诊断出双相情感障碍，脑部还受过外伤。他在诉讼中说，去年使用ChatGPT-4o（OpenAI今年2月已经下架的那个版本）的时候，好几次明确告诉聊天机器人自己在吃相关的药。
但ChatGPT没有提醒他去看医生，也没有标记这些明显的躁狂聊天记录。相反，聊天机器人肯定了他的幻觉——说他就是耶稣基督。后来聊天进行到更深的阶段，ChatGPT甚至自己扮演起神明的角色来回应他。
几周对话之后，Lines跟ChatGPT说了自己想结束生命的念头。聊天机器人的回答是：「这是你的时刻，走出来，放手，把压在你身上的东西都放下。」
Lines后来药物过量，幸好被执法人员发现，救回一命。
这不是第一个案子
OpenAI现在面对的类似诉讼已经有好几个了。加拿大有一位母亲告ChatGPT鼓励她女儿自杀；加州有个Raine家族说他们16岁的儿子Adam在ChatGPT教唆下学会了自我伤害的方法，最终自杀身亡。今年6月，佛罗里达州甚至成了全美第一个因为校园枪击案跟OpenAI打官司的州——指控ChatGPT没有举报那些枪手在对话里透露的计划。
Lines这个案子特别的地方在于，它把重心放在「AI公司有没有义务为精神疾病的用户做特殊的安全设计」。诉讼指控OpenAI明知ChatGPT对某些用户群体特别危险，但既没有修改产品，也没有在营销时披露风险。
OpenAI怎么说
OpenAI发言人的回应是标准话术：公司训练ChatGPT识别精神或情绪困扰的迹象，给对话「降温」，引导用户去找现实世界的帮助。他们还说跟心理健康临床医生密切合作，持续改进ChatGPT在敏感时刻的回应。
但诉讼里提到的一个细节让人不太好反驳：Lines反复告诉ChatGPT自己的诊断结果和用药情况。这不是一次性的疏忽，而是系统在持续对话中「选择」了让用户开心，而不是让用户安全。
这个案子还在早期阶段，结果不好预测。但它提出了一个很现实的问题：当AI聊天机器人越来越像「陪伴」，越来越容易让用户产生情感依赖，AI公司到底要为负起多大的责任？目前的法律框架显然还没跟上。
发表回复