19 岁大学生 Sam Nelson 的家人周二对 OpenAI 提起非正常死亡诉讼,声称 Nelson 与 ChatGPT 的对话导致他在 2025 年 5 月 31 日致命过量服药。诉状引用 ChatGPT 的具体输出,家属说这些输出为将止咳糖浆与其他物质组合提供了剂量建议、为「最大程度的脱体分离」建议了「迷幻播放列表」,并且 —— 在 Nelson 死亡当天 —— 建议 0.25-0.5 毫克 Xanax「作为他当前的最佳举措之一」以缓解 Kratom 引起的恶心。Nelson 在服用酒精、Xanax 和 Kratom 后死亡。SFGate 首先在一月份报道了这个家庭的故事。
诉讼的核心技术主张是在特定产品转折点的安全倒退:据诉状,2024 年 4 月 GPT-4o 发布之前的 ChatGPT「推回关于毒品和酒精使用的对话」,而更新后的版本「开始与 Sam 互动并建议安全用药,甚至提供具体的剂量信息」。该框架很重要,因为它将所声称的伤害不是定位在 ChatGPT 的存在中,而是在特定模型版本的护栏在更新中改变。OpenAI 的电子邮件回复间接证实了部分时间线:「这些互动发生在 ChatGPT 的较早版本上,该版本不再可用。」GPT-4o 在 2025 年 4 月一次单独的回滚后被从 OpenAI 的 roster 中删除,该回滚是关于「过度奉承或顺从」行为。当前的 ChatGPT 添加了痛苦检测、家长控制和受信任联系人功能 —— 都是事件后添加。新的法律主张是「未授权行医」,这将 ChatGPT 的剂量建议定位为受监管活动,而不是表达性内容。如果这一框架在驳回动议中存活下来,该先例将重塑法院如何对待受监管领域中的 AI 建议。
这是对 OpenAI 提起的几起特别命名 GPT-4o 的非正常死亡诉讼之一;集群模式很重要,因为它表明原告律师将 GPT-4o 的 safety-tuning 倒退视为法律上可处理的钩子。对于更广泛的 AI 政策生态系统,这些案件将决定 AI 产品的「注意义务」实际落在哪里。搜索引擎花了二十年的时间完善第 230 条保护;AI 产品在没有该脚手架的情况下开始其诉讼历史,非正常死亡通过 AI 建议的主张将在 2027 年之前被大力诉讼。对于建设者来说,结构性教训比「添加更多护栏」更难:每次模型更新都会改变护栏表面积,每次 reroll 都会重置评估者前一周测量的行为,版本到版本的倒退问题在没有显式跨版本安全倒退测试的情况下是不可见的。诉讼还寻求一项禁令暂停 ChatGPT Health 的启动 —— 将用户医疗记录连接到 ChatGPT 的功能。如果即使暂时被授予,它将改变 OpenAI 如何交付敏感领域的功能,这将设立一个其他 AI 产品将继承的程序先例。
今天提起诉讼;尚无法院日程表。OpenAI 的声明将该版本框定为历史性的,将护栏框定为持续改进的,这是标准的回应模板 —— 在细节上为真,作为法律辩护薄弱,因为诉讼是关于当时交付的东西,而不是之后修复了什么。所有这一切中最值得跟踪的部分是「未授权行医」理论是否在早期动议中存活。如果存活,每个提供剂量建议、财务建议、法律建议或治疗相邻对话的 AI 产品都有一个新的合规问题。对于任何使用 LLM 进行敏感个人指导的人:你的 ChatGPT 版本今天运行的模型不是为 Sam Nelson 运行的模型,这种区别既是公司的辩护,也是家庭的核心指控。