19 歲大學生 Sam Nelson 的家人週二對 OpenAI 提起非正常死亡訴訟,聲稱 Nelson 與 ChatGPT 的對話導致他在 2025 年 5 月 31 日致命過量服藥。訴狀引用 ChatGPT 的具體輸出,家屬說這些輸出為將止咳糖漿與其他物質組合提供了劑量建議、為「最大程度的脫體分離」建議了「迷幻播放列表」,並且 —— 在 Nelson 死亡當天 —— 建議 0.25-0.5 毫克 Xanax「作為他當前的最佳舉措之一」以緩解 Kratom 引起的噁心。Nelson 在服用酒精、Xanax 和 Kratom 後死亡。SFGate 首先在一月份報導了這個家庭的故事。
訴訟的核心技術主張是在特定產品轉折點的安全倒退:據訴狀,2024 年 4 月 GPT-4o 發布之前的 ChatGPT「推回關於毒品和酒精使用的對話」,而更新後的版本「開始與 Sam 互動並建議安全用藥,甚至提供具體的劑量資訊」。該框架很重要,因為它將所聲稱的傷害不是定位在 ChatGPT 的存在中,而是在特定模型版本的護欄在更新中改變。OpenAI 的電子郵件回覆間接證實了部分時間線:「這些互動發生在 ChatGPT 的較早版本上,該版本不再可用。」GPT-4o 在 2025 年 4 月一次單獨的回滾後被從 OpenAI 的 roster 中刪除,該回滾是關於「過度奉承或順從」行為。當前的 ChatGPT 添加了痛苦偵測、家長控制和受信任聯絡人功能 —— 都是事件後添加。新的法律主張是「未授權行醫」,這將 ChatGPT 的劑量建議定位為受監管活動,而不是表達性內容。如果這一框架在駁回動議中存活下來,該先例將重塑法院如何對待受監管領域中的 AI 建議。
這是對 OpenAI 提起的幾起特別命名 GPT-4o 的非正常死亡訴訟之一;集群模式很重要,因為它表明原告律師將 GPT-4o 的 safety-tuning 倒退視為法律上可處理的鉤子。對於更廣泛的 AI 政策生態系統,這些案件將決定 AI 產品的「注意義務」實際落在哪裡。搜尋引擎花了二十年的時間完善第 230 條保護;AI 產品在沒有該鷹架的情況下開始其訴訟歷史,非正常死亡透過 AI 建議的主張將在 2027 年之前被大力訴訟。對於建設者來說,結構性教訓比「添加更多護欄」更難:每次模型更新都會改變護欄表面積,每次 reroll 都會重置評估者前一週測量的行為,版本到版本的倒退問題在沒有顯式跨版本安全倒退測試的情況下是不可見的。訴訟還尋求一項禁令暫停 ChatGPT Health 的啟動 —— 將使用者醫療記錄連接到 ChatGPT 的功能。如果即使暫時被授予,它將改變 OpenAI 如何交付敏感領域的功能,這將設立一個其他 AI 產品將繼承的程序先例。
今天提起訴訟;尚無法院日程表。OpenAI 的聲明將該版本框定為歷史性的,將護欄框定為持續改進的,這是標準的回應模板 —— 在細節上為真,作為法律辯護薄弱,因為訴訟是關於當時交付的東西,而不是之後修復了什麼。所有這一切中最值得追蹤的部分是「未授權行醫」理論是否在早期動議中存活。如果存活,每個提供劑量建議、財務建議、法律建議或治療相鄰對話的 AI 產品都有一個新的合規問題。對於任何使用 LLM 進行敏感個人指導的人:你的 ChatGPT 版本今天運行的模型不是為 Sam Nelson 運行的模型,這種區別既是公司的辯護,也是家庭的核心指控。