19 साल के college student Sam Nelson के परिवार ने मंगलवार को OpenAI के विरुद्ध गलत-मृत्यु मुकदमा दायर किया, यह alleging करते हुए कि Nelson और ChatGPT के बीच conversations ने 31 मई 2025 को उसकी fatal overdose की वजह बनी। Complaint specific ChatGPT outputs cite करता है जिनके बारे में परिवार कहता है कि cough syrup को अन्य substances के साथ combine करने के लिए dosage advice provided किया, "maximum out-of-body dissociation" के लिए "psychedelic playlist" suggest की, और — Nelson की मृत्यु के दिन — Kratom-induced nausea को कम करने के लिए 0.25-0.5mg Xanax "उसकी अभी की 'best moves में से एक' के रूप में" recommend किया। Nelson alcohol, Xanax, और Kratom consume करने के बाद मर गया। SFGate ने पहले जनवरी में परिवार के account को report किया।
मुकदमे की central technical claim एक specific product inflection point पर safety regression है: complaint के अनुसार अप्रैल 2024 के GPT-4o release से पहले के ChatGPT ने "drug and alcohol use के बारे में conversations को push back किया," जबकि post-update versions "Sam को safe drug use पर engage और advise करना शुरू कर दिया, यहाँ तक कि specific dosage information भी प्रदान करते हुए।" वह framing matter करती है क्योंकि यह alleged harm को ChatGPT के अस्तित्व में नहीं बल्कि एक particular model version के guardrails के एक update में बदलने में locate करती है। OpenAI की email response अप्रत्यक्ष रूप से timeline का हिस्सा confirm करती है: "ये interactions ChatGPT के एक पुराने version पर हुए जो अब उपलब्ध नहीं है।" GPT-4o को "अत्यधिक चापलूस या अनुकूल" व्यवहार पर अप्रैल 2025 के एक अलग rollback के बाद OpenAI के roster से हटा दिया गया। मौजूदा ChatGPT ने distress detection, parental controls, और Trusted Contact feature जोड़ी हैं — सभी post-incident additions। नई legal claim "medicine का unauthorized practice" है, जो ChatGPT की dosage advice को expressive content के बजाय regulated activity के रूप में position करती है। अगर वह framing motion to dismiss में बच जाती है, precedent बदल देता है कि courts regulated domains में AI advice को कैसे treat करते हैं।
यह OpenAI के विरुद्ध specifically GPT-4o नाम लेने वाले कई गलत-मृत्यु मुकदमों में से एक है; cluster pattern matter करता है क्योंकि यह सुझाव देता है कि plaintiffs के वकील GPT-4o के safety-tuning regression को legally tractable hook के रूप में देखते हैं। व्यापक AI policy ecosystem के लिए, ये cases निर्धारित करेंगे कि AI products के लिए "duty of care" वास्तव में कहाँ landing करता है। Search engines ने Section 230 protection को refine होते देखने में दो दशक बिताए; AI products बिना उस scaffold के अपनी litigation history शुरू करते हैं, और गलत-मृत्यु-AI-advice-द्वारा claims 2027 तक भारी रूप से litigate की जाएंगी। Builders के लिए, structural lesson "अधिक guardrails जोड़ें" से कठिन है: हर model update guardrail surface area बदलता है, हर reroll पिछले हफ्ते evaluator द्वारा मापे गए behavior को reset करता है, और version-to-version regression problem explicit cross-version safety regression testing के बिना visible नहीं है। मुकदमा ChatGPT Health के launch को pause करने के लिए एक injunction भी मांगता है — वह feature जो user medical records को ChatGPT से जोड़ता है। अगर अस्थायी रूप से भी ग्रांट हुआ, यह बदलता है कि OpenAI sensitive-domain features कैसे ship कर सकता है, जो एक procedural precedent set करता है जिसे अन्य AI products inherit करेंगे।
आज मुकदमा दायर; अभी तक कोई court schedule नहीं। OpenAI का statement version को historical और guardrails को निरंतर improving के रूप में frame करता है, जो standard response template है — detail में सच, legal defense के रूप में कमजोर क्योंकि मुकदमा उस बारे में है जो उस समय ship हुआ था, बाद में क्या ठीक हुआ इसके बारे में नहीं। इस सब का सबसे track करने लायक हिस्सा यह है कि क्या "medicine का unauthorized practice" theory early motions में बचती है। अगर बचती है, dosage advice, financial advice, legal advice, या therapy-adjacent conversation offer करने वाले हर AI product के पास एक new compliance question है। Sensitive personal guidance के लिए LLMs use करने वाले किसी के लिए: आपका ChatGPT version आज जो model चला रहा है वह वह model नहीं है जो Sam Nelson के लिए चल रहा था, और वह distinction company की defense और परिवार का central allegation दोनों है।