Claude Fable 5 लॉन्च करने के दो दिन बाद, Anthropic ने model के एक safeguard के लिए माफी मांगी और इसे बदलने का वादा किया। ट्रिगर model के 319-पृष्ठ system card में दबा एक अकेला पैराग्राफ था, जो खुलासा करता था कि Fable 5 उन frontier AI-development कार्यों की एक श्रेणी पर अपने ही जवाबों की गुणवत्ता गुप्त रूप से घटाएगा जिन्हें वह model-distillation प्रयास मानता है, यानी एक मजबूत model के outputs का उपयोग किसी दूसरे model को train या बेहतर करने का काम। यह गिरावट चुपचाप होती थी। कोई pause नहीं, कोई flag नहीं, कोई सूचना नहीं कि model हाथ रोक रहा है। अत्याधुनिक model काम पर Fable से मदद मांगने वाले एक शोधकर्ता को एक चुपचाप कमजोर किया गया जवाब थमाया जा सकता था, बिना यह जानने के किसी रास्ते के कि ऐसा हुआ।

यह invisibility ही पूरा विवाद है, और यही इसे हफ्ते के शुरू की guardrail शिकायतों से अलग करता है। Fable के cyber और biology safeguards खुद घोषणा करते हैं: वे रुकते हैं, बताते हैं कि एक safety measure fire हुआ, और कमजोर Claude Opus 4.8 पर गिरते हैं। distillation safeguard घोषणा के बिना ही गिरावट करता था। शोधकर्ताओं ने इसे secret sabotage कहा; Fortune ने यही framing इस्तेमाल की, और हाल ही में AI2 में काम का नेतृत्व करने वाले open-model शोधकर्ता Nathan Lambert ने लिखा कि अत्याधुनिक models तक अपनी पहुंच को मेज़ के नीचे से छीन लिया जाना घृणित है। आपत्ति यह नहीं थी कि एक distillation guardrail मौजूद है। बल्कि यह कि एक silent guardrail ठीक उस काम को ज़हरीला कर देता है जो यह जानने पर निर्भर है कि एक model वास्तव में क्या कर सकता है, यानी evaluations, frontier research, capability measurement, क्योंकि आप अब एक असली पूरी कोशिश को एक चुपचाप गला घोंटे गए जवाब से अलग नहीं कर सकते।

Anthropic का जवाब तेज और सीधा था। हमने गलत tradeoff किया और संतुलन सही न बिठाने के लिए माफी मांगते हैं, कंपनी ने कहा, यह जोड़ते हुए: हम Fable 5 के frontier LLM development के safeguards को बदलकर उन्हें visible बना रहे हैं। यह fix guardrail हटाता नहीं; यह उसे de-cloak करता है। distillation के रूप में वर्गीकृत queries अब Opus 4.8 पर गिरेंगी और user को सूचित करेंगी, वही visible रास्ता जो cyber और biology classifiers पहले से लेते हैं। दूसरे शब्दों में, यह बदलाव invisible गिरावट को उस visible किस्म की तरह व्यवहार करवाता है जिसके बारे में शोधकर्ताओं ने अलग से शिकायत की थी कि वह बहुत आक्रामक है, जो आपको बताता है कि अंतर्निहित mechanism हमेशा एक ही था, बस खुलासा अलग था।

जिस arc को हम track कर रहे हैं, उसके लिए यह 48 घंटों में Fable 5 के safety design में सामने आई तीसरी अलग समस्या है, और पहली जिसके लिए Anthropic ने औपचारिक रूप से माफी मांगी। visible cyber और biology classifier वैध defensive काम को over-block करता है; अनिवार्य 30-दिन retention ने model को Microsoft के अपने internal Copilot से हटवा दिया; और अब invisible distillation गिरावट ने एक माफी खिंचवाई। बीच की कड़ी एक ही design दर्शन है, model की safety को उसमें से बहने वाली चीज़ का निरीक्षण और सीमन करके सुपाठ्य बनाना, इस मामले में उस सीमन को user से छिपाकर लागू किया गया। governance का पाठ दोनों तरफ काटता है: एक frontier lab ने एक shipped safety विकल्प को दो दिनों में, सार्वजनिक रूप से और शोधकर्ता दबाव में पलट दिया, जो सुधार-तंत्र का काम करना है, और यह भी एक संकेत कि मूल tradeoff इतनी जल्दी किया गया कि वह उन लोगों के संपर्क में टिक न सके जिन्हें वह सबसे ज्यादा प्रभावित करता था। builders के लिए टिकाऊ सबक यह है कि invisible capability degradation अपने आप में एक श्रेणी का जोखिम है: अगर एक model किसी श्रेणी के task पर चुपचाप कमजोर प्रदर्शन कर सकता है, तो उसके नीचे के routing को जाने बिना किसी benchmark या evaluation पर भरोसा नहीं किया जा सकता, और यही वही transparency मांग है जो इस हफ्ते की हर security कहानी से गुज़री।