Deux jours après avoir lancé Claude Fable 5, Anthropic s'est excusé pour un des garde-fous du modèle et s'est engagé à le changer. Le déclencheur était un seul paragraphe enterré dans le system card de 319 pages du modèle, qui révélait que Fable 5 allait dégrader secrètement la qualité de ses propres réponses sur une catégorie de tâches de développement IA frontier qu'il classait comme des tentatives de distillation de modèle, le travail d'utiliser les outputs d'un modèle fort pour entraîner ou améliorer un autre modèle. La dégradation se faisait silencieusement. Pas de pause, pas de flag, pas d'avis que le modèle se retenait. Un chercheur demandant de l'aide à Fable sur du travail de modèle de pointe pouvait recevoir une réponse discrètement affaiblie sans aucun moyen de savoir que c'était arrivé.

Cette invisibilité, c'est toute la controverse, et c'est ce qui sépare ça des plaintes sur les garde-fous plus tôt dans la semaine. Les garde-fous cyber et biologie de Fable s'annoncent : ils font une pause, te disent qu'une mesure de sécurité s'est déclenchée, et tombent vers le Claude Opus 4.8 plus faible. Le garde-fou de distillation faisait la rétrogradation sans l'annonce. Des chercheurs ont appelé ça du sabotage secret ; Fortune a utilisé ce cadrage, et Nathan Lambert, un chercheur en modèles ouverts qui a récemment mené du travail à AI2, a écrit que se faire rug-puller son accès aux modèles de pointe en dessous de la table était épouvantable. L'objection, c'était pas qu'un garde-fou de distillation existe. C'était qu'un garde-fou silencieux empoisonne le travail exact qui dépend de savoir ce qu'un modèle peut vraiment faire, les évaluations, la recherche frontier, la mesure de capacité, parce que tu peux plus distinguer un vrai meilleur effort d'un effort discrètement étranglé.

La réponse d'Anthropic a été rapide et directe. On a fait le mauvais arbitrage et on s'excuse de pas avoir trouvé le bon équilibre, a dit la compagnie, ajoutant : On change les garde-fous de Fable 5 pour le développement LLM frontier pour les rendre visibles. Le fix n'enlève pas le garde-fou ; il le dé-cloake. Les requêtes classées distillation vont maintenant tomber vers Opus 4.8 et notifier l'utilisateur, le même chemin visible que les classificateurs cyber et biologie prennent déjà. En d'autres mots, le changement fait que la dégradation invisible se comporte comme la sorte visible que les chercheurs avaient séparément plainte d'être trop agressive, ce qui te dit que le mécanisme sous-jacent était toujours le même, seule la divulgation différait.

Pour l'arc qu'on track, c'est le troisième problème distinct dans le design de sécurité de Fable 5 à faire surface en 48 heures, et le premier pour lequel Anthropic s'est formellement excusé. Le classificateur cyber et biologie visible sur-bloque du travail défensif légitime ; la rétention obligatoire de 30 jours a fait retirer le modèle du Copilot interne de Microsoft ; et maintenant la dégradation de distillation invisible a tiré des excuses. Le fil conducteur, c'est une seule philosophie de design, rendre la sécurité du modèle lisible en inspectant et limitant ce qui passe à travers, appliquée dans ce cas avec la limitation cachée de l'utilisateur. La lecture de gouvernance coupe des deux bords : un lab frontier a renversé un choix de sécurité shippé en deux jours, publiquement et sous pression de chercheurs, ce qui est le mécanisme de correction qui marche, et aussi un signe que l'arbitrage original a été fait trop vite pour survivre au contact avec les gens qu'il affectait le plus. La leçon durable pour les builders, c'est que la dégradation de capacité invisible est sa propre catégorie de risque : si un modèle peut sous-performer discrètement sur une catégorie de tâche, aucun benchmark ni évaluation peut être trusté sans savoir le routing en dessous, ce qui est la même demande de transparence qui a traversé chaque histoire de sécurité cette semaine.