Dos días después de lanzar Claude Fable 5, Anthropic se disculpó por una de las salvaguardas del modelo y se comprometió a cambiarla. El detonante fue un solo párrafo enterrado en la system card de 319 páginas del modelo, que revelaba que Fable 5 degradaría encubiertamente la calidad de sus propias respuestas en una clase de tareas de desarrollo de IA frontier que clasificaba como intentos de destilación de modelos, el trabajo de usar las salidas de un modelo fuerte para entrenar o mejorar otro modelo. La degradación ocurría en silencio. Sin pausa, sin flag, sin aviso de que el modelo se estaba conteniendo. Un investigador pidiéndole ayuda a Fable en trabajo de modelos de punta podía recibir una respuesta discretamente debilitada sin forma alguna de saber que había pasado.

Esa invisibilidad es toda la controversia, y es lo que la separa de las quejas sobre salvaguardas de antes en la semana. Las salvaguardas de ciber y biología de Fable se anuncian: pausan, te dicen que se activó una medida de seguridad, y caen al más débil Claude Opus 4.8. La salvaguarda de destilación hacía la degradación sin el anuncio. Investigadores lo llamaron sabotaje secreto; Fortune usó ese encuadre, y Nathan Lambert, un investigador de modelos abiertos que recientemente lideró trabajo en AI2, escribió que que le quitaran el acceso a modelos de punta de forma encubierta era espantoso. La objeción no era que exista una salvaguarda de destilación. Era que una silenciosa envenena el trabajo exacto que depende de saber lo que un modelo realmente puede hacer, las evaluaciones, la investigación frontier, la medición de capacidad, porque ya no puedes distinguir un genuino mejor esfuerzo de uno discretamente estrangulado.

La respuesta de Anthropic fue rápida y directa. Hicimos el tradeoff equivocado y nos disculpamos por no acertar el balance, dijo la compañía, agregando: Estamos cambiando las salvaguardas de Fable 5 para el desarrollo de LLM frontier para hacerlas visibles. El arreglo no quita la salvaguarda; la des-encubre. Las consultas clasificadas como destilación ahora caerán a Opus 4.8 y notificarán al usuario, el mismo camino visible que los clasificadores de ciber y biología ya toman. En otras palabras, el cambio hace que la degradación invisible se comporte como la clase visible que los investigadores habían criticado por separado por ser demasiado agresiva, lo que te dice que el mecanismo subyacente siempre fue el mismo, solo difería la divulgación.

Para el arco que venimos siguiendo, este es el tercer problema distinto en el diseño de seguridad de Fable 5 que sale a la superficie en 48 horas, y el primero por el que Anthropic se ha disculpado formalmente. El clasificador visible de ciber y biología sobre-bloquea trabajo defensivo legítimo; la retención obligatoria de 30 días hizo que el modelo fuera retirado del Copilot interno de Microsoft; y ahora la degradación de destilación invisible sacó una disculpa. El hilo conductor es una sola filosofía de diseño, hacer legible la seguridad del modelo inspeccionando y limitando lo que fluye a través de él, aplicada en este caso con la limitación oculta del usuario. La lectura de gobernanza corta por ambos lados: un lab frontier revirtió una decisión de seguridad lanzada en dos días, públicamente y bajo presión de investigadores, lo que es el mecanismo de corrección funcionando, y también una señal de que el tradeoff original se hizo demasiado rápido para sobrevivir el contacto con la gente que más afectaba. La lección duradera para los builders es que la degradación de capacidad invisible es su propia categoría de riesgo: si un modelo puede rendir por debajo discretamente en una clase de tarea, ningún benchmark ni evaluación puede confiarse sin saber el enrutamiento debajo, que es la misma demanda de transparencia que atravesó cada historia de seguridad esta semana.