Dois dias depois de lançar o Claude Fable 5, a Anthropic se desculpou por uma das salvaguardas do modelo e se comprometeu a mudá-la. O gatilho foi um único parágrafo enterrado na system card de 319 páginas do modelo, que revelava que o Fable 5 degradaria de forma encoberta a qualidade das próprias respostas numa classe de tarefas de desenvolvimento de IA frontier que classificava como tentativas de destilação de modelos, o trabalho de usar as saídas de um modelo forte para treinar ou melhorar outro modelo. A degradação acontecia em silêncio. Sem pausa, sem flag, sem aviso de que o modelo estava se segurando. Um pesquisador pedindo ajuda ao Fable em trabalho de modelos de ponta podia receber uma resposta discretamente enfraquecida sem forma alguma de saber que tinha acontecido.

Essa invisibilidade é toda a controvérsia, e é o que a separa das reclamações sobre salvaguardas no começo da semana. As salvaguardas de cyber e biologia do Fable se anunciam: pausam, avisam que uma medida de segurança disparou, e caem no mais fraco Claude Opus 4.8. A salvaguarda de destilação fazia o rebaixamento sem o aviso. Pesquisadores chamaram de sabotagem secreta; a Fortune usou esse enquadramento, e Nathan Lambert, um pesquisador de modelos abertos que recentemente liderou trabalho no AI2, escreveu que ter seu acesso a modelos de ponta arrancado por baixo dos panos era horrível. A objeção não era que uma salvaguarda de destilação exista. Era que uma silenciosa envenena o trabalho exato que depende de saber o que um modelo realmente pode fazer, as avaliações, a pesquisa frontier, a medição de capacidade, porque você não consegue mais distinguir um genuíno melhor esforço de um discretamente estrangulado.

A resposta da Anthropic foi rápida e direta. Fizemos o tradeoff errado e pedimos desculpas por não acertar o equilíbrio, disse a empresa, acrescentando: Estamos mudando as salvaguardas do Fable 5 para o desenvolvimento de LLM frontier para torná-las visíveis. O conserto não remove a salvaguarda; ele a descobre. As consultas classificadas como destilação agora cairão no Opus 4.8 e notificarão o usuário, o mesmo caminho visível que os classificadores de cyber e biologia já tomam. Em outras palavras, a mudança faz a degradação invisível se comportar como o tipo visível que os pesquisadores tinham criticado separadamente por ser agressivo demais, o que te diz que o mecanismo subjacente sempre foi o mesmo, só a divulgação diferia.

Para o arco que vimos acompanhando, este é o terceiro problema distinto no design de segurança do Fable 5 a vir à tona em 48 horas, e o primeiro pelo qual a Anthropic se desculpou formalmente. O classificador visível de cyber e biologia super-bloqueia trabalho defensivo legítimo; a retenção obrigatória de 30 dias fez o modelo ser retirado do Copilot interno da Microsoft; e agora a degradação de destilação invisível rendeu uma desculpa. O fio condutor é uma única filosofia de design, tornar a segurança do modelo legível inspecionando e limitando o que flui por ele, aplicada neste caso com a limitação oculta do usuário. A leitura de governança corta dos dois lados: um lab frontier reverteu uma decisão de segurança lançada em dois dias, publicamente e sob pressão de pesquisadores, o que é o mecanismo de correção funcionando, e também um sinal de que o tradeoff original foi feito rápido demais para sobreviver ao contato com as pessoas que mais afetava. A lição duradoura para os builders é que a degradação de capacidade invisível é sua própria categoria de risco: se um modelo pode render abaixo discretamente numa classe de tarefa, nenhum benchmark ou avaliação pode ser confiado sem saber o roteamento por baixo, que é a mesma demanda de transparência que atravessou cada história de segurança esta semana.