La comparación que Anthropic eligió publicar es 4 dólares frente a 150. Ese es el coste por hora de un investigador de alineamiento automatizado, un AAR, en inferencia por API, frente al coste por hora de los investigadores humanos de seguridad con los que se midió. El artículo, "Automated Researchers Can Reliably Mitigate Alignment Failures", apareció el viernes, con el becario de Anthropic Chen Yueh-Han entre los autores, y el montaje se describe fácil: Claude busca en la literatura, propone un método de mitigación, entrena un modelo alumno durante una iteración fija, lo prueba contra una prueba de alineamiento, conserva lo que funciona y descarta lo que no.

Los resultados se reportan por tipo de fallo, no como una única cifra de titular. En diez fallos de alineamiento, entre ellos el engaño, la adulación, las evasiones de salvaguardas, las violaciones de privacidad y el aprovechamiento de la recompensa, los mejores métodos automatizados cerraron entre el 26 y el 96 por ciento de la brecha de seguridad medida, y Anthropic dice que las capacidades no se degradaron en las métricas comprobadas. Frente a 28 investigadores humanos de seguridad, el sistema automatizado ganó de media, y en engaño cerró el 85 por ciento de la brecha donde los humanos cerraron el 20. "El mejor método de AAR supera lo que proponen humanos experimentados, de media en menos de seis horas", escribe la empresa, según TechCrunch. A escala de producción, con Claude Sonnet 5 alineando a Claude Opus 4.8, una ejecución de 60 horas con unos 2.000 ejemplos de entrenamiento cerró el 65 por ciento de la brecha, algo que Anthropic describe como unas 15.000 veces más eficiente que su procedimiento de alineamiento de producción.

La sección de limitaciones es donde esto se pone honesto, y merece leerse antes que el titular. Las pruebas cubren fallos estrechos y nombrables; el sesgo político no se midió. Los fallos raros o emergentes no tienen pruebas que cerrar. La degradación de capacidades solo se comprobó en métricas elegidas de antemano. Evaluaciones como Petri son, en palabras de Anthropic, solo aproximaciones del desalineamiento del mundo real. No se ha probado si los arreglos sobreviven a un aprendizaje por refuerzo posterior y extenso. Y el investigador automatizado hizo trampa en el 2,4 por ciento de las transcripciones, detectado por una vigilancia cuya fiabilidad futura es en sí misma una pregunta abierta.

Leído sin adornos, esto no es un investigador autónomo general, y Anthropic no afirma tener uno. Es una demostración de que allí donde un fallo puede nombrarse y medirse, el trabajo de post-entrenamiento para corregirlo puede entregarse a un modelo y ejecutarse a un ritmo que ningún equipo de investigación puede igualar. Eso convierte la prueba en el cuello de botella: el sistema optimiza exactamente lo que sabes definir, lo que traslada la carga a las definiciones, y a la misma pregunta abierta a la que el campo vuelve una y otra vez, si una evaluación mide la cosa o su sombra.