El debate sobre la emergencia comenzó con un artículo de 2022 de Google y colaboradores que trabajaban en BIG-Bench, una suite de benchmarks masiva con más de 200 tareas. Probaron modelos de lenguaje en una gama de tamaños y encontraron algo sorprendente: en muchas tareas, el rendimiento era esencialmente plano (cercano al azar) para modelos pequeños y medianos, y luego saltaba bruscamente una vez que un modelo cruzaba un cierto umbral de parámetros. El artículo, "Emergent Abilities of Large Language Models" de Wei et al., graficó estas curvas y el patrón era dramático — las habilidades parecían encenderse como una luz, no aparecer gradualmente. El encuadre capturó la imaginación del campo. Si los modelos podían adquirir capacidades cualitativamente nuevas solo al volverse más grandes, entonces el escalado no era solo un desafío de ingeniería, sino un camino hacia una inteligencia genuinamente sorprendente.
Los ejemplos eran convincentes. GPT-3 (175 mil millones de parámetros) podía hacer aritmética con pocos ejemplos que GPT-2 (1,5 mil millones) ni siquiera podía rozar. El razonamiento de varios pasos, donde un modelo tiene que encadenar inferencias lógicas, aparecía solo en modelos por encima de cierto tamaño. La traducción entre pares de idiomas en los que el modelo nunca había sido explícitamente entrenado aparecía a gran escala. La generación de código — la capacidad de escribir programas funcionales a partir de descripciones en lenguaje natural — pasaba de inútil a funcional en algún punto entre 10 y 100 mil millones de parámetros. El descifrado de palabras, una tarea que parece requerir alguna representación interna de la ortografía, saltaba del 0 % a casi perfecto en un rango estrecho de parámetros. El patrón se repetía en docenas de tareas de BIG-Bench: plano, plano, plano, y luego competencia repentina. Esto parecía evidencia de que el escalado producía verdaderas transiciones de fase — cambios cualitativos en lo que un modelo podía hacer, no solo mejoras cuantitativas en lo bien que hacía cosas familiares.
En 2023, Rylan Schaeffer, Brando Miranda y Sanmi Koyejo, en Stanford, publicaron un desafío directo. Su argumento era preciso: la emergencia no es una propiedad del modelo sino una propiedad de la métrica. Las tareas de BIG-Bench que mostraban transiciones bruscas usaban en su mayoría métricas discontinuas — precisión por coincidencia exacta, donde no obtienes ningún crédito por respuestas casi correctas. Un modelo que mejora gradualmente del 0,1 % al 5 % al 30 % de aciertos parece no estar haciendo nada, nada, nada, y luego de pronto rinde, porque el crédito parcial no existe. Cuando Schaeffer et al. reevaluaron los mismos modelos en las mismas tareas usando métricas continuas como log-verosimilitud o precisión a nivel de token, las transiciones bruscas desaparecieron. El rendimiento mejoraba suave y predeciblemente con la escala. La "emergencia" era un artefacto de elegir métricas que no podían detectar la mejora gradual. Esto no era una pequeña objeción metodológica. Si era correcta, significaba que la narrativa más emocionante en IA — que los modelos más grandes desarrollan espontáneamente nuevas capacidades — era en parte una ilusión de medición.
Lo que está en juego en este debate va mucho más allá del interés académico. Si la emergencia es real — si los modelos genuinamente adquieren capacidades imprevistas a ciertas escalas — entonces la planificación de seguridad enfrenta un problema fundamental: no puedes prepararte para habilidades que no puedes prever. Un modelo que es inofensivo a 100 mil millones de parámetros podría desarrollar capacidades de persuasión, estrategias de engaño o habilidades de uso de herramientas a 1 billón de parámetros, sin ninguna advertencia en la curva de escalado. Este es el argumento central a favor de un escalado cauteloso e incremental con evaluaciones extensas en cada paso. Si la emergencia es principalmente un artefacto de medición, el panorama es más tranquilizador: las capacidades mejoran de manera suave y predecible, así que las evaluaciones a escalas más pequeñas te dan una señal significativa sobre qué esperar de modelos más grandes. Las implicaciones de seguridad de cada interpretación son casi opuestas, y por eso ambos lados del debate están genuinamente comprometidos a llegar a la respuesta correcta.
La respuesta honesta es que el campo no ha alcanzado un consenso. La crítica de Stanford es ampliamente aceptada como demostración de que algunas habilidades emergentes reportadas eran artefactos de medición — esa parte no se discute seriamente. Pero muchos investigadores sostienen que la crítica no lo explica todo. Ciertas capacidades, particularmente las que involucran composicionalidad (combinar habilidades aprendidas de formas novedosas), planificación y razonamiento de varios pasos, sí parecen mostrar verdaderos cambios cualitativos que no se explican fácilmente solo por la elección de métrica. El resultado práctico para los laboratorios que toman decisiones de escalado es un mensaje mixto: probablemente puedes predecir las mejoras del siguiente paso de manera más confiable de lo que sugerían los artículos originales sobre emergencia, pero no deberías asumir que todas las sorpresas han sido explicadas. El enfoque prudente — adoptado por la mayoría de los laboratorios de frontera — es evaluar exhaustivamente en cada incremento de escala y mantener la infraestructura para pausar si aparece algo inesperado. Si llamas a las sorpresas resultantes "emergencia" o "mejora predecible que fallamos en medir adecuadamente" importa menos que si estás preparado para manejarlas.