Política de escalado responsable
Por qué importa
Estos marcos son hoy la principal vía por la que las empresas de IA de frontera gobiernan sus propios riesgos más graves. Determinan por qué pruebas pasa un modelo antes de su lanzamiento, qué seguridad rodea a sus pesos y, en principio, cuándo una empresa retendría un modelo.
También se han convertido en la plantilla para la regulación. En la Cumbre de IA de Seúl, en mayo de 2024, dieciséis empresas se comprometieron a publicar marcos de este tipo. Desde entonces, leyes y códigos han empezado a convertir la práctica voluntaria en obligación.
En profundidad
Una política de escalado responsable se construye sobre compromisos condicionales del tipo «si… entonces»: si nuestro modelo alcanza la capacidad X, entonces tendremos listas las salvaguardas Y. La política original de Anthropic prometía además hacer una pausa hasta tenerlas listas, un compromiso que abandonó en la RSP v3.0 (2026). La idea es atar las medidas de seguridad a lo que los modelos realmente pueden hacer, en lugar de discutir por adelantado cuándo llegará la IA peligrosa.
«Responsible Scaling Policy» (RSP) es el nombre que Anthropic le da a su marco, publicado por primera vez en septiembre de 2023 y basado en un concepto desarrollado con METR, una organización sin fines de lucro dedicada a la evaluación. Otros laboratorios usan nombres distintos para la misma idea básica. OpenAI tiene su Preparedness Framework y Google DeepMind su Frontier Safety Framework, y el término genérico es frontier safety framework (marco de seguridad para modelos de frontera).
La estructura común
- Dominios de riesgo: los marcos se centran en daños graves y a gran escala. La lista habitual incluye la ayuda con armas químicas, biológicas, radiológicas y nucleares (CBRN, por sus siglas en inglés), los ciberataques avanzados y una IA capaz de acelerar de forma autónoma la investigación en IA o de evadir el control humano.
- Umbrales de capacidad: niveles definidos en los que un modelo aumentaría el riesgo de manera significativa, por ejemplo al dar una ayuda real a alguien que intenta construir un arma biológica.
- Evaluaciones: pruebas que se ejecutan antes y durante el despliegue para comprobar si un modelo se acerca a un umbral, incluido el red teaming y estudios con expertos humanos.
- Salvaguardas: de dos tipos. Las salvaguardas de despliegue limitan el uso indebido mediante clasificadores, monitoreo y controles de acceso. Las salvaguardas de seguridad protegen los pesos del modelo contra el robo.
- Gobernanza: quién decide, cómo se manejan las excepciones, qué supervisión interna existe y qué se publica.
El sistema ASL de Anthropic
La RSP de Anthropic definía los AI Safety Levels (ASL, niveles de seguridad de IA), inspirados libremente en los niveles de bioseguridad que se usan en los laboratorios que manejan patógenos peligrosos. ASL-2 cubre los modelos que no plantean un riesgo catastrófico significativo. ASL-3 se aplica a los modelos que podrían ayudar de forma sustancial a personas con formación técnica básica a crear armas CBRN, y exige una seguridad más fuerte y protecciones de despliegue específicas. Anthropic activó las protecciones ASL-3 por primera vez en mayo de 2025, con el lanzamiento de Claude Opus 4. La RSP v3.0 (24 de febrero de 2026) reescribió la política: ya no define niveles ASL escalonados ni el compromiso de pausa, pero mantiene las salvaguardas ASL-3 y agrega los Risk Reports (informes de riesgo).
Otros marcos
El Preparedness Framework de OpenAI (publicado por primera vez en diciembre de 2023 y revisado en 2025) da seguimiento a categorías como la capacidad biológica y química, la ciberseguridad y la automejora de la IA, con umbrales «High» y «Critical». El Frontier Safety Framework de Google DeepMind (mayo de 2024, actualizado desde entonces) define los Critical Capability Levels y ha sumado riesgos como la manipulación dañina y la desalineación. Meta, xAI, Microsoft, Amazon y otros han publicado sus propias versiones.
De voluntario a obligatorio
- El Código de Buenas Prácticas de la Ley de IA de la UE (EU AI Act) para la IA de propósito general (2025) pide a los proveedores de los modelos más capaces mantener un marco de seguridad y protección, evaluar los riesgos sistémicos y reportar incidentes graves.
- La SB 53 de California, firmada en septiembre de 2025, obliga a los grandes desarrolladores de modelos de frontera a publicar sus marcos de seguridad y a reportar incidentes críticos de seguridad, y protege a los denunciantes.
- La RAISE Act de Nueva York, firmada en diciembre de 2025 y enmendada en marzo de 2026, fija requisitos similares que entran en vigor en 2027.
Críticas
- Autovigilancia: las empresas escriben las reglas, hacen las pruebas y juzgan los resultados, bajo una fuerte presión comercial por lanzar.
- Umbrales vagos: términos como «ayuda significativa» (significant uplift) dejan un amplio margen de interpretación.
- Compromisos cambiantes: las empresas han revisado sus marcos de maneras que, según los críticos, relajaron promesas anteriores, y algunos marcos permiten ajustar las salvaguardas si los competidores avanzan sin protecciones similares.
- Evaluaciones frágiles: las pruebas pueden subestimar a un modelo por una mala elicitación o, potencialmente, porque el modelo hace sandbagging.
- Alcance estrecho: por diseño apuntan a riesgos catastróficos, no a daños cotidianos como el sesgo, las violaciones de privacidad o la desinformación.
Quienes los apoyan responden que los compromisos concretos y públicos son mejores que ninguno, que crean presión interna para invertir en seguridad y que dieron a los reguladores un modelo ya probado sobre el cual construir.