Safe Superintelligence
Por qué importa
En profundidad
Safe Superintelligence se anunció en junio de 2024, apenas un mes después de que Ilya Sutskever dejara OpenAI, donde había sido cofundador, científico jefe y uno de los investigadores más influyentes de la era del aprendizaje profundo. La declaración fundacional era, en esencia, una sola oración: un objetivo y un producto, una superinteligencia segura, con la seguridad y las capacidades avanzando en paralelo. Todo lo demás — sin lanzamientos de productos, sin planes de ingresos, sin investigación pública — se desprende de esa oración. La empresa estableció oficinas en Palo Alto y Tel Aviv, recaudó unos 1.000 millones de dólares en cuestión de meses y, según informes, fue valorada en unos 32.000 millones en 2025, todo ello sin lanzar un modelo, publicar un artículo ni describir públicamente su enfoque técnico. Sutskever cofundó la empresa con Daniel Gross, quien anteriormente dirigió trabajos de IA en Apple y fue socio de Y Combinator, y Daniel Levy, antiguo investigador de OpenAI.
De OpenAI a empezar de cero
El camino de Sutskever hacia SSI atraviesa la mayoría de los hitos de la IA moderna. Fue coautor del artículo sobre AlexNet que inició la ola del aprendizaje profundo en 2012, cofundó OpenAI en 2015 y, como científico jefe, supervisó el arco de investigación que condujo a la serie GPT y a ChatGPT. También fue una figura central en la crisis del consejo de administración de OpenAI de noviembre de 2023, en la que inicialmente votó por destituir al CEO Sam Altman antes de cambiar de posición días después. Tras ese episodio, codirigió el equipo de superalineación de OpenAI, encargado de trabajar en el control de sistemas más inteligentes que los humanos, pero el equipo se disolvió en mayo de 2024 cuando él y el codirector Jan Leike se marcharon. SSI se lanzó semanas después, y el momento hizo difícil ignorar el subtexto: el laboratorio es, en gran medida, una apuesta por que el trabajo de Alineación no puede hacerse correctamente dentro de una empresa que compite por comercializar la tecnología que intenta controlar.
La estrategia de vía directa
La mayoría de los laboratorios de frontera financia sus facturas de cómputo lanzando productos — chatbots, API, contratos empresariales —, y cada lanzamiento empuja a los investigadores hacia fechas límite, revisiones de seguridad vinculadas a lanzamientos y carreras de funciones. El modelo declarado de SSI elimina todo eso: ningún producto hasta que el único producto esté terminado, lo que, según sus fundadores, suprime la presión comercial que degrada el trabajo de seguridad. Los inversionistas han aceptado condiciones extraordinarias — una primera ronda de unos 1.000 millones de dólares en 2024 habría valorado la empresa cerca de 5.000 millones, y los informes de financiación de 2025 situaron la cifra alrededor de 32.000 millones, para un laboratorio con apenas unas decenas de empleados según la mayoría de los relatos y cero ingresos. La apuesta consiste esencialmente en que el criterio de Sutskever sobre lo que viene después de las actuales Leyes de escala vale más que cualquier pipeline de productos. Ha sostenido que el campo está regresando a una era de investigación ahora que los datos de Preentrenamiento están cerca de agotarse, y SSI es esa tesis convertida en empresa.
Qué se supone que significa segura
La afirmación central de SSI es que la seguridad no puede incorporarse después. Según esta visión, el enfoque habitual de la industria — entrenar un modelo con la máxima capacidad y luego limitarlo con salvaguardas, ajuste fino y filtros de contenido — está al revés, porque un sistema más inteligente que sus operadores encontrará los huecos de cualquier jaula que se construya a su alrededor. SSI dice que, en cambio, desarrolla la seguridad y las capacidades en paralelo, tratando la fiabilidad y la controlabilidad como objetivos de diseño desde el primer experimento en vez de como parches aplicados antes del lanzamiento. Se desconoce qué significa eso técnicamente, porque la empresa no publica nada: ni artículos, ni fichas de modelos, ni resultados de evaluaciones. Los escépticos señalan que esto vuelve la afirmación sobre seguridad imposible de falsar desde fuera — las herramientas habituales del campo para comprobarla, desde la evaluación abierta hasta la Interpretabilidad mecanicista, requieren artefactos que inspeccionar, y SSI no ha publicado ninguno. La posición de la empresa es que lo que está en juego por el Riesgo Existencial justifica trabajar en silencio en vez de competir en público.
No compite por lanzar un chatbot
La idea equivocada más común sobre SSI es que se trata de un competidor furtivo de ChatGPT o Claude — que algún día revelará un Chatbot con mejores modales. No hay una API en la que registrarse, ni aplicación, ni lista de espera, y la empresa dice que no habrá nada hasta que la propia superinteligencia se resuelva de manera segura. Otra idea equivocada relacionada es que SSI es una organización de promoción o políticas: no lo es. Es un laboratorio de investigación que entrena modelos, estructuralmente más cercano al DeepMind inicial que a un centro de estudios, y su apuesta es que llegar primero y de forma segura a la ASI supera el lanzamiento de productos intermedios. Si "primero y de forma segura" es siquiera una combinación coherente — dado que moverse rápido y demostrar la seguridad tiran en direcciones opuestas — es la pregunta que toda la empresa intenta responder como experimento.
Las preguntas abiertas
El experimento de SSI tiene puntos débiles evidentes. Las ejecuciones de entrenamiento de frontera cuestan miles de millones de dólares en cómputo, y unas decenas de investigadores — por condecorados que estén — se enfrentan a laboratorios con clústeres de cientos de miles de GPU, así que la empresa debe encontrar un camino genuinamente mejor o terminar recaudando capital a una escala que vuelva a introducir las presiones comerciales. La afirmación sobre seguridad tampoco puede verificarse mientras no se publique nada, lo que pide al resto del campo de la inocuidad de la IA que acepte la misión por fe. La vía directa ya fue sometida a presión: en 2025, Meta AI habría explorado adquirir la empresa y contratar a sus fundadores, una propuesta que Sutskever rechazó públicamente, y Gross partió poco después mientras Sutskever asumió el cargo de CEO. Nada de esto demuestra que la apuesta sea incorrecta — subraya que SSI es una apuesta por el criterio de un grupo pequeño y que el mundo no sabrá cómo resulta hasta que el laboratorio rompa su silencio.