Safe Superintelligence
Pourquoi c’est important
En profondeur
Safe Superintelligence a été annoncée en juin 2024, à peine un mois après le départ d'Ilya Sutskever d'OpenAI, où il avait été cofondateur, scientifique en chef et l'un des chercheurs les plus influents de l'ère de l'apprentissage profond. La déclaration de fondation tenait essentiellement en une phrase : un seul but et un seul produit, une superintelligence sûre, avec la sûreté et les capacités avancées de pair. Tout le reste — aucun lancement de produit, aucun plan de revenus, aucune recherche publique — découle de cette phrase. L'entreprise a ouvert des bureaux à Palo Alto et à Tel-Aviv, levé environ 1 milliard de dollars en quelques mois, et été évaluée selon les rapports autour de 32 milliards de dollars en 2025, tout ça sans publier de modèle, d'article, ni décrire son approche technique en public. Sutskever a cofondé l'entreprise avec Daniel Gross, qui dirigeait auparavant les travaux en IA chez Apple et était associé chez Y Combinator, et Daniel Levy, ancien chercheur d'OpenAI.
D'OpenAI à la page blanche
Le parcours de Sutskever jusqu'à SSI traverse la plupart des jalons de l'IA moderne. Il a cosigné l'article AlexNet qui a lancé la vague de l'apprentissage profond en 2012, cofondé OpenAI en 2015, et comme scientifique en chef supervisé l'arc de recherche qui a mené à la série GPT et à ChatGPT. Il a aussi été au cœur de la crise du conseil d'administration d'OpenAI en novembre 2023, où il a d'abord voté pour destituer le PDG Sam Altman avant de faire volte-face quelques jours plus tard. Après cet épisode, il a codirigé l'équipe de superalignement d'OpenAI, mandatée pour travailler sur le contrôle de systèmes plus intelligents que les humains, mais l'équipe a été dissoute en mai 2024 quand lui et son codirigeant Jan Leike sont tous deux partis. SSI a été lancée quelques semaines plus tard, et le moment choisi rendait le sous-texte difficile à manquer : le laboratoire est en bonne partie un pari voulant que le travail d'alignement ne puisse pas se faire correctement à l'intérieur d'une entreprise qui court pour commercialiser la technologie qu'elle tente de contrôler.
La stratégie en ligne droite
La plupart des laboratoires de pointe financent leurs factures de calcul en livrant des produits — agents conversationnels, API, contrats d'entreprise — et chaque lancement tire les chercheurs vers des échéances, des revues de sûreté liées aux publications et des courses aux fonctionnalités. Le modèle affiché de SSI retire tout ça : aucun produit avant que l'unique produit soit prêt, ce qui, selon ses fondateurs, élimine la pression commerciale qui dégrade le travail de sûreté. Les investisseurs ont embarqué à des conditions remarquables — une première ronde d'environ 1 milliard de dollars en 2024 aurait évalué l'entreprise près de 5 milliards, et les rapports de financement de 2025 situent le chiffre autour de 32 milliards, pour un laboratoire comptant, de l'avis général, seulement quelques dizaines d'employés et aucun revenu. Le pari, c'est essentiellement que le jugement de Sutskever sur ce qui vient après les lois d'échelle d'aujourd'hui vaut plus que n'importe quel portefeuille de produits. Il a soutenu que le domaine revient à un âge de la recherche maintenant que les données de pré-entraînement sont près de l'épuisement, et SSI, c'est cette thèse transformée en entreprise.
Ce que « sûre » est censé vouloir dire
La prétention centrale de SSI, c'est que la sûreté ne peut pas être ajoutée après coup. Dans cette optique, l'approche habituelle de l'industrie — entraîner un modèle le plus capable possible, puis le contraindre avec des garde-fous, de l'ajustement fin et des filtres de contenu — est à l'envers, parce qu'un système plus intelligent que ses opérateurs trouvera les failles de n'importe quelle cage bâtie autour de lui. SSI dit développer plutôt la sûreté et les capacités de pair, traitant la fiabilité et la contrôlabilité comme des cibles de conception dès la première expérience plutôt que comme des rustines appliquées avant le lancement. Ce que ça veut dire techniquement est inconnu, parce que l'entreprise ne publie rien : ni articles, ni fiches de modèle, ni résultats d'évaluation. Les sceptiques notent que ça rend la prétention de sûreté infalsifiable de l'extérieur — les outils de vérification habituels du domaine, de l'évaluation ouverte à l'interprétabilité mécaniste, exigent des artefacts à inspecter, et SSI n'en a publié aucun. La position de l'entreprise, c'est que les enjeux de risque existentiel justifient de travailler en silence plutôt que de courir en public.
Elle ne court pas pour livrer un agent conversationnel
L'idée fausse la plus répandue au sujet de SSI, c'est qu'elle serait une concurrente furtive de ChatGPT ou de Claude — qu'elle dévoilera un jour un agent conversationnel aux meilleures manières. Il n'y a pas d'API à laquelle s'inscrire, pas d'application, pas de liste d'attente, et l'entreprise dit qu'il n'y en aura pas avant que la superintelligence elle-même soit résolue de façon sûre. Une idée fausse apparentée veut que SSI soit une boutique de plaidoyer ou de politiques publiques : ce n'est pas le cas. C'est un laboratoire de recherche qui entraîne des modèles, structurellement plus proche d'un DeepMind des débuts que d'un groupe de réflexion, et son pari, c'est qu'atteindre l'ASI en premier et de façon sûre vaut mieux que de livrer des produits intermédiaires. Savoir si « en premier et de façon sûre » est même une combinaison cohérente — étant donné qu'aller vite et prouver la sûreté tirent en sens contraires — est la question dont toute l'entreprise est une expérience.
Les questions ouvertes
L'expérience de SSI a des points faibles évidents. Les entraînements de pointe coûtent des milliards de dollars en calcul, et quelques dizaines de chercheurs — aussi décorés soient-ils — affrontent des laboratoires dotés de grappes de cent mille GPU, donc l'entreprise doit soit trouver une voie véritablement meilleure, soit finir par lever du capital à une échelle qui ramène les pressions commerciales. La prétention de sûreté est aussi invérifiable tant que rien n'est publié, ce qui demande au reste du domaine de la sûreté de l'IA de prendre la mission sur parole. La ligne droite a déjà été mise à l'épreuve : en 2025, Meta aurait exploré l'acquisition de l'entreprise et l'embauche de ses fondateurs, une approche que Sutskever a publiquement repoussée, et Gross est parti peu après tandis que Sutskever assumait le rôle de PDG. Rien de tout ça ne rend le pari mauvais — ça souligne que SSI est une mise sur le jugement d'un petit groupe, et que le monde ne saura pas comment ça tourne avant que le laboratoire brise son silence.