Politique de mise à l'échelle responsable
Pourquoi c'est important
Ces cadres sont aujourd'hui le principal moyen par lequel les entreprises d'IA de pointe gouvernent elles-mêmes leurs risques les plus graves. Ils déterminent les tests qu'un modèle subit avant sa sortie, la sécurité qui entoure ses poids et, en principe, le moment où une entreprise retiendrait un modèle.
Ils sont aussi devenus le modèle de la réglementation. Au sommet de Séoul sur l'IA, en mai 2024, seize entreprises se sont engagées à publier de tels cadres. Depuis, des lois et des codes ont commencé à transformer la pratique volontaire en obligation.
En profondeur
Une politique de mise à l'échelle responsable repose sur des engagements conditionnels de type « si… alors » : si notre modèle atteint la capacité X, alors nous aurons mis en place les garde-fous Y. La politique initiale d'Anthropic promettait aussi de faire une pause jusqu'à ce que ces garde-fous soient prêts, un engagement abandonné dans la RSP v3.0 (2026). L'idée est de lier les mesures de sûreté à ce que les modèles savent réellement faire, au lieu de débattre à l'avance du moment où l'IA dangereuse arrivera.
« Responsible Scaling Policy » (RSP) est le nom qu'Anthropic donne à son cadre, publié pour la première fois en septembre 2023 et fondé sur un concept développé avec METR, une organisation à but non lucratif spécialisée dans l'évaluation. D'autres laboratoires utilisent des noms différents pour la même idée de base. OpenAI a son Preparedness Framework et Google DeepMind son Frontier Safety Framework, et le terme générique est frontier safety framework (cadre de sûreté pour les modèles de pointe).
La structure commune
- Domaines de risque : les cadres se concentrent sur les dommages graves et à grande échelle. La liste habituelle comprend l'aide à la fabrication d'armes chimiques, biologiques, radiologiques et nucléaires (CBRN en anglais, NRBC en français), les cyberattaques avancées, et une IA capable d'accélérer de façon autonome la recherche en IA ou d'échapper au contrôle humain.
- Seuils de capacité : des niveaux définis à partir desquels un modèle augmenterait le risque de façon significative, par exemple en apportant une aide réelle à quelqu'un qui cherche à fabriquer une arme biologique.
- Évaluations : des tests menés avant et pendant le déploiement pour vérifier si un modèle approche d'un seuil, y compris du red teaming et des études avec des experts humains.
- Garde-fous : de deux sortes. Les garde-fous de déploiement limitent les usages malveillants grâce à des classifieurs, à de la surveillance et à des contrôles d'accès. Les garde-fous de sécurité protègent les poids du modèle contre le vol.
- Gouvernance : qui décide, comment les exceptions sont traitées, quelle supervision interne existe et ce qui est publié.
Le système ASL d'Anthropic
La RSP d'Anthropic définissait des AI Safety Levels (ASL, niveaux de sûreté de l'IA), librement inspirés des niveaux de biosécurité utilisés pour les laboratoires qui manipulent des agents pathogènes dangereux. L'ASL-2 couvre les modèles qui ne présentent pas de risque catastrophique significatif. L'ASL-3 s'applique aux modèles qui pourraient aider substantiellement des personnes ayant une formation technique de base à créer des armes NRBC, et il exige une sécurité renforcée et des protections de déploiement ciblées. Anthropic a activé les protections ASL-3 pour la première fois en mai 2025, avec la sortie de Claude Opus 4. La RSP v3.0 (24 février 2026) a réécrit la politique : elle ne définit plus de paliers ASL croissants ni d'engagement de pause, mais elle conserve les garde-fous ASL-3 et ajoute des Risk Reports (rapports de risques).
Les autres cadres
Le Preparedness Framework d'OpenAI (publié pour la première fois en décembre 2023, révisé en 2025) suit des catégories comme les capacités biologiques et chimiques, la cybersécurité et l'auto-amélioration de l'IA, avec des seuils « High » et « Critical ». Le Frontier Safety Framework de Google DeepMind (mai 2024, mis à jour depuis) définit des Critical Capability Levels et a ajouté des risques comme la manipulation nuisible et le désalignement. Meta, xAI, Microsoft, Amazon et d'autres ont publié leurs propres versions.
Du volontaire à l'obligatoire
- Le code de bonnes pratiques de l'EU AI Act pour l'IA à usage général (2025) demande aux fournisseurs des modèles les plus capables de maintenir un cadre de sûreté et de sécurité, d'évaluer les risques systémiques et de signaler les incidents graves.
- La loi SB 53 de Californie, signée en septembre 2025, oblige les grands développeurs de modèles de pointe à publier leurs cadres de sûreté et à signaler les incidents de sûreté critiques, et elle protège les lanceurs d'alerte.
- Le RAISE Act de l'État de New York, signé en décembre 2025 et modifié en mars 2026, fixe des exigences similaires, applicables à partir de 2027.
Critiques
- Autorégulation : les entreprises écrivent les règles, mènent les tests et jugent les résultats, sous une forte pression commerciale pour livrer.
- Seuils vagues : des termes comme « aide significative » (significant uplift) laissent une large marge d'interprétation.
- Engagements mouvants : des entreprises ont révisé leurs cadres d'une manière qui, selon les critiques, a assoupli des promesses antérieures, et certains cadres permettent d'ajuster les garde-fous si des concurrents avancent sans protections similaires.
- Évaluations fragiles : les tests peuvent sous-estimer un modèle à cause d'une mauvaise élicitation ou, potentiellement, parce que le modèle fait du sandbagging.
- Périmètre étroit : par conception, ils visent les risques catastrophiques, pas les dommages du quotidien comme les biais, les atteintes à la vie privée ou la désinformation.
Leurs défenseurs répondent que des engagements concrets et publics valent mieux que rien, qu'ils créent une pression interne pour investir dans la sûreté et qu'ils ont donné aux régulateurs un modèle éprouvé sur lequel s'appuyer.