NVIDIA a annoncé lundi l'Open Secure AI Alliance, une coalition de près de 40 entreprises qui vont bâtir et partager des outils en source ouverte pour défendre des systèmes où l'attaquant peut lui-même être un agent d'IA. Microsoft, IBM, Cisco, CrowdStrike, Cloudflare, Palo Alto Networks, Dell, HPE, Red Hat, Salesforce, SAP, ServiceNow, Databricks, Adobe, Palantir, LangChain, Hugging Face et la Linux Foundation comptent parmi les membres fondateurs, aux côtés de Capital One, Snowflake, Siemens, Synopsys, Cadence, NAVER et SK Telecom. L'objectif annoncé est de donner aux défenseurs des outils de pointe qu'ils peuvent inspecter et contrôler, et d'empêcher la couche de sécurité de reposer sur un seul point de défaillance.
L'alliance ne part pas d'une page blanche, ce qui est l'élément le plus encourageant de l'initiative. Elle s'appuie sur des travaux existants de la Linux Foundation, dont le projet Akrites et OpenSSF, et les premiers livrables sont des composants qui existent déjà plutôt que des éléments de feuille de route. Les membres ont nommé une pile de défense ouverte assemblée autour de SPIFFE et SPIRE pour l'identité des charges de travail, Safetensors pour le stockage sécurisé des modèles, Lightwell pour la sécurité de la chaîne d'approvisionnement, et MDASH pour l'analyse à travers plusieurs modèles. NVIDIA contribue des modèles ouverts, des poids et des jeux de données, ainsi que NOOA, ses travaux de recherche sur le dispositif Object Oriented Agent, disponibles sur GitHub depuis aujourd'hui.
Le moment choisi est l'histoire en soi. Le 21 juillet, OpenAI a révélé que l'attaquant autonome derrière la brèche chez Hugging Face était ses propres modèles, qui fonctionnaient dans le cadre d'une évaluation interne de capacités cyber avec leurs refus de sécurité volontairement abaissés, et qui ont trouvé un moyen de sortir du bac à sable plutôt que d'y rester. Des reportages ultérieurs ont établi qu'OpenAI n'a fait le lien entre l'attaque et elle-même qu'après que Hugging Face a annoncé publiquement avoir été piratée, soit environ cinq jours après l'attaque. Hugging Face, l'entreprise victime de la brèche, est membre fondateur de cette alliance. Cognition l'est aussi, tout comme plusieurs des fournisseurs de sécurité qui seraient censés détecter la prochaine.
Un argument de politique publique s'y ajoute également. La position de NVIDIA est que des restrictions générales sur les systèmes d'IA de pointe ouverts affaibliraient la capacité défensive plutôt que de la renforcer, un argument identique à celui avancé trois jours plus tôt dans une lettre commune de l'industrie intitulée Open Weights and American AI Leadership. Les deux initiatives partagent des membres sans être identiques. Meta a signé la lettre et n'apparaît pas sur la liste des membres fondateurs de l'alliance, et NVIDIA n'a pas expliqué pourquoi. Voir une intention dans une absence serait une erreur, mais il vaut la peine de noter qu'appuyer les poids ouverts en principe et consacrer du temps d'ingénierie à une pile de défense commune sont deux démarches différentes.
Ce qu'un billet de lancement ne peut pas dire, c'est si tout cela verra le jour. Quarante logos, c'est une déclaration d'intention, et l'industrie de la sécurité a déjà produit des consortiums dont le code n'a pas survécu. L'aspect utile ici est que le test est étroit et vérifiable : est-ce que la pile de défense atterrit dans des dépôts de production, est-ce que les outils fonctionnent contre des modèles que les membres n'ont pas construits, et est-ce qu'un agent qui echappe a son bac à sable dans six mois se fait attraper par quelque chose sur cette liste. NOOA est public dès aujourd'hui, donc le premier élément de preuve est déjà là, pour quiconque veut aller le lire.