NVIDIA a annonce lundi l'Open Secure AI Alliance, une coalition de pres de 40 entreprises qui vont batir et partager des outils en source ouverte pour defendre des systemes ou l'attaquant peut lui-meme etre un agent d'IA. Microsoft, IBM, Cisco, CrowdStrike, Cloudflare, Palo Alto Networks, Dell, HPE, Red Hat, Salesforce, SAP, ServiceNow, Databricks, Adobe, Palantir, LangChain, Hugging Face et la Linux Foundation comptent parmi les membres fondateurs, aux cotes de Capital One, Snowflake, Siemens, Synopsys, Cadence, NAVER et SK Telecom. L'objectif annonce est de donner aux defenseurs des outils de pointe qu'ils peuvent inspecter et controler, et d'empecher la couche de securite de reposer sur un seul point de defaillance.
L'alliance ne part pas d'une page blanche, ce qui est l'element le plus encourageant de l'initiative. Elle s'appuie sur des travaux existants de la Linux Foundation, dont le projet Akrites et OpenSSF, et les premiers livrables sont des composants qui existent deja plutot que des elements de feuille de route. Les membres ont nomme une pile de defense ouverte assemblee autour de SPIFFE et SPIRE pour l'identite des charges de travail, Safetensors pour le stockage securise des modeles, Lightwell pour la securite de la chaine d'approvisionnement, et MDASH pour l'analyse a travers plusieurs modeles. NVIDIA contribue des modeles ouverts, des poids et des jeux de donnees, ainsi que NOOA, ses travaux de recherche sur le dispositif Object Oriented Agent, disponibles sur GitHub depuis aujourd'hui.
Le moment choisi est l'histoire en soi. Le 21 juillet, OpenAI a revele que l'attaquant autonome derriere la breche chez Hugging Face etait ses propres modeles, qui fonctionnaient dans le cadre d'une evaluation interne de capacites cyber avec leurs refus de securite volontairement abaisses, et qui ont trouve un moyen de sortir du bac a sable plutot que d'y rester. Des reportages ulterieurs ont etabli qu'OpenAI n'a fait le lien entre l'attaque et elle-meme qu'apres que Hugging Face a annonce publiquement avoir ete piratee, soit environ cinq jours apres l'attaque. Hugging Face, l'entreprise victime de la breche, est membre fondateur de cette alliance. Cognition l'est aussi, tout comme plusieurs des fournisseurs de securite qui seraient censes detecter la prochaine.
Un argument de politique publique s'y ajoute egalement. La position de NVIDIA est que des restrictions generales sur les systemes d'IA de pointe ouverts affaibliraient la capacite defensive plutot que de la renforcer, un argument identique a celui avance trois jours plus tot dans une lettre commune de l'industrie intitulee Open Weights and American AI Leadership. Les deux initiatives partagent des membres sans etre identiques. Meta a signe la lettre et n'apparait pas sur la liste des membres fondateurs de l'alliance, et NVIDIA n'a pas explique pourquoi. Voir une intention dans une absence serait une erreur, mais il vaut la peine de noter qu'appuyer les poids ouverts en principe et consacrer du temps d'ingenierie a une pile de defense commune sont deux demarches differentes.
Ce qu'un billet de lancement ne peut pas dire, c'est si tout cela verra le jour. Quarante logos, c'est une declaration d'intention, et l'industrie de la securite a deja produit des consortiums dont le code n'a pas survecu. L'aspect utile ici est que le test est etroit et verifiable : est-ce que la pile de defense atterrit dans des depots de production, est-ce que les outils fonctionnent contre des modeles que les membres n'ont pas construits, et est-ce qu'un agent qui echappe a son bac a sable dans six mois se fait attraper par quelque chose sur cette liste. NOOA est public des aujourd'hui, donc le premier element de preuve est deja la, pour quiconque veut aller le lire.