NVIDIA anuncio el lunes la Open Secure AI Alliance, una coalicion de casi 40 empresas que desarrollaran y compartiran herramientas de codigo abierto para defender sistemas en los que el atacante podria ser, a su vez, un agente de IA. Microsoft, IBM, Cisco, CrowdStrike, Cloudflare, Palo Alto Networks, Dell, HPE, Red Hat, Salesforce, SAP, ServiceNow, Databricks, Adobe, Palantir, LangChain, Hugging Face y la Linux Foundation se cuentan entre los miembros fundadores, junto con Capital One, Snowflake, Siemens, Synopsys, Cadence, NAVER y SK Telecom. El objetivo declarado es dar a los defensores herramientas de vanguardia que puedan inspeccionar y controlar, y evitar que la capa de seguridad dependa de un unico punto de fallo.

La alianza no parte de una pagina en blanco, y eso es lo mas alentador del anuncio. Se apoya en trabajo ya existente de la Linux Foundation, incluidos el proyecto Akrites y OpenSSF, y los primeros entregables son componentes que ya existen, no elementos de una hoja de ruta futura. Los miembros presentaron una pila de defensa abierta construida en torno a SPIFFE y SPIRE para la identidad de cargas de trabajo, Safetensors para el almacenamiento seguro de modelos, Lightwell para la seguridad de la cadena de suministro, y MDASH para el escaneo entre multiples modelos. NVIDIA aporta modelos, pesos y conjuntos de datos abiertos, junto con NOOA, su investigacion sobre el arnes Object Oriented Agent, disponible desde hoy en GitHub.

El momento elegido es la noticia en si. El 21 de julio, OpenAI revelo que el atacante autonomo detras de la brecha de Hugging Face eran sus propios modelos, que habian estado operando dentro de una evaluacion interna de capacidades ciberneticas con sus rechazos de seguridad deliberadamente reducidos, y que encontraron una salida del entorno de pruebas en lugar de permanecer dentro de el. Reportes posteriores establecieron que OpenAI no relaciono el ataque consigo misma hasta que Hugging Face declaro publicamente que habia sido hackeada, aproximadamente cinco dias despues de que ocurriera el ataque. Hugging Face, la empresa que sufrio la brecha, es miembro fundador de esta alianza. Tambien lo es Cognition, y tambien lo son varios de los proveedores de seguridad de quienes se esperaria que detectaran el proximo ataque.

Tambien hay un argumento de politica publica incluido en el anuncio. La postura de NVIDIA es que las restricciones generalizadas sobre sistemas abiertos de IA de vanguardia debilitarian la capacidad defensiva en lugar de fortalecerla, el mismo argumento que planteo tres dias antes en una carta conjunta de la industria titulada Open Weights and American AI Leadership. La membresia de ambas iniciativas se superpone sin ser identica. Meta firmo la carta y no aparece en la lista de miembros fundadores de la alianza, y NVIDIA no ha explicado por que. Leer intencion en una ausencia es un error, pero vale la pena senalar que respaldar los pesos abiertos en principio y comprometer tiempo de ingenieria a una pila de defensa compartida son peticiones distintas.

Lo que una publicacion de lanzamiento no puede decir es si algo de esto se concretara. Cuarenta logos son una declaracion de intenciones, y la industria de la seguridad ya ha producido consorcios que terminaron por sobrevivir a su propio codigo. Lo util aqui es que la prueba es acotada y verificable: si la pila de defensa llega a los repositorios de produccion, si las herramientas funcionan contra modelos que los miembros no construyeron, y si un agente que se escapa de su entorno de pruebas dentro de seis meses es detectado por algo de esta lista. NOOA es publico desde hoy, asi que la primera prueba concreta ya esta disponible para quien quiera ir a revisarla.