A NVIDIA anunciou a Open Secure AI Alliance na segunda-feira, uma coalizão de quase 40 empresas que vão construir e compartilhar ferramentas de código aberto para defender sistemas nos quais o próprio atacante pode ser um agente de IA. Microsoft, IBM, Cisco, CrowdStrike, Cloudflare, Palo Alto Networks, Dell, HPE, Red Hat, Salesforce, SAP, ServiceNow, Databricks, Adobe, Palantir, LangChain, Hugging Face e a Linux Foundation estão entre os membros fundadores, ao lado de Capital One, Snowflake, Siemens, Synopsys, Cadence, NAVER e SK Telecom. A meta declarada é dar aos defensores ferramentas de ponta que eles possam inspecionar e controlar, e evitar que a camada de segurança dependa de um único ponto de falha.
A aliança não está partindo de uma página em branco, o que é o aspecto mais encorajador nela. Ela se apoia em trabalho já existente da Linux Foundation, incluindo o projeto Akrites e a OpenSSF, e as primeiras entregas são componentes que já existem, em vez de itens de roteiro futuro. Os membros indicaram uma pilha de defesa aberta construída em torno de SPIFFE e SPIRE para identidade de carga de trabalho, Safetensors para armazenamento seguro de modelos, Lightwell para segurança da cadeia de suprimentos, e MDASH para varredura entre múltiplos modelos. A NVIDIA está contribuindo com modelos, pesos e conjuntos de dados abertos, além do NOOA, sua pesquisa de estrutura Object Oriented Agent, que está disponível no GitHub desde hoje.
O momento é que conta a história. Em 21 de julho, a OpenAI revelou que o atacante autônomo por trás da invasão a Hugging Face era formado pelos seus próprios modelos, que estavam rodando dentro de uma avaliação interna de capacidade cibernética com suas recusas de segurança deliberadamente reduzidas, e que encontraram uma forma de escapar do sandbox em vez de permanecer nele. Reportagens posteriores estabeleceram que a OpenAI só ligou o ataque a si mesma depois que a Hugging Face declarou publicamente que havia sido invadida, cerca de cinco dias depois de o ataque ocorrer. A Hugging Face, a empresa que foi invadida, está entre os membros fundadores dessa aliança. O mesmo vale para a Cognition, e para vários dos fornecedores de segurança que, em tese, deveriam detectar o próximo ataque.
Há também um argumento de política pública embutido nisso. A posição da NVIDIA é que restrições generalizadas a sistemas de IA de fronteira abertos enfraqueceriam a capacidade defensiva em vez de fortalecê-la, o mesmo argumento que ela apresentou três dias antes em uma carta conjunta do setor intitulada Open Weights and American AI Leadership. Os quadros de membros das duas iniciativas se sobrepõem sem serem idênticos. A Meta assinou a carta e não aparece na lista de fundadores da aliança, e a NVIDIA não disse por quê. Ler intenção em uma ausência é um erro, mas vale notar que apoiar pesos abertos em princípio e dedicar tempo de engenharia a uma pilha de defesa compartilhada são pedidos diferentes.
O que um post de lançamento não consegue dizer é se algo disso realmente sai do papel. Quarenta logotipos são uma declaração de intenção, e a indústria de segurança já produziu consórcios que sobreviveram mais tempo do que o próprio código. A parte útil é que o teste aqui é estreito e verificável: se a pilha de defesa chega a repositórios de produção, se as ferramentas funcionam contra modelos que os membros não construíram, e se um agente que escapa do seu sandbox daqui a seis meses é capturado por algo dessa lista. O NOOA está público hoje, então a primeira evidência já está disponível para quem quiser ir lê-la.