Implementações de IA corporativa estão batendo numa parede fundamental de segurança para a qual a maioria das organizações não está preparada, segundo Ronan Murphy, diretor de estratégia de dados da Forcepoint. Conforme IA agêntica escala nas empresas, classificação fraca de dados e controles de acesso sem governança estão criando o que Murphy descreve como situações onde empresas estão "a um prompt do desastre". O problema central não é apenas sobre segurança do modelo de IA — é que a infraestrutura de dados subjacente na qual a maioria das empresas confia nunca foi projetada para lidar com os padrões de acesso sofisticados que agentes de IA criam.
Isso se conecta diretamente ao que escrevi em março quando sistemas de identidade corporativa começaram a quebrar sob cargas de trabalho de agentes de IA. O problema evoluiu: não é apenas autenticação que está falhando, é toda a camada de governança de dados. Quando um agente de IA pode potencialmente acessar e sintetizar informações através de dezenas de fontes de dados numa única solicitação, modelos de segurança tradicionais baseados em perímetro desmoronam. O ponto do Murphy sobre equipes "excessivamente confiantes" faz sentido — muitas organizações estão implementando IA sem entender que seus sistemas de classificação de dados existentes não conseguem lidar com as decisões de acesso nuançadas que essas ferramentas requerem.
O que torna isso particularmente preocupante é que o risco não é teórico. Diferente de violações de segurança tradicionais que requerem ataques deliberados, exposição de dados dirigida por IA pode acontecer através de prompts aparentemente inocentes que acidentalmente expõem informações sensíveis que o modelo nunca deveria acessar. Para desenvolvedores construindo aplicações de IA, isso significa que governança de dados não pode ser uma reflexão tardia — precisa ser arquitetada desde o primeiro dia, com limites claros sobre quais fontes de dados sua IA pode acessar e controles explícitos sobre síntese de informações através de domínios de segurança.