O Banco da Inglaterra colocou sobre a mesa uma ideia vivida sobre como os reguladores poderiam lidar com a IA que negocia por conta propria: um botao de desligamento amplo de mercado. Falando no forum anual do Banco Central Europeu em Portugal, a vice-governadora de Estabilidade Financeira, Sarah Breeden, disse que os arcabocos que governam as financas hoje nao foram construidos para agentes de software autonomos, e que a antiga premissa de um humano aprovando cada decisao ja nao se encaixa. Nossos arcabocos nao foram construidos para contemplar agentes autonomos, disse ela, e depender de um humano no circuito para todas as acoes de um agente dificilmente sera realista. Foi uma mudanca notavel de tom por parte de um banco central que, ate recentemente, argumentava que seu conjunto de regras existente era amplo o suficiente para cobrir novas tecnologias.
O botao de desligamento e o destaque, e Breeden teve o cuidado de apresenta-lo como uma opcao, e nao como uma decisao. A ideia e um conjunto de disjuntores amplos de mercado que poderiam interromper automaticamente as negociacoes se modelos de IA defeituosos ou com mau comportamento comecassem a ameacar a estabilidade, um fusivel projetado para desarmar antes que uma falha se torne um colapso total. Ao lado dele, ela levantou um segundo mecanismo que o Banco chamou de recuperacao aprimorada, que permitiria a uma instituicao assumir as funcoes criticas de outra durante uma crise desencadeada por uma falha de IA. Nenhum dos dois e politica confirmada. Ambos sao sinais do tipo de ferramenta que o Banco agora acredita que pode precisar, e uma admissao de que o manual habitual de supervisao pode ser lento demais para sistemas que agem em milissegundos.
O que torna isso mais do que um experimento mental e o quao comum a IA agentica ja e dentro das financas. Breeden apontou para uma pesquisa da University of Cambridge que constatou que cerca de 52 por cento das empresas financeiras ja utilizam IA agentica de alguma forma, desde a execucao de negociacoes ate a gestao de operacoes rotineiras. Esse nao e um cenario futuro para o qual o regulador esta se preparando, e o estado atual do setor que ele supervisiona. Quando a maioria das empresas ja esta entregando tarefas a software que pode agir sem esperar por um humano, a questao do que acontece quando esse software falha deixa de ser hipotetica.
O perigo especifico que Breeden apontou merece ser compreendido, porque e mais preciso do que um medo generico de maquinas comandando os mercados. Sua preocupacao e o comportamento correlacionado. Se muitas empresas implantarem agentes treinados com dados semelhantes e objetivos semelhantes, esses agentes podem todos reagir da mesma maneira ao mesmo sinal de mercado no mesmo momento, transformando um pequeno choque em uma cascata a medida que se apressam coletivamente rumo a saida. O risco cresce, ela alertou, quando os objetivos de um agente se afastam das metas que seu proprietario originalmente definiu, de modo que ele otimiza para algo sutilmente errado enquanto ainda parece funcionar. Um unico operador desalinhado e um problema contido. Milhares deles movendo-se em sincronia sao um problema sistemico, e e exatamente o tipo de falha que as regras existentes, escritas para tomadores de decisao humanos, nunca foram projetadas para capturar.
O Banco da Inglaterra nao esta agindo sozinho, e nao esta fingindo ter a resposta ainda. Seu raciocinio se soma ao trabalho da Financial Conduct Authority e a um chamado de junho do Financial Stability Board por salvaguardas mais rigorosas sobre a IA no sistema financeiro, parte de um movimento mais amplo entre os reguladores para tratar a IA autonoma como sua propria categoria de risco. A leitura honesta e que essas sao propostas iniciais, levantadas em um discurso, nao leis. Mas a direcao e clara, e ela captura uma tensao genuina no cerne da IA agentica em contextos de altas apostas. O objetivo central de um agente e que ele age sem esperar por permissao, e a preocupacao central de um regulador e que ninguem consiga dete-lo a tempo. Um botao de desligamento e uma resposta a essa tensao. O fato de um banco central estar agora dizendo isso em voz alta e a verdadeira noticia, porque marca o momento em que a IA agentica deixou de ser uma historia de produtividade para as financas e passou a ser uma questao de estabilidade financeira.