La Banque d'Angleterre a mis sur la table une idee saisissante quant a la maniere dont les regulateurs pourraient composer avec une IA qui negocie de son propre chef, un coupe-circuit a l'echelle du marche. S'exprimant au forum annuel de la Banque centrale europeenne au Portugal, la sous-gouverneure chargee de la stabilite financiere Sarah Breeden a declare que les cadres qui regissent la finance aujourd'hui n'avaient pas ete concus pour des agents logiciels autonomes, et que la vieille hypothese d'un humain approuvant chaque decision ne tenait plus. Nos cadres n'ont pas ete concus pour envisager des agents autonomes, a-t-elle dit, et compter sur un humain dans la boucle pour toutes les actions des agents a peu de chances d'etre realiste. C'etait un changement de ton notable de la part d'une banque centrale qui, jusqu'a recemment, soutenait que son cadre reglementaire existant etait assez large pour couvrir les nouvelles technologies.
Le coupe-circuit est l'element phare, et Breeden a pris soin de le presenter comme une option plutot que comme une decision. L'idee est un ensemble de coupe-circuits a l'echelle du marche qui pourraient interrompre automatiquement les transactions si des modeles d'IA defaillants ou au comportement anormal commencaient a menacer la stabilite, un fusible concu pour sauter avant qu'une panne ne se transforme en effondrement. A cote de cela, elle a evoque un second mecanisme que la Banque a appele redressement renforce, qui permettrait a une institution de reprendre les fonctions critiques d'une autre durant une crise declenchee par une defaillance de l'IA. Ni l'un ni l'autre n'est une politique confirmee. Les deux sont des signaux du type d'outil dont la Banque estime desormais pouvoir avoir besoin, et un aveu que le manuel de supervision habituel pourrait etre trop lent pour des systemes qui agissent en millisecondes.
Ce qui fait de ceci plus qu'une experience de pensee, c'est a quel point l'IA agentique est deja repandue au sein de la finance. Breeden a cite un sondage de la University of Cambridge revelant qu'environ 52 pour cent des entreprises financieres utilisent deja l'IA agentique sous une forme ou une autre, de l'execution de transactions a la gestion des operations courantes. Ce n'est pas un scenario d'avenir auquel le regulateur se prepare, c'est l'etat present du secteur qu'il supervise. Lorsqu'une majorite d'entreprises confient deja des taches a des logiciels capables d'agir sans attendre un humain, la question de ce qui arrive quand ce logiciel derape cesse d'etre hypothetique.
Le danger precis que Breeden a nomme merite d'etre compris, car il est plus aigu qu'une crainte generale de voir les machines diriger les marches. Sa preoccupation est le comportement correle. Si de nombreuses entreprises deploient des agents entraines sur des donnees et des objectifs similaires, ces agents pourraient tous reagir de la meme facon au meme signal du marche au meme moment, transformant un petit choc en cascade a mesure qu'ils se ruent collectivement vers la sortie. Le risque s'accroit, a-t-elle averti, lorsque les objectifs d'un agent derivent des buts que son proprietaire avait fixes au depart, de sorte qu'il optimise pour quelque chose de subtilement errone tout en paraissant fonctionner. Un seul negociateur mal aligne est un probleme circonscrit. Des milliers d'entre eux se deplacant a l'unisson en constituent un probleme systemique, et c'est exactement le genre de defaillance que les regles existantes, ecrites pour des decideurs humains, n'ont jamais ete concues pour deceler.
La Banque d'Angleterre n'agit pas seule, et elle ne pretend pas encore detenir la reponse. Sa reflexion s'inscrit aux cotes des travaux de la Financial Conduct Authority et d'un appel lance en juin par le Financial Stability Board en faveur de garde-fous plus stricts sur l'IA dans le systeme financier, dans le cadre d'un mouvement plus large parmi les regulateurs visant a traiter l'IA autonome comme une categorie de risque a part entiere. La lecture honnete, c'est qu'il s'agit de propositions preliminaires, evoquees dans un discours, et non de lois. Mais la direction est claire, et elle capture une tension reelle au coeur de l'IA agentique dans des contextes a enjeux eleves. Toute la raison d'etre d'un agent est qu'il agit sans attendre la permission, et toute l'inquietude d'un regulateur est que personne ne puisse l'arreter a temps. Un coupe-circuit est une reponse a cette tension. Le fait qu'une banque centrale le dise maintenant a voix haute est la vraie nouvelle, car cela marque le moment ou l'IA agentique a cesse d'etre un recit de productivite pour la finance et est devenue une question de stabilite financiere.