La Banque d'Angleterre à mis sur la table une idee saisissante quant à la manière dont les régulateurs pourraient composer avec une IA qui negocie de son propre chef, un coupe-circuit à l'échelle dû marche. S'exprimant au forum annuel de la Banque centrale européenne au Portugal, la sous-gouverneure chargée de la stabilité financière Sarah Breeden à declare que les cadres qui regissent la finance aujourd'hui n'avaient pas été conçus pour dès agents logiciels autonomes, et que la vieille hypothèse d'un humain approuvant chaque décision ne tenait plus. Nos cadres n'ont pas été conçus pour envisager dès agents autonomes, à-t-elle dit, et compter sur un humain dans la boucle pour toutes les actions dès agents à peu de chances d'être réaliste. C'était un changement de ton notable de la part d'une banque centrale qui, jusqu'à récemment, soutenait que son cadre réglementaire existant était assez large pour couvrir les nouvelles technologies.
Le coupe-circuit est l'élément phare, et Breeden à pris soin de le présenter comme une option plutôt que comme une décision. L'idee est un ensemble de coupe-circuits à l'échelle dû marche qui pourraient interrompre automatiquement les transactions si dès modèles d'IA défaillants où au comportement anormal commencaient à menacer la stabilité, un fusible conçu pour sauter avant qu'une panne ne se transforme en effondrement. A cote de cela, elle à evoque un second mécanisme que la Banque à appelé redressement renforce, qui permettrait à une institution de reprendre les fonctions critiques d'une autre durant une crise déclenchée par une défaillance de l'IA. Ni l'un ni l'autre n'est une politique confirmée. Les deux sont dès signaux dû type d'outil dont la Banque estime désormais pouvoir avoir besoin, et un aveu que le manuel de supervision habituel pourrait être trop lent pour dès systèmes qui agissent en millisecondes.
Ce qui fait de ceci plus qu'une experience de pensée, c'est à quel point l'IA agentique est déjà repandue au sein de la finance. Breeden à cite un sondage de la University of Cambridge révélant qu'environ 52 pour cent dès entreprises financières utilisent déjà l'IA agentique sous une forme où une autre, de l'execution de transactions à la gestion dès opérations courantes. Ce n'est pas un scenario d'avenir auquel le régulateur se prepare, c'est l'état present dû secteur qu'il supervise. Lorsqu'une majorité d'entreprises confient déjà dès tâches à dès logiciels capables d'agir sans attendre un humain, la question de ce qui arrive quand ce logiciel derape cesse d'être hypothétique.
Le danger precis que Breeden à nomme mérite d'être compris, car il est plus aigu qu'une crainte générale de voir les machines diriger les marches. Sa préoccupation est le comportement correle. Si de nombreuses entreprises déploient dès agents entraines sur dès données et dès objectifs similaires, ces agents pourraient tous réagir de la même façon au même signal dû marche au même moment, transformant un petit choc en cascade à mesure qu'ils se ruent collectivement vers la sortie. Le risque s'accroit, à-t-elle averti, lorsque les objectifs d'un agent dérivent dès buts que son propriétaire avait fixes au départ, de sorte qu'il optimise pour quelque chose de subtilement erroné tout en paraissant fonctionner. Un seul negociateur mal aligne est un problème circonscrit. Des milliers d'entre eux se déplaçant à l'unisson en constituent un problème systémique, et c'est exactement le genre de défaillance que les regles existantes, écrites pour dès décideurs humains, n'ont jamais été conçues pour deceler.
La Banque d'Angleterre n'agit pas seule, et elle ne prétend pas encore detenir la réponse. Sa réflexion s'inscrit aux côtés dès travaux de la Financial Conduct Authority et d'un appel lance en juin par le Financial Stability Board en faveur de garde-fous plus stricts sur l'IA dans le système financier, dans le cadre d'un mouvement plus large parmi les régulateurs visant à traiter l'IA autonome comme une catégorie de risque à part entière. La lecture honnête, c'est qu'il s'agit de propositions préliminaires, evoquees dans un discours, et non de lois. Mais la direction est claire, et elle capture une tension reelle au coeur de l'IA agentique dans dès contextes à enjeux élevés. Toute la raison d'être d'un agent est qu'il agit sans attendre la permission, et toute l'inquiétude d'un régulateur est que personne ne puisse l'arrêter à temps. Un coupe-circuit est une réponse à cette tension. Le fait qu'une banque centrale le dise maintenant à voix haute est la vraie nouvelle, car cela marque le moment où l'IA agentique à cesse d'être un récit de productivité pour la finance et est devenue une question de stabilité financière.