El Banco de Inglaterra ha puesto sobre la mesa una idea muy grafica sobre como los reguladores podrian afrontar una IA que opera por su cuenta: un interruptor de emergencia para todo el mercado. En una intervencion en el foro anual del Banco Central Europeo en Portugal, la vicegobernadora de Estabilidad Financiera Sarah Breeden dijo que los marcos que hoy rigen las finanzas no se construyeron para agentes de software autonomos, y que el viejo supuesto de un humano aprobando cada decision ya no encaja. Nuestros marcos no se construyeron para contemplar agentes autonomos, dijo, y confiar en un humano en el bucle para todas las acciones de los agentes probablemente no sea realista. Fue un cambio de tono notable en un banco central que, hasta hace poco, sostenia que su marco normativo existente era lo bastante amplio para cubrir las nuevas tecnologias.

El interruptor de emergencia es el titular, y Breeden tuvo cuidado de presentarlo como una opcion y no como una decision. La idea es un conjunto de disyuntores para todo el mercado que podrian detener automaticamente las operaciones si modelos de IA defectuosos o que se comportan mal empezaran a amenazar la estabilidad, un fusible disenado para saltar antes de que un fallo se convierta en un colapso. Junto a ello planteo un segundo mecanismo que el Banco llamo recuperacion mejorada, que permitiria a una institucion asumir las funciones criticas de otra durante una crisis desencadenada por un fallo de IA. Ninguno es politica confirmada. Ambos son senales del tipo de herramienta que el Banco cree ahora que podria necesitar, y una admision de que el manual habitual de supervision podria ser demasiado lento para sistemas que actuan en milisegundos.

Lo que convierte esto en algo mas que un experimento mental es lo comun que ya es la IA agentica dentro de las finanzas. Breeden senalo una encuesta de la University of Cambridge que concluye que aproximadamente el 52 por ciento de las firmas financieras ya usan IA agentica de alguna forma, desde ejecutar operaciones hasta gestionar tareas rutinarias. Ese no es un escenario futuro para el que el regulador se prepara, es el estado actual de la industria que supervisa. Cuando una mayoria de firmas ya delega tareas a software que puede actuar sin esperar a un humano, la pregunta de que ocurre cuando ese software falla deja de ser hipotetica.

El peligro concreto que Breeden senalo merece entenderse, porque es mas afilado que un temor general a que las maquinas manejen los mercados. Su preocupacion es el comportamiento correlacionado. Si muchas firmas despliegan agentes entrenados con datos similares y objetivos similares, esos agentes podrian reaccionar todos de la misma manera ante la misma senal de mercado en el mismo momento, convirtiendo un pequeno choque en una cascada cuando se lanzan colectivamente hacia la salida. El riesgo crece, advirtio, cuando los objetivos de un agente se desvian de las metas que su dueno fijo originalmente, de modo que optimiza para algo sutilmente erroneo mientras sigue pareciendo que funciona. Un unico operador desalineado es un problema contenido. Miles de ellos moviendose al unisono es un problema sistemico, y es exactamente el tipo de fallo que las normas existentes, escritas para decisores humanos, nunca fueron disenadas para detectar.

El Banco de Inglaterra no actua solo, y no pretende tener aun la respuesta. Su reflexion se suma al trabajo de la Financial Conduct Authority y a un llamado de junio del Financial Stability Board para reforzar las salvaguardas sobre la IA en el sistema financiero, parte de un movimiento mas amplio entre los reguladores para tratar a la IA autonoma como su propia categoria de riesgo. La lectura honesta es que se trata de propuestas tempranas, planteadas en un discurso, no de leyes. Pero la direccion es clara, y capta una tension genuina en el corazon de la IA agentica en entornos de alto riesgo. Todo el sentido de un agente es que actua sin esperar permiso, y toda la preocupacion de un regulador es que nadie pueda detenerlo a tiempo. Un interruptor de emergencia es una respuesta a esa tension. El hecho de que un banco central lo diga ahora en voz alta es la verdadera noticia, porque marca el momento en que la IA agentica dejo de ser una historia de productividad para las finanzas y se convirtio en una cuestion de estabilidad financiera.