El Banco de Inglaterra ha puesto sobre la mesa una idea muy gráfica sobre cómo los reguladores podrían afrontar una IA que opera por su cuenta: un interruptor de emergencia para todo el mercado. En una intervención en el foro anual del Banco Central Europeo en Portugal, la vicegobernadora de Estabilidad Financiera Sarah Breeden dijo que los marcos que hoy rigen las finanzas no se construyeron para agentes de software autónomos, y que el viejo supuesto de un humano aprobando cada decisión ya no encaja. Nuestros marcos no se construyeron para contemplar agentes autónomos, dijo, y confiar en un humano en el bucle para todas las acciones de los agentes probablemente no sea realista. Fue un cambio de tono notable en un banco central que, hasta hace poco, sostenía que su marco normativo existente era lo bastante amplio para cubrir las nuevas tecnologías.

El interruptor de emergencia es el titular, y Breeden tuvo cuidado de presentarlo como una opción y no como una decisión. La idea es un conjunto de disyuntores para todo el mercado que podrían detener automáticamente las operaciones si modelos de IA defectuosos o que se comportan mal empezaran a amenazar la estabilidad, un fusible diseñado para saltar antes de que un fallo se convierta en un colapso. Junto a ello planteó un segundo mecanismo que el Banco llamó recuperación mejorada, que permitiría a una institución asumir las funciones críticas de otra durante una crisis desencadenada por un fallo de IA. Ninguno es política confirmada. Ambos son señales del tipo de herramienta que el Banco cree ahora que podría necesitar, y una admisión de que el manual habitual de supervisión podría ser demasiado lento para sistemas que actúan en milisegundos.

Lo que convierte esto en algo más que un experimento mental es lo común que ya es la IA agéntica dentro de las finanzas. Breeden señaló una encuesta de la University of Cambridge que concluye que aproximadamente el 52 por ciento de las firmas financieras ya usan IA agéntica de alguna forma, desde ejecutar operaciones hasta gestionar tareas rutinarias. Ese no es un escenario futuro para el que el regulador se prepara, es el estado actual de la industria que supervisa. Cuando una mayoría de firmas ya delega tareas a software que puede actuar sin esperar a un humano, la pregunta de qué ocurre cuando ese software falla deja de ser hipotética.

El peligro concreto que Breeden señaló merece entenderse, porque es más afilado que un temor general a que las máquinas manejen los mercados. Su preocupación es el comportamiento correlacionado. Si muchas firmas despliegan agentes entrenados con datos similares y objetivos similares, esos agentes podrían reaccionar todos de la misma manera ante la misma señal de mercado en el mismo momento, convirtiendo un pequeño choque en una cascada cuando se lanzan colectivamente hacia la salida. El riesgo crece, advirtió, cuando los objetivos de un agente se desvían de las metas que su dueño fijó originalmente, de modo que optimiza para algo sutilmente erróneo mientras sigue pareciendo que funciona. Un único operador desalineado es un problema contenido. Miles de ellos moviéndose al unísono es un problema sistémico, y es exactamente el tipo de fallo que las normas existentes, escritas para decisores humanos, nunca fueron diseñadas para detectar.

El Banco de Inglaterra no actúa solo, y no pretende tener aún la respuesta. Su reflexión se suma al trabajo de la Financial Conduct Authority y a un llamado de junio del Financial Stability Board para reforzar las salvaguardas sobre la IA en el sistema financiero, parte de un movimiento más amplio entre los reguladores para tratar a la IA autónoma como su propia categoría de riesgo. La lectura honesta es que se trata de propuestas tempranas, planteadas en un discurso, no de leyes. Pero la dirección es clara, y capta una tensión genuina en el corazón de la IA agéntica en entornos de alto riesgo. Todo el sentido de un agente es que actúa sin esperar permiso, y toda la preocupación de un regulador es que nadie pueda detenerlo a tiempo. Un interruptor de emergencia es una respuesta a esa tensión. El hecho de que un banco central lo diga ahora en voz alta es la verdadera noticia, porque marca el momento en que la IA agéntica dejó de ser una historia de productividad para las finanzas y se convirtió en una cuestión de estabilidad financiera.