英格蘭銀行為監管機構如何應對能自行交易的人工智慧，擺上了一個鮮明的構想：一套全市場的熔斷機制。在葡萄牙舉行的歐洲央行年度論壇上，負責金融穩定的副行長薩拉·布里登表示，如今管理金融的框架並非為自主的軟體代理而建，而由人類核准每一項決策的舊有假設已不再適用。她說，我們的框架在建立時並未考慮到自主代理，而在所有代理行為上依賴一個人類把關也不太可能切合實際。對於一家直到不久前還主張其現有規則手冊已足夠寬泛、能涵蓋新技術的中央銀行而言，這是一次值得注意的語氣轉變。

熔斷機制是重點所在，而布里登謹慎地將它定位為一個選項而非一項決定。這個構想是一套全市場的斷路器，能在有缺陷或行為失常的人工智慧模型開始威脅穩定時自動中止交易，就像一個設計來在故障演變為崩潰之前先行跳脫的保險絲。除此之外，她還提出了該行稱之為強化復原的第二種機制，它能讓一家機構在由人工智慧失效所引發的危機期間接管另一家機構的關鍵職能。兩者都尚未成為確定的政策。它們都是該行如今認為自己可能需要的那類工具的訊號，也是一種承認：面對以毫秒為單位行動的系統，慣常的監管做法或許太過緩慢。

讓這件事不僅止於一場思想實驗的，是代理型人工智慧在金融領域內部早已何等普遍。布里登指出，劍橋大學一項調查發現約有52%的金融機構已在某種形式上使用代理型人工智慧，從執行交易到管理日常營運皆有涵蓋。這並非監管機構正在防範的未來情境，而是它所監管的產業的當下實況。當大多數機構已經把任務交給能不必等待人類就行動的軟體時，那套軟體一旦出錯會發生什麼，這個問題便不再只是假設。

布里登所點名的具體危險值得理解，因為它比對機器掌控市場的籠統恐懼更為銳利。她所憂慮的是相關聯的行為。如果許多機構部署以相似資料和相似目標訓練出來的代理，那些代理可能會在同一時刻對同一市場訊號做出相同反應，在它們集體奪門而出之際，把一次小小的衝擊變成一連串的連鎖反應。她警告，當一個代理的目標偏離其擁有者最初設定的意圖，以致它為某個微妙錯誤的東西進行最佳化，卻仍看似運作正常時，這種風險便會加劇。單一個目標錯位的交易代理是一個可控的問題。成千上萬個步調一致地行動則是一個系統性的問題，而這正是那些為人類決策者所撰寫的現有規則從未被設計來捕捉的那種失效。

英格蘭銀行並非孤軍作戰，也並未假裝自己已經握有答案。它的思考與金融行為監管局的工作，以及金融穩定委員會於六月提出的、要求對金融系統中的人工智慧加強保障的呼籲並行，這是監管機構之間一場更廣泛行動的一部分，旨在將自主人工智慧視為一類獨立的風險。誠實的解讀是，這些都是早期的提案，在一場演講中被拋出，而非法律。但方向是清楚的，而它捕捉到了代理型人工智慧在高風險場景核心處一種真切的張力。代理的全部意義在於它不必等待許可就行動，而監管機構的全部憂慮在於沒有人能及時將它阻止。熔斷機制是對這種張力的一種回答。一家中央銀行如今將這件事說出口，才是真正的新聞，因為它標誌著代理型人工智慧不再只是金融界一則關於生產力的故事，而成為了一個金融穩定的問題。