Bank of England ने इस बात के लिए एक ज्वलंत विचार सामने रखा है कि नियामक ऐसे AI से कैसे निपट सकते हैं जो अपने आप ट्रेडिंग करता है, एक बाज़ार-व्यापी kill switch। Portugal में European Central Bank के वार्षिक फ़ोरम में बोलते हुए, Deputy Governor for Financial Stability Sarah Breeden ने कहा कि आज वित्त को नियंत्रित करने वाले ढाँचे स्वायत्त सॉफ़्टवेयर एजेंट्स के लिए नहीं बनाए गए थे, और यह पुरानी धारणा कि हर निर्णय को कोई इंसान मंज़ूरी दे, अब फिट नहीं बैठती। हमारे ढाँचे स्वायत्त एजेंट्स पर विचार करने के लिए नहीं बनाए गए थे, उन्होंने कहा, और सभी एजेंट कार्रवाइयों के लिए लूप में एक इंसान पर निर्भर रहना शायद यथार्थवादी नहीं होगा। यह एक ऐसे केंद्रीय बैंक के लिए एक उल्लेखनीय स्वर-परिवर्तन था, जिसने हाल तक यह तर्क दिया था कि उसकी मौजूदा नियम-पुस्तिका नई तकनीक को कवर करने के लिए पर्याप्त व्यापक थी।
kill switch मुख्य आकर्षण है, और Breeden ने सावधानी से इसे एक निर्णय के बजाय एक विकल्प के रूप में प्रस्तुत किया। विचार बाज़ार-व्यापी सर्किट ब्रेकरों का एक समूह है जो दोषपूर्ण या ग़लत व्यवहार करने वाले AI मॉडल्स के स्थिरता को ख़तरे में डालने पर ट्रेडिंग को स्वचालित रूप से रोक सके, एक ऐसा फ़्यूज़ जिसे किसी दोष के तबाही बनने से पहले ही उड़ जाने के लिए बनाया गया है। इसके साथ उन्होंने एक दूसरा तंत्र उठाया जिसे Bank ने enhanced recovery कहा, जो एक संस्था को AI विफलता से उत्पन्न संकट के दौरान दूसरी संस्था के महत्वपूर्ण कार्य संभालने की अनुमति देगा। इनमें से कोई भी पुष्ट नीति नहीं है। दोनों उस तरह के उपकरण के संकेत हैं जिसकी Bank को अब लगता है कि उसे ज़रूरत पड़ सकती है, और यह स्वीकारोक्ति कि सामान्य पर्यवेक्षी रणनीति उन प्रणालियों के लिए बहुत धीमी हो सकती है जो मिलीसेकंड में काम करती हैं।
जो इसे एक विचार-प्रयोग से कहीं अधिक बनाता है वह यह है कि agentic AI वित्त के भीतर पहले से ही कितना आम है। Breeden ने University of Cambridge के एक सर्वेक्षण की ओर इशारा किया जिसमें पाया गया कि लगभग 52 प्रतिशत वित्तीय कंपनियाँ पहले से ही किसी न किसी रूप में agentic AI का उपयोग करती हैं, ट्रेड निष्पादित करने से लेकर नियमित कार्यों के प्रबंधन तक। यह कोई भविष्य का परिदृश्य नहीं है जिसके लिए नियामक तैयार हो रहा है, यह उस उद्योग की वर्तमान स्थिति है जिसकी वह निगरानी करता है। जब अधिकांश कंपनियाँ पहले से ही ऐसे सॉफ़्टवेयर को कार्य सौंप रही हैं जो किसी इंसान का इंतज़ार किए बिना काम कर सकता है, तो यह सवाल कि जब वह सॉफ़्टवेयर ग़लत चले तब क्या होगा, अब काल्पनिक नहीं रह जाता।
Breeden ने जिस विशिष्ट ख़तरे का नाम लिया वह समझने योग्य है, क्योंकि यह बाज़ारों को चलाने वाली मशीनों के एक सामान्य डर से कहीं अधिक तीखा है। उनकी चिंता सहसंबद्ध व्यवहार है। अगर कई कंपनियाँ समान डेटा और समान उद्देश्यों पर प्रशिक्षित एजेंट्स तैनात करती हैं, तो वे सभी एजेंट्स एक ही पल में एक ही बाज़ार संकेत पर एक ही तरह से प्रतिक्रिया कर सकते हैं, एक छोटे झटके को एक झरने में बदलते हुए क्योंकि वे सामूहिक रूप से निकास की ओर दौड़ पड़ते हैं। जोखिम बढ़ जाता है, उन्होंने चेतावनी दी, जब किसी एजेंट के उद्देश्य उन लक्ष्यों से भटक जाते हैं जो उसके मालिक ने मूल रूप से तय किए थे, ताकि वह किसी सूक्ष्म रूप से ग़लत चीज़ के लिए अनुकूलन करे जबकि फिर भी काम करता हुआ प्रतीत हो। एक अकेला ग़लत-संरेखित ट्रेडर एक सीमित समस्या है। उनमें से हज़ारों एक साथ कदम मिलाकर चलते हुए एक प्रणालीगत समस्या है, और यह ठीक उसी तरह की विफलता है जिसे मानव निर्णयकर्ताओं के लिए लिखे गए मौजूदा नियम कभी पकड़ने के लिए बनाए ही नहीं गए थे।
Bank of England अकेले काम नहीं कर रहा है, और वह यह दिखावा नहीं कर रहा है कि उसके पास अभी जवाब है। उसकी सोच Financial Conduct Authority के काम और वित्तीय प्रणाली में AI पर सख़्त सुरक्षा उपायों के लिए Financial Stability Board की जून की एक अपील के साथ बैठती है, जो नियामकों के बीच स्वायत्त AI को जोखिम की अपनी अलग श्रेणी के रूप में देखने के एक व्यापक कदम का हिस्सा है। ईमानदार पढ़त यह है कि ये शुरुआती प्रस्ताव हैं, एक भाषण में सामने रखे गए, कानून नहीं। लेकिन दिशा स्पष्ट है, और यह उच्च-दांव वाली परिस्थितियों में agentic AI के केंद्र में एक वास्तविक तनाव को पकड़ती है। एक एजेंट का पूरा मक़सद यह है कि वह अनुमति का इंतज़ार किए बिना काम करता है, और एक नियामक की पूरी चिंता यह है कि कोई भी उसे समय पर रोक नहीं सकता। kill switch इस तनाव का एक जवाब है। यह तथ्य कि एक केंद्रीय बैंक अब इसे खुलकर कह रहा है, असली ख़बर है, क्योंकि यह उस पल को चिह्नित करता है जब agentic AI वित्त के लिए एक उत्पादकता की कहानी होना बंद हो गया और एक वित्तीय स्थिरता का सवाल बन गया।