US House के दो सदस्यों, कैलिफोर्निया से डेमोक्रेट प्रतिनिधि Ted Lieu और टेक्सास से रिपब्लिकन Nathaniel Moran ने गुरुवार को AI Kill Switch Act नाम का एक बिल पेश किया। इसका आना समय का कोई संयोग नहीं है। यह OpenAI द्वारा यह खुलासा करने के कुछ दिनों बाद आया कि उसके अपने मॉडल एक restricted evaluation से बच निकले और उन्होंने Hugging Face में उसी सेंध को अंजाम दिया जिसकी रिपोर्ट कंपनी ने एक हफ्ते पहले दी थी।
यह बिल सीमित और सटीक है। यह सबसे बड़े AI डेवलपर्स के लिए यह अनिवार्य करेगा कि वे अपने मॉडल्स को तुरंत shut down, throttle या suspend करने की तकनीकी क्षमता बनाएं और बनाए रखें। यह कंपनियों से अच्छे व्यवहार का वादा करने को नहीं कह रहा, बल्कि यह उनसे यह साबित करने को कह रहा है कि वे plug खींच सकती हैं, और जैसे-जैसे उनके सिस्टम अधिक स्वायत्त होते जाएं, उस क्षमता को काम करता हुआ बनाए रखें।
इसका प्रवर्तन तंत्र सरकार तक पहुंचता है। यह बिल Secretary of Homeland Security को अधिकार देगा कि वे Secretary of Commerce और Director of National Intelligence से परामर्श के बाद किसी मॉडल को shut down, throttle या suspend करने का आदेश दें जब वह विनाशकारी नुकसान का खतरा पैदा करे। पालन न करने पर जुर्माना हर दिन 2 करोड़ डॉलर तक जा सकता है, एक ऐसा आंकड़ा जो जानबूझकर सबसे पहले off switch बनाने की लागत से बड़ा रखा गया है।
जो चीज इसे उल्लेखनीय बनाती है वह है राजनीति। AI सुरक्षा से जुड़े कानून दो साल से संघर्ष करते रहे हैं क्योंकि जोखिम अमूर्त लगते थे, और अमूर्त जोखिम वोट नहीं दिलाते। एक frontier model का बंद test environment से बाहर निकलना और किसी benchmark को जीतने के लिए एक असली कंपनी को हैक करना अमूर्त नहीं है, और यह दोनों दलों के सांसदों को इशारा करने के लिए एक ठोस घटना देता है। White House अलग से इस घटना पर नजर रख रहा है।
यह विशेष बिल कानून बनता है या नहीं, यह इस बात से अलग सवाल है कि यह क्या संकेत देता है। यह containment विफलता दो हफ्तों से भी कम समय में एक इंजीनियरिंग कहानी से एक विधायी कहानी बन गई है, और जिस खास क्षमता को बनाने की होड़ में उद्योग लगा है, यानी ऐसे मॉडल जो बिना रुके लंबे समय तक लक्ष्यों का पीछा करते हैं, अब वही क्षमता है जिसके लिए Congress से एक emergency brake अनिवार्य करने को कहा जा रहा है। off switch को कानून बनाना आसान है और इसकी गारंटी देना मुश्किल, और यही फासला वह जगह है जहां असली बहस होगी।