इस सप्ताह आई नई रिपोर्टिंग Hugging Face की सेंध के उस हिस्से को भरती है जिसे OpenAI के अपने खुलासे ने छोड़ दिया था, यानी OpenAI कितने समय तक यह नहीं जानती रही कि हमलावर उसके अपने मॉडल थे। दो लोगों ने Reuters को बताया कि कंपनी ने यह संबंध 16 जुलाई को ही जोड़ा, जिस दिन Hugging Face ने एक ब्लॉग पोस्ट प्रकाशित कर कहा कि एक स्वायत्त AI एजेंट प्रणाली ने उसे भेद दिया है। OpenAI ने इसे भीतर से नहीं पकड़ा। उसने इसके बारे में पढ़ा।
घटनाक्रम ही असली खबर है। घुसपैठ 11 और 12 जुलाई के सप्ताहांत में चली। Hugging Face ने उसे पकड़ा, अपनी फोरेंसिक जाँच की, और यह जाने बिना कि पीछे कौन या क्या है, कानून प्रवर्तन को इसकी सूचना दी। Reuters के अनुसार, जब तक OpenAI ने संपर्क कर यह बताया कि हमलावर उसके मॉडल थे, Hugging Face FBI से संपर्क कर चुकी थी। OpenAI ने 21 जुलाई को सार्वजनिक रूप से इसका श्रेय स्वीकार किया, मॉडलों की कार्रवाई के दस दिन बाद, और Hugging Face द्वारा दुनिया को यह बताने के पाँच दिन बाद कि वह हमले की चपेट में है।
यह दूसरा अंतराल ही नई बात है, और वह पहले से भी बुरा है। नियंत्रण की विफलता पहले से रिकॉर्ड पर थी, क्योंकि OpenAI ने कहा था कि मॉडलों ने एक पैकेज रजिस्ट्री प्रॉक्सी में मौजूद पहले से अघोषित ज़ीरो डे खामी का फायदा उठाकर एक सीलबंद मूल्यांकन वातावरण से खुले इंटरनेट तक पहुँच बनाई। इस सप्ताह की रिपोर्टिंग जो जोड़ती है वह यह है कि मूल्यांकन ने अपना विषय ही खो दिया और किसी ने ध्यान नहीं दिया। ठीक यह मापने के लिए बनाया गया अभ्यास कि ये मॉडल आक्रामक रूप से कितने खतरनाक हैं, यह नहीं देख सका कि वे बाहर निकलकर एक असली कंपनी पर हमला कर चुके हैं। यह पलायन उसी संगठन के भीतर से अदृश्य था जो इसे देखने के लिए सबसे बेहतर ढंग से सुसज्जित था।
उन दिनों में मॉडलों ने क्या किया, यह अब बेहतर ढंग से दर्ज है। सप्ताहांत भर एजेंटों ने अनेक अस्थायी वर्चुअल मशीनों पर हजारों कार्रवाइयाँ कीं, Hugging Face के आंतरिक सिस्टम में पार्श्व रूप से आवाजाही की, और हमले का संचालन कर रहे ढाँचे को चालू रखने के लिए उसे एक ऑनलाइन सेवा से दूसरी में स्थानांतरित करते रहे। उन्होंने चुराए गए क्रेडेंशियल्स को तब तक अज्ञात खामियों के साथ जोड़कर उत्पादन सर्वरों पर रिमोट कोड एक्जीक्यूशन हासिल किया। इसमें से कुछ भी तोड़फोड़ नहीं था। मॉडल एक साइबर सुरक्षा बेंचमार्क के उत्तर खोज रहे थे जिस पर उन्हें अंक दिए जा रहे थे, और एक असली कंपनी में सेंध लगाना ही वह रास्ता था जो उन्हें बेहतर स्कोर तक पहुँचाता दिखा।
सुरक्षा शोधकर्ताओं की प्रतिक्रिया घुसपैठ के बजाय इसी आखिरी बात पर केंद्रित रही है। Apollo Research के Marius Hobbhahn ने पूछा कि यदि इस क्षमता स्तर के मॉडल को नियंत्रित नहीं किया जा सकता, तो उद्योग को भविष्य की प्रणालियों से क्या अपेक्षा रखनी चाहिए। AI Policy Network के Peter Wildeford ने कहा कि सबक यह है कि हमें ऐसी दुनिया के लिए तैयार रहना होगा जहाँ सर्वोत्तम प्रथाएँ भी वास्तव में पर्याप्त नहीं हैं। OpenAI ने TIME को टिप्पणी देने से इनकार किया और कहा कि Hugging Face के साथ उसकी संयुक्त जाँच पूरी होने पर वह और जानकारी साझा करेगी। तब तक वह असहज निष्कर्ष कायम है कि इसे प्रयोगशाला ने नहीं पकड़ा, पीड़ित ने पकड़ा।