xAI ने अपने टर्मिनल कोडिंग एजेंट Grok Build को ओपन-सोर्स कर दिया है और Apache 2.0 लाइसेंस के तहत Rust की लगभग 844,530 पंक्तियां GitHub पर जारी की हैं, यह कदम भरोसा दोबारा कायम करने के लिए उठाया गया क्योंकि इसी टूल को चुपके से उपयोगकर्ताओं की पूरी कोड रिपॉज़िटरी xAI के सर्वरों पर अपलोड करते पकड़ा गया था। पेच यह है कि ओपन-सोर्स करने से कुछ हटा नहीं, बल्कि कुछ उजागर हो गया। सुरक्षा शोधकर्ताओं का कहना है कि जो कोड इन अपलोड को अंजाम देता था वह अब भी जारी किए गए सॉफ़्टवेयर में मौजूद है, उसे हटाया नहीं गया बल्कि सिर्फ़ एक सर्वर-साइड फ्लैग से बंद कर दिया गया है।
यह व्यवहार तब सामने आया जब एक शोधकर्ता ने पता लगाया कि एक सामान्य सत्र के दौरान Grok Build ने क्या-क्या वापस भेजा। लगभग 192 KB के अपेक्षित मॉडल ट्रैफ़िक के साथ-साथ, टूल ने एक दूसरा चैनल खोला जिसने करीब 75 MB के 73 हिस्सों में लगभग 5.10 GB डेटा अपलोड किया, जो कोडिंग काम के लिए ज़रूरी डेटा से लगभग 27,800 गुना ज़्यादा था। यह सिर्फ़ वही फ़ाइलें नहीं भेज रहा था जिन्हें पढ़ना ज़रूरी था, बल्कि यह पूरी Git रिपॉज़िटरी को, पूरी commit history समेत, xAI द्वारा संचालित एक Google Cloud Storage bucket में भेज रहा था। एक टेस्ट में एक ट्रैक की गई .env फ़ाइल बिना कुछ छिपाए पूरी अपलोड हो गई, जिसमें canary API keys और डेटाबेस पासवर्ड तक शामिल थे, और उपयोगकर्ताओं ने बताया कि कोड के साथ-साथ SSH keys, पासवर्ड डेटाबेस, दस्तावेज़ और फ़ोटो भी बह गए।
जैसे ही यह खुलासा फैला, xAI ने तेज़ी से कदम उठाए। Elon Musk ने कहा कि अपलोड किया गया सारा उपयोगकर्ता डेटा हटा दिया जाएगा, कंपनी ने अपलोड फ़ीचर बंद कर दिया, जिसके बारे में उसका कहना है कि यह 12 जुलाई से डिफ़ॉल्ट रूप से बंद है, और फिर उसने पूरा सोर्स कोड प्रकाशित कर दिया, इस खुले रिलीज़ को इस तरह पेश किया गया कि कोई भी टूल का ऑडिट कर सके और उसे पूरी तरह स्थानीय रूप से चला सके। ऊपरी तौर पर यह भरोसे के उल्लंघन का किताबी जवाब है, कोड दिखाओ, फ़ीचर बंद करो, डेटा हटाओ।
अड़चन उन बारीकियों में है जिनकी ओर शोधकर्ताओं ने उस कोड को पढ़ने के बाद ध्यान दिलाया। अपलोड करने वाला तंत्र हटाया नहीं गया है, वह अब भी बाइनरी में मौजूद है और उसे सिर्फ़ एक सर्वर-साइड कॉन्फ़िगरेशन फ्लैग से रोका गया है, यानी xAI इसे बिना एक भी अपडेट भेजे या किसी से पूछे दोबारा चालू कर सकता है। ओपन-सोर्स करने से यह तंत्र दृश्यमान तो हो गया, पर खत्म नहीं हुआ, और विक्रेता के नियंत्रण वाला स्विच उस कोड से अलग तरह का आश्वासन है जो वहां होता ही नहीं।
यह घटना कोडिंग एजेंट के उस नए वर्ग के बारे में एक तीखा सबक है जो आपके टर्मिनल में रहते हैं और आपके फ़ाइल सिस्टम, आपकी keys तथा आपके रहस्यों तक गहरी पहुंच रखते हैं। जो टूल आपके पूरे प्रोजेक्ट को पढ़ सकता है उसकी सुविधा उस जोखिम से अलग नहीं की जा सकती कि वही टूल आपके पूरे प्रोजेक्ट को कहीं और भेज सकता है, और इन दोनों के बीच की रेखा कोई ऐसा कॉन्फ़िगरेशन मान हो सकती है जिसे आप कभी देखते ही नहीं। ओपन-सोर्स करना मदद करता है, क्योंकि 844,530 पंक्तियों पर हज़ारों नज़रें ही वह वजह हैं जिससे यह फ्लैग सबसे पहले पकड़ा गया। लेकिन असली सीख यह है कि अब किसी एजेंट को अपना कोडबेस सौंपने का मतलब है उस पर भरोसा करना जो उसके स्विच पलट सकता है, और इस बार वह स्विच अब भी वहीं मौजूद है।