Elon Musk की कंपनी SpaceXAI का कमांड-लाइन कोडिंग टूल Grok Build, चुपचाप डेवलपर्स की पूरी कोड रिपॉज़िटरीज़ को बिना स्पष्ट सहमति के क्लाउड पर अपलोड कर रहा था। यह दावा एक सुरक्षा शोधकर्ता ने किया, जिसका विश्लेषण Hacker News के मुखपृष्ठ तक पहुँचा और खुद Musk की प्रतिक्रिया का कारण बना। जो महज़ एक सीमित दायरे की डेवलपर-टूल संबंधी शिकायत हो सकती थी, वह अब हफ़्ते की सबसे तीखी AI प्राइवेसी कहानियों में से एक बन गई है, और इसकी वजह दोनों बातें हैं, कि टूल ने क्या किया और वह काम की ज़रूरत से कितना आगे चला गया।
12 जुलाई को प्रकाशित इस वायर-लेवल विश्लेषण में पाया गया कि Grok Build केवल किसी काम को पूरा करने के लिए ज़रूरी फ़ाइलें ही नहीं पढ़ रहा था। यह पूरी ट्रैक की गई Git रिपॉज़िटरीज़ को, पूरे कमिट इतिहास और रास्ते में कमिट की गई किसी भी गोपनीय जानकारी समेत, पैकेज कर के एक Google Cloud Storage बकेट में भेज रहा था। शोधकर्ता ने किसी मशीन से बाहर जाने वाले डेटा की मात्रा कोडिंग के काम के लिए वास्तव में ज़रूरी मात्रा से लगभग 27,800 गुना अधिक मापी, और एक अपलोड तो कई गीगाबाइट का बताया गया। सबसे असहज करने वाली बात यह थी कि जिस प्राइवेसी टॉगल पर भरोसा कर के कोई उपयोगकर्ता ठीक इसी चीज़ को रोकने की उम्मीद कर सकता था, उसने इन अपलोड को रोकने के लिए कुछ नहीं किया।
यही बात एक डेटा-हैंडलिंग कहानी को एक सक्रिय सुरक्षा समस्या में बदल देती है। कमिट की गई गोपनीय जानकारी काल्पनिक नहीं होती, उसमें आम तौर पर असली API कुंजियाँ, डेटाबेस पासवर्ड और क्लाउड एक्सेस टोकन शामिल होते हैं, जिन्हें डेवलपर्स ने कभी न कभी ग़लती से किसी रिपॉज़िटरी में डाल दिया होता है। शोधकर्ताओं की व्यावहारिक सलाह साफ़ है, जिस किसी ने भी क्रेडेंशियल्स वाले किसी कोडबेस पर Grok Build चलाया है, उसे उन क्रेडेंशियल्स को संभावित रूप से उजागर हुआ मानना चाहिए और उन्हें बदल देना चाहिए, चाहे उस समय प्राइवेसी सेटिंग्स कुछ भी वादा करती हुई प्रतीत होती हों।
विश्लेषण के Hacker News पर पहुँचते ही प्रतिक्रिया तेज़ रही। Musk ने पोस्ट किया कि एहतियात के तौर पर, अब से पहले SpaceXAI पर अपलोड किया गया सारा उपयोगकर्ता डेटा पूरी तरह और पूर्ण रूप से मिटा दिया जाएगा। कंपनी के कर्मचारियों ने जोड़ा कि Grok Build शुरुआत से ही शून्य डेटा प्रतिधारण का समर्थन करता आया है, और उपयोगकर्ता एक प्राइवेसी कमांड चला कर इससे बाहर निकल सकते थे तथा पहले सिंक हुए डेटा को मिटाने की प्रक्रिया शुरू कर सकते थे। शोधकर्ता ने इस विवरण का खंडन किया और तर्क दिया कि वह प्राइवेसी कमांड केवल हर सेशन के लिए एक प्रतिधारण टॉगल भर थी, न कि वह चीज़ जिसने असल में इस छेद को बंद किया। उस विवरण के अनुसार, असली समाधान एक ख़ामोश सर्वर-साइड फ़्लैग था, disable codebase upload, जिसे उपयोगकर्ताओं के खुद ढूँढ़ कर बदलने के बजाय वैश्विक स्तर पर सक्रिय कर दिया गया था।
इसका महत्व एक टूल और एक कंपनी से कहीं आगे तक जाता है। AI कोडिंग सहायक आपके कोड को ग्रहण कर के ही काम करते हैं, जिससे यह सवाल कि उस कोड के साथ बाद में क्या होता है, किसी फ़ुटनोट के बजाय केंद्रीय बन जाता है। यह मामला इस बात का एक स्पष्ट उदाहरण है कि किसी टूल के प्राइवेसी नियंत्रण जो वादा करते हुए प्रतीत होते हैं और सॉफ़्टवेयर वायर पर असल में जो करता है, उन दोनों के बीच कितना फ़ासला हो सकता है, और किसी रिपॉज़िटरी में कमिट की गई गोपनीय जानकारी कितनी जल्दी कहीं ऐसी जगह पहुँच सकती है जहाँ आपने उसे कभी भेजने का इरादा ही नहीं किया था। जैसे-जैसे ज़्यादा डेवलपर्स एजेंटिक कोडिंग टूल को अपने रोज़मर्रा के काम में जोड़ रहे हैं, यह जानना कि आपका सोर्स कोड कहाँ जाता है, और क्या आप उसे सचमुच बंद कर सकते हैं, किसी भी टूल को चलाने से पहले जाँचने लायक पहली चीज़ों में से एक तेज़ी से बनता जा रहा है।