OpenAI ने एक ऐसा AI बनाया है जिसका पूरा काम OpenAI के अपने ही मॉडलों पर हमला करना है, और यह इस काम में हैरान कर देने वाली हद तक माहिर निकला है। GPT-Red नाम का यह सिस्टम एक स्वचालित red-teamer है जो प्रॉम्प्ट इंजेक्शन (prompt injection) की कमज़ोरियों की तलाश करता है, और कंपनी के अपने मूल्यांकनों में यह ऐसे 84 प्रतिशत हमले के परिदृश्यों में सफल रहा जिन्हें इसने पहले कभी नहीं देखा था, जबकि उन्हीं कार्यों पर मानव red-teamer सिर्फ़ 13 प्रतिशत तक ही पहुँच पाए। OpenAI ने GPT-Red से उजागर हुई बातों का इस्तेमाल अपने GPT-5.6 मॉडल को और मज़बूत बनाने में किया, और गौर करने लायक बात यह है कि उसने इस हमलावर को बिल्कुल भी जारी न करने का फैसला किया है।
इसे जिस तरह बनाया गया, वह इस कहानी का एक बड़ा हिस्सा है। GPT-Red को सेल्फ-प्ले रीइन्फोर्समेंट लर्निंग के ज़रिए प्रशिक्षित किया गया, एक ऐसी व्यवस्था जिसमें एक ही सिस्टम के दो पक्ष आपस में मुकाबला करते हैं और एक-दूसरे से सीखकर बेहतर होते जाते हैं। एक हमलावर मॉडल उत्तरोत्तर अधिक चतुर प्रॉम्प्ट इंजेक्शन हमले पैदा करता है, यानी किसी मॉडल को इस बात के लिए बहलाने की तरकीब कि वह उपयोगकर्ता के असली अनुरोध के बजाय उस सामग्री में छिपे निर्देशों का पालन करे जिसे वह संसाधित कर रहा होता है, जबकि एक बचावकर्ता मॉडल उन्हें झटक देना सीखता है। हर दौर के साथ दोनों और ताकतवर होते जाते हैं, और अंततः हमलावर मॉडल के व्यवहार के उन कोनों को टटोलने लगता है जिन्हें आज़माने के बारे में मानव परीक्षक शायद कभी न सोचें।
असल बात नतीजों में है। अपने दम पर खोजबीन की छूट मिलने पर GPT-Red ने एक ऐसी हमले की श्रेणी खोज निकाली जिसे OpenAI fake chain of thought कहती है, जिसमें झूठे तर्क के चरण डाल दिए जाते हैं जिन्हें मॉडल पहले से सत्यापित मानकर उन पर भरोसा कर लेता है। इन खोजों को वापस प्रशिक्षण में डालना एक नापने लायक तरीके से रंग लाया, जो हमले पुराने GPT-5 पर 90 प्रतिशत से ज़्यादा बार कामयाब होते थे वे अब GPT-5.6 के ख़िलाफ़ 23 प्रतिशत से भी कम बार सफल होते हैं। सीधे शब्दों में कहें तो, इस AI हमलावर ने जारी किए गए मॉडल को अगवा करना काफ़ी हद तक मुश्किल बना दिया।
सबसे चौंकाने वाली बात यह फैसला है कि इसके साथ क्या नहीं करना है। OpenAI का कहना है कि GPT-Red कोई उत्पाद नहीं है और इसे जारी नहीं किया जाएगा, और इसे उन मॉडलों से अलग रखा गया है जिन्हें लोग सचमुच इस्तेमाल करते हैं, ताकि यह जो हमलावर क्षमताएँ विकसित करता है वे बाहर खुले में न पहुँच सकें। यह एक खुली स्वीकारोक्ति है कि AI को तोड़ने में इतना माहिर औज़ार ग़लत हाथों में ख़तरनाक है, और AI सुरक्षा के केंद्र में मौजूद दोहरे उपयोग की उलझन में झाँकती एक साफ़ खिड़की है, वही हुनर जो किसी सिस्टम की मरम्मत करता है उसे पलटकर उसी सिस्टम को खोलने के लिए भी इस्तेमाल किया जा सकता है।
इसका महत्व एक मॉडल से कहीं आगे तक जाता है। प्रॉम्प्ट इंजेक्शन इस क्षेत्र की सबसे पेचीदा अनसुलझी समस्याओं में से एक है, क्योंकि जो एजेंट आपके ईमेल पढ़ते हैं, वेब पर घूमते हैं या कोड चलाते हैं, उन्हें उस किसी भी सामग्री में छिपे निर्देशों के ज़रिए अगवा किया जा सकता है जिसके वे संपर्क में आते हैं, और हाथ से इसका बचाव करना एक ऐसी दौड़ है जिसमें इंसान लगातार पिछड़ते जाते हैं। GPT-Red इस ओर इशारा करता है कि हालात किस दिशा में बढ़ रहे हैं, AI को इस बात की छूट देकर कि वह AI की खामियों को किसी भी मानव टीम से तेज़ी से ढूँढ ले और फिर उन सबकों को और मज़बूत बचाव में ढाल दे। यह एक उत्साहजनक संकेत है कि इस हथियारों की होड़ को बचाव पक्ष की ओर से भी पूरी ताकत से लड़ा जा सकता है। यह इस बात की भी याद दिलाता है कि सबसे सक्षम सुरक्षा उपकरण और सबसे सक्षम हमलावर उपकरण तेज़ी से एक ही चीज़ बनते जा रहे हैं, और ठीक इसी वजह से इसे ताले में बंद रखा जा रहा है।