GPT
यह क्यों मायने रखता है
गहन अध्ययन
GPT की कहानी वास्तव में एक-दूसरे पर टिकी तीन कहानियाँ हैं। पहली scaling की कहानी है: 2018 में 117 मिलियन पैरामीटर वाले GPT-1 से शुरू करके OpenAI ने दिखाया कि पर्याप्त raw text पर अगला token अनुमानित करने के लिए ट्रेन किया गया Transformer आश्चर्यजनक रूप से सक्षम general-purpose भाषा प्रणाली बन जाता है, और हर पीढ़ी — GPT-2, GPT-3, GPT-4 — ने मुख्यतः अधिक compute और data के बल पर क्षमता में बड़ी छलाँग खरीदी। दूसरी alignment की कहानी है: raw next-token predictor इस्तेमाल में असहज होते हैं, इसलिए OpenAI ने उनके ऊपर instruction tuning और human feedback की परत चढ़ाई, और text-completion engine को उस chat assistant में बदल दिया जिसने परिवार को प्रसिद्ध किया। तीसरी unification की कहानी है: हाल की releases multimodality और सोच-समझकर किए जाने वाले step-by-step reasoning को फिर एक ही flagship में समेटती हैं, इसलिए अब "GPT" किसी एक architecture के बजाय पूरी product line का नाम है।
शुरुआती यात्रा: GPT-1 से GPT-3
GPT-1 (2018) ने "Improving Language Understanding by Generative Pre-Training" नाम के विनम्र-से paper में यह recipe पेश की: बड़े unlabeled corpus पर decoder-only Transformer को pretrain करें, फिर हर task के लिए उसे fine-tune करें। 117 मिलियन पैरामीटर पर यह proof of concept था, लेकिन proof काम कर गया। GPT-2 (2019, 1.5 अरब पैरामीटर) ने recipe को बड़ा किया और दिखाया कि एक ही मॉडल केवल अच्छी तरह लिखे prompt को पढ़कर ऐसे tasks कर सकता है जिनके लिए उसे स्पष्ट रूप से ट्रेन नहीं किया गया था — translation, summarization और question answering। दुरुपयोग की चिंता में OpenAI ने शुरू में पूरे weights रोक लिए थे, जो उसके बाद हुई लगभग हर release बहस की शुरुआती झलक थी। GPT-3 (2020, 175 अरब पैरामीटर) ने scale को फिर सौ गुना बढ़ाया और इस तरकीब को product बनाने लायक भरोसेमंद कर दिया: prompt में मॉडल को कुछ उदाहरण दें और वह pattern पकड़ लेता है, जिसे फ्यू-शॉट लर्निंग कहा जाता है। उतना ही महत्वपूर्ण यह था कि GPT-3 downloadable weights के बजाय व्यावसायिक API के रूप में आया, जिसने access का वह मॉडल तय किया जिसका आज भी अधिकतर frontier labs पालन करती हैं।
ChatGPT और RLHF का मोड़
Base GPT मॉडल सवालों का जवाब नहीं देता — वह text जारी रखता है, इसलिए आपकी सूची का जवाब देने जितनी ही संभावना है कि उसमें और सवाल जोड़ दे। InstructGPT (2022) ने इसे RLHF से ठीक किया: मानव labeler ने मॉडल outputs को rank किया, reward model ने उनकी preferences सीखीं, और language model को उस reward के विरुद्ध तब तक fine-tune किया गया जब तक वह भरोसेमंद ढंग से निर्देश मानने नहीं लगा। नवंबर 2022 में लॉन्च हुए ChatGPT ने इस तरह tune किए गए GPT-3.5-class मॉडल को मुफ़्त chat interface में रखा, और लगभग दो महीनों में करीब 10 करोड़ users तक पहुँचा — उस समय तक मापा गया सबसे तेज़ी से बढ़ने वाला consumer application। उद्योग ने इससे जो सबक लिया वह केवल scaling पर विश्वास करने वालों के लिए असहज था: मॉडल मुश्किल से बदला था, लेकिन alignment layer और interface बदल गए थे, और research demo को mass-market product बनाने के लिए इतना ही काफ़ी था।
GPT-4, o-series और GPT-5
GPT-4 (2023) वह पीढ़ी थी जिसने इस परिवार को पेशेवर काम के लिए विश्वसनीय बनाया — reasoning quality, instruction following और reliability में बड़ी छलाँग, साथ ही text के अलावा image input। GPT-4o (2024) ने मॉडल को मूल रूप से मल्टीमॉडल बनाया: एक network जो text, images और audio को end to end संभालता है, अपने predecessor से तेज़ और सस्ता है, और इसी ने real-time voice mode संभव किया। समानांतर रूप से OpenAI ने o-series (पहले o1, फिर o3) अलग निकाली: reinforcement learning से ट्रेन किए गए मॉडल जो जवाब देने से पहले सोचने में अधिक tokens खर्च करते हैं और math, code व science में accuracy के बदले latency बढ़ाते हैं — यानी टेस्ट-टाइम कम्प्यूट की धारणा को गंभीरता से लागू करना। GPT-5 (अगस्त 2025) ने दोनों शाखाओं को फिर एक प्रणाली में मिला दिया, जो हर request को तेज़ conversational model और धीमे reasoning model के बीच route करती है, ताकि users को अब "समझदार लेकिन धीमा" और "तेज़ लेकिन सतही" में से चुनना न पड़े।
ChatGPT, GPT नहीं है
दोनों शब्द अक्सर एक-दूसरे की जगह इस्तेमाल होते हैं, लेकिन वे अलग चीज़ों के नाम हैं, और उन्हें गड्डमड्ड करने से व्यवहार के बारे में सोचते समय वास्तविक गलतियाँ होती हैं। GPT मॉडल परिवार है: वे weights जिन्हें आप API से call करते हैं, जिनकी एक निश्चित context window और आपके नियंत्रण वाला system prompt होता है, तथा जिन्हें calls के बीच कोई memory नहीं रहती जब तक आप उसे स्वयं न बनाएँ। ChatGPT एक product है: उन्हीं में से कोई मॉडल, साथ में एक सिस्टम प्रॉम्प्ट, conversation memory, web browsing, file tools और moderation layers, जो मॉडल चलने से पहले ही आपके अनुभव को आकार देते हैं। जब कोई कहता है कि "GPT ने मना कर दिया" या "GPT ने याद रखा", तो वह व्यवहार आम तौर पर base model के बजाय product wrapper से आता है — और यही कारण है कि app से API में prompt ले जाने पर जवाब बदल सकते हैं। दूसरी, हल्की-सी उलझन यह है कि "GPT" किसी भी chatbot के लिए generic नाम की तरह इस्तेमाल होने लगा है, जैसे "Kleenex" किसी भी tissue के लिए, लेकिन सख़्ती से देखें तो यह केवल OpenAI के परिवार का नाम है; Llama, Claude और Gemini, GPT नहीं हैं।
अंदर की बनावट
Architecture के स्तर पर हर GPT एक केवल Decoder वाला Transformer है: input text को tokenize और embed करके self-attention layers की stack से गुज़ारा जाता है, और training एक विशाल text corpus पर अगले token की prediction error घटाने के लिए weights समायोजित करती है। इसमें कोई encoder या masked-token objective नहीं होता — यही दूसरी प्रसिद्ध Transformer line BERT से मुख्य अंतर है, जो text को दोनों दिशाओं से पढ़ती है और generation के बजाय understanding tasks के लिए बनाई गई थी। मॉडल जो कुछ जानता है वह pre-training के दौरान weights में समाया होता है, इसलिए उसका एक कठोर Knowledge Cutoff होता है और सत्य की कोई अंतर्निहित समझ नहीं होती; इसी कारण वह झूठी बातें भी धाराप्रवाह कह सकता है। inference के समय RAG के ज़रिए नया और तथ्यात्मक context देना इसका मानक समाधान है। Generation स्वयं autoregressive है: मॉडल एक token sample करता है, उसे जोड़ता है और प्रक्रिया दोहराता है, इसलिए लंबे जवाब सचमुच सैकड़ों क्रमिक predictions होते हैं।