एक सिद्धांतात्मक आर्टिफिशियल इंटेलिजेंस प्रणाली जो लगभग हर क्षेत्र में सभी मनुष्यों की कॉग्निटिव क्षमताओं को पार करती है — विज्ञानी तर्क, सामाजिक बुद्धिमत्ता, नवाचार, रणनीतिक योजना आदि। ASI, AGI (मनुष्यीय बुद्धिमत्ता के समान) के बाद गुणात्मक रूप से अलग कुछ तक पहुंचता है: एक बुद्धिमत्ता जो अपने आप को पुनरावर्ती रूप से सुधार सकती है और ऐसी समस्याओं को हल कर सकती है जिन्हें मनुष्य तक निर्मित नहीं कर सकते। कोई भी ASI अस्तित्व में नहीं है, और क्या एक को बनाया जा सकता है या बनाया जाएगा, इसके बारे में वैज्ञानिक सहमति नहीं है।
यह क्यों मायने रखता है: ASI वह जगह है जहां AI सुरक्षा अस्तित्व के लिए महत्वपूर्ण हो जाती है। अगर आपको लगता है कि सुपरइंटेलिजेंस संभव है, तो संरेखन केवल चैटबॉट्स के विनम्र होने तक सीमित नहीं है — यह एक ऐसी प्रणाली को सुनिश्चित करने के बारे में है जो मनुष्यता के सभी लोगों से बुद्धिमान है, लेकिन फिर भी हमारे हित में काम करती है। यह अनुमान के आधार पर है, लेकिन खतरे इतने ऊंचे हैं कि गंभीर अनुसंधानकर्ता इसे गंभीरता से लेते हैं। ASI के बारे में समझ आपको AI जोखिम के दावों का अधिक जटिलता से मूल्यांकन करने में मदद करती है।
एक काल्पनिक एआई प्रणाली जो मनुष्य द्वारा किसी भी बौद्धिक कार्य को समझ सके, सीख सके और कर सके — जिसमें विभिन्न क्षेत्रों के बीच ज्ञान के परिवहन की क्षमता हो सके बिना प्रत्येक के लिए विशेष रूप से प्रशिक्षित न होने के। वर्तमान एआई के विपरीत, जो संकीर्ण कार्यों (टेक्स्ट उत्पन्न करना, छवियों के वर्गीकरण) में अत्यधिक अच्छा है, AGI नए स्थितियों का संभाल सके, अमूर्त रूप से तर्क दे सके और किसी भी चुनौति के लिए अनुकूलित हो सके। क्या AGI अगले क्षण आ सकता है, दशकों बाद आएगा या असंभव है, यह विषय के सबसे विवादास्पद बहस है।
यह क्यों मायने रखता है: AGI व्यापक AI उद्योग के लिए उत्तर तारा (या भयानक) है। यह अरबों डॉलर के निवेश को आगे बढ़ाता है, सुरक्षा अनुसंधान के प्राथमिकताओं को आकार देता है और नीति बहसों में अधिकांशता लेता है। क्या आपको लगता है कि AGI निकट है या नहीं, इस अवधारणा के आधार पर Anthropic, OpenAI और DeepMind जैसी कंपनियां अपने मिशनों को ढांचा देती हैं — और इस बहस को समझना आपको वास्तविक प्रगति के बीच ब्रह्मांडीकरण से अलग करने में मदद करता है।
AI उपकरण जो विकासकर्ताओं को कोड लिखने, समीक्षा करने, डीबग करने और तैनात करने में मदद करते हैं। स्वचालित पूर्ण लेखन (GitHub Copilot, Codeium) से लेकर पूर्ण स्वायत्त विकास (Claude Code, Cursor, Devin) तक, कोडिंग सहायक एलईएम के सबसे परिपक्व और व्यापक रूप से अपनाए गए अनुप्रयोगों में से एक हैं। वे आपके कोडबेस, दस्तावेज और निर्देशों से प्राप्त संदर्भ के आधार पर कोड के अगले टोकन का अनुमान लगाकर काम करते हैं।
यह क्यों मायने रखता है: AI कोडिंग सहायक ज्ञान कार्य पर AI के प्रभाव के सबसे तीखे किनारा हैं। उनके उपयोग करने वाले विकासकर्ता मानक कार्यों पर 30-50% उत्पादकता वृद्धि की रिपोर्ट करते हैं। लेकिन वे ऐसे APIs भी उत्पन्न कर सकते हैं जो वास्तव में मौजूद नहीं हैं, छोटी त्रुटियाँ पेश कर सकते हैं और विकासकर्ताओं को ऐसे उपकरणों पर निर्भर बना सकते हैं जिनके विश्लेषण में वे पूरी तरह से असमर्थ हैं।
AI का उपयोग करके ऐसे कार्य करना जिनके लिए पहले मनुष्य के हस्तक्षेप की आवश्यकता थी। यह सरल automation (ईमेल का स्वचालित वर्गीकरण, रिपोर्ट तैयार करना) से लेकर जटिल स्वायत्त कार्यप्रवाह (अनुसंधान, लेखन, परीक्षण और कोड तैनात करने वाले AI एजेंट) तक फैला हुआ है। पारंपरिक automation (कठोर नियम) से AI automation (लचीला बुद्धि) की ओर बदलाव की कुंजी यह है कि AI अनिश्चित और असंगठित कार्य कर सकता है।
यह क्यों मायने रखता है:
स्वचालन AI अपनाने का आर्थिक इंजन है। प्रत्येक उद्यम जो AI खरीदता है, वास्तव में स्वचालन खरीदता है — कम से कम मनुष्य दोहराव वाले कार्य करते हैं, तेज़ प्रोसेसिंग, 24/7 संचालन। सवाल यह नहीं है कि AI कार्यों को स्वचालित करेगा, बल्कि कौन से कार्य, कितनी तेज़ी से, और उन मनुष्यों के साथ क्या होता है जो उन्हें पहले करते थे।
साइबर सुरक्षा में AI के द्वि-उपयोग: सिस्टम की रक्षा के लिए AI का उपयोग करना (खतरा पहचान, असामान्यता पहचान, स्वचालित घटना प्रतिक्रिया) और AI द्वारा बनाए गए नए हमला वेक्टर (AI-जनित फिशिंग, स्वचालित दुर्बलता खोज, ML प्रणालियों पर प्रतिकूल हमले)। इस क्षेत्र में एक हथियारों की दौड़ है जहां हमलावर और रक्षक दोनों के लिए AI का उपयोग बढ़ रहा है।
यह क्यों मायने रखता है: AI अस्तित्व में वाले साइबर खतरों को तेज़ और सस्ता बनाता है — एक LLM द्वारा लिखा गया फिशिंग ईमेल अधिक विश्वसनीय होता है और व्यक्तिगत बनाने में कोई खर्च नहीं होता। लेकिन AI मनुष्य द्वारा संभव नहीं होने वाली रक्षा को भी संभव बनाता है, जैसे कि प्रति सेकंड मिलियनों नेटवर्क घटनाओं के असामान्यताओं के लिए विश्लेषण करना। AI का उपयोग न करने वाली सुरक्षा टीमें उन आक्रमणकर्ताओं के सामने हार जाएंगी जो AI का उपयोग करते हैं।
एआई के विकास, तैनाती और उपयोग के तरीके को निर्देशित करने वाले फ्रेमवर्क, नीतियाँ, कानून और संगठनात्मक अभ्यास। इसमें सरकारी नियमों (ईयू एआई एक्ट, एग्जीक्यूटिव आदेश), उद्योग स्व-नियंत्रण (जिम्मेदार पैमाना नीतियाँ, मॉडल कार्ड), कॉर्पोरेट गवर्नेंस (एआई नैतिकता बोर्ड, उपयोग नीतियाँ) और एआई सुरक्षा मानकों पर अंतरराष्ट्रीय समन्वय शामिल हैं।
यह क्यों मायने रखता है:
तकनीक नियमों से तेज़ी से आगे बढ़ रही है। कंपनियाँ अपने एआई उत्पादों को स्वास्थ्य देखभाल, अपराध न्याय और वित्त में न्यूनतम नियंत्रण के साथ प्रस्तुत कर रही हैं। शासन एक प्रतिक्रिया उत्पन्न कर सकने वाली खराब तरीके से टूट जाने वाली चीज़ के पहले सीमा निर्धारित करने की कोशिश है जो पूरे क्षेत्र को पीछे धकेल सकता है।
व्यक्तिगत डेटा के संरक्षण के बिना AI प्रणालियों के निर्माण और उपयोग के चुनौती। यह पूरे जीवन चक्र को शामिल करता है: प्रशिक्षण डेटा जो निजी जानकारी शामिल कर सकता है, मॉडल जो व्यक्तिगत विवरण याद रख सकते हैं और उन्हें दोहरा सकते हैं, अनुमान लगाने वाले लॉग जो उपयोगकर्ता के व्यवहार को ट्रैक करते हैं, और AI क्षमता (जो अधिक डेटा के साथ सुधरती है) और गोपनीयता अधिकारों के बीच मौलिक तनाव।
यह क्यों मायने रखता है: प्रत्येक AI से संवाद डेटा होता है। आप द्वारा उत्पन्न प्रत्येक छवि आपके प्रॉम्प्ट्स को खुलासा करती है। आप द्वारा सारांशित प्रत्येक दस्तावेज किसी के सर्वरों के माध्यम से गुजरता है। गोपनीयता केवल कानूनी चेकबॉक्स (GDPR, CCPA) नहीं है — यह एक विश्वास का मुद्दा है जो यह निर्धारित करता है कि व्यक्ति और उद्यम कृत्रिम बुद्धिमत्ता के लिए संवेदनशील कार्यों को अपनाएंगे या नहीं।
AI प्रणालियों के एडवर्सरियल अटैक्स, डेटा पोइज़निंग, प्रॉम्प्ट इंजेक्शन, मॉडल चोरी और दुरुपयोग से बचाव की विधि — जबकि डीपफेक्स और स्वचालित साइबर हमलों जैसी AI-सक्षम खतरों के खिलाफ भी बचाव करना। AI सुरक्षा पारंपरिक साइबर सुरक्षा और मशीन लर्निंग प्रणालियों द्वारा पेश किए गए अद्वितीय कमजोरियों के बीच के संकरण बिंदु पर स्थित है।
यह क्यों मायने रखता है: AI प्रणालियाँ एक साथ शक्तिशाली उपकरण और नए हमले के क्षेत्र होती हैं। एक प्रॉम्प्ट इंजेक्शन आपके ग्राहक समर्थन बॉट को आंतरिक डेटा रिलीज कर सकता है। एक विषाक्त प्रशिक्षण डेटा सेट बैकडोर डाल सकता है। जैसे AI क्रिटिकल इन्फ्रास्ट्रक्चर, स्वास्थ्य देखभाल, और वित्त में तैनात होता है, सुरक्षा अनिवार्य नहीं है — यह अस्तित्व के लिए महत्वपूर्ण है।
एआई प्रदाताओं के अपने मॉडलों तक पहुंच के लिए कैसे शुल्क लगाते हैं। मुख्य मॉडल टोकन-प्रति कीमत है — आप उन टोकनों की संख्या के लिए भुगतान करते हैं जो आप भेजते हैं (इनपुट) और प्राप्त करते हैं (आउटपुट), आउटपुट टोकन आमतौर पर 3-5 गुना अधिक महंगे होते हैं। अन्य मॉडल में प्रति-अनुरोध कीमत, मासिक सदस्यता, समर्पित-उपयोग छूट और मुफ्त टाइर्स शामिल हैं। कीमत कम करने की दौड़ तीखी रही है, जिसमें दो साल में लागत 10-100 गुना गिर गई है।
यह क्यों मायने रखता है: मूल्य निर्धारित करता है कि आप क्या बना सकते हैं। एक ऐसा एप्लिकेशन जो प्रति दिन 10,000 API कॉल करता है, वह प्रति टोकन लागत के आधार पर जीवित या मर जाता है। कीमत मॉडल को समझना, प्रदाताओं की तुलना करना और टोकन उपयोग को अनुकूलित करना, AI-संचालित उत्पाद बनाने वाले किसी भी व्यक्ति के लिए एक मूल कौशल है।
पूरा स्टैक हार्डवेयर, सॉफ्टवेयर और सेवाओं की आवश्यकता होती है जो बड़े पैमाने पर AI मॉडल को प्रशिक्षित करने और तैनात करने के लिए होता है। इसमें GPU और कस्टम चिप, डेटा सेंटर, नेटवर्किंग, स्टोरेज, अनुक्रमन प्लेटफॉर्म (Kubernetes, Slurm), मॉडल सर्विंग फ्रेमवर्क (vLLM, TensorRT) और उन सभी को पैक करने वाले क्लाउड प्रदाता शामिल होते हैं। AI बुनियादी ढांचा वह है जहां मॉडल आर्किटेक्चर के अमूर्त दुनिया और बिजली ग्रिड और ठंडा करने वाले प्रणाली के बहुत अधिक स्पष्ट दुनिया मिलती है।
यह क्यों मायने रखता है: आधारभूत संरचना यह निर्धारित करती है कि क्या संभव है। केवल कुछ कंपनियों के द्वारा अग्रणी मॉडलों के प्रशिक्षण के लिए कारण विचारों की कमी नहीं है — यह आधारभूत संरचना की कमी है। और एआई की लागत अंतिम उपयोगकर्ताओं के लिए जो है वह सीधे GPU उपलब्धता, डेटा केंद्र क्षमता और अनुमान सेवा की दक्षता के बारे में जाता है।
स्पीच एआई कंपनी जो लिप्यंतरण, वक्ता पहचान और ऑडियो समझ के लिए विकासक-अनुकूल एपीआई बना रही है। उनके यूनिवर्सल-2 मॉडल ओपनएआई व्हिस्पर के सटीकता में प्रतिस्पर्धा करता है जबकि वक्ता डायरेक्शन, भाव और विषय पहचान जैसी विशेषताएं तैयार रूप से शामिल करता है।
यह क्यों मायने रखता है:
एसेंबलीएआई ने विकासकर्ताओं के लिए स्पीच-टू-टेक्स्ट वास्तव में उपलब्ध कराया है, जो पहले एक विशेषज्ञ ML टीम की आवश्यकता रखता था, अब एक एपीआई कॉल में संपीड़ित हो गया है। उनका ऑडियो इंटेलिजेंस स्टैक — जो ट्रांसक्रिप्शन, स्पीकर पहचान, भाव, और LLM-पावर्ड समरीज़ेशन को जोड़ता है — एक ऐसे पैमाने पर काम कर रहा है जो दो साल पहले भी व्यावहारिक नहीं था, जहां कच्चे ऑडियो को संरचित और कार्यशील डेटा में परिवर्तित किया जा रहा है। एक ऐसे दुनिया में जहां आवाज़ AI एजेंट्स के लिए डिफ़ॉल्ट इंटरफ़ेस बन रही है, एसेंबलीएआई उस समझ की परत बना रहा है जिस पर सब कुछ निर्भर करता है।
AI सुरक्षा कंपनी क्लॉड बना रही है। पूर्व ओपनएआई अनुसंधानकर्ता डैरियो और डानिएला अमोडी द्वारा स्थापित, एंथ्रोपिक विश्वसनीय, समझे जा सकने वाले और नियंत्रित करने योग्य AI प्रणालियों के विकास पर केंद्रित है।
यह क्यों मायने रखता है: अंथ्रोपिक ने साबित कर दिया कि एक एआई कंपनी सुरक्षा अनुसंधान के साथ अग्रणी रह सकती है और फिर भी सीमा पर प्रतिस्पर्धा कर सकती है। उनका कॉन्स्टिट्यूशनल AI दृष्टिकोण पूरे उद्योग के लिए संरेखन के बारे में सोचने के तरीके को प्रभावित करता है, उनकी जिम्मेदार स्केलिंग नीति अन्य प्रयोगशालाओं द्वारा विभिन्न रूपों में अपनाए गए एक मानक बन गई है, और क्लॉउड उन उद्यमों के लिए चुना गया मॉडल बन गया है जिन्हें संवेदनशील सामग्री के सावधानीपूर्वक संचालन और विश्वसनीयता की आवश्यकता होती है। शायद सबसे महत्वपूर्ण बात यह है कि अंथ्रोपिक के रूप में एक अच्छी तरह से वित्त पोषित प्रतिस्पर्धी के अस्तित्व से एजीआई की दौड़ एक कंपनी की बात नहीं है — और कम से कम एक प्रमुख खिलाड़ी के लिए सुरक्षा अपनी स्थापना के डीएनए में बुनी हुई है बजाय बाद में जोड़ी गई है।
अलीबाबा ग्रुप के क्लाउड कंप्यूटिंग अर्म और Qwen मॉडल परिवार के निर्माता। Qwen मॉडल पूरी तरह से ओपन-वेट, बहुभाषी हैं और उपलब्ध सबसे क्षमताशाली ओपन मॉडलों में से एक हैं।
यह क्यों मायने रखता है:
अलीबाबा क्लाउड ने Qwen को एशिया में सबसे अधिक तैनात किए गए ओपन-वेट्स मॉडल परिवार बना दिया है और मेटा के Llama के लिए एक वास्तविक वैश्विक प्रतियोगी बना दिया है, जो दिखाता है कि फ्रंटियर-कैपेबल मॉडल्स सिलिकॉन वैली के बाहर भी आ सकते हैं। उनके ओपन मॉडल रिलीज, विशाल क्लाउड इंफ्रास्ट्रक्चर और ModelScope एकोसिस्टम के संयोजन विकासकर्ताओं को — विशेष रूप से उन बाजारों में जो अमेरिकी निर्यात नियंत्रणों के प्रभाव में हैं — पश्चिमी AI प्लेटफॉर्मों के लिए एक विश्वसनीय, उच्च गुणवत्ता वाला विकल्प प्रदान करता है।
एक एआई प्रणाली जो स्वतंत्र रूप से बहु-चरण कार्यों की योजना बना सकती है और निष्पादित कर सकती है, उद्देश्य प्राप्त करने के लिए उपकरणों (वेब खोज, कोड निष्पादन, API कॉल) का उपयोग करके। एक साधारण चैटबॉट के विपरीत जो एक समय में एक प्रश्न का उत्तर देता है, एक एजेंट अब तक सीखे गए कुछ के आधार पर अगला क्या करना चाहिए यह निर्णय करता है।
यह क्यों मायने रखता है: एजेंट्स 'बात करने वाली एआई' और 'काम करने वाली एआई' के बीच का पुल हैं। जब आपकी एआई डॉक्स ब्राउज़ कर सके, कोड लिख सके और इसे टेस्ट कर सके, बिना आपके प्रत्येक चरण में उसका हाथ छोड़े — वह एक एजेंट है।
मनुष्य के मूल्यों और उद्देश्यों के साथ AI प्रणालियों के व्यवहार करने की चुनौति। एक संरेखित मॉडल आपके अर्थ के अनुसार काम करता है, न कि आपके द्वारा कहे गए शब्दों के अनुसार — और यह तब भी हानिकारक कार्रवाई से बचता है जब आपको विशेष रूप से ऐसा नहीं कहा गया होता।
यह क्यों मायने रखता है: एक मॉडल जो तकनीकी रूप से शक्तिशाली है लेकिन खराब तरह से संरेखित है, एक बुद्धिमान कर्मचारी के समान होता है जो निर्देशों का पालन बहुत लीटरल तरीके से करता है। संरेखन अनुसंधान के कारण मॉडल्स खतरनाक अनुरोधों को अस्वीकृत करते हैं और वास्तव में सहायता करने की कोशिश करते हैं।
एक संरचित तरीका जिससे सॉफ्टवेयर अन्य सॉफ्टवेयर से बात कर सके। AI में, यह आमतौर पर एक अनुरोध (आपका प्रॉम्प्ट) को एक प्रदाता के सर्वर पर भेजना और एक प्रतिक्रिया (मॉडल के आउटपुट) प्राप्त करना मतलब होता है। HTTPS पर REST APIs मानक हैं।
यह क्यों मायने रखता है: प्रत्येक AI प्रदाता — Anthropic, Google, Mistral — अपने मॉडलों को APIs के माध्यम से प्रदान करते हैं। अगर आप AI के साथ कोई भी चीज बना रहे हैं जो चैट विंडो से बाहर है, तो आप एक API का उपयोग कर रहे हैं।
Transformers में मुख्य तंत्र जो एक मॉडल को इनपुट के किन भागों के बीच सबसे अधिक संबंधित होने का निर्धारण करने देता है। पुराने मॉडलों के तरह टेक्स्ट को बाएं से दाएं पढ़े बिना, ध्यान हर शब्द के "देखने" के लिए हर अन्य शब्द के साथ एक साथ बरतता है जिससे संदर्भ को समझा जा सके।
यह क्यों मायने रखता है: एटेंशन यह है कि आधुनिक LLMs समझते हैं कि "बैंक" "नदी के किनारा" विरुद्ध "बैंक खाता" में अलग अर्थ रखता है। यह भी वही कारण है कि लंबे कंटेक्स्ट विंडो अधिक खर्च करते हैं — एटेंशन अनुक्रम लंबाई के साथ द्विघाती रूप से बढ़ता है।
ऑटोरिग्रेसिव इसे यह भी कहते हैं: ऑटोरिग्रेसिव मॉडल, Next-Token Prediction
मूल तत्व
एक मॉडल जो एक समय में एक टोकन आउटपुट उत्पन्न करता है, जहाँ प्रत्येक नया टोकन पहले आए सभी टोकन के आधार पर भविष्यवाणी किया जाता है। हर आधुनिक LLM — Claude, GPT, Llama, Gemini — ऑटोरिग्रेसिव है। मॉडल पूरी प्रतिक्रिया की "योजना" नहीं बनाता और फिर लिखता है; यह सचमुच अगले शब्द की भविष्यवाणी करता है, उसे जोड़ता है, फिर अगले की भविष्यवाणी करता है, बार-बार जब तक रुकने का फ़ैसला नहीं करता।
यह क्यों मायने रखता है: ऑटोरिग्रेसिव जनरेशन को समझने से अधिकांश LLM व्यवहारों की व्याख्या होती है: प्रतिक्रियाएँ टोकन-दर-टोकन क्यों स्ट्रीम होती हैं, मॉडल कभी-कभी पैराग्राफ़ के बीच में खुद का विरोध क्यों करता है, लंबे आउटपुट धीमे और महंगे क्यों होते हैं, और आप मॉडल से "वापस जाकर शुरुआत ठीक करो" आसानी से क्यों नहीं कह सकते। मॉडल हमेशा आगे बढ़ रहा होता है, एक समय में एक टोकन।
ऐसी मशीनों के निर्माण का व्यापक क्षेत्र जो आम तौर पर मानव बुद्धिमत्ता की आवश्यकता वाले कार्यों को कर सकें — भाषा को समझना, छवियों को पहचानना, निर्णय लेना, समस्याओं को हल करना। AI संकीर्ण प्रणालियों से लेकर जो एक विशिष्ट कार्य में उत्कृष्ट होती हैं (स्पैम फ़िल्टर, शतरंज इंजन) से लेकर सामान्य बुद्धिमत्ता के महत्वाकांक्षी लक्ष्य तक फैला हुआ है जो कोई भी बौद्धिक कार्य संभाल सके जो एक मनुष्य कर सकता है।
यह क्यों मायने रखता है: AI वह छत्र है जो इस विकी में बाकी सब कुछ शामिल करता है — मशीन लर्निंग, डीप लर्निंग, LLMs, कंप्यूटर विज़न, रोबोटिक्स। यह समझना कि "AI" साधारण नियम-आधारित प्रणालियों से लेकर फ्रंटियर भाषा मॉडल तक एक स्पेक्ट्रम है, आपको दावों का मूल्यांकन करने, प्रचार को काटने और यह समझने में मदद करता है कि आज की प्रणालियाँ वास्तव में क्या हैं: असाधारण रूप से सक्षम पैटर्न मैचर्स, सोचने वाली मशीनें नहीं।
एक न्यूरॉन के आउटपुट पर लागू किया जाने वाला गणितीय फ़ंक्शन जो नेटवर्क में गैर-रैखिकता पेश करता है। Activation functions के बिना, एक न्यूरल नेटवर्क — चाहे कितनी भी परतें गहरा हो — केवल रैखिक संबंध सीख सकेगा। ReLU, GELU, और SiLU/Swish आधुनिक आर्किटेक्चर में सबसे सामान्य हैं।
यह क्यों मायने रखता है: Activation functions वह कारण हैं कि डीप लर्निंग बिल्कुल काम करती है। रैखिक रूपांतरणों का एक स्टैक बस एक बड़ा रैखिक रूपांतरण है। परतों के बीच activation functions नेटवर्क को जटिल, गैर-रैखिक पैटर्न सीखने देते हैं — वे वक्र, किनारे और सूक्ष्म संबंध जो न्यूरल नेटवर्क को शक्तिशाली बनाते हैं।
AI विकास और तैनाती से उठने वाले नैतिक प्रश्नों का अध्ययन: AI प्रणालियाँ कौन से पूर्वाग्रह बनाए रखती हैं? जब AI गलतियाँ करता है तो किसे नुकसान होता है? AI निर्णयों को कैसे समझाया जाना चाहिए? जब एक स्वायत्त प्रणाली क्षति पहुँचाती है तो कौन ज़िम्मेदार है? AI नैतिकता निष्पक्षता, पारदर्शिता, जवाबदेही, गोपनीयता और AI प्रणालियों के सामाजिक प्रभाव को शामिल करती है।
यह क्यों मायने रखता है: AI प्रणालियाँ भर्ती, ऋण, आपराधिक न्याय, स्वास्थ्य सेवा और अरबों लोगों के लिए कंटेंट मॉडरेशन को प्रभावित करने वाले निर्णय लेती हैं। ये निर्णय मूल्यों को एन्कोड करते हैं — किसका डेटा शामिल किया गया, किन परिणामों के लिए ऑप्टिमाइज़ किया गया, किससे परामर्श लिया गया। AI नैतिकता एक अमूर्त दार्शनिक अभ्यास नहीं है; यह व्यावहारिक प्रश्न है कि AI प्रणालियाँ दुनिया को अधिक निष्पक्ष बनाती हैं या कम।
AI प्रणालियों के विकास और तैनाती को नियंत्रित करने वाले कानून और नीतियाँ। EU AI Act (2024) सबसे व्यापक है, जो AI प्रणालियों को जोखिम स्तर के आधार पर वर्गीकृत करता है और तदनुसार आवश्यकताएँ लागू करता है। US ने कार्यकारी आदेशों और एजेंसी दिशानिर्देशों के साथ अधिक क्षेत्र-विशिष्ट दृष्टिकोण अपनाया है। चीन ने जनरेटिव AI, deepfakes, और recommendation algorithms को लक्षित करने वाले नियम बनाए हैं।
यह क्यों मायने रखता है: नियमन यह आकार देता है कि AI कंपनियाँ क्या बना सकती हैं, उन्हें कैसे बनाना होगा, और उन्हें क्या प्रकट करना होगा। EU AI Act यूरोपीय उपयोगकर्ताओं की सेवा करने वाली किसी भी कंपनी को प्रभावित करता है। AI बनाने या तैनात करने वाले किसी भी व्यक्ति के लिए नियामक परिदृश्य को समझना तेज़ी से आवश्यक हो रहा है — गैर-अनुपालन का अर्थ जुर्माना, प्रतिबंध या देयता हो सकता है।
Apple का ऑन-डिवाइस और क्लाउड AI सिस्टम, जो iPhone, iPad, और Mac में एकीकृत है। Apple Intelligence गोपनीयता-संवेदनशील कार्यों (टेक्स्ट पुनर्लेखन, सारांशीकरण, इमेज जनरेशन) के लिए Apple Silicon पर स्थानीय रूप से छोटे मॉडल चलाता है और जटिल अनुरोधों को Apple के Private Cloud Compute सर्वरों पर रूट करता है। यह अपनी क्षमताओं से परे कार्यों के लिए उपयोगकर्ता की सहमति से बाहरी मॉडल (जैसे ChatGPT) को भी एकीकृत करता है।
यह क्यों मायने रखता है: Apple Intelligence दुनिया की सबसे मूल्यवान कंपनी की उपभोक्ता AI रणनीति का प्रतिनिधित्व करता है, जो एक अरब से अधिक डिवाइसों तक पहुँचता है। गोपनीयता (ऑन-डिवाइस प्रोसेसिंग, सत्यापन योग्य सुरक्षा के साथ Private Cloud Compute) पर इसका ज़ोर OpenAI और Google के क्लाउड-फर्स्ट दृष्टिकोण से एक अलग मॉडल प्रदान करता है। यदि Apple AI को सही करता है, तो यह अरबों गैर-तकनीकी उपयोगकर्ताओं के लिए ऑन-डिवाइस AI को सामान्य बनाता है।
एक इज़राइली AI कंपनी जो Jamba के लिए जानी जाती है, पहला प्रोडक्शन-ग्रेड हाइब्रिड आर्किटेक्चर जो Transformer attention परतों को Mamba SSM परतों के साथ जोड़ता है। AI21 की स्थापना AI शोधकर्ताओं (Yoav Shoham सहित) द्वारा की गई थी और यह 2017 से भाषा मॉडल बना रही है, ChatGPT से पहले। उनके मॉडल API और क्लाउड प्रदाताओं के माध्यम से उपलब्ध हैं।
यह क्यों मायने रखता है: AI21 Labs इसलिए मायने रखता है क्योंकि Jamba ने साबित किया कि हाइब्रिड Transformer-SSM आर्किटेक्चर व्यवहार में काम करते हैं, न कि केवल शोध पत्रों में। Attention और Mamba परतों को interleave करके, Jamba समान गुणवत्ता के शुद्ध Transformer मॉडल की तुलना में कम मेमोरी उपयोग के साथ 256K context window प्राप्त करता है। यह हाइब्रिड दृष्टिकोण LLM आर्किटेक्चर का भविष्य हो सकता है।
Hype और अपूर्ण expectations के चक्र के बाद AI research में reduced funding, interest, और progress का period। दो प्रमुख AI winters हुए हैं: पहला 1970 के दशक के मध्य से 1980 के दशक की शुरुआत तक (expert systems scale करने में विफल होने के बाद), और दूसरा 1980 के दशक के अंत से 1990 के दशक के मध्य तक (neural networks computational limits पर पहुंचने के बाद)। प्रत्येक से पहले अत्यधिक आशावाद और बाद में मोहभंग हुआ।
यह क्यों मायने रखता है: AI winters को समझना आज के AI दावों का मूल्यांकन करने के लिए आवश्यक संदर्भ प्रदान करता है। Pattern — breakthrough, hype, overpromise, underdeliver, funding collapse — दो बार दोहराया गया है। क्या वर्तमान deep learning boom उसी pattern का पालन करेगा या तोड़ेगा, यह AI में सबसे महत्वपूर्ण प्रश्न है। एक और winter के विरुद्ध सबसे अच्छा बचाव यह ईमानदार आकलन है कि वर्तमान systems क्या कर सकते हैं और क्या नहीं।
एक AI system जो न्यूनतम मानव पर्यवेक्षण के साथ स्वतंत्र रूप से plan, decide, और multi-step कार्यों को execute कर सकता है। एक high-level goal ("competitors का research करें और report लिखें") दिए जाने पर, एक autonomous agent इसे steps में तोड़ता है, tools (web search, code execution, file management) का उपयोग करता है, errors संभालता है, और result deliver करता है। Autonomy का level "प्रत्येक step पर permission पूछें" से "बस करो और report करो" तक होता है।
यह क्यों मायने रखता है: Autonomous agents chatbots और copilots से आगे का अगला evolution हैं। Chatbot सवालों के जवाब देता है। Copilot कार्यों में assist करता है। Agent स्वतंत्र रूप से कार्य पूरे करता है। Economic potential विशाल है — agents जो routine knowledge work (research, data analysis, customer service, code review) को fraction cost और time पर संभाल सकते हैं। लेकिन reliability और safety challenges significant बने हुए हैं।
कच्चे डेटा में लेबल, टैग, या मेटाडेटा जोड़ने की प्रक्रिया ताकि इसका उपयोग supervised learning के लिए किया जा सके। छवियों को एनोटेट करने का अर्थ है वस्तुओं के चारों ओर बाउंडिंग बॉक्स बनाना। टेक्स्ट को एनोटेट करने का अर्थ है संस्थाओं, भावना, या इरादे को लेबल करना। RLHF के लिए एनोटेट करने का अर्थ है मॉडल प्रतिक्रियाओं को गुणवत्ता के अनुसार रैंक करना। एनोटेशन वह मानवीय श्रम है जो कच्चे डेटा को प्रशिक्षण डेटा में बदलता है।
यह क्यों मायने रखता है: एनोटेशन supervised AI की अलंकृत नींव है। प्रत्येक लेबल किया गया डेटासेट, प्रत्येक fine-tuned मॉडल, प्रत्येक aligned असिस्टेंट उन मानव एनोटेटरों पर निर्भर करता है जिन्होंने घंटों डेटा को सही ढंग से लेबल किया। एनोटेशन की गुणवत्ता सीधे मॉडल गुणवत्ता निर्धारित करती है — असंगत या पूर्वाग्रहित लेबलिंग असंगत और पूर्वाग्रहित मॉडल उत्पन्न करती है। यह AI सिस्टम बनाने का सबसे श्रम-गहन और अक्सर सबसे महंगा हिस्सा है।
एक डिज़ाइन पैटर्न जहाँ AI एजेंट बहु-चरणीय प्रक्रियाओं को व्यवस्थित करते हैं — योजना बनाना, टूल्स निष्पादित करना, परिणामों का मूल्यांकन करना, और पुनरावृत्ति करना — जटिल कार्यों को पूरा करने के लिए। एकल प्रॉम्प्ट-प्रतिक्रिया आदान-प्रदान के विपरीत, एजेंटिक वर्कफ़्लो में लूप शामिल होते हैं: एजेंट कार्य करता है, परिणाम देखता है, आगे क्या करना है तय करता है, और कार्य पूरा होने या मानव इनपुट की आवश्यकता होने तक जारी रखता है।
यह क्यों मायने रखता है: एजेंटिक वर्कफ़्लो वह तरीका है जिससे AI "प्रश्नों के उत्तर" से "काम करने" की ओर बढ़ता है। चैटबॉट एक बार में एक प्रश्न का उत्तर देता है। एजेंटिक वर्कफ़्लो एक विषय पर शोध करता है, एक ड्राफ्ट लिखता है, सटीकता के लिए समीक्षा करता है, और संशोधित करता है — सब स्वायत्त रूप से। यह पैटर्न कोड जनरेशन (Cursor, Claude Code), रिसर्च (Perplexity, Deep Research), और एंटरप्राइज़ ऑटोमेशन में उभर रहा है।
AI मॉडल क्षमताओं को मापने और तुलना करने के लिए मानकीकृत परीक्षण। MMLU 57 अकादमिक विषयों में ज्ञान का परीक्षण करता है। HumanEval कोड जनरेशन का परीक्षण करता है। ARC वैज्ञानिक तर्क का परीक्षण करता है। HellaSwag सामान्य ज्ञान तर्क का परीक्षण करता है। GSM8K गणित का परीक्षण करता है। बेंचमार्क स्कोर मॉडलों की तुलना के लिए एक सामान्य भाषा प्रदान करते हैं, हालाँकि उनकी महत्वपूर्ण सीमाएँ हैं।
यह क्यों मायने रखता है: बेंचमार्क वह तरीका है जिससे उद्योग स्कोर रखता है। जब Anthropic कहता है कि Claude MMLU पर X% और HumanEval पर Y% स्कोर करता है, तो वे संख्याएँ तभी अर्थ रखती हैं जब आप जानते हैं कि बेंचमार्क क्या परीक्षण करते हैं, उन्हें कैसे स्कोर किया जाता है, और उनकी सीमाएँ क्या हैं। बेंचमार्क को समझने से आपको मार्केटिंग दावों को काटने और मूल्यांकन करने में मदद मिलती है कि कौन सा मॉडल वास्तव में आपके विशिष्ट उपयोग के लिए सबसे अच्छा है।
वह convolutional neural network जिसने 2012 ImageNet प्रतियोगिता में भारी अंतर से जीत हासिल की, जिससे deep learning क्रांति शुरू हुई। Alex Krizhevsky, Ilya Sutskever, और Geoffrey Hinton द्वारा बनाया गया, AlexNet ने image classification error दर को 26% से 16% तक कम किया — एक इतना बड़ा अंतर कि इसने कंप्यूटर विज़न समुदाय को आश्वस्त कर दिया कि deep learning मूल रूप से हाथ से बनाई गई features से श्रेष्ठ है।
यह क्यों मायने रखता है: AlexNet AI इतिहास में "पहले और बाद" का क्षण है। 2012 से पहले, अधिकांश AI शोधकर्ता feature engineering और गैर-neural विधियों पर काम करते थे। AlexNet के बाद, deep learning प्रमुख प्रतिमान बन गया। हर आधुनिक AI सिस्टम — GPT, Claude, Stable Diffusion — अपने वंश को उस प्रतिमान बदलाव से जोड़ता है जो AlexNet ने शुरू किया। यह आधुनिक AI का Big Bang है।
Neural networks को प्रशिक्षित करने के लिए सबसे व्यापक रूप से उपयोग किया जाने वाला optimization algorithm। Adam (Adaptive Moment Estimation) momentum (पिछले gradients के running average का उपयोग) को adaptive learning rates (पिछले gradient magnitudes के inverse द्वारा updates को scale करना) के साथ जोड़ता है। AdamW बेहतर regularization के लिए decoupled weight decay जोड़ता है। लगभग हर आधुनिक LLM AdamW के साथ प्रशिक्षित है।
यह क्यों मायने रखता है: Adam कार्यों और hyperparameters की एक विस्तृत श्रृंखला में अच्छी तरह काम करता है, जो इसे default optimizer बनाता है। इसे समझने से पता चलता है कि प्रशिक्षण अधिकांश समय "बस काम क्यों करता है" (Adam per-parameter adapt करता है) और कभी-कभी क्यों नहीं करता (Adam की memory आवश्यकताएँ मॉडल के parameters की 2x हैं, जो बड़े मॉडलों के लिए मायने रखती है)। यह 90% मामलों में "कौन सा optimizer उपयोग करूँ?" का उत्तर भी है।
Production में AI systems के व्यवहार की निगरानी और समझ — inputs, outputs, latency, costs, errors, और quality metrics को real-time में track करना। AI observability application monitoring (Datadog, New Relic) जैसा है लेकिन AI के लिए विशिष्ट: prompt-response pairs को trace करना, quality degradation detect करना, hallucinations की निगरानी, और anomalous behavior पर alert करना।
यह क्यों मायने रखता है: Observability के बिना AI system deploy करना अंधेरे में उड़ने जैसा है। आपको नहीं पता कि मॉडल सामान्य से अधिक hallucinate कर रहा है, latency बढ़ रही है, किसी विशिष्ट प्रकार की query fail हो रही है, या costs बढ़ रहे हैं। AI observability "यह काम करता लगता है" को "हम जानते हैं कि यह काम करता है, और हम जानते हैं कि कब नहीं करता" में बदलता है। यह एक demo और production system के बीच का अंतर है।
Amazon Web Services का managed platform जो एक unified API के माध्यम से कई providers (Anthropic, Meta, Mistral, Cohere, Stability AI, Amazon के अपने Titan मॉडल) से foundation models तक पहुँच और deployment प्रदान करता है। Bedrock model hosting, scaling, और fine-tuning संभालता है, जिससे enterprises GPU infrastructure manage किए बिना AI उपयोग कर सकते हैं। यह guardrails, knowledge bases (RAG), और agent capabilities भी प्रदान करता है।
यह क्यों मायने रखता है: AWS Bedrock वह तरीका है जिससे अधिकांश Fortune 500 कंपनियाँ AI models तक पहुँचती हैं। इसका multi-model दृष्टिकोण enterprises को एक single API के माध्यम से providers (Claude, Llama, Mistral) की तुलना और switch करने देता है, vendor lock-in से बचाते हुए। AWS पर पहले से मौजूद कंपनियों (जो अधिकांश बड़ी कंपनियाँ हैं) के लिए, Bedrock AI adoption का सबसे कम प्रतिरोध का रास्ता है — वही account, वही billing, वही compliance frameworks।
दो AI system variants (विभिन्न मॉडल, prompts, या configurations) की तुलना करना, वास्तविक उपयोगकर्ताओं को प्रत्येक variant में randomly assign करके और यह मापकर कि कौन महत्वपूर्ण metrics पर बेहतर प्रदर्शन करता है। Offline evaluation (benchmarks, test sets) के विपरीत, A/B testing दर्शाता है कि परिवर्तन वास्तविक उपयोगकर्ता व्यवहार को कैसे प्रभावित करते हैं — engagement, संतुष्टि, task completion, और revenue।
यह क्यों मायने रखता है: Offline metrics हमेशा वास्तविक-दुनिया के प्रदर्शन की भविष्यवाणी नहीं करते। एक मॉडल जो benchmarks पर अधिक score करता है, ऐसे responses उत्पन्न कर सकता है जो उपयोगकर्ताओं को कम पसंद आते हैं। एक prompt परिवर्तन जो गुणवत्ता सुधारता है, latency को इतना बढ़ा सकता है कि उपयोगकर्ता छोड़ दें। A/B testing यह जानने का एकमात्र तरीका है कि कोई परिवर्तन वास्तव में उपयोगकर्ता अनुभव को सुधारता है। इसी तरह हर प्रमुख AI उत्पाद deployment निर्णय लेता है।
Attention weights को heatmaps के रूप में प्रदर्शित करके यह visualize करना कि एक Transformer मॉडल किस पर "ध्यान देता है"। प्रत्येक query token के लिए, attention map दिखाता है कि वह हर दूसरे token को कितना weight देता है। उच्च weights (चमकीले धब्बे) मज़बूत attention इंगित करते हैं — मॉडल उन tokens को वर्तमान computation के लिए अत्यधिक प्रासंगिक मानता है।
यह क्यों मायने रखता है: Attention visualization एक Transformer के अंदर झाँकने और उसके reasoning को समझने का सबसे सहज तरीका है। जब एक मॉडल "le chat noir" का "the black cat" में अनुवाद करता है, तो attention maps दिखाते हैं कि "black" "noir" पर और "cat" "chat" पर ज़ोरदार ध्यान देता है। यह मॉडल के व्यवहार को debug करने, विफलताओं को समझने, और attention कैसे काम करता है इसकी अंतर्ज्ञान बनाने में मदद करता है।
Bria लाइसेंस प्राप्त प्रशिक्षण डेटा, एंटरप्राइज़ इमेज जनरेशन
कंपनियाँ
ईज़राइली एआई कंपनी जिसने अपने इमेज जेनरेशन मॉडल्स का निर्माण केवल लाइसेंस द्वारा अनुमोदित, संकेतित प्रशिक्षण डेटा पर किया है। यह उन उद्यमों के लिए सुरक्षित विकल्प के रूप में स्थापित करता है जिन्हें एआई-जेनरेटेड विजुअल्स की आवश्यकता होती है लेकिन कॉपीराइट जोखिम के बिना।
यह क्यों मायने रखता है:
ब्रिया एक ऐसा प्रमुख परीक्षण मामला है जो यह निर्धारित करता है कि क्या AI छवि उत्पादन पूरी तरह से लाइसेंस वाले प्रशिक्षण डेटा पर बनाया जा सकता है और फिर भी वाणिज्यिक रूप से प्रतिस्पर्धा कर सकता है। एक ऐसे उद्योग में जहां कॉपीराइट विवादों की एक बर्फानी गिरावट का सामना करना पड़ रहा है, उनके द्वारा दिया गया दृष्टिकोण उद्यमों के लिए जनरेटिव AI अपनाने के लिए एक मार्ग प्रदान करता है बिना कानूनी जोखिम के — एक मूल्य प्रस्ताव जो प्रत्येक नए विरोधी के खिलाफ दायर किए गए लीगल केस के साथ अधिक आकर्षक बनता जा रहा है। यदि ब्रिया सफल हो जाता है, तो यह जिम्मेदार AI विकास की एक पूरी दृष्टिकोण की पुष्टि करता है; यदि यह संघर्ष में आता है, तो यह सुझाता है कि बाजार अंततः डेटा के मूल स्रोत के बारे में इतना चिंतित नहीं है कि इसके लिए अतिरिक्त मूल्य देने के लिए तैयार हो।
टिकटॉक के माता-पिता कंपनी और दुनिया के सबसे मूल्यवान टेक कंपनियों में से एक। उनकी एआई लैब डौबाओ मॉडल परिवार के निर्माण में लगी हुई है और अरबों उपयोगकर्ताओं को प्रतिदिन सेवा देने वाले सिफारिश एल्गोरिदम को चलाती है।
यह क्यों मायने रखता है: बाइटडैंस दुनिया की सबसे अधिक मूल्यवान निजी तकनीकी कंपनी है और एआई का उपयोग ऐसे पैमाने पर करता है जिसे केवल कुछ संगठनों के मुकाबले कर सकते हैं, टिकटॉक, डौयिन और एआई-संचालित उत्पादों के विस्तारित सेट के माध्यम से दैनिक आधार पर एक अरब से अधिक उपयोगकर्ताओं की सेवा करता है। उनके डाउबाओ मॉडल परिवार और वॉल्केनो इंजन क्लाउड प्लेटफॉर्म उन्हें फाउंडेशन मॉडल रेस में एक मजबूत प्रतियोगी बनाते हैं, जिसके पीछे अधिकांश एआई स्टार्टअप केवल सपना देख सकते हैं: एक अत्यधिक लाभदायक मुख्य व्यवसाय और एक अरब से अधिक उपयोगकर्ताओं तक बिल्ट-इन वितरण।
स्टेबल डिफ्यूजन के मूल निर्माताओं द्वारा स्थैबिलिटी AI छोड़ने के बाद स्थापित किया गया। उनके FLUX मॉडल जल्द ही ओपन-सोर्स छवि उत्पादन के लिए नई मानक बन गए, जो उनके छोड़े गए मॉडलों की गुणवत्ता के मामले में आगे बढ़ गए।
यह क्यों मायने रखता है: काला जंगल लैब्स ओपन-सोर्स AI के लिए सर्वोत्तम संभावना का प्रतिनिधित्व करता है: स्टेबल डिफ्यूज़न के मूल डिज़ाइनर जो बेहतर तकनीक, बुद्धिमान व्यवसाय रणनीति और सृजनात्मक समुदाय के भरोसे के साथ नए से शुरू हो रहे हैं। फ्लक्स.1 ने स्टेबल डिफ्यूज़न पर केवल इटेरेट नहीं किया — बल्कि इसे छोड़कर सीधे आगे बढ़ गया, और उनके द्वारा पहले शुरू किया गया स्तरीय लाइसेंसिंग मॉडल AI कंपनियों के लिए खुलेपन और आय के बीच संतुलन स्थापित करने के लिए एक मानक बन रहा है।
एक मानक परीक्षण जो AI मॉडलों के मूल्यांकन और तुलना के लिए उपयोग किया जाता है। बेंचमार्क विशिष्ट क्षमताओं — तर्क (ARC), गणित (GSM8K), कोडिंग (HumanEval), सामान्य ज्ञान (MMLU) — को मापते हैं और मॉडलों के बीच तुलना करने वाले स्कोर उत्पन्न करते हैं।
यह क्यों मायने रखता है: बेंचमार्क्स उद्योग द्वारा स्कोर करने के तरीका हैं, लेकिन वे अपूर्ण हैं। मॉडल प्रशिक्षित किए जा सकते हैं बेंचमार्क्स में शीर्ष पर रहे बिना सच्चे तौर पर बेहतर न होने के। वास्तविक दुनिया में प्रदर्शन अक्सर एक अलग कहानी बताता है। उन्हें संकेत के रूप में देखें, सच्चाई के रूप में नहीं।
AI आउटपुट में व्यवस्थित पैटर्न जो ट्रेनिंग डेटा में मौजूद सामाजिक भेदभाव को प्रतिबिम्बित या बढ़ाते हैं। भेदभाव टेक्स्ट जेनरेशन, इमेज क्रिएशन, रिक्रूटमेंट टूल्स और कहीं भी मॉडल निर्णय लेते हैं जो लोगों के अलग-अलग प्रभाव डालते हैं, वहां सामना कर सकता है।
यह क्यों मायने रखता है: यदि ट्रेनिंग डेटा कहता है कि नर्स महिलाएं होती हैं और इंजीनियर पुरुष होते हैं, तो मॉडल उसे बरकरार रखेगा। बायस हमेशा स्पष्ट नहीं होता — यह शब्द संबंध, डिफ़ॉल्ट मान्यताओं और जो दर्शाया जाता है उसमें छिपा होता है।
BERT Bidirectional Encoder Representations from Transformers
मॉडल
Google का एक Transformer-आधारित मॉडल (2018) जिसने द्विदिशात्मक प्री-ट्रेनिंग पेश करके NLP में क्रांति ला दी — हर टोकन हर दूसरे टोकन पर ध्यान दे सकता है, जिससे मॉडल को गहरी प्रासंगिक समझ मिलती है। BERT एक encoder-only मॉडल है: यह टेक्स्ट को समझने (classification, search, NER) में उत्कृष्ट है लेकिन GPT या Claude की तरह टेक्स्ट उत्पन्न नहीं कर सकता।
यह क्यों मायने रखता है: BERT आधुनिक युग का सबसे प्रभावशाली NLP पेपर है। इसने साबित किया कि बिना लेबल वाले टेक्स्ट पर प्री-ट्रेनिंग और फिर विशिष्ट कार्यों पर फ़ाइन-ट्यूनिंग हर मौजूदा बेंचमार्क को ध्वस्त कर सकती है। हालाँकि LLMs ने लोकप्रियता चुरा ली है, BERT-शैली के मॉडल अभी भी अधिकांश प्रोडक्शन सर्च इंजन, embedding सिस्टम और classification पाइपलाइन को शक्ति प्रदान करते हैं क्योंकि वे गैर-जनरेटिव कार्यों के लिए LLMs की तुलना में छोटे, तेज़ और सस्ते हैं।
Batch size यह है कि मॉडल अपने पैरामीटर अपडेट करने से पहले कितने प्रशिक्षण उदाहरणों को प्रोसेस करता है। एक epoch संपूर्ण प्रशिक्षण dataset का एक पूर्ण पास है। 1 मिलियन उदाहरणों पर batch size 1,000 के साथ 3 epochs के लिए प्रशिक्षित एक मॉडल प्रति अपडेट 1,000 उदाहरण प्रोसेस करता है, प्रति epoch 1,000 अपडेट लेता है, और कुल 3,000 अपडेट करता है।
यह क्यों मायने रखता है: Batch size और epochs प्रशिक्षण में सबसे मौलिक नियंत्रण हैं। Batch size प्रशिक्षण गति, मेमोरी उपयोग, और यहाँ तक कि मॉडल क्या सीखता है (छोटे batches शोर जोड़ते हैं जो सामान्यीकरण में मदद कर सकता है; बड़े batches तेज़ी से converge होते हैं लेकिन बदतर सामान्यीकरण कर सकते हैं) को प्रभावित करता है। Epochs की संख्या निर्धारित करती है कि मॉडल प्रत्येक उदाहरण को कितनी बार देखता है — बहुत कम और यह underfit करता है, बहुत अधिक और यह overfit करता है।
मॉडल आउटपुट की तुलना संदर्भ टेक्स्ट से करके टेक्स्ट जनरेशन गुणवत्ता मूल्यांकित करने के लिए क्लासिक मेट्रिक्स। BLEU (Bilingual Evaluation Understudy) मापता है कि जनरेट किए गए टेक्स्ट में कितने n-gram संदर्भ में दिखाई देते हैं — मूल रूप से मशीन अनुवाद के लिए डिज़ाइन किया गया। ROUGE (Recall-Oriented Understudy for Gisting Evaluation) मापता है कि संदर्भ से कितने n-gram जनरेट किए गए टेक्स्ट में दिखाई देते हैं — सारांशीकरण के लिए डिज़ाइन किया गया।
यह क्यों मायने रखता है: BLEU और ROUGE एक दशक से अधिक समय तक NLP के लिए मानक मूल्यांकन मेट्रिक्स रहे और अभी भी व्यापक रूप से उपयोग किए जाते हैं। उन्हें समझना — और उनकी सीमाओं को — NLP शोध दावों का मूल्यांकन करने और यह समझने में मदद करता है कि क्षेत्र मानव मूल्यांकन और मॉडल-आधारित मूल्यांकन की ओर क्यों बढ़ रहा है। उच्च BLEU स्कोर गुणवत्ता की गारंटी नहीं देता; कम BLEU स्कोर विफलता की गारंटी नहीं देता।
टोकनाइज़र शब्दकोश बनाने के लिए सबसे आम एल्गोरिदम। BPE अलग-अलग बाइट्स या अक्षरों से शुरू होता है और सबसे अधिक बार आने वाले आसपास के जोड़ों को बार-बार मिलाकर एक नया टोकन बनाता है। हज़ारों मर्ज के बाद, सामान्य शब्द एक ही टोकन बन जाते हैं ("the," "function") जबकि दुर्लभ शब्द सबवर्ड टुकड़ों में विभाजित होते हैं ("un" + "common")। GPT, Claude, Llama, और अधिकांश आधुनिक LLM इसका उपयोग करते हैं।
यह क्यों मायने रखता है: BPE वह कारण है जिससे आपका टोकनाइज़र उस तरह से काम करता है जैसा वह करता है। यह बताता है कि सामान्य शब्द सस्ते क्यों हैं (एक टोकन), दुर्लभ शब्द महंगे क्यों हैं (कई टोकन), और गैर-अंग्रेज़ी टेक्स्ट अधिक महंगा क्यों होता है (गैर-अंग्रेज़ी अक्षर जोड़ों के लिए कम मर्ज आवंटित)। BPE को समझने से आप टोकन काउंट का अनुमान लगा सकते हैं, प्रॉम्प्ट को ऑप्टिमाइज़ कर सकते हैं, और यह समझ सकते हैं कि अलग-अलग टोकनाइज़र एक ही टेक्स्ट के लिए अलग-अलग परिणाम क्यों देते हैं।
एक डीकोडिंग रणनीति जो एक साथ कई उम्मीदवार अनुक्रमों ("beam") को बनाए रखती है, प्रत्येक चरण में प्रत्येक को एक टोकन से विस्तारित करती है और केवल शीर्ष-स्कोरिंग उम्मीदवारों को रखती है। Greedy decoding (हमेशा सबसे अच्छा अगला टोकन चुनें) या sampling (यादृच्छिक रूप से चुनें) के विपरीत, beam search कई रास्तों का पता लगाता है और समग्र उच्चतम-संभाव्यता अनुक्रम पाता है। आमतौर पर अनुवाद और सारांशीकरण के लिए उपयोग किया जाता है।
यह क्यों मायने रखता है: Beam search दिखाता है कि स्थानीय रूप से सबसे अच्छा विकल्प हमेशा वैश्विक रूप से सबसे अच्छा नहीं होता। Greedy decoding पहले शब्द के रूप में "The" चुन सकता है जबकि "In" बहुत बेहतर समग्र वाक्य की ओर ले जाता। कई उम्मीदवारों को रखकर, beam search बहुत जल्दी प्रतिबद्ध होने से बचता है। हालांकि, ओपन-एंडेड जनरेशन (चैट, रचनात्मक लेखन) के लिए, sampling beam search की तुलना में अधिक विविध और स्वाभाविक टेक्स्ट उत्पन्न करता है।
वह एल्गोरिदम जो गणना करता है कि एक न्यूरल नेटवर्क में प्रत्येक parameter ने error में कितना योगदान दिया, जिससे gradient descent parameters को कुशलतापूर्वक अपडेट कर सके। Backpropagation नेटवर्क के माध्यम से उल्टे क्रम में calculus के chain rule को लागू करता है: output पर loss से शुरू करते हुए, यह प्रत्येक weight के दोष के हिस्से को निर्धारित करने के लिए प्रत्येक layer के माध्यम से gradients को पीछे की ओर प्रसारित करता है।
यह क्यों मायने रखता है: Backpropagation वह एल्गोरिदम है जो न्यूरल नेटवर्क प्रशिक्षण को संभव बनाता है। अरबों parameters के लिए gradients की गणना करने के कुशल तरीके के बिना, gradient descent कम्प्यूटेशनल रूप से अव्यवहार्य होगा। आप जो भी मॉडल उपयोग करते हैं — एक छोटे classifier से लेकर 400B LLM तक — backpropagation का उपयोग करके प्रशिक्षित किया गया था। यह deep learning में सबसे महत्वपूर्ण एल्गोरिदम है।
AI के क्षेत्र में मशीनों को दुनिया से दृश्य सूचना के अर्थ और समझ के लिए सक्षम करने पर केंद्रित है — छवियाँ, वीडियो, 3D सीन और दस्तावेज। कंप्यूटर विजन चेहरा पहचान और स्वयंचलित ड्राइविंग से लेकर चिकित्सा इमेजिंग और AI छवि उत्पादन तक सब कुछ के लिए शक्ति प्रदान करता है। मुख्य कार्यों में वस्तु पहचान, छवि वर्गीकरण, सेगमेंटेशन, OCR और पोज अनुमान शामिल हैं।
यह क्यों मायने रखता है:
कंप्यूटर विजन पहला क्षेत्र था जहां डीप लर्निंग मनुष्य के प्रदर्शन को स्पष्ट रूप से पार कर गई (ImageNet 2012), और यह अभी भी सबसे अधिक व्यावसायिक रूप से प्रभावी AI अनुप्रयोगों में से एक बनी हुई है। हर AI छवि या वीडियो जो आप उत्पन्न करते हैं, हर दस्तावेज जिसे आप OCR करते हैं, हर सुरक्षा कैमरा जिसमें स्मार्ट डिटेक्शन होता है — यह सब कंप्यूटर विजन है।
एआई का उपयोग हानिकारक, अवैध या नीति-उल्लंघन करने वाली सामग्री के पैमाने पर पहचान और फ़िल्टर करने के लिए किया जा रहा है। इसमें पाठ वर्गीकरण (हेट स्पीच, स्पैम, धमकी), चित्र विश्लेषण (NSFW पता लगाना, CSAM) और वीडियो संशोधन शामिल है। आधुनिक प्रणालियाँ एआई वर्गीकर्ताओं के साथ मानवीय समीक्षा को संयोजित करती हैं, लेकिन एआई द्वारा उत्पादित सामग्री की मात्रा एक संशोधन संकट बना रही है — अब आपको एआई के संशोधन के लिए एआई की आवश्यकता है।
यह क्यों मायने रखता है: प्रत्येक उपयोगकर्ता-निर्मित सामग्री वाले प्लेटफॉर्म को मॉडरेशन की आवश्यकता होती है, और AI इस मात्रा के सामना करने के लिए एकमात्र तरीका है। लेकिन मॉडरेशन इसके लगते अपने आप से कठिन होता है — प्रसंग महत्वपूर्ण होता है, सांस्कृतिक मानक अलग होते हैं, और फैल्स पॉजिटिव्स वैध बोली को चुप कर देते हैं जबकि फैल्स नेगेटिव्स हानि को आगे बढ़ने देते हैं।
आवाज़ कृत्रिम बुद्धिमत्ता स्टार्टअप ट्रांसफॉर्मर्स के बजाय स्टेट स्पेस मॉडल (SSM) आर्किटेक्चर पर आधारित है। उनके सोनिक मॉडल अत्यधिक कम लैटेंसी वाला आवाज़ उत्पादन प्राप्त करते हैं, जो पहली बार वास्तविक समय चर्चा AI को वास्तव में प्राकृतिक लगने के लिए बनाते हैं।
यह क्यों मायने रखता है: कार्टेसिया महत्वपूर्ण है क्योंकि उन्होंने साबित कर दिया कि स्टेट स्पेस मॉडल केवल शोध के विषय नहीं हैं बल्कि रियल-टाइम वॉइस एआई के लिए वाणिज्यिक रूप से व्यवहार्य आर्किटेक्चर हैं। उनकी 100 मिलीसेकंड से कम लैटेंसी ने पहली बार वास्तव में प्राकृतिक संवादात्मक एआई के संभावना को संभव बना दिया, जो 'एक बॉट से बात करना' और 'एक व्यक्ति से बात करना' के बीच के अंतर को बंद करता है। जैसे ही उद्योग वॉइस-पहले एआई एजेंट्स की ओर बढ़ता है, कार्टेसिया की स्ट्रीमिंग गति में आर्किटेक्चरल फायदा उन्हें एक बुनियादी स्तर बना सकता है जिस पर सभी अन्य लोग बनाएंगे।
उद्यम केंद्रित आर्टिफिसियल इंटेलिजेंस कंपनी, जिसकी सह-संस्थापना एडियन गोमेज द्वारा की गई है, जो मूल "एटेंशन इज ऑल यू नीड" ट्रांसफॉर्मर पेपर के सह-लेखकों में से एक हैं। व्यवसाय उपयोग मामलों, RAG और बहुभाषी समर्थन के लिए अनुकूलित मॉडलों में विशेषज्ञता रखता है।
यह क्यों मायने रखता है: कोहेर एक स्पष्ट परीक्षण केस दर्शाता है कि क्या एक फोकस्ड, एंटरप्राइज-प्रथम एआई कंपनी ट्रिलियन डॉलर के हाइपरस्केलर्स और ग्राहक-मुखी फ्रंटियर लैब्स द्वारा नियंत्रित एक युग में स्वतंत्र रूप से विकसित हो सकती है। उनकी ट्रांसफॉर्मर-पेपर वंशावली उन्हें वास्तविक तकनीकी विश्वसनीयता देती है, उनकी तैनाती लचीलापन नियमित उद्योगों के लिए एक वास्तविक दुखद बिंदु हल करता है, और उनके एम्बेडिंग और रीरैंक मॉडल विश्व भर में उत्पादन RAG प्रणालियों के लिए जाने जाते हुए उपकरण बन गए हैं। यदि एआई के भविष्य के बारे में चैटबॉट्स के बजाय प्रत्येक व्यवसाय कार्यप्रवाह में एम्बेड की गई बुनियादी ढांचा के बारे में अधिक है, तो कोहेर बहुत महत्वपूर्ण होने के लिए स्थित है।
एक प्रोम्प्टिंग तकनीक जहां आप मॉडल से अपने तर्क को चरण-दर-चरण दिखाने के लिए पूछते हैं अंतिम उत्तर देने से पहले। अंतिम निष्कर्ष निकाले बिना, मॉडल — "बोलते हुए सोचता है" — जो जटिल कार्यों पर सटीकता में भारी बढ़ोतरी करता है।
यह क्यों मायने रखता है: "‘अपने तर्क को स्पष्ट करें’ कहना केवल पारदर्शिता के लिए नहीं होता है — यह वास्तव में मॉडल्स को बुद्धिमान बनाता है। CoT प्रारंभिक अध्ययनों में गणितीय त्रुटियों को 50% तक कम कर दिया। अब अधिकांश आधुनिक मॉडल्स इसे आंतरिक रूप से करते हैं।"
एक एकल संवाद में एक मॉडल द्वारा प्रोसेस किए जा सकने वाले टेक्स्ट की अधिकतम मात्रा (टोकन में मापी गई)। यह आपके इनपुट और मॉडल के आउटपुट दोनों को शामिल करता है। यदि एक मॉडल के पास 200K कंटेक्स्ट विंडो है, तो यह लगभग 150,000 शब्द है — लगभग दो उपन्यास।
यह क्यों मायने रखता है: कंटेक्स्ट विंडो आकार आपके कर सकने वाले काम को निर्धारित करता है। एक पूरा कोड बेस समारोह करें? इसके लिए बड़ा कंटेक्स्ट चाहिए। त्वरित प्रश्न-उत्तर? छोटा ठीक है। लेकिन बड़ा हमेशा बेहतर नहीं होता — बहुत लंबे कंटेक्स्ट में मॉडल फोकस खो सकते हैं।
मॉडल को प्रशिक्षित करने के लिए उपयोग की गई पाठ की श्रृंखला (या अन्य डेटा)। एक संग्रह पुस्तकों और पत्रों के संकलित संग्रह से विशाल स्क्रैपिंग के पूरे इंटरनेट तक विस्तारित हो सकता है। संग्रह की गुणवत्ता और संरचना मॉडल के ज्ञान और व्यवहार के रूप को मूल रूप से आकार देता है।
यह क्यों मायने रखता है:
कचरा इन, कचरा आउट। एक मॉडल जो रेडिट पर प्रशिक्षित है, वैज्ञानिक पत्रिकाओं पर प्रशिक्षित एक मॉडल के बारे में अलग तरह से बात करता है। यही कारण है कि हमने सारा के लिए अपना संकलित कॉर्पस बनाया — सामान्य वेब क्रॉल अस्पष्ट और असंगत परिणाम उत्पन्न करते थे।
संवादात्मक AI इंटरैक्शन के लिए सॉफ़्टवेयर इंटरफ़ेस। आधुनिक चैटबॉट (Claude, ChatGPT, Gemini) LLM-संचालित हैं और ओपन-एंडेड संवाद, कोड, छवियाँ और tools को संभालते हैं।
यह क्यों मायने रखता है: अधिकांश लोग AI से इंटरैक्ट करने का प्राथमिक तरीका। चैटबॉट मॉडल पर बना एक प्रोडक्ट है, मॉडल स्वयं नहीं।
AI में कॉपीराइट इसे यह भी कहते हैं: IP and AI, बौद्धिक संपदा और AI
सुरक्षा
अनसुलझे कानूनी प्रश्न: क्या कॉपीराइट डेटा पर प्रशिक्षण fair use है? AI आउटपुट का मालिक कौन? क्या आउटपुट उल्लंघन कर सकता है यदि वह प्रशिक्षण डेटा से मिलता-जुलता है?
यह क्यों मायने रखता है: हर प्रमुख मॉडल कॉपीराइट सामग्री पर प्रशिक्षित है। मुक़दमे (NYT v. OpenAI, Getty v. Stability) AI अर्थव्यवस्था को नया आकार देंगे।
एक इनपुट को पूर्वनिर्धारित श्रेणियों के एक सेट में से किसी एक में असाइन करने का कार्य। "क्या यह ईमेल स्पैम है या नहीं?" (बाइनरी क्लासिफिकेशन)। "क्या यह छवि बिल्ली, कुत्ता या पक्षी है?" (मल्टी-क्लास)। "इस लेख पर कौन से टैग लागू होते हैं?" (मल्टी-लेबल)। Classification सबसे सामान्य सुपरवाइज़्ड लर्निंग कार्य है और अनगिनत वास्तविक-दुनिया AI अनुप्रयोगों की नींव है।
यह क्यों मायने रखता है: Classification वह जगह है जहाँ अधिकांश लोग पहली बार व्यवहार में मशीन लर्निंग से मिलते हैं — स्पैम फ़िल्टर, कंटेंट मॉडरेशन, चिकित्सा निदान, धोखाधड़ी का पता लगाना, भावना विश्लेषण। Classification को समझना आपको संपूर्ण सुपरवाइज़्ड लर्निंग पाइपलाइन को समझने में मदद करता है: लेबल किया गया डेटा अंदर, प्रशिक्षित मॉडल, भविष्यवाणियाँ बाहर।
ग्रिड-जैसे डेटा (छवियाँ, ऑडियो स्पेक्ट्रोग्राम) को प्रोसेस करने के लिए डिज़ाइन किया गया न्यूरल नेटवर्क आर्किटेक्चर जो इनपुट पर छोटे फ़िल्टर (कर्नल) को स्लाइड करके किनारों, बनावटों और आकृतियों जैसे स्थानीय पैटर्न का पता लगाता है। CNNs ने 2012 (AlexNet) से लेकर लगभग 2020 तक Vision Transformers के उभरने तक कंप्यूटर विज़न पर प्रभुत्व किया। वे अभी भी प्रोडक्शन में व्यापक रूप से उपयोग किए जाते हैं, विशेष रूप से एज डिवाइस पर।
यह क्यों मायने रखता है: CNNs ने डीप लर्निंग क्रांति की शुरुआत की। AlexNet की 2012 ImageNet जीत ने साबित किया कि गहरे न्यूरल नेटवर्क हाथ से इंजीनियर की गई विशेषताओं को नाटकीय रूप से पछाड़ सकते हैं, जिससे वर्तमान AI उछाल शुरू हुआ। CNNs को समझना आपको यह समझने में मदद करता है कि Transformers क्यों काम करते हैं (कई समान विचार — पदानुक्रमिक विशेषताएँ, पैरामीटर शेयरिंग — लागू होते हैं), और संसाधन-सीमित उपकरणों पर कई विज़न कार्यों के लिए CNNs सबसे अच्छा विकल्प बने हुए हैं।
Anthropic द्वारा विकसित एक alignment तकनीक जहाँ एक मॉडल को हर निर्णय के लिए केवल मानव प्रतिक्रिया पर निर्भर रहने के बजाय सिद्धांतों के एक सेट (एक "संविधान") का पालन करने के लिए प्रशिक्षित किया जाता है। मॉडल इन सिद्धांतों के आधार पर अपने स्वयं के आउटपुट की आलोचना और संशोधन करता है, फिर संशोधित आउटपुट पर प्रशिक्षित होता है। यह मानव लेबलर की आवश्यकता को कम करता है और alignment मानदंडों को स्पष्ट और ऑडिट योग्य बनाता है।
यह क्यों मायने रखता है: Constitutional AI RLHF की दो समस्याओं को संबोधित करता है: यह महंगा है (हर प्रशिक्षण उदाहरण के लिए मानव लेबलर) और अपारदर्शी (मानदंड लेबलर के निर्णयों में निहित हैं)। सिद्धांतों को स्पष्ट बनाकर, CAI alignment को अधिक पारदर्शी, स्केलेबल और सुसंगत बनाता है। यह Claude को प्रशिक्षित करने के तरीके का एक मुख्य हिस्सा है।
जब एक नए कार्य पर प्रशिक्षित न्यूरल नेटवर्क पहले सीखे गए कार्यों को करने की अपनी क्षमता खो देता है। ग्राहक सेवा डेटा पर मॉडल को फ़ाइन-ट्यून करने से यह सेवा में उत्कृष्ट हो सकता है लेकिन कोडिंग में भयानक। नई सीख पुरानी क्षमताओं को एन्कोड करने वाले वज़न को अधिलेखित कर देती है, उन्हें "भूल" जाती है।
यह क्यों मायने रखता है: Catastrophic forgetting फ़ाइन-ट्यूनिंग और निरंतर सीखने की केंद्रीय चुनौती है। इसीलिए आप बस एक मॉडल को कार्य के बाद कार्य पर फ़ाइन-ट्यून करते नहीं रह सकते और उम्मीद नहीं कर सकते कि यह सब कुछ अच्छी तरह करे। यही कारण है कि LoRA (जो केवल पैरामीटर का एक छोटा उपसमुच्चय संशोधित करता है) और सावधानीपूर्वक learning rate चयन जैसी तकनीकें आधार मॉडल क्षमताओं को संरक्षित करने के लिए महत्वपूर्ण हैं।
जब benchmark परीक्षण डेटा किसी मॉडल के प्रशिक्षण डेटा में प्रकट होता है, वास्तविक क्षमता को प्रतिबिंबित किए बिना उसके स्कोर को बढ़ाता है। यदि किसी मॉडल ने प्रशिक्षण के दौरान परीक्षण प्रश्नों को देखकर "उत्तर कुंजी का अध्ययन" किया है, तो उसका benchmark प्रदर्शन अर्थहीन है। Contamination एक बढ़ती समस्या है क्योंकि प्रशिक्षण datasets बड़े होते जाते हैं और इंटरनेट का अधिक हिस्सा स्क्रैप करते हैं, जहाँ benchmark डेटा अक्सर प्रकाशित होता है।
यह क्यों मायने रखता है: Contamination उस संपूर्ण benchmark प्रणाली को कमज़ोर करता है जिसका उपयोग AI उद्योग मॉडल की तुलना करने के लिए करता है। एक मॉडल जो MMLU पर 90% स्कोर करता है क्योंकि उसने उत्तर याद कर लिए हैं, 80% स्कोर करने वाले उस मॉडल से अधिक बुद्धिमान नहीं है जिसने उन्हें कभी नहीं देखा। जैसे-जैसे अधिक benchmarks प्रशिक्षण डेटा में लीक होते हैं, समुदाय को लगातार नए benchmarks बनाने के लिए मजबूर होना पड़ता है, और निजी held-out मूल्यांकन सार्वजनिक leaderboards से अधिक महत्वपूर्ण हो जाते हैं।
एक crowdsourced प्लेटफ़ॉर्म (LMSYS द्वारा) जहाँ उपयोगकर्ता दो अनाम AI मॉडल के साथ अगल-बगल चैट करते हैं और वोट करते हैं कि कौन सी प्रतिक्रिया बेहतर है। परिणामों का उपयोग ELO रेटिंग की गणना के लिए किया जाता है — वही रैंकिंग प्रणाली जो शतरंज में उपयोग होती है — स्वचालित benchmarks के बजाय वास्तविक मानव प्राथमिकताओं पर आधारित मॉडल गुणवत्ता का लगातार अपडेट होने वाला leaderboard बनाता है।
यह क्यों मायने रखता है: Chatbot Arena आज की सबसे भरोसेमंद मॉडल तुलना है क्योंकि यह contamination से प्रतिरोधी है (प्रश्न नए हैं), वास्तविक उपयोगकर्ता प्राथमिकताओं को दर्शाता है (सिंथेटिक benchmarks नहीं), और मॉडल को आमने-सामने रखता है (सापेक्ष तुलना निरपेक्ष स्कोर से अधिक विश्वसनीय है)। जब लोग कहते हैं "Claude कोडिंग के लिए GPT से बेहतर है" या इसके विपरीत, Arena रैंकिंग अक्सर प्रमाण होती है।
एक चिप कंपनी जो वेफ़र-स्केल AI प्रोसेसर बनाती है — एक पूरे सिलिकॉन वेफ़र के आकार की चिप, मानक GPU से 100x से अधिक बड़ी। Cerebras WSE-3 (Wafer Scale Engine) में 4 ट्रिलियन ट्रांजिस्टर और 900,000 कोर हैं। उनके CS-3 सिस्टम प्रशिक्षण और inference दोनों के लिए डिज़ाइन किए गए हैं, हज़ारों व्यक्तिगत GPUs के clusters का विकल्प प्रदान करते हैं।
यह क्यों मायने रखता है: Cerebras AI हार्डवेयर की सबसे कट्टरपंथी पुनर्कल्पना का प्रतिनिधित्व करता है। हज़ारों छोटी चिप्स को सीमित bandwidth के साथ जोड़ने के बजाय, वे विशाल ऑन-चिप मेमोरी bandwidth के साथ सब कुछ एक विशाल चिप पर रखते हैं। संभावित लाभ उस संचार bottleneck को समाप्त करना है जो मल्टी-GPU प्रशिक्षण को सीमित करता है। क्या वेफ़र-स्केल computing NVIDIA के विशाल ecosystem के साथ प्रतिस्पर्धा कर सकती है, यह अरब-डॉलर का सवाल है।
एक attention mechanism जहां queries एक sequence से आती हैं और keys/values एक अलग sequence से आते हैं। Encoder-decoder models में, decoder की queries encoder की keys और values पर attend करती हैं, decoder को output generate करते समय input को "देखने" की अनुमति देती हैं। Cross-attention इसी तरह text diffusion models में image generation को condition करता है — image generation process text prompt पर attend करता है।
यह क्यों मायने रखता है: Cross-attention विभिन्न modalities और architecture के विभिन्न भागों के बीच का सेतु है। इसी तरह translation models source और target languages को जोड़ते हैं, image generators text prompts का पालन करते हैं, multimodal models images को text से relate करते हैं, और Retrieval-Augmented systems retrieved documents को शामिल करते हैं। जब भी दो अलग-अलग inputs को interact करने की आवश्यकता होती है, cross-attention आमतौर पर शामिल होता है।
ऐसी techniques जो language models को training के दौरान देखी गई sequences से लंबी sequences handle करने में सक्षम बनाती हैं। 4K tokens पर trained model को उसकी positional encoding (आमतौर पर RoPE) में modifications और longer sequences पर short fine-tuning के combination से 32K या 128K तक extend किया जा सकता है। यह scratch से long sequences पर training की भारी cost से बचाता है।
यह क्यों मायने रखता है: Context length extension ही कारण है कि models केवल दो वर्षों में 4K से 128K से 1M+ context windows तक गए हैं। Million-token sequences पर scratch से model train करने की cost prohibitive होगी। Extension techniques shorter sequences पर trained models को adapt करके long-context models को व्यावहारिक बनाती हैं, जिसके लिए original training compute का केवल एक fraction चाहिए।
एक मॉडल की पहले सीखी गई बातों को भूले बिना लगातार नए डेटा से सीखने की क्षमता। वर्तमान LLMs एक बार प्रशिक्षित किए जाते हैं और फ्रीज़ कर दिए जाते हैं — उन्हें अपडेट करने के लिए महंगे पुनर्प्रशिक्षण की आवश्यकता होती है। सतत शिक्षण मॉडलों को हर इंटरैक्शन से सीखने, नई जानकारी के साथ अद्यतन रहने, और व्यक्तिगत उपयोगकर्ताओं के अनुकूल होने की अनुमति देगा, जैसे मनुष्य स्वाभाविक रूप से सीखते हैं।
यह क्यों मायने रखता है: सतत शिक्षण AI की महान अनसुलझी समस्याओं में से एक है। वर्तमान मॉडलों की ज्ञान कटऑफ़ होती है, वे सुधारों से सीख नहीं सकते, और हर बातचीत को एक खाली स्लेट के रूप में मानते हैं। सतत शिक्षण को हल करने से महंगे पुनर्प्रशिक्षण चक्रों की आवश्यकता समाप्त हो जाएगी, वैयक्तिकृत AI सक्षम होगा जो वास्तव में प्रत्येक उपयोगकर्ता के अनुकूल होता है, और मॉडलों को सदा अद्यतन रहने देगा।
एक प्रशिक्षण रणनीति जो उदाहरणों को एक अर्थपूर्ण क्रम में प्रस्तुत करती है — आमतौर पर आसान से कठिन — बजाय यादृच्छिक रूप से। जैसे एक छात्र को कैलकुलस से पहले अंकगणित पढ़ाना, पाठ्यक्रम शिक्षण मॉडल को पहले बुनियादी पैटर्न देता है और धीरे-धीरे जटिलता बढ़ाता है। इससे तेज़ अभिसरण और कभी-कभी बेहतर अंतिम प्रदर्शन हो सकता है।
यह क्यों मायने रखता है: पाठ्यक्रम शिक्षण एक कम-सराहित तकनीक है जो मॉडल या डेटा बदले बिना प्रशिक्षण दक्षता में सुधार कर सकती है। LLM प्री-ट्रेनिंग तेज़ी से डेटा शेड्यूलिंग का उपयोग करती है — अंतिम प्रशिक्षण चरणों में स्वच्छ, उच्च-गुणवत्ता डेटा दिखाना — जो पाठ्यक्रम शिक्षण का एक रूप है। आप डेटा किस क्रम में प्रस्तुत करते हैं यह मायने रखता है, सिर्फ़ डेटा ही नहीं।
एक unsupervised learning कार्य जो समान डेटा बिंदुओं को पूर्वनिर्धारित लेबल के बिना एक साथ समूहित करता है। ग्राहक खरीद डेटा दिए जाने पर, क्लस्टरिंग अलग-अलग ग्राहक खंडों की खोज कर सकती है (सस्ता खोजने वाले, लक्ज़री खरीदार, कभी-कभार खरीदार)। K-means सबसे आम एल्गोरिथ्म है: K क्लस्टर चुनें, प्रत्येक बिंदु को निकटतम क्लस्टर केंद्र को आवंटित करें, और पुनरावर्ती रूप से केंद्रों को परिष्कृत करें।
यह क्यों मायने रखता है: क्लस्टरिंग सबसे आम unsupervised learning कार्य है और हर जगह दिखाई देता है: ग्राहक विभाजन, दस्तावेज़ समूहीकरण, विसंगति पहचान (ऐसे outliers जो किसी क्लस्टर में फिट नहीं होते), छवि संपीड़न (समान पिक्सेल समूहीकरण), और डेटा अन्वेषण (मेरे डेटा में कौन से प्राकृतिक समूह मौजूद हैं?)। यह अक्सर एक नए डेटासेट को समझने का पहला कदम होता है।
दो वेक्टर के बीच समानता का एक माप जो उनके बीच के कोण पर आधारित है, उनके परिमाण (magnitude) को अनदेखा करते हुए। Cosine similarity 1 का अर्थ है कि वेक्टर एक ही दिशा में इशारा करते हैं (समान अर्थ)। 0 का अर्थ है कि वे लंबवत हैं (असंबंधित)। -1 का अर्थ है विपरीत दिशाएं। यह सिमेंटिक सर्च, RAG, और सिफारिश प्रणालियों में टेक्स्ट embeddings की तुलना के लिए मानक समानता मीट्रिक है।
यह क्यों मायने रखता है: जब भी आप सिमेंटिक सर्च करते हैं, RAG का उपयोग करते हैं, या embeddings की तुलना करते हैं, cosine similarity (संभवतः) वह मीट्रिक है जो तय करता है कि क्या "समान" है। इसे समझने से आपको retrieval गुणवत्ता को डीबग करने, cosine और विकल्पों (डॉट प्रोडक्ट, यूक्लिडियन दूरी) के बीच चुनने, और यह समझने में मदद मिलती है कि कुछ खोज स्पष्ट मिलान क्यों चूक जाती हैं।
OpenAI (2021) का एक मॉडल जो 400 मिलियन इमेज-कैप्शन जोड़ों पर प्रशिक्षण लेकर इमेज और टेक्स्ट को जोड़ना सीखता है। CLIP इमेज और टेक्स्ट को एक ही embedding स्पेस में एन्कोड करता है, जहां मिलान इमेज-टेक्स्ट जोड़े एक-दूसरे के करीब होते हैं और बेमेल जोड़े दूर होते हैं। यह अधिकांश आधुनिक मल्टीमोडल AI सिस्टम में भाषा और दृष्टि के बीच पुल है।
यह क्यों मायने रखता है: CLIP टेक्स्ट-टू-इमेज जनरेशन (Stable Diffusion, DALL-E), इमेज सर्च, ज़ीरो-शॉट इमेज क्लासिफ़िकेशन, और मल्टीमोडल समझ की रीढ़ है। जब आप एक प्रॉम्प्ट टाइप करते हैं और एक इमेज प्राप्त करते हैं, तो CLIP (या एक वंशज) वह है जो आपके शब्दों को दृश्य अवधारणाओं से जोड़ता है। इसने साबित किया कि आप बिना लेबल किए गए इमेज डेटासेट के, केवल प्राकृतिक भाषा पर्यवेक्षण से शक्तिशाली दृश्य प्रतिनिधित्व सीख सकते हैं।
एक आर्किटेक्चर जो इमेज जनरेशन मॉडल में स्थानिक नियंत्रण जोड़ता है। केवल टेक्स्ट में वर्णन करने के बजाय कि आप क्या चाहते हैं ("एक व्यक्ति खड़ा है"), ControlNet आपको यह निर्दिष्ट करने देता है कि कैसे — एक edge map, depth map, pose skeleton, या segmentation map प्रदान करके जो composition को निर्देशित करता है। उत्पन्न इमेज आपके control इनपुट की स्थानिक संरचना का पालन करती है जबकि टेक्स्ट प्रॉम्प्ट से विवरण भरती है।
यह क्यों मायने रखता है: ControlNet ने AI इमेज जनरेशन को पेशेवर कार्यप्रवाहों के लिए उपयोग योग्य बनाया। इसके बिना, आप यादृच्छिक compositions प्राप्त करते हैं और सर्वश्रेष्ठ की आशा करते हैं। इसके साथ, आप ठीक वही pose, layout, या संरचना निर्दिष्ट करते हैं जिसकी आपको आवश्यकता है। यह "मोटे तौर पर मैं जो चाहता हूं वैसा कुछ उत्पन्न करें" और "इन विवरणों के साथ ठीक यह composition उत्पन्न करें" के बीच का अंतर है — डिज़ाइन, विज्ञापन, और उत्पादन कार्य के लिए महत्वपूर्ण।
एक self-supervised learning दृष्टिकोण जो positive pairs (समान आइटम जो embedding स्पेस में करीब होने चाहिए) को negative pairs (असमान आइटम जो दूर होने चाहिए) के विरुद्ध contrast करके मॉडल को प्रशिक्षित करता है। CLIP मिलान इमेज-टेक्स्ट जोड़ों को बेमेल जोड़ों के विरुद्ध contrast करता है। SimCLR एक ही इमेज के augmented दृश्यों को विभिन्न इमेज के दृश्यों के विरुद्ध contrast करता है। मॉडल ऐसे प्रतिनिधित्व सीखता है जहां embedding स्पेस में समानता वास्तविक दुनिया की समानता को प्रतिबिंबित करती है।
यह क्यों मायने रखता है: Contrastive learning वह है जिससे अधिकांश embedding मॉडल प्रशिक्षित किए जाते हैं — वे मॉडल जो semantic search, RAG, और recommendations को शक्ति प्रदान करते हैं। यह CLIP के पीछे का प्रशिक्षण दृष्टिकोण भी है, जो भाषा और दृष्टि को जोड़ता है। जब भी आप समानता मापने के लिए embeddings का उपयोग करते हैं, contrastive learning संभवतः वह है जिससे वे embeddings बनाए गए थे।
प्रशिक्षण के दौरान एक मॉडल की स्थिति का सहेजा गया snapshot — weights, optimizer state, learning rate schedule, और training step। Checkpoints आपको रुकावटों (hardware failure, preemption) के बाद प्रशिक्षण फिर से शुरू करने, मॉडल के मध्यवर्ती संस्करणों का मूल्यांकन करने, और यदि प्रशिक्षण खराब होता है तो पहले के संस्करण पर वापस जाने देते हैं। हर कुछ हज़ार steps पर checkpoints सहेजना मानक प्रथा है।
यह क्यों मायने रखता है: बड़े मॉडलों को प्रशिक्षित करने में दिन से महीने लगते हैं। Checkpoints के बिना, 100,000-step प्रशिक्षण रन के step 90,000 पर GPU failure का अर्थ है शुरू से शुरू करना। Checkpoints बीमा हैं: वे incrementally प्रगति सहेजते हैं ताकि आप केवल अंतिम checkpoint के बाद से काम खोएं। वे model selection भी सक्षम करते हैं — कभी-कभी एक पहले का checkpoint आपके evaluation metrics पर अंतिम से बेहतर प्रदर्शन करता है।
एक गणितीय operation जो स्थानीय patterns का पता लगाने के लिए एक छोटे filter (kernel) को input पर slide करता है। Images में, एक 3×3 kernel हर position पर slide करता है, underlying pixels के साथ dot product compute करके एक feature map उत्पन्न करता है। Different kernels different patterns detect करते हैं: horizontal edges, vertical edges, textures, और अंततः deeper layers में आँखें या पहिये जैसी जटिल features।
यह क्यों मायने रखता है: Convolution वह operation है जिसने computer vision को काम करवाया। यह दो शक्तिशाली assumptions encode करता है: locality (पास के pixels संबंधित हैं) और translation equivariance (एक pattern वही है चाहे वह कहीं भी दिखे)। ये assumptions fully connected layers की तुलना में parameters की संख्या को नाटकीय रूप से कम करती हैं, जिससे high-resolution images को process करना संभव हो जाता है। Transformer युग में भी, convolutions कई hybrid architectures में उपयोग किए जाते हैं।
AI characters बनाने और उनसे chat करने का platform — काल्पनिक व्यक्तित्व, ऐतिहासिक हस्तियाँ, और custom personas जो conversations में consistent personality, ज्ञान, और बोलने की शैली बनाए रखते हैं। पूर्व Google Brain शोधकर्ताओं द्वारा स्थापित, Character.AI massive consumer adoption प्राप्त करने वाले पहले AI products में से एक था, लाखों daily users के साथ, मुख्य रूप से युवा demographics।
यह क्यों मायने रखता है: Character.AI ने साबित किया कि social/entertainment AI massive engagement drive कर सकता है — users Character.AI पर कई social media platforms से अधिक समय बिताते हैं। इसने "AI companion" category की शुरुआत की और demonstrate किया कि personality consistency, emotional engagement, और role-play capability factual accuracy जितनी ही व्यावसायिक रूप से महत्वपूर्ण हैं। Google ने 2024 में कंपनी में $2.7B का निवेश किया।
जब आपके पास अलग test set के लिए पर्याप्त डेटा नहीं होता, तब मॉडल प्रदर्शन का मूल्यांकन करने की तकनीक। K-fold cross-validation डेटा को K बराबर भागों में विभाजित करता है, K−1 भागों पर प्रशिक्षित करता है और शेष भाग पर मूल्यांकन करता है, K बार घुमाता है ताकि हर data point का उपयोग प्रशिक्षण और मूल्यांकन दोनों के लिए हो। सभी K folds में औसत score एक अकेले train/test split की तुलना में अधिक विश्वसनीय प्रदर्शन अनुमान देता है।
यह क्यों मायने रखता है: Cross-validation तब आवश्यक है जब डेटा दुर्लभ हो — यदि आपके पास केवल 500 उदाहरण हैं, तो testing के लिए 100 अलग रखने का मतलब 20% कम डेटा पर प्रशिक्षण है। Cross-validation सभी डेटा का उपयोग प्रशिक्षण और मूल्यांकन दोनों के लिए करता है। यह आपको एकल संख्या के बजाय confidence interval (folds में variance) भी देता है, जो बताता है कि आपके मॉडल का प्रदर्शन कितना स्थिर है।
AI workloads के लिए पूरी तरह GPU computing के इर्द-गिर्द बनाया गया एक विशिष्ट cloud provider। CoreWeave NVIDIA GPUs (H100, H200) के बड़े clusters संचालित करता है और GPU data centers बनाने के लिए अरबों डॉलर की funding और debt financing सुरक्षित कर चुका है। प्रमुख AI कंपनियाँ (Microsoft और कई AI labs सहित) scale पर training और inference के लिए CoreWeave का उपयोग करती हैं।
यह क्यों मायने रखता है: CoreWeave AI में सबसे तेज़ी से बढ़ती infrastructure कंपनियों में से एक है, इस दाँव पर कि विशिष्ट GPU cloud providers AI workloads के लिए general-purpose hyperscalers से बेहतर प्रतिस्पर्धा कर सकते हैं। उनका focus अधिक कुशल GPU utilization, purpose-built networking (training clusters के लिए InfiniBand), और GPU-intensive काम के लिए AWS/GCP से 30–50% कम pricing सक्षम करता है।
मशीन लर्निंग का एक उपसमूह जो बहुत सी परतों वाले न्यूरल नेटवर्क का उपयोग करता है (इसलिए "डीप") डेटा के हिरार्किक प्रतिनिधित्व सीखने के लिए। प्रत्येक परत अपने इनपुट को कुछ थोड़ा अधिक अमूर्त — पिक्सल से किनारों तक, आकृतियों तक, वस्तुओं तक और अवधारणाओं तक बदलती है। डीप लर्निंग आधुनिक एआई क्रांति के संभव बनाने वाला है: यह एलएलएम, छवि जनरेटर, बोली की पहचान और 2012 के बाद से लगभग हर एआई प्रगति के पीछे के दृष्टिकोण है।
यह क्यों मायने रखता है: डीप लर्निंग वर्तमान AI युग के मुख्य बल है। 2012 के पहले, AI विशेषज्ञ एल्गोरिदम के संग्रह के रूप में था। डीप लर्निंग एक एकल परिकल्पना के तहत सब कुछ एकजुट कर दिया: पर्याप्त परतें बनाएं, पर्याप्त डेटा फीड करें, पर्याप्त कंप्यूटिंग शक्ति उस पर फेंकें, और मॉडल बाकी को समझ लेता है। डीप लर्निंग को समझना यह समझना है कि AI क्यों अचानक काम करने लगता है।
एआई-सक्षम एप्लिकेशन बनाने में सहायता करने वाली पुस्तकालयों, फ्रेमवर्क और प्लेटफॉर्म के एकोसिस्टम। इसमें अनुक्रमन फ्रेमवर्क (LangChain, LlamaIndex), अनुमान सर्वर (vLLM, llama.cpp), फाइन-ट्यूनिंग उपकरण (Axolotl, Unsloth), मूल्यांकन फ्रेमवर्क (LMSYS, Braintrust) और पूर्ण-स्टैक प्लेटफॉर्म (Vercel AI SDK, Hugging Face) शामिल हैं। उपकरण लैंडस्केप महीने दर महीने बदलता रहता है।
यह क्यों मायने रखता है: क्रूड मॉडल APIs आवश्यक हैं लेकिन पर्याप्त नहीं हैं। विकासक उपकरण 'मैं एक API कुंजी रखता हूं' और 'मैं एक उत्पादन एप्लिकेशन रखता हूं' के बीच के अंतर को पूरा करते हैं। सही उपकरण विकास समय को महीनों से दिनों तक कम कर सकते हैं, — जबकि — गलत उपकरण मूल्य के बिना जटिलता जोड़ते हैं।
AI द्वारा उत्पादित छवियाँ, वीडियो या ऑडियो जो वास्तविक व्यक्तियों को ऐसा दिखाने के लिए डिज़ाइन किए गए हैं जैसे वे कभी नहीं करते थे। मूल रूप से GAN तकनीक पर बनाए गए, आधुनिक डीपफेक विसरण मॉडल और आवाज क्लोनिंग का उपयोग करते हैं ताकि उत्पादन वास्तविकता से अलग करना बहुत कठिन हो जाए। अनुमान उपकरण मौजूद हैं लेकिन वे उत्पादन क्षमताओं के पीछे बराबर रहते हैं।
यह क्यों मायने रखता है:
डीपफेक्स जेनेरेटिव एआई की रचनात्मक क्षमता की अंधेरी ओर हैं। इनका उपयोग ठगी, अनैच्छिक निजी छवि, राजनीतिक गुंडागर्दी और पहचान चोरी के लिए किया गया है। अब तकनीक इतनी उपलब्ध हो गई है कि कोई भी लैपटॉप वाला व्यक्ति विश्वासजनक फेक्स बना सकता है, जिससे पहचान, वॉटरमार्किंग और कानूनी ढांचा तत्काल प्राथमिकता बन गए हैं।
भौतिक सुविधाएं जो सर्वर, जीपीयू, नेटवर्किंग उपकरण और शीतलन प्रणाली को रखती हैं जो एआई मॉडल के प्रशिक्षण और चलाने के लिए आवश्यक हैं। आधुनिक एआई डेटा सेंटर बड़े पैमाने पर समानांतर कंप्यूटेशन के लिए उद्देश्य से बनाए गए हैं, जो मेगावाट के शक्ति का उपयोग करते हैं और विशेष शीतलन की आवश्यकता होती है। एक अकेला फ्रंटियर मॉडल प्रशिक्षण चलाने के लिए कई महीनों तक पूरे सुविधा में हजारों जीपीयू का उपयोग कर सकता है।
यह क्यों मायने रखता है: डेटा केंद्र AI युग के कारखाना हैं। क्लॉड के प्रत्येक प्रश्न, मिडजरनी से प्रत्येक छवि, रनवे से प्रत्येक वीडियो इनमें से किसी एक इमारत में स्थित हार्डवेयर पर चलता है। वैश्विक AI-तैयार डेटा केंद्र क्षमता की कमी AI विकास पर सबसे बड़ी सीमाओं में से एक है — और निवेश अवसरों में से सबसे बड़ा एक भी है।
जर्मन AI कंपनी जो दुनिया की सर्वोत्तम मशीन अनुवाद सेवा के रूप में व्यापक रूप से मानी जाती है। एक गणनात्मक भाषाविज्ञानी टीम द्वारा बनाई गई है, जो गूगल अनुवाद और अन्य बड़ी टेक फर्मों के प्रस्तावों के बारे में निरंतर बेहतर प्रदर्शन करती है, विशेष रूप से यूरोपीय भाषाओं के लिए।
यह क्यों मायने रखता है:
डीपएल एक विशेषज्ञ AI कंपनी के रूप में अपने मुख्य क्षमता पर अरबों डॉलर के प्रतियोगियों के बराबर नहीं हो सकती है इसका प्रमाण है। एक क्षेत्र में जहां बड़ा आमतौर पर बेहतर होता है, डीपएल के अनुवाद गुणवत्ता में गूगल और माइक्रोसॉफ्ट के बराबर यूरोपीय भाषाओं और व्यावसायिक उपयोग मामलों में मापनीय और महत्वपूर्ण लाभ बना रहता है। उनकी सफलता यह धारणा को चुनौती देती है कि व्यापक उद्देश्य AI मॉडल अनिवार्य रूप से विशेषज्ञ विषयों के लिए सामान्य बना देंगे और लाखों व्यवसायों के लिए जो अक्षरशः अनुवाद के बीच सटीक संचार पर निर्भर करते हैं, विशेषज्ञता खरीदने लायक है।
ईजरील AI कंपनी वास्तविक समय में AI उत्पादन की सीमाओं को बढ़ा रही है। उनकी तकनीक वास्तविक समय में इंटरएक्टिव गेम के तरह के परिवेश उत्पन्न कर सकती है, पारंपरिक रेंडरिंग और AI उत्पादन के बीच की रेखा को धुंधला कर रही है।
यह क्यों मायने रखता है: डेकार्ट एआई ने उस चीज़ का प्रदर्शन किया जिसे अधिकांश लोग वर्षों बाद आएगा सोचते थे: एक न्यूरल नेटवर्क जो वास्तविक समय में खेलने योग्य, बर्तनीय 3D दुनिया बनाता है, जिसमें कोई पारंपरिक गेम इंजन शामिल नहीं होता। उनके ओएसिस डेमो एक सिद्धांत के रूप में था कि AI-नेटिव दुनिया सिमुलेशन के लिए, एक तकनीक जिसके अनुप्रयोग गेमिंग से बाहर बहुत अधिक हैं — स्वचालित ड्राइविंग से रोबोटिक्स तक और स्पेशल कंप्यूटिंग तक। अगर वास्तविक समय में दुनिया मॉडल उत्पादन गुणवत्ता में व्यावहारिक हो जाते हैं, तो डेकार्ट के अनुमान अनुकूलन और बर्तनीय उत्पादन पर उनके शुरुआती काम आधारभूत रहे होंगे।
चीनी एआई लैब जो 2025 के शुरुआती दिनों में DeepSeek-R1 के साथ उद्योग को हिलाकर रख देने वाला था, एक तर्क संबंधी मॉडल जो अग्रणी लैब्स के बराबर है लेकिन प्रशिक्षण लागत का एक छोटा हिस्सा में। क्वांटिटेटिव हेज फंड High-Flyer द्वारा समर्थित।
यह क्यों मायने रखता है: DeepSeek ने यह मान्यता तोड़ दी कि फ्रंटियर एआई के लिए फ्रंटियर बजट आवश्यक होता है। उनका कुशलता-प्रथम दृष्टिकोण — GPT-4 कक्षा और o1 कक्षा प्रदर्शन प्राप्त करना प्रशिक्षण लागत के एक छोटे हिस्से में — सम्पूर्ण उद्योग को स्केलिंग ही आवश्यक है के नारे को पुनर्विचार करने के लिए मजबूर कर दिया और आर्किटेक्चर नवाचार पर फोकस करने पर फिर से ध्यान केंद्रित करने के लिए बाध्य कर दिया। R1 के खुले वेट्स के साथ MIT लाइसेंस के तहत रिलीज ने तर्क प्रतिमानों तक पहुंच को लोकतंत्र कर दिया, जिस तरह कोई पश्चिमी प्रयोगशाला पहले नहीं कर सकी थी। और भू-राजनीति के दृष्टिकोण से, DeepSeek ने दिखाया कि निर्यात नियंत्रण ही एआई क्षमता को नियंत्रित नहीं कर सकते हैं, जो तकनीकी नीति, निवेश और एआई में वैश्विक शक्ति संतुलन के लिए गहरे अंतर्गत अर्थ वाली एक अभिज्ञता है।
Deepgram Nova स्पीच-टू-टेक्स्ट, Aura टेक्स्ट-टू-स्पीच
कंपनियाँ
एक स्पीच AI कंपनी जो तेज़ और सटीक स्पीच रेकॉग्निशन और टेक्स्ट-टू-स्पीच APIs बना रही है। उनके नोवा मॉडल्स एक्यूरेसी में OpenAI के व्हिस्पर के साथ प्रतिस्पर्धा करते हैं और अक्सर उसके ऊपर जीत लेते हैं, जबकि रियल-टाइम एप्लिकेशन्स के लिए बहुत तेज़ चलते हैं।
यह क्यों मायने रखता है: Deepgram ने यह साबित कर दिया कि एक स्टार्टअप एंड-टू-एंड डीप लर्निंग का उपयोग करके स्पीच पहचान को शून्य से बना सकता है और गूगल, अमेज़ॅन और माइक्रोसॉफ्ट के साथ सटीकता में एक-दूसरे के सामने प्रतिस्पर्धा कर सकता है, जबकि उन्हें गति में पीछे छोड़ सकता है। उनके विकासक-पहल API प्रयोग ने वॉइस एआई में आधुनिक तंत्र पैटर्न लाए, जिससे एक ऐप में ट्रांसक्रिप्शन जोड़ना उतना ही आसान हो गया है जितना कि स्ट्राइप के साथ भुगतान जोड़ना। जैसे-जैसे संवादात्मक एआई एजेंट्स मुख्यधारा में आते हैं, डीपग्राम खुद को एक महत्वपूर्ण बोली बाहरी तंत्र परत के रूप में स्थापित कर रहा है — वह पाइपिंग जो वॉइस-पहल एआई को वास्तव में उत्पादन में काम करने देती है।
एक प्रकार का जननात्मक मॉडल जो शुद्ध शोर से शुरू करके धीरे-धीरे इसे हटाकर चित्र (या वीडियो, ऑडियो) बनाता है जब तक एक संगत आउटपुट दिखाई देता है। मॉडल वास्तविक डेटा में शोर जोड़ने की प्रक्रिया को उल्टा करना सीखता है। स्टेबल डिफ्यूजन, DALL-E 3 और मिडजर्नी सभी इस दृष्टिकोण के विभिन्न संस्करणों का उपयोग करते हैं।
यह क्यों मायने रखता है: डिफ्यूजन मॉडल्स ने 2022 के आसपास जेनरेटिव एडवर्सरियल नेटवर्क्स (GANs) के स्थान पर ले लिया और छवि उत्पादन के मुख्य तकनीक के रूप में बन गए। वे अधिक विविध और नियंत्रित करने योग्य आउटपुट उत्पन्न करते हैं और आज के लगभग हर छवि और वीडियो AI उपकरण के मुख्य संरचना हैं।
डिस्टिलेशन इसे यह भी कहते हैं: Knowledge Distillation, ज्ञान आसवन
प्रशिक्षण
एक छोटे "student" मॉडल को बड़े "teacher" मॉडल की नकल करने के लिए प्रशिक्षित करना, कठोर लेबल के बजाय teacher की soft probability distributions से सीखकर। Soft outputs श्रेणियों के बीच ऐसे संबंध एनकोड करते हैं जो कठोर लेबल व्यक्त नहीं करते।
यह क्यों मायने रखता है: डिस्टिलेशन शक्तिशाली AI को सुलभ बनाता है। एक 70B→7B डिस्टिलेशन 10% लागत पर 90% क्षमता प्राप्त कर सकता है। कई स्थानीय रूप से चलने वाले मॉडल frontier मॉडल से distilled हैं।
DPO इसे यह भी कहते हैं: Direct Preference Optimization, प्रत्यक्ष वरीयता अनुकूलन
प्रशिक्षण
Alignment के लिए RLHF का एक विकल्प। DPO पसंदीदा/अस्वीकृत प्रतिक्रियाओं के जोड़ों का उपयोग करके मॉडल को सीधे optimize करता है, बिना किसी अलग reward model या RL के। सरल, अधिक स्थिर, कम compute।
यह क्यों मायने रखता है: DPO ने alignment को लोकतांत्रिक बनाया। RLHF की बहु-चरणीय pipeline जटिल है; DPO इसे एक चरण में समेट देता है। कई open-weight मॉडल अब DPO variants का उपयोग करते हैं।
मशीन लर्निंग मॉडल को प्रशिक्षित, मूल्यांकन या परीक्षण करने के लिए उपयोग किया जाने वाला डेटा का एक संरचित संग्रह। Datasets लेबल किए गए (प्रत्येक उदाहरण का एक ज्ञात सही उत्तर होता है) या बिना लेबल के (बिना एनोटेशन के कच्चा डेटा) हो सकते हैं। किसी dataset की गुणवत्ता, आकार, विविधता और प्रतिनिधित्व मूल रूप से यह निर्धारित करते हैं कि एक मॉडल क्या सीख सकता है।
यह क्यों मायने रखता है: कचरा अंदर, कचरा बाहर। खराब dataset पर प्रशिक्षित सबसे सुरुचिपूर्ण आर्किटेक्चर भी खराब परिणाम देगा। इसके विपरीत, उत्कृष्ट डेटा पर प्रशिक्षित एक सरल मॉडल अक्सर शोर पर प्रशिक्षित जटिल मॉडल से बेहतर प्रदर्शन करता है। Dataset क्यूरेशन AI विकास का सबसे प्रभावशाली और सबसे कम आकर्षक हिस्सा है।
एक regularization तकनीक जो प्रत्येक प्रशिक्षण चरण के दौरान न्यूरॉन्स के एक अंश को उनके आउटपुट को शून्य पर सेट करके यादृच्छिक रूप से "बंद" कर देती है। यह नेटवर्क को किसी एक न्यूरॉन पर बहुत अधिक निर्भर होने से रोकता है, इसे वितरित, मज़बूत प्रतिनिधित्व सीखने के लिए मजबूर करता है। Inference के समय, सभी न्यूरॉन सक्रिय होते हैं लेकिन तदनुसार स्केल किए जाते हैं।
यह क्यों मायने रखता है: Dropout ओवरफिटिंग के खिलाफ सबसे सरल और सबसे व्यापक रूप से उपयोग किया जाने वाला बचाव है। Regularization के बिना, बड़े न्यूरल नेटवर्क सामान्यीकरण योग्य पैटर्न सीखने के बजाय प्रशिक्षण डेटा को याद कर लेते हैं। Dropout (और इसके चचेरे भाई weight decay) इसलिए हैं कि मॉडल अपने प्रशिक्षण सेट से बहुत बड़े हो सकते हैं बिना सब कुछ याद किए।
एक आर्किटेक्चर जो diffusion मॉडल में पारंपरिक रूप से उपयोग किए जाने वाले U-Net बैकबोन को Transformer से बदलता है। DiT इमेज जनरेशन में attention तंत्र लागू करता है, जिससे वही scaling व्यवहार सक्षम होता है जिसने LLMs को इतना शक्तिशाली बनाया। Sora, Flux, Stable Diffusion 3, और अधिकांश अत्याधुनिक इमेज और वीडियो जनरेटर DiT या इसके वेरिएंट का उपयोग करते हैं।
यह क्यों मायने रखता है: DiT ने भाषा और इमेज जनरेशन की दुनियाओं को एक एकल आर्किटेक्चरल प्रतिमान: Transformer के तहत एकीकृत किया। इसका मतलब है कि LLMs के लिए विकसित scaling laws, प्रशिक्षण तकनीकें और ऑप्टिमाइज़ेशन रणनीतियाँ बड़े पैमाने पर इमेज और वीडियो जनरेशन में स्थानांतरित होती हैं। इसीलिए इमेज गुणवत्ता में इतनी तेज़ी से सुधार हुआ है — यह क्षेत्र भाषा की तरह ही scaling curve पर सवार है।
ऐसी तकनीकें जो मौजूदा उदाहरणों के संशोधित संस्करण बनाकर प्रशिक्षण dataset को कृत्रिम रूप से विस्तारित करती हैं। छवियों के लिए: फ़्लिप करना, घुमाना, क्रॉप करना, रंग बदलना। टेक्स्ट के लिए: पैराफ्रेज़ करना, बैक-ट्रांसलेशन, समानार्थी प्रतिस्थापन। ऑडियो के लिए: गति परिवर्तन, शोर इंजेक्शन। लक्ष्य मॉडल को invariances सिखाना है — एक बिल्ली बिल्ली ही है चाहे छवि फ़्लिप हो, अंधेरी हो या क्रॉप की गई हो।
यह क्यों मायने रखता है: Data augmentation सीमित डेटा होने पर मॉडल प्रदर्शन में सुधार का सबसे सस्ता तरीका है। यह मॉडल को प्रत्येक उदाहरण की कई विविधताएँ दिखाकर ओवरफिटिंग को कम करता है, इसे सतही विवरणों के बजाय आवश्यक विशेषताओं पर ध्यान केंद्रित करना सिखाता है। कंप्यूटर विज़न में, augmentation नियमित रूप से मुफ़्त में 2–5% accuracy सुधार प्रदान करता है।
एक मॉडल को एक साथ कई GPUs या मशीनों पर प्रशिक्षित करना। Data parallelism प्रत्येक GPU को मॉडल की एक कॉपी देती है और प्रशिक्षण डेटा को विभाजित करती है। Model parallelism मॉडल को ही GPUs में विभाजित करता है जब वह एक में समाने के लिए बहुत बड़ा होता है। FSDP (Fully Sharded Data Parallel) और DeepSpeed जैसे आधुनिक दृष्टिकोण दोनों को संयोजित करते हैं, जिससे सैकड़ों अरब पैरामीटरों वाले मॉडलों का प्रशिक्षण संभव होता है।
यह क्यों मायने रखता है: कोई भी फ्रंटियर मॉडल एक अकेले GPU में नहीं समाता। GPT-4 या Claude को प्रशिक्षित करने के लिए हज़ारों GPUs को महीनों तक एक साथ काम करना पड़ता है। वितरित प्रशिक्षण वह इंजीनियरिंग है जो इसे संभव बनाती है — यह आर्किटेक्चर या डेटा जितना ही महत्वपूर्ण है। आपके वितरित प्रशिक्षण की दक्षता सीधे निर्धारित करती है कि दिए गए बजट में आप कितना बड़ा मॉडल प्रशिक्षित कर सकते हैं।
ऐसी तकनीक जो लाभकारी और हानिकारक दोनों उद्देश्यों के लिए उपयोग की जा सकती है। AI स्वाभाविक रूप से दोहरे उपयोग वाला है: वही मॉडल जो डॉक्टर को बीमारियों का निदान करने में मदद करता है, एक बुरे कर्ता को खतरनाक यौगिकों को संश्लेषित करने में मदद कर सकता है। वही कोड-जनरेशन मॉडल जो सॉफ्टवेयर विकास को तेज़ करता है, मालवेयर बनाने में मदद कर सकता है। दोहरे उपयोग के जोखिम का प्रबंधन AI शासन की एक केंद्रीय चुनौती है।
यह क्यों मायने रखता है: दोहरा उपयोग AI विकास का मौलिक तनाव है। मॉडलों को अधिक सक्षम बनाना अनिवार्य रूप से उन्हें नुकसान के लिए अधिक सक्षम बनाता है। आप एक शक्तिशाली तर्क इंजन नहीं बना सकते जो केवल अच्छी चीज़ों के बारे में तर्क करे। यह तनाव ओपन-सोर्स रिलीज़, API प्रतिबंधों, और विनियमन के बारे में बहसों को प्रेरित करता है — जब समान क्षमता दोनों को सक्षम करती है तो लाभ को अधिकतम और नुकसान को कम कैसे करें?
एक गणितीय ढाँचा जो समग्र डेटा विश्लेषण और मॉडल प्रशिक्षण में व्यक्तिगत गोपनीयता की गारंटी देता है। विभेदक गोपनीयता के साथ, किसी भी एक व्यक्ति के डेटा को जोड़ने या हटाने से आउटपुट अधिकतम एक छोटी, सीमित मात्रा में बदलता है। इसका अर्थ है कि आप डेटासेट से उपयोगी पैटर्न सीख सकते हैं बिना उसमें किसी विशिष्ट व्यक्ति के बारे में जानकारी प्रकट किए।
यह क्यों मायने रखता है: जैसे-जैसे AI तेज़ी से व्यक्तिगत डेटा (स्वास्थ्य रिकॉर्ड, वित्तीय लेनदेन, संदेश) पर प्रशिक्षित होता है, विभेदक गोपनीयता सबसे मज़बूत ज्ञात गारंटी प्रदान करती है कि व्यक्तिगत डेटा मॉडल से निकाला नहीं जा सकता। इसका उपयोग Apple (कीबोर्ड predictions), Google (Chrome उपयोग विश्लेषण), और US Census Bureau करता है। AI के लिए, यह उस चिंता को संबोधित करती है कि LLMs निजी प्रशिक्षण डेटा को याद और पुनरुत्पादित कर सकते हैं।
OpenAI का image generation मॉडल परिवार। DALL-E 1 (2021) ने discrete VAE + Transformer दृष्टिकोण का उपयोग किया। DALL-E 2 (2022) ने CLIP + diffusion का उपयोग किया। DALL-E 3 (2023) ChatGPT में एकीकृत है और prompt following पर जोर देता है — यह generation से पहले उपयोगकर्ता prompts को विस्तृत image विवरणों में पुनर्लिखित करने के लिए एक LLM का उपयोग करता है, जो आपके अनुरोध और प्राप्त परिणाम के बीच मिलान में महत्वपूर्ण सुधार करता है।
यह क्यों मायने रखता है: DALL-E वह मॉडल था जिसने जनता को AI image generation के बारे में जागरूक किया। DALL-E 2 का 2022 में लॉन्च viral हुआ और AI-generated imagery के बारे में उत्साह और चिंता दोनों को जन्म दिया। DALL-E 3 का ChatGPT के साथ एकीकरण ने image generation को करोड़ों उपयोगकर्ताओं के लिए सुलभ बना दिया। इसके prompt-rewriting innovation ने प्रभावित किया कि अन्य मॉडल text-to-image conversion को कैसे संभालते हैं।
एक neural network component जो एक representation से output generate करता है। Transformers में, decoder causal (left-to-right) attention का उपयोग करके एक बार में एक token generate करता है। Image generation में, VAE decoder latent representations को वापस images में बदलता है। Autoencoders में, decoder compressed bottleneck से मूल input को reconstruct करता है। Decoders कई architectures का "generation" आधा हिस्सा हैं।
यह क्यों मायने रखता है: हर generative AI system के core में एक decoder है। GPT, Claude, और Llama decoder-only Transformers हैं। Stable Diffusion images produce करने के लिए VAE decoder उपयोग करता है। Decoders को समझना बताता है कि generation sequential क्यों है (प्रत्येक token पिछले tokens पर निर्भर करता है), output input processing से धीमा क्यों है, और autoregressive paradigm text generation पर क्यों हावी है।
एक data और AI platform जो unified analytics, data engineering, और machine learning capabilities प्रदान करता है। Databricks ने LLM training capabilities जोड़ने के लिए Mosaic ML (2023) का अधिग्रहण किया और अपना open-weight LLM, DBRX, जारी किया। Platform Apache Spark पर बना है और data preparation से model serving तक पूर्ण ML lifecycle के लिए managed infrastructure प्रदान करता है।
यह क्यों मायने रखता है: Databricks वह जगह है जहाँ enterprise data AI से मिलता है। अधिकांश कंपनियों की AI महत्वाकांक्षाएँ "हमें अपने data का समझना है" से शुरू होती हैं, और Databricks अक्सर वह platform है जो data engineering, feature engineering, model training, और serving को एक ही स्थान पर संभालता है। Mosaic ML (कुशल LLM training के लिए जाने जाते हैं) के उनके अधिग्रहण ने संकेत दिया कि data platform और AI platform converge हो रहे हैं।
समय के साथ data distribution या मॉडल व्यवहार में ऐसे परिवर्तनों की निगरानी करना जो प्रदर्शन को ख़राब कर सकते हैं। Data drift: इनपुट डेटा बदलता है (ग्राहक demographics shift होते हैं, नई उत्पाद श्रेणियाँ आती हैं)। Concept drift: इनपुट और सही आउटपुट के बीच का संबंध बदलता है (spam की परिभाषा विकसित होती है)। Model drift: मॉडल की भविष्यवाणियाँ धीरे-धीरे कम सटीक हो जाती हैं भले ही मॉडल स्वयं नहीं बदला।
यह क्यों मायने रखता है: मॉडल ऐतिहासिक डेटा पर प्रशिक्षित होते हैं, लेकिन दुनिया बदलती रहती है। 2024 में प्रशिक्षित fraud detection मॉडल 2025 के नए fraud patterns को चूक जाएगा। महामारी-पूर्व व्यवहार पर प्रशिक्षित recommendation system महामारी के बाद ख़राब सुझाव देगा। Drift detection इन गिरावटों को महँगा होने से पहले पकड़ता है — आपको सचेत करता है कि मॉडल को retraining या अपडेट की ज़रूरत है।
क्षमताएं जो बड़े पैमाने पर AI मॉडल में दिखाई देती हैं लेकिन उनके लिए विशेष रूप से प्रशिक्षित नहीं किया गया था — जो क्षमताएं एक मॉडल के एक निश्चित आकार या प्रशिक्षण सीमा तक पहुंचने के बाद अचानक "उत्पन्न" हो जाती हैं। एक मॉडल जो विशेष रूप से अगले शब्द का अनुमान लगाने के लिए प्रशिक्षित किया गया होता है, कुछ तरह से गणित करना, उन भाषाओं के बीच अनुवाद करना जिनके लिए उसे प्रशिक्षित नहीं किया गया था, या कार्य करने वाले कोड लिखना सीख जाता है। उत्पत्ति AI में सबसे चर्चित परिघटनाओं में से एक है: क्या यह वास्तविक चरण-परिवर्तन जादू है या मापन के अपरिचित तत्व है?
यह क्यों मायने रखता है: एमर्जेंस सबसे बड़े प्रश्न के केंद्र में है: क्या हम यह पूर्वानुमान लगा सकते हैं कि बड़े मॉडल क्या कर सकते हैं? यदि क्षमताएं वास्तव में पैमाने पर अनुमान बिना उभरती हैं, तो प्रत्येक बड़ा मॉडल एक अचंभा बॉक्स होता है—यदि एमर्जेंस हमारे मापने के तरीके का एक अंतर्निहित विशेषता है, तो पैमाने के विस्तार के अपने दिखावट से अधिक अनुमानित होता है। उत्तर सुरक्षा योजना से लेकर निवेश निर्णय तक सब कुछ निर्धारित करता है।
एक एआई मॉडल के प्रदर्शन को मापने के लिए उपयोग किए जाने वाले तरीके। यह बेंचमार्क्स से बहुत आगे जाता है — इसमें मानव मूल्यांकन (लोगों द्वारा आउटपुट का रेटिंग करना), A/B परीक्षण (वास्तविक ट्रैफिक पर मॉडल की तुलना), रेड टीमिंग (विरोधी परीक्षण), डोमेन-विशिष्ट परीक्षण (चिकित्सा सटीकता, कोड सहीता), और समुदाय लीडरबोर्ड (चैटबॉट एरिना, एलएमएसआईएस) शामिल हैं। अच्छा मूल्यांकन मॉडल बनाने से कठिन होता है।
यह क्यों मायने रखता है: अगर आप इसे माप नहीं सकते, तो इसे सुधार नहीं सकते। लेकिन AI मूल्यांकन विशेष रूप से कठिन है क्योंकि कार्य खुले-खुले अंत वाले होते हैं और गुणवत्ता विषयगत होती है। मानक अंकपत्र खेल में लगे रहते हैं, मानव मूल्यांकन महंगा होत
वॉइस एआई कंपनी जिसने सभी के लिए अत्यधिक वास्तविक बोली संश्लेषण को उपलब्ध कराया। उनकी तकनीक 32 भाषाओं में आवाज क्लोनिंग, रियल-टाइम डबिंग और टेक्स्ट-टू-स्पीच को संभालती है, जो मनुष्य और एआई आवाजों के बीच रेखा को धुंधला करती है।
यह क्यों मायने रखता है: ElevenLabs ने साबित कर दिया कि AI-जनित बोली अजीब घाटी को पार कर सकती है और वास्तव में मनुष्य की तरह लग सकती है, व्यावसायिक आवाज उत्पादन की लागत और समय को कई गुना कम कर देता है। उनके आवाज के डुप्लिकेशन और बहुभाषी डबिंग उपकरणों ने एक अकेले निर्माता के लिए 30+ भाषाओं में सामग्री बनाने के लिए एक भी आवाज कलाकार को नियुक्त किए बिना संभव बना दिया है, ऑडियो और वीडियो स्थानीयकरण की आर्थिक रूप से बुनियादी ढांचा बदल दिया है। वे उद्योग के पूरे क्षेत्र को सिंथेटिक आवाज तकनीक के नैतिकता के सामना करने के लिए मजबूर कर दिया है, वॉटरमार्किंग, सामग्री के मूल स्रोत के मानक और सत्यापन प्रोटोकॉल के अपनाने के लिए आगे बढ़ा रहे हैं, जो अब मानक बन गए हैं।
एक तरीका जो टेक्स्ट (या इमेज, या ऑडियो) को संख्याओं की सूची (एक वेक्टर) के रूप में प्रतिनिधित्व करता है जो इसके अर्थ को पकड़ता है। इस संख्या स्पेस में समान अवधारणाएं एक साथ बर्दाश्त करती हैं — "कैट" और "किटेन" निकट होते हैं, जबकि "कैट" और "इकॉनॉमिक्स" दूर होते हैं।
यह क्यों मायने रखता है: एम्बेडिंग्स सेमेंटिक सर्च और RAG के आधार हैं। यह एआई के लिए एक तरीका है कि 'लॉगिन बग ठीक करें' के लिए खोज 'एथेंटिकेशन एरर रिजॉल्यूशन' के बारे में एक दस्तावेज से मेल खानी चाहिए भले ही कोई शब्द ओवरलैप न हो।
एक विशिष्ट URL जहां एक AI API अनुरोध स्वीकार करता है। उदाहरण के लिए, Anthropic का संदेश एंडपॉइंट है जहां आप Claude के लिए प्रोम्प्ट भेजते हैं। अलग-अलग एंडपॉइंट अलग-अलग कार्य करते हैं: टेक्स्ट जनरेशन, एम्बेडिंग्स, इमेज बनाना, मॉडल सूची।
यह क्यों मायने रखता है: जब एआई प्रदाताओं का समाकलन किया जाता है, तो एंडपॉइंट्स वह जगह हैं जहां सब कुछ असली बन जाता है। प्रत्येक प्रदाता अपना अलग तरीका बनाता है, जिसके कारण प्लेटफॉर्म जैसे Zubnet मौजूद हैं — असंगठित स्थिति को सामान्य करने के लिए।
Encoder (इनपुट को compress करता है) और decoder (आउटपुट उत्पन्न करता है) वाला architecture। T5/BART encoder-decoder हैं। GPT/Claude decoder-only हैं। BERT encoder-only है।
यह क्यों मायने रखता है: बताता है कि अलग-अलग मॉडल अलग-अलग कार्यों में क्यों उत्कृष्ट हैं और LLM के लिए decoder-only ने क्यों जीता।
यह hypothesis कि पर्याप्त रूप से उन्नत AI systems मानव अस्तित्व के लिए खतरा पैदा कर सकते हैं या मानवता की potential को स्थायी रूप से curtail कर सकते हैं। X-risk चिंताएं concrete near-term scenarios (AI-enabled bioweapons, autonomous weapons) से लेकर speculative long-term scenarios (मानव मूल्यों से misaligned goals pursue करने वाली superintelligent AI) तक फैली हैं। यह विषय प्रमुख AI researchers के बीच वास्तव में debated है।
यह क्यों मायने रखता है: Existential risk AI में सबसे consequential debate है। यदि risk वास्तविक और significant है, तो इसे AI policy पर dominate करना चाहिए। यदि यह overstated है, तो इस पर focus करना आज हो रहे concrete harms (bias, job displacement, misinformation) से ध्यान भटकाता है। वास्तविक arguments — caricatures नहीं — को समझना हमारे समय के सबसे महत्वपूर्ण प्रश्नों में से एक पर informed position बनाने में मदद करता है।
एक lookup table जो शब्दावली में प्रत्येक टोकन को एक dense वेक्टर (टोकन का embedding) से मैप करती है। जब मॉडल टोकन ID 42 प्राप्त करता है, तो embedding layer एक सीखे गए मैट्रिक्स की पंक्ति 42 लौटाती है। यह वेक्टर उस टोकन का मॉडल का प्रारंभिक प्रतिनिधित्व है — attention और feedforward लेयर्स के माध्यम से सभी बाद की प्रोसेसिंग का शुरुआती बिंदु।
यह क्यों मायने रखता है: Embedding layer वह जगह है जहां टेक्स्ट गणित बन जाता है। हर LLM discrete टोकन (शब्द, सबवर्ड) को continuous वेक्टर में बदलकर शुरू करता है जिन्हें न्यूरल नेटवर्क प्रोसेस कर सकता है। Embedding table छोटे मॉडलों के सबसे बड़े घटकों में से एक भी है — 4096-आयामी embeddings के साथ 128K शब्दावली 512 मिलियन पैरामीटर है। इसे समझने से आपको मॉडल आकारों और शब्दावली डिज़ाइन के बारे में तर्क करने में मदद मिलती है।
एक निश्चित संख्या के steps के लिए प्रशिक्षण के बजाय, जब held-out validation set पर प्रदर्शन में सुधार बंद हो जाए तब प्रशिक्षण रोकना। जैसे-जैसे प्रशिक्षण जारी रहता है, training loss घटता रहता है लेकिन validation loss अंततः बढ़ने लगता है — मॉडल training data पर overfit हो रहा है। Early stopping इस inflection point को पकड़ता है और गुणवत्ता खराब होने से पहले सबसे अच्छे मॉडल को save करता है।
यह क्यों मायने रखता है: Early stopping fine-tuning के लिए सबसे सरल और सबसे प्रभावी regularization technique है। इसके बिना, आप बहुत लंबे समय तक training का जोखिम उठाते हैं और उन capabilities को नष्ट कर देते हैं जिन्हें आप संरक्षित करना चाहते थे। इसके साथ, मॉडल स्वचालित रूप से अपने सर्वोत्तम बिंदु पर रुक जाता है। "Patience" parameter (सुधार के बिना कितने evaluations तक रुकने से पहले) fine-tuning में सबसे महत्वपूर्ण hyperparameters में से एक है।
एक neural network component जो input data को compressed, information-rich representation (encoding) में बदलता है। Transformers में, encoder bidirectional attention का उपयोग करके पूर्ण input को process करता है और contextual representations उत्पन्न करता है। Autoencoders में, encoder input को latent bottleneck में compress करता है। Image generation में, VAE encoder images को latent space में बदलता है। Encoders कई architectures का "समझने वाला" आधा हिस्सा हैं।
यह क्यों मायने रखता है: Encoders हर जगह हैं: BERT एक encoder है, CLIP में एक text encoder और एक image encoder है, Stable Diffusion एक VAE encoder उपयोग करता है, RAG systems embedding के लिए encoder मॉडल उपयोग करते हैं। यह समझना कि encoder क्या करता है — input को एक उपयोगी representation में compress करना — आपको इन सभी systems को समझने में मदद करता है। Encoding की गुणवत्ता downstream की हर चीज़ की गुणवत्ता निर्धारित करती है।
एक पूर्व-प्रशिक्षित मॉडल लेना और इसे छोटे, विशिष्ट डेटा सेट पर आगे प्रशिक्षित करना ताकि इसके व्यवहार को विशेषज्ञता प्रदान किया जा सके। जैसे कि एक सामान्य चिकित्सक को लेना और उन्हें शल्य चिकित्सा के लिए अनुसूचित अवधि से गुजारना — समान मूल ज्ञान, नई विशेषज्ञता।
यह क्यों मायने रखता है: स्पष्टीकरण: fine-tuning यह तरीका है कि सामान्य मॉडल विशिष्ट कार्यों के लिए उपयोगी बन जाते हैं। एक fine-tuned मॉडल अपने कंपनी के टोन, अपने डोमेन के शब्दावली या एक विशिष्ट आउटपुट फॉर्मेट को शून्य से शुरू किए बिना सीख सकता है।
एक बड़ा मॉडल जो व्यापक डेटा पर प्रशिक्षित किया गया है जो कई अलग-अलग कार्यों के लिए एक आधार के रूप में काम करता है। क्लॉउड, जीपीटी, जेमिनी और लैम्मा सभी आधार मॉडल हैं। वे 'आधारभूत' हैं क्योंकि वे लगभग कुछ भी करने के लिए अनुकूलित किए जा सकते हैं — लेखन, कोडिंग, विश्लेषण, छवि समझ — प्रत्येक कार्य के लिए विशिष्ट रूप से प्रशिक्षित न होने के बिना।
यह क्यों मायने रखता है: फाउंडेशन मॉडल्स एआई के आर्थिक दृष्टिकोण को बदल दिया। प्रत्येक कार्य के लिए एक अलग मॉडल के प्रशिक्षण के बजाय, आप एक बड़े मॉडल को एक बार प्रशिक्षित करते हैं और फिर विशिष्ट आवश्यकताओं के लिए इसे सूक्ष्म-अनुकूलित या प्रोम्प्ट करते हैं।
फ्यू-शॉट लर्निंग इसे यह भी कहते हैं: In-Context Learning, संदर्भ-अंतर्गत शिक्षण
AI उपयोग
अपने प्रॉम्प्ट में उदाहरण इनपुट-आउटपुट जोड़े प्रदान करना। Zero-shot = कोई उदाहरण नहीं, few-shot = 2–10 उदाहरण। मॉडल बिना प्रशिक्षण के पैटर्न सीख लेता है।
यह क्यों मायने रखता है: व्यवहार को अनुकूलित करने का सबसे तेज़, सबसे सस्ता तरीका। Scale से उभरने वाली सबसे आश्चर्यजनक क्षमताओं में से एक।
AI मॉडल के लिए बातचीत के दौरान बाहरी functions के निष्पादन का अनुरोध करने का एक संरचित तरीका। आप नामों, विवरणों और पैरामीटर schemas के साथ functions परिभाषित करते हैं। जब मॉडल यह निर्धारित करता है कि कोई function किसी क्वेरी का उत्तर देने में मदद करेगा, तो यह टेक्स्ट के बजाय एक संरचित function call (तर्कों के साथ) आउटपुट करता है। आपका कोड function निष्पादित करता है और मॉडल को शामिल करने के लिए परिणाम लौटाता है।
यह क्यों मायने रखता है: Function calling वह है जो एक chatbot को agent में बदलता है। इसके बिना, एक मॉडल केवल टेक्स्ट उत्पन्न कर सकता है। इसके साथ, एक मॉडल databases खोज सकता है, APIs कॉल कर सकता है, गणनाएँ चला सकता है, अपॉइंटमेंट बुक कर सकता है, ईमेल भेज सकता है — कुछ भी जो आप एक function के रूप में उजागर कर सकते हैं। यह हर AI सहायक के पीछे का तंत्र है जो वास्तव में काम करता है न कि केवल उनके बारे में बात करता है।
Attention mechanism का एक GPU-optimized implementation जो मानक attention से 2–4 गुना तेज़ है और काफी कम memory का उपयोग करता है। Flash Attention यह नहीं बदलता कि attention क्या गणना करता है, बल्कि GPU hardware पर गणना कैसे की जाती है इसे पुनर्गठित करता है — GPU HBM और on-chip SRAM के बीच धीमे memory transfers को कम करता है।
यह क्यों मायने रखता है: Flash Attention आधुनिक AI में संभवतः सबसे प्रभावशाली systems optimization है। इसने attention के memory उपयोग को quadratic से near-linear (व्यावहारिक रूप से) कम करके long-context models को व्यावहारिक बनाया, सीधे 4K से 128K+ context windows तक की छलांग को सक्षम किया। प्रत्येक प्रमुख LLM इसका उपयोग करता है। Flash Attention के बिना, आज के long-context models निषेधात्मक रूप से महंगे होते।
प्रत्येक Transformer layer में वह component जो प्रत्येक token को बीच में activation function के साथ दो linear transformations के माध्यम से independently process करता है। जबकि attention tokens के बीच जानकारी mix करता है (कौन से tokens किससे संबंधित हैं), feedforward network प्रत्येक token के representation को individually process करता है, non-linear transformations लागू करता है जो ज्ञान encode करते हैं और computation perform करते हैं।
यह क्यों मायने रखता है: Feedforward network वह जगह है जहां Transformer का अधिकांश ज्ञान stored होता है। Attention सारी प्रशंसा पाता है, लेकिन FFN layers में model के अधिकांश parameters (आमतौर पर कुल parameters का 2/3) होते हैं और यहीं factual associations, language patterns, और learned computations मुख्य रूप से रहती हैं। इसे समझने से knowledge editing और model pruning जैसी घटनाओं की व्याख्या होती है।
एक पैटर्न या अवधारणा जिसे न्यूरल नेटवर्क अपने इनपुट में पहचानना सीखता है। विज़न में, शुरुआती-परत विशेषताएँ किनारे और बनावट हैं; बाद की परत विशेषताएँ वस्तु भाग और पूर्ण वस्तुएँ हैं। भाषा मॉडल में, विशेषताएँ सरल (अक्षर "a", एक विशिष्ट वाक्य-विन्यास पैटर्न) से लेकर अमूर्त (व्यंग्य की अवधारणा, एक विशेष तर्क रणनीति) तक होती हैं। विशेषताओं को न्यूरॉनों में एक्टिवेशन पैटर्न के रूप में प्रदर्शित किया जाता है।
यह क्यों मायने रखता है: विशेषताएँ वही हैं जो मॉडल वास्तव में सीखते हैं — व्यक्तिगत तथ्य नहीं बल्कि पैटर्न जो सामान्यीकृत होते हैं। मॉडल "बिल्लियों के पास फ़र होता है" याद नहीं करता; यह फ़र जैसी बनावट के लिए एक विशेषता डिटेक्टर सीखता है जो बिल्लियों, कुत्तों, और टेडी बियर के लिए सक्रिय होता है। विशेषताओं को समझने से मॉडल व्यवहार की व्याख्या होती है: वह सामान्यीकृत क्यों करता है (विशेषताएँ स्थानांतरित होती हैं), विफल क्यों होता है (गलत विशेषता सक्रिय), और सुधार कैसे करें (अधिक विविध विशेषताओं से परिचित कराएँ)।
एक प्रशिक्षण दृष्टिकोण जहाँ मॉडल को कच्चे डेटा को साझा किए बिना कई उपकरणों या संगठनों में प्रशिक्षित किया जाता है। डेटा को केंद्रीय सर्वर पर भेजने के बजाय, प्रत्येक प्रतिभागी अपने स्वयं के डेटा पर मॉडल की एक स्थानीय कॉपी प्रशिक्षित करता है और केवल मॉडल अपडेट (ग्रेडिएंट) एक केंद्रीय समन्वयक को भेजता है। समन्वयक सभी प्रतिभागियों से अपडेट एकत्रित करता है ताकि वैश्विक मॉडल में सुधार हो।
यह क्यों मायने रखता है: संघीय शिक्षण ऐसे डेटा पर AI प्रशिक्षण सक्षम बनाता है जिसे गोपनीयता, विनियमन, या प्रतिस्पर्धात्मक चिंताओं के कारण केंद्रीकृत नहीं किया जा सकता। अस्पताल रोगी रिकॉर्ड साझा किए बिना सहयोगात्मक रूप से एक डायग्नोस्टिक मॉडल प्रशिक्षित कर सकते हैं। कंपनियाँ मालिकाना डेटा उजागर किए बिना एक साझा मॉडल में सुधार कर सकती हैं। यह बड़े पैमाने पर गोपनीयता-संरक्षण AI प्रशिक्षण का सबसे व्यावहारिक दृष्टिकोण है।
Floating Point Operations — AI में कम्प्यूटेशनल कार्य का मानक माप। एक मॉडल को प्रशिक्षित करने के लिए एक निश्चित संख्या में FLOPs (कुल ऑपरेशन) की आवश्यकता होती है। हार्डवेयर FLOP/s (प्रति सेकंड ऑपरेशन) में रेट किया जाता है। एक H100 GPU FP16 में ~2,000 TFLOP/s (2 क्वाड्रिलियन ऑपरेशन प्रति सेकंड) कर सकता है। GPT-4 के प्रशिक्षण का अनुमान ~10^25 FLOPs है — एक इतनी बड़ी संख्या कि इसे समझना कठिन है।
यह क्यों मायने रखता है: FLOPs AI compute की मुद्रा हैं। Scaling laws FLOPs में व्यक्त किए जाते हैं। प्रशिक्षण बजट FLOPs में मापे जाते हैं। GPU तुलना FLOP/s का उपयोग करती है। FLOPs को समझना आपको प्रशिक्षण लागत का अनुमान लगाने, हार्डवेयर की तुलना करने, और यह समझने में मदद करता है कि AI प्रगति compute scaling से इतनी निकट से क्यों जुड़ी है। जब लोग "scaling compute" कहते हैं, तो उनका मतलब अधिक FLOPs खर्च करना है।
एक छवि या वीडियो में किसी व्यक्ति को उसके चेहरे से पहचानना या सत्यापित करना। Verification पूछता है "क्या यह व्यक्ति वही है जो वह होने का दावा करता है?" (1:1 matching, फ़ोन अनलॉक में उपयोग)। Identification पूछता है "यह व्यक्ति कौन है?" (database के विरुद्ध 1:N matching, निगरानी में उपयोग)। आधुनिक सिस्टम face embeddings निकालने और उनकी तुलना करने के लिए deep learning का उपयोग करते हैं, नियंत्रित स्थितियों में अतिमानवीय सटीकता प्राप्त करते हैं।
यह क्यों मायने रखता है: Facial recognition सबसे शक्तिशाली और सबसे विवादास्पद AI अनुप्रयोगों में से एक है। यह सुविधाजनक authentication (Face ID) सक्षम करता है, लापता व्यक्तियों को खोजने में मदद करता है, और कानून प्रवर्तन की सहायता करता है। यह बड़े पैमाने पर निगरानी को भी सक्षम बनाता है, गंभीर privacy चिंताएँ उठाता है, और जनसांख्यिकी में documented सटीकता असमानताएँ हैं — महिलाओं और गहरे रंग की त्वचा वाले लोगों पर खराब प्रदर्शन करता है। यह dual-use तकनीक का एक पाठ्यपुस्तक उदाहरण है।
AI प्रणालियाँ जो नए सामग्री — पाठ, चित्र, ऑडियो, वीडियो, कोड, 3D मॉडल — बनाती हैं, बजाय मौजूदा डेटा के विश्लेषण या वर्गीकरण करने के। जननात्मक AI सभी चीजों के लिए एक छाता शब्द है, चाहे वह ChatGPT द्वारा निबंध लिखना हो, Stable Diffusion द्वारा चित्र बनाना हो या Suno द्वारा संगीत लिखना हो। "जननात्मक" भाग इन मॉडलों को पहले के AI से अलग करता है, जो केवल वर्गीकृत कर सकता था, भविष्यवाणी कर सकता था या सिफारिश कर सकता था।
यह क्यों मायने रखता है: जेनेरेटिव AI वह शब्द है जिसने AI को मुख्यधारा संस्कृति में लाया। यही वह चीज है जिसका लोग 2024-2026 में "AI" कहते समय अभिप्रेत होते हैं — सृजन करने की क्षमता, केवल गणना करने के बजाय। इसे एक श्रेणी के रूप में समझना आपको इस क्षेत्र के संदर्भ में नेविगेट करने में मदद करता है: बड़े भाषा मॉडल (LLMs) टेक्स्ट उत्पन्न करते हैं, विसरण मॉडल छवियाँ उत्पन्न करते हैं, और मोडलिटीज के बीच सीमाएं तेजी से गायब हो रही हैं।
गूगल की एकीकृत आर्टिफिशियल इंटेलिजेंस अनुसंधान विभाग, 2023 में DeepMind और Google Brain के संगठन के संयोजन से बना। जिसके पीछे Gemini, AlphaGo, AlphaFold और आधुनिक आर्टिफिशियल इंटेलिजेंस को चलाने वाले अधिकांश मूल अनुसंधान हैं।
यह क्यों मायने रखता है:
गूगल डीपमाइंड ने आधुनिक एआई के लिए अधिक मूल अनुसंधान किया है जो किसी अन्य एकल संगठन के तुलना में अधिक है — ट्रांसफॉर्मर आर्किटेक्चर, बूस्ट कार्य में रिनफोर्समेंट लर्निंग, प्रोटीन संरचना पूर्वानुमान और स्केलिंग लॉज आदि सभी डीपमाइंड या गूगल ब्रेन के टीमों के काम के बारे में बताते हैं। उनके जेमिनी मॉडल एकमात्र फ्रंटियर LLMs हैं जिनमें वास्तव में वैश्विक वितरण बनाया गया है, जो सर्च, एंड्रॉइड और गूगल वर्कस्पेस के माध्यम से अरबों उपयोगकर्ताओं तक पहुंचता है। और अल्फाफोल्ड के अलावा — जिसने जीवविज्ञान में पचास साल पुरानी समस्या को हल कर दिया और एक नोबेल पुरस्कार जीत लिया — वह अपने विज्ञान के इतिहास में न केवल एआई के इतिहास में अपनी जगह बनाए रखने के लिए पर्याप्त होगा।
एक मॉडल आर्किटेक्चर जहां दो न्यूरल नेटवर्क प्रतिस्पर्धा करते हैं: एक जेनरेटर झूठे डेटा बनाता है, और एक डिस्क्रिमिनेटर वास्तविक से झूठे के बीच अंतर बताने की कोशिश करता है। इस प्रतिस्पर्धी खेल के माध्यम से, जेनरेटर वास्तविक आउटपुट बनाने में बेहतर हो जाता है। 2014 से ~2022 तक इमेज जेनरेशन में शासन करता रहा।
यह क्यों मायने रखता है: GANs वास्तविक एआई छवि उत्पादन के लिए पहले वाले थे और अभी भी कुछ वास्तविक समय अनुप्रयोगों में उपयोग किया जाता है। लेकिन गुणवत्ता-निर्णयक कार्यों के लिए डिफ्यूजन मॉडल उन्हें काफी हद तक बदल गए हैं क्योंकि GANs प्रशिक्षण के लिए कठिन होते हैं और अपने आउटपुट में कम विविध होते हैं।
मूल रूप से ग्राफिक्स रेंडरिंग के लिए डिज़ाइन किए गए GPU एआई के लिए बहुत अच्छे साबित हुए क्योंकि वे एक साथ हजारों गणितीय संचालन कर सकते हैं। एआई मॉडल के प्रशिक्षण और चलाना मूल रूप से बड़े पैमाने पर मैट्रिक्स गुणा — ठीक वही काम है जिसके लिए GPU बनाए गए हैं। NVIDIA इस बाजार में नियंत्रण रखता है।
यह क्यों मायने रखता है: GPU एंटी एआई उद्योग के पूरे भौतिक सीमा हैं। क्यों मॉडल्स उतना महंगा होता है जितना वे होते हैं, क्यों कुछ प्रदाता अन्य के मुकाबले तेज होते हैं, क्यों विश्व स्तर पर चिप की कमी है — यह सभी बातें GPU की आपूर्ति और VRAM पर वापस आती हैं।
मॉडल के जवाबों को तथ्यात्मक, सत्यापित स्रोतों से जोड़ना, इसके प्रशिक्षण डेटा पर एकल निर्भरता से बचने के लिए। ग्राउंडिंग तकनीकों में RAG, वेब सर्च इंटीग्रेशन और संदर्भ आवश्यकताएं शामिल हैं। एक ग्राउंडेड जवाब “अनुसार [स्रोत]” कहता है, बस तथ्यों की घोषणा करने के बजाय।
यह क्यों मायने रखता है: मूल आधार अभिन्नता के खिलाफ प्रमुख रक्षा है। एक अमूल आधार वाला मॉडल निश्चित रूप से तथ्य उत्पन्न करता है। एक मूल आधार वाला मॉडल आपको वास्तविक स्रोतों की ओर दिखाता है जिनकी जांच की जा सकती है।
सुरक्षा तंत्र जो एआई मॉडल के हानिकारक, अप्रिय या विषय से बाहर के सामग्री उत्पन्न करने से रोकते हैं। गार्डरेल्स को प्रशिक्षण के दौरान मॉडल में बनाया जा सकता है (RLHF), सिस्टम प्रॉम्प्ट के माध्यम से लागू किया जा सकता है, या उपयोगकर्ताओं तक पहुंचने से पहले आउटपुट की जांच करने वाले बाहरी फिल्टर द्वारा लागू किया जा सकता है।
यह क्यों मायने रखता है:
गार्डरेल्स के बिना, मॉडल खतरनाक अनुरोधों के साथ खुशी से मदद करेंगे। चुनौती कैलिब्रेशन है — बहुत कड़ा और मॉडल उपयोगी नहीं हो जाता है ("मैं इसके साथ मदद नहीं कर सकता"), बहुत ढीला और यह असुरक्षित हो जाता है।
Gradients की गणना करके और ढलान पर नीचे जाकर loss को कम करने के लिए पैरामीटर को iteratively समायोजित करता है। Backpropagation परतों के माध्यम से कुशलता से gradients की गणना करता है।
यह क्यों मायने रखता है: हर मॉडल gradient descent द्वारा प्रशिक्षित किया गया है। Learning rate के महत्व, प्रशिक्षण divergence और Adam क्यों काम करता है, यह समझाता है।
llama.cpp, Ollama, और अन्य local inference tools के माध्यम से quantized language models को locally चलाने का मानक file format। GGUF files में model weights quantized format में (precision को 16-bit से 4-bit या 8-bit तक कम करके) होते हैं, साथ ही metadata जैसे vocabulary, architecture details, और quantization parameters — model को load और run करने के लिए आवश्यक सब कुछ एक ही file में।
यह क्यों मायने रखता है: GGUF वह format है जिसने local AI को व्यावहारिक बनाया। इससे पहले, models locally चलाने के लिए PyTorch, CUDA, और विशिष्ट GPU memory के साथ complex setups की आवश्यकता थी। GGUF सब कुछ एक file में package करता है जिसे llama.cpp या Ollama सीधे load कर सकता है — CPU पर, Apple Silicon पर, gaming GPUs पर, कहीं भी। यदि आप Hugging Face पर "Q4_K_M.gguf" जैसे filenames वाला model देखते हैं, तो वह local use के लिए तैयार model है।
Graph-structured data पर operate करने के लिए designed neural networks — ऐसा data जहां entities relationships से जुड़ी होती हैं (social networks, molecules, knowledge graphs, transportation networks)। GNNs connected nodes के बीच messages pass करके सीखते हैं, प्रत्येक node को अपने neighbors के आधार पर अपना representation update करने देते हैं। ये ऐसा data संभालते हैं जो grids (images) या sequences (text) में नहीं बैठता।
यह क्यों मायने रखता है: सभी data text या images नहीं है। Social networks, molecular structures, recommendation systems, fraud detection networks, और logistics routes सभी स्वाभाविक रूप से graph-structured हैं। GNNs तब सही tool हैं जब entities के बीच relationships entities जितनी ही महत्वपूर्ण हैं। Drug discovery, social network analysis, और traffic prediction सभी GNNs पर rely करते हैं।
एक attention वैरिएंट जहां कई query heads एक single key-value head साझा करते हैं, जो गुणवत्ता में महत्वपूर्ण कमी किए बिना KV cache आकार को कम करता है। हर query head के अपने K और V प्रक्षेपण (मानक MHA) होने के बजाय, query heads के समूह K और V प्रक्षेपण साझा करते हैं। Llama 2 70B, Mistral, Gemma, और अधिकांश आधुनिक LLMs GQA का उपयोग करते हैं।
यह क्यों मायने रखता है: GQA KV cache मेमोरी समस्या का व्यावहारिक समाधान है। 64 heads वाले मानक multi-head attention को cache में प्रति लेयर K और V tensors के 64 सेट की आवश्यकता होती है। 8 KV heads वाला GQA इसे 8 सेट तक कम करता है — 8x मेमोरी कमी। यह सीधे एक ही हार्डवेयर पर अधिक समवर्ती उपयोगकर्ताओं की सेवा या लंबे संदर्भों को संभालने में अनुवादित होता है।
एक मेमोरी-बचत तकनीक जो प्रशिक्षण के दौरान compute को मेमोरी के बदले trade करती है। Forward pass से सभी intermediate activations (backpropagation के लिए आवश्यक) को संग्रहीत करने के बजाय, gradient checkpointing केवल कुछ "checkpoint" लेयर्स पर activations संग्रहीत करती है और backward pass के दौरान बाकी को पुन: गणना करती है। यह ~30% अधिक compute की लागत पर मेमोरी उपयोग को 5–10x तक कम करता है।
यह क्यों मायने रखता है: Gradient checkpointing वह है जो सीमित GPU मेमोरी पर बड़े मॉडलों को fine-tune करना संभव बनाता है। इसके बिना, 7B मॉडल को प्रशिक्षण के दौरान केवल activations के लिए 80+ GB की आवश्यकता हो सकती है, जो एक single GPU की क्षमता से अधिक है। Gradient checkpointing के साथ, वही मॉडल 24GB consumer GPU पर fine-tune किया जा सकता है। यह प्रशिक्षण के लिए सबसे आम उपयोग किया जाने वाला मेमोरी ऑप्टिमाइज़ेशन है।
एक parameter जो नियंत्रित करता है कि image generation मॉडल text prompt का कितनी मजबूती से अनुसरण करता है। कम guidance (1–3): मॉडल स्वतंत्र रूप से generate करता है, विविध लेकिन संभावित रूप से off-topic छवियाँ उत्पन्न करता है। उच्च guidance (7–15): मॉडल prompt का सख्ती से अनुसरण करता है लेकिन saturated, artifact-भरी छवियाँ उत्पन्न कर सकता है। सामान्य sweet spot 7–9 है। यह text मॉडलों के लिए temperature का image generation समकक्ष है।
यह क्यों मायने रखता है: Guidance scale prompt के बाद image generation में सबसे प्रभावशाली parameter है। बहुत कम और छवि आपके विवरण को अनदेखा करती है। बहुत अधिक और यह oversaturated और कृत्रिम दिखती है। Guidance scale को समझना आपको "मेरी छवि मेरे prompt से मेल क्यों नहीं खाती?" (guidance बहुत कम) और "मेरी छवि अजीब क्यों दिखती है?" (guidance बहुत अधिक) के समस्या निवारण में मदद करता है।
प्रशिक्षण शुरू होने से पहले आप चुने वाले सेटिंग्स जो मॉडल के सीखने के तरीके को नियंत्रित करते हैं — पैरामीटर्स के विपरीत, जिन्हें मॉडल स्वयं सीखता है। हाइपरपैरामीटर्स में लर्निंग रेट (प्रत्येक अपडेट स्टेप कितना बड़ा होता है), बैच साइज (एक साथ कितने उदाहरण प्रोसेस करने हैं), एपोक्स की संख्या (डेटा के कितनी बार चलाना है), ऑप्टिमाइज़र चुनाव (एडम, एसजीडी, एडमडब्ल्यू), वेट डिकेय, ड्रॉपआउट रेट, और आर्किटेक्चर निर्णय जैसे कि लेयर की संख्या और छिपे हुए आयाम होते हैं। हाइपरपैरामीटर्स को सही ढंग से चुनना अक्सर एक मॉडल के बीच अंतर होता है जो सुंदर रूप से अभिसरण करता है और एक जो अर्थहीनता में अपसैद्धि करता है।
यह क्यों मायने रखता है: हाइपरपैरामीटर ट्यूनिंग वह जगह है जहां एमएल इंजीनियरिंग विज्ञान के एक भाग और कला के एक भाग के रूप में बन जाती है। आप पूर्ण डेटासेट और आर्किटेक्चर के साथ रह सकते हैं, लेकिन एक बहुत अधिक लर्निंग रेट ट्रेनिंग को बर्बाद कर देगा और एक बहुत कम लर्निंग रेट कभी भी अभिसार नहीं करेगा। हाइपरपैरामीटर के अनुभव करना किसी भी व्यक्ति के लिए आवश्यक है जो मॉडल के ट्रेनिंग या फाइन-ट्यूनिंग कर रहा है — और जानना कि कौन से सबसे अधिक महत्वपूर्ण हैं, कंप्यूटेशनल संसाधन के अत्यधिक मात्रा को बचाता है।
एआई वीडियो प्लेटफॉर्म जो वास्तविक बात करते हुए चेहरे के एवतर और स्वचालित लिप-सिंक डबिंग में विशेषज्ञता रखता है। कंपनियों द्वारा मार्केटिंग, training, और स्थानीयकरण के लिए उपयोग किया जाता है — एक वीडियो को दर्जनों भाषाओं में बदलता है जिसमें समान लिप आंदोलन होता है।
यह क्यों मायने रखता है:
हेइजेन ने एआई वीडियो एवतर्स को एक शोध जिज्ञासा से एक वास्तविक उद्यम उपकरण में बदल दिया, जो यह साबित करता है कि वीडियो सामग्री निर्माण को एक दस्तावेज लिखने जितना आसान बनाने में वास्तविक आय हो सकती है। उनकी लिप-सिंक डबिंग तकनीक वैश्विक व्यवसायों के लिए विशेष महत्व रखती है — यह वीडियो स्थानीयकरण की लागत और समय को हफ्तों और हजारों डॉलर से मिनटों और पैसों तक काफी कम करती है। हेइजेन एक ऐसी विरल एआई वीडियो कंपनी में से एक है जिसके पास वास्तविक पुनरावृत्ति आय है, इसलिए यह एक उदाहरण भी है कि जनरेटिव एआई पर वास्तविक व्यवसाय कैसे बनाया जा सकता है, न कि केवल एक डेमो।
उभरती हुई छवि उत्पादन कंपनी जो उच्च गुणवत्ता वाले विसर्जन मॉडल बनाती है। उनके ओपन-वेट्स रिलीज ने क्रिएटिव एआई समुदाय में मजबूत प्रॉम्प्ट पालन और दृश्य गुणवत्ता के लिए लोकप्रियता प्राप्त की है।
यह क्यों मायने रखता है:
HiDream ने दिखाया कि एक छोटी और फोकस्ड टीम खुले वेट्स वाले इमेज मॉडल बना सकती है जो ट्रेनिंग इन्फ्रास्ट्रक्चर पर कई गुना अधिक खर्च करने वाले संगठनों द्वारा उत्पादित आउटपुट के साथ प्रतिस्पर्धा कर सकते हैं। उनके मॉडलों में टेक्स्ट रेंडरिंग और संरचनात्मक सटीकता की शक्ति ऐसी वास्तविक समस्याओं को संबोधित करती है जो AI-जेनरेटेड इमेज के व्यावसायिक अपनाने को रोक रही थीं। तेजी से सामान्य खुले इमेज मॉडल के बाजार में HiDream की सफलता इस पैटर्न को मजबूत करती है कि गुणवत्ता में अगला कदम कहीं से भी आ सकता है — न केवल सबसे बड़े लैब्स से जो सबसे अधिक GPUs रखते हैं।
एआई कंपनी जो मॉडल बनाती है जो मनुष्यी भावना को समझ सकते हैं और अभिव्यक्त कर सकते हैं। उनका एम्पैथिक वॉइस इंटरफेस वास्तविक समय में टोन, संवेदना और भावात्मक संदर्भ का पता लगाता है, जिससे एआई संवाद न केवल आपके कहे वाले शब्दों के लिए प्रतिक्रिया देते हैं बल्कि आपके कहने के तरीके के लिए भी।
यह क्यों मायने रखता है: ह्यूम महत्वपूर्ण है क्योंकि वे आधुनिक AI में सबसे चमकदार अंधापन को ध्यान में रखते हैं: भावनात्मक समझ। आज के हर चैटबॉट, वॉइस असिस्टेंट और AI एजेंट वास्तव में टोन-डेफ होते हैं, शब्दों के लिखित मान के उत्तर देते हैं जबकि मनुष्यों द्वारा अनुभूत भावनात्मक संदर्भ को नजरअंदाज करते हैं। ह्यूम के Empathic Voice Interface उत्पादन पैमाने पर उस अंतर को भरने के लिए पहला गंभीर प्रयास है, और भावनात्मक AI के लिए नैतिक दिशा-निर्देशों पर उनकी जोड़े बांधने के लिए एक मानक स्थापित करता है जिसे उद्योग अंततः अपनाने के लिए मजबूर होगा।
जब एक एआई मॉडल जानकारी उत्पन्न करता है जो आत्मविश्वासी और संभव लगता है लेकिन तथ्यतः गलत होता है या पूरी तरह से निर्मित होता है। मॉडल 'झूठ बोल रहा है' नहीं है — यह एक तथ्य के बिना बहुत अच्छे टेक्स्ट तक पैटर्न मैचिंग के रास्ते पहुंच रहा है। झूठी संदर्भ, आविष्कृत सांख्यिकी और अस्तित्वहीन API विधियाँ सामान्य उदाहरण हैं।
यह क्यों मायने रखता है: हैलूसिनेशन आजकल कृत्रिम बुद्धिमत्ता में सबसे बड़ा विश्वास समस्या है। यही कारण है कि आपको हमेशा AI के आउटपुट से महत्वपूर्ण तथ्यों की जांच करनी चाहिए, और ऐसी तकनीकों जैसे RAG और grounding के अस्तित्व के कारण।
मनुष्यों द्वारा सीधे AI आउटपुट गुणवत्ता का मूल्यांकन करना। मनुष्य प्रवाह, सटीकता, उपयोगिता, सुरक्षा, और क्या आउटपुट वास्तव में अनुरोध को पूरा करता है, इसका आकलन करते हैं। महंगा और धीमा होने के बावजूद, मानव मूल्यांकन स्वर्ण मानक बना हुआ है क्योंकि स्वचालित मेट्रिक्स अक्सर वह चूक जाते हैं जो उपयोगकर्ताओं के लिए वास्तव में मायने रखता है।
यह क्यों मायने रखता है: प्रत्येक स्वचालित मेट्रिक मानव निर्णय का एक प्रॉक्सी है, और प्रत्येक प्रॉक्सी में अंधे बिंदु हैं। BLEU तथ्यात्मक त्रुटियों का पता नहीं लगा सकता। Perplexity उपयोगिता नहीं माप सकती। LLM-as-judge दृष्टिकोण भी पूर्वाग्रह विरासत में लेते हैं (जैसे विस्तृत प्रतिक्रियाओं को प्राथमिकता देना)। जब दांव ऊँचे हों — उत्पाद लॉन्च, मॉडल संस्करणों की तुलना, सुरक्षा मूल्यांकन — मानव मूल्यांकन अपरिहार्य है।
सर्वोत्तम hyperparameters की व्यवस्थित खोज — वे configuration विकल्प जो training के दौरान सीखे नहीं जाते बल्कि इसे शुरू करने से पहले सेट किए जाने चाहिए। Learning rate, batch size, layers की संख्या, dropout rate, और LoRA rank सभी hyperparameters हैं। Tuning methods में grid search (सभी combinations आज़माना), random search (random combinations आज़माना), और Bayesian optimization (पिछले परिणामों का उपयोग करके खोज को मार्गदर्शित करना) शामिल हैं।
यह क्यों मायने रखता है: अच्छे और खराब hyperparameters सेट के बीच का अंतर बहुत बड़ा हो सकता है — एक गलत learning rate training को diverge करा सकता है या खराब solution पर converge करा सकता है। Hyperparameter tuning वह तरीका है जिससे आप अपने model architecture और data से अधिकतम लाभ प्राप्त करते हैं। LLMs को fine-tune करने के लिए, learning rate और epochs की संख्या आमतौर पर tune करने के लिए सबसे प्रभावशाली hyperparameters हैं।
Ideogram इमेजों में टेक्स्ट रेंडरिंग, Ideogram 2.0
कंपनियाँ
एआई इमेज जेनरेशन कंपनी, जो पूर्व गूगल ब्रेन अनुसंधानकर्ताओं द्वारा स्थापित की गई थी। इमेज जेनरेशन में सबसे कठिन समस्याओं में से एक को हल करके अपना नाम कम कर लिया: इमेज के अंदर पढ़े जा सकने वाला, सटीक टेक्स्ट रेंडर करना।
यह क्यों मायने रखता है: आइडिओग्राम ने साबित कर दिया कि एक निर्णायक कमजोरी — AI द्वारा उत्पादित छवियों में पढ़े जा सकने वाला टेक्स्ट — को हल करना, छवि उत्पादन के भीड़ भाड़ वाले क्षेत्र में एक अद्वितीय बाजार स्थिति बनाने में सक्षम हो सकता है। टेक्स्ट रेंडरिंग विशेषज्ञों से एक पूर्ण-विशेषता डिज़ाइन प्लेटफॉर्म बने रहने के उनके विकास ने दिखाया कि जब तकनीकी भेदभाव वास्तविक कार्य प्रक्रिया में दुखद बिंदुओं पर निशाना बनाता है, तो यह अधिक धन से सुसज्ज प्रतियोगियों के साथ प्रतिस्पर्धा कर सकता है।
एक प्रशिक्षित मॉडल को चलाने की प्रक्रिया जो आउटपुट उत्पन्न करती है। प्रशिक्षण सीखना है; अनुमान उसका उपयोग करना है जो सीखा गया था। हर बार जब आप क्लॉड को एक प्रॉम्प्ट भेजते हैं या स्टेबल डिफ्यूजन के साथ एक इमेज उत्पन्न करते हैं, तो वह अनुमान है। यही वह चीज है जो प्रदाताओं के लिए GPU घंटे की लागत है और जिसके लिए आप प्रति टोकन भुगतान करते हैं।
यह क्यों मायने रखता है: इनफरेंस की लागत और गति AI उत्पादों की आर्थिक व्यवस्था निर्धारित करती है। तेज़ इनफरेंस = कम लैटेंसी = बेहतर UX। सस्ता इनफरेंस = कम कीमतें = व्यापक अपनाना। क्वांटाइजेशन और ऑप्टिमाइजेशन के पूरा उद्योग इनफरेंस को अधिक कुशल बनाने के लिए मौजूद है।
एक pre-trained language model को (instruction, response) pairs के dataset पर fine-tune करना ताकि उसे instructions का पालन करना सिखाया जा सके। एक base model जो सिर्फ text predict करता है, एक ऐसा model बन जाता है जो सवालों के जवाब देता है, निर्देशों का पालन करता है, और एक assistant की तरह व्यवहार करता है। यही वह step है जो GPT को ChatGPT में, या base Llama को Llama-Chat में बदलता है।
यह क्यों मायने रखता है: Instruction tuning एक raw language model (जो केवल text complete कर सकता है) और एक उपयोगी assistant (जो instructions का पालन कर सकता है) के बीच का सेतु है। इसके बिना, सबसे सक्षम base model भी वास्तव में आपकी बात मानने के बजाय बस विश्वसनीय-लगने वाला text generate करता है। यह संभवतः सबसे महत्वपूर्ण post-training step है।
AI models का उपयोग करके text descriptions से images बनाना। आप टाइप करते हैं "watercolor style में पहाड़ों पर sunset" और model एक matching image generate करता है। वर्तमान approaches में diffusion models (Stable Diffusion, DALL-E), flow matching (Flux), और autoregressive models शामिल हैं। यह क्षेत्र 2020 में धुंधले चेहरों से 2025 में photorealistic, artistically controlled output तक प्रगति कर चुका है।
यह क्यों मायने रखता है: Image generation chatbots के बाद सबसे visible consumer AI capability है। यह graphic design, advertising, concept art, और visual communication को transform कर रहा है। Underlying approaches (diffusion, flow matching, DiT) और उनके trade-offs को समझने से आपको सही tool चुनने और limitations समझने में मदद मिलती है — कुछ prompts क्यों काम करते हैं और अन्य क्यों नहीं, कुछ styles दूसरों से आसान क्यों हैं।
Model की वह क्षमता कि वह उपयोगकर्ता की request को सटीक रूप से execute करे — format constraints, length requirements, style specifications, और behavioral instructions का सम्मान करते हुए। "X के बारे में French में ठीक 3 bullet points लिखें" instruction following test करता है: response bullets होना चाहिए (paragraphs नहीं), ठीक 3 (2 या 5 नहीं), French में (English नहीं), और X के बारे में (Y नहीं)।
यह क्यों मायने रखता है: Instruction following सबसे व्यावहारिक रूप से महत्वपूर्ण LLM capability है। Users इस बारे में कम care करते हैं कि model अधिक facts "जानता" है और अधिक इस बारे में कि क्या यह वही करता है जो उन्होंने वास्तव में मांगा। एक model जो सुंदर prose लिखता है लेकिन आपकी format requirements ignore करता है, एक ऐसे model से कम useful है जो reliably instructions follow करता है। यही कारण है कि IFEval और अन्य instruction-following benchmarks model evaluation के केंद्र बन गए हैं।
Transformers में खोजा गया एक विशिष्ट दो-attention-head सर्किट जो पैटर्न मिलान द्वारा in-context learning को लागू करता है। यदि मॉडल ने संदर्भ में पहले "A B" पैटर्न देखा है और अब फिर से "A" देखता है, तो induction head भविष्यवाणी करता है कि "B" आगे आएगा। यह सरल तंत्र माना जाता है कि LLMs अपने संदर्भ में उदाहरणों से कैसे सीखते हैं इसका एक मौलिक निर्माण खंड है।
यह क्यों मायने रखता है: Induction heads mechanistic interpretability में सबसे अच्छी तरह से समझा गया सर्किट है — इसका एक ठोस उदाहरण कि Transformers सीखे गए weights से एक उपयोगी एल्गोरिदम कैसे लागू करते हैं। वे बताते हैं कि few-shot prompting क्यों काम करता है: जब आप उदाहरण देते हैं, तो induction heads पैटर्न का पता लगाते हैं और उसे लागू करते हैं। Induction heads को समझना अधिक जटिल सीखे गए व्यवहारों को समझने के लिए एक आधार प्रदान करता है।
एक छवि में प्रत्येक pixel को एक श्रेणी में वर्गीकृत करना। Semantic segmentation pixels को class (सड़क, फुटपाथ, इमारत, आकाश) के अनुसार लेबल करता है। Instance segmentation अलग-अलग वस्तुओं को अलग करता है (व्यक्ति 1, व्यक्ति 2)। Panoptic segmentation दोनों करता है। Meta का SAM (Segment Anything Model) बिना कार्य-विशिष्ट प्रशिक्षण के एक point click या text prompt से किसी भी वस्तु को segment कर सकता है।
यह क्यों मायने रखता है: Segmentation छवि सामग्री की सबसे सटीक समझ प्रदान करता है। Self-driving कारों को pixel-स्तर की सड़क सीमाओं की आवश्यकता होती है, न कि केवल bounding boxes की। Medical imaging को सटीक tumor सीमाओं की आवश्यकता होती है। Photo editing को background हटाने के लिए सटीक object masks की आवश्यकता होती है। SAM की बिना किसी प्रशिक्षण के किसी भी वस्तु को segment करने की क्षमता ने इस पहले विशेष क्षमता को सभी के लिए सुलभ बना दिया।
एक छवि के चयनित क्षेत्र को AI-generated सामग्री से भरना जो आसपास के संदर्भ से मेल खाती है। आप एक क्षेत्र को mask करते हैं (उसे पेंट करके), वर्णन करते हैं कि उसकी जगह क्या होना चाहिए, और मॉडल मौजूदा छवि के साथ seamlessly blend होने वाली नई सामग्री generate करता है। Outpainting एक छवि को उसकी मूल सीमाओं से परे विस्तारित करता है। दोनों एक ही underlying diffusion प्रक्रिया का उपयोग करते हैं, unmasked क्षेत्रों पर conditioned।
यह क्यों मायने रखता है: Inpainting AI द्वारा प्रदान किया जाने वाला सबसे व्यावहारिक image editing tool है। अवांछित वस्तुएँ हटाना, backgrounds बदलना, दोष ठीक करना, तत्व जोड़ना, या बाकी सब कुछ बरकरार रखते हुए छवि के विशिष्ट भागों को संशोधित करना। यह Photoshop के content-aware fill का AI समकक्ष है, लेकिन प्राकृतिक भाषा द्वारा निर्देशित और नाटकीय रूप से अधिक सक्षम।
एक मौजूदा छवि और एक text prompt के आधार पर एक नई छवि बनाना। शुद्ध noise से शुरू करने (text-to-image) के बजाय, diffusion प्रक्रिया इनपुट छवि के एक noisy संस्करण से शुरू होती है, prompt के अनुसार इसे संशोधित करते हुए इसकी संरचना को संरक्षित करती है। "इस फ़ोटो का cyberpunk संस्करण" composition को रखता है लेकिन शैली और विवरण को बदल देता है।
यह क्यों मायने रखता है: Image-to-image फ़ोटोग्राफ़ी और AI कला के बीच का सेतु है। यह आपको sketches, फ़ोटो, या मौजूदा कलाकृति को शुरुआती बिंदु के रूप में उपयोग करने देता है, layout और composition बनाए रखते हुए AI शैली को बदलता है, विवरण जोड़ता है, या सामग्री को पुनः कल्पित करता है। यह text-to-image की तुलना में अधिक नियंत्रणीय है क्योंकि आप दृश्य संरचना के साथ आउटपुट को मार्गदर्शित कर रहे हैं, न कि केवल शब्दों से।
असंरचित टेक्स्ट से स्वचालित रूप से संरचित जानकारी निकालना। एक समाचार लेख से निकालें: किसने क्या किया, कब, कहाँ, और क्यों। एक अनुबंध से निकालें: पक्ष, तिथियाँ, दायित्व, और राशियाँ। IE NER (entities खोजना), relation extraction (entities के बीच संबंध खोजना), और event extraction (क्या हुआ खोजना) को एक एकीकृत pipeline में जोड़ता है।
यह क्यों मायने रखता है: दुनिया की अधिकांश जानकारी असंरचित टेक्स्ट में फँसी हुई है — ईमेल, रिपोर्ट, लेख, कानूनी दस्तावेज़, चिकित्सा रिकॉर्ड। Information extraction इस टेक्स्ट को संरचित डेटा में बदल देता है जिसे खोजा, विश्लेषित और क्रियान्वित किया जा सकता है। यह वह तकनीक है जो आपको दस्तावेज़ों के ढेर के बारे में database-शैली का प्रश्न पूछने देती है।
बर्लिन-आधारित एक AI कंपनी जो खोज और एम्बेडिंग में विशेषज्ञता रखती है। उनके jina-embeddings मॉडल और रीडर API (जो कोई भी URL को LLM-तैयार पाठ में परिवर्तित करता है) वैश्विक RAG पाइपलाइन के लिए आवश्यक बुनियादी ढांचा बन गए हैं।
यह क्यों मायने रखता है:
जिना एआई ने एम्बेडिंग और रिट्रीवल इन्फ्रास्ट्रक्चर बनाई है जिस पर हजारों RAG सिस्टम निर्भर करते हैं, यह साबित करता है कि फोकस्ड सर्च टूलिंग का उपयोग करना सब कुछ करने की तुलना में अधिक मूल्यवान हो सकता है। उनके लंबे-कंटेक्स्ट एम्बेडिंग मॉडल और रीडर API एआई-पावर्ड सर्च में दो सबसे कठिन व्यावहारिक समस्याओं को हल करते हैं — लंबे दस्तावेजों को विश्वसनीय रूप से प्रतिनिधित्व करना और गंदे वेब पृष्ठों से साफ टेक्स्ट निकालना — और वे इसे करते समय मुख्य मॉडलों को ओपन सोर्स रखते हुए किया। एक एकोसिस्टम जो सामान्य लैब्स द्वारा नियंत्रित है, जिना दिखाता है कि एक चीज को बहुत अच्छे तरीके से करना और विकासकर्ताओं के लिए इसका उपयोग करना बहुत सरल बनाना एक वास्तविक व्यवसाय हो सकता है।
ऐसी तकनीकें जो AI model को उसके safety training को bypass करने और ऐसी content generate करने के लिए छलती हैं जिसे वह refuse करने के लिए डिज़ाइन किया गया था — खतरनाक गतिविधियों के लिए निर्देश, harmful content, या model की usage policies का उल्लंघन करने वाले व्यवहार। Jailbreaks उस अंतर का शोषण करते हैं जो model को refuse करने के लिए प्रशिक्षित किया गया था और जो clever prompting प्राप्त कर सकती है।
यह क्यों मायने रखता है: Jailbreaking AI safety के लिए adversarial testing ground है। हर model safety guardrails के साथ ship होता है, और हर प्रमुख model को jailbreak किया गया है। Jailbreak techniques और safety measures के बीच बिल्ली-चूहे का खेल alignment में सुधार को प्रेरित करता है। Jailbreaks को समझने से आपको marketing दावों को face value पर लेने के बजाय model की safety कितनी मज़बूत है इसका मूल्यांकन करने में मदद मिलती है।
कुआईशौ से एक एआई वीडियो प्लेटफॉर्म (चीन का द्वितीय सबसे बड़ा छोटे वीडियो प्लेटफॉर्म)। इसके द्वारा उत्पादित कुछ एआई वीडियो शारीरिक रूप से संगत और समय के अनुसार संगत होने के लिए तेजी से अंतरराष्ट्रीय ध्यान आकर्षित किया।
यह क्यों मायने रखता है: क्लिंग एआई ने दिखाया कि चीनी एआई प्रयोगशालाएं वीडियो उत्पादन के सबसे आगे के किनारे पर पश्चिमी प्रतियोगियों के साथ मुकाबला कर सकती हैं, जो शारीरिक संगतता और समय के संगतता के साथ परिणाम उत्पन्न करती हैं जो क्षेत्र में एक नया मानक बनाती हैं। कुआईशू के बिलियन-वीडियो-प्रति-दिन प्लेटफॉर्म द्वारा समर्थित और वैश्विक रूप से आक्रामक मूल्य बिंदुओं पर पेश किया गया, क्लिंग एआई वीडियो स्पेस में प्रतिस्पर्धा का मुख्य प्रेरक बन गया है, जो पूरे बाजार के लिए गुणवत्ता को ऊपर और मूल्य को नीचे धकेलता है।
KV Cache इसे यह भी कहते हैं: Key-Value Cache, की-वैल्यू कैश
बुनियादी ढांचा
पहले से गणना किए गए key/value attention tensors को स्टोर करता है ताकि प्रत्येक नए टोकन के लिए उनकी पुनर्गणना न करनी पड़े। memory की कीमत पर गति प्राप्त करता है।
यह क्यों मायने रखता है: KV cache ही कारण है कि LLM inference memory-bound है। 70B मॉडल पर 100K context को ~256 GB cache की आवश्यकता हो सकती है — weights से अधिक। यह long-context inference पर मूलभूत बाधा है।
वह तिथि जिसके बाद model के पास कोई training data नहीं है, यानी उसे उस तिथि के बाद घटित events, discoveries, या changes का ज्ञान नहीं है। यदि किसी model का cutoff अप्रैल 2024 है, तो उसे मई 2024 या बाद में हुई किसी भी चीज़ के बारे में पता नहीं है — नए products, समाचार events, वैज्ञानिक papers, या updated facts।
यह क्यों मायने रखता है: Knowledge cutoff AI assistants के साथ frustration का सबसे आम स्रोत है। "यह X के बारे में क्यों नहीं जानता?" क्योंकि X training के बाद हुआ। यह सीमा RAG (model को वर्तमान जानकारी तक पहुंच देना) और tool use (model को web search करने देना) को अपनाने को प्रेरित करती है। Cutoff को समझने से आपको पता चलता है कि model पर कब भरोसा करना है और कब verify करना है।
ज्ञान का structured representation जो relationships (edges) से जुड़ी entities (nodes) के network के रूप में होता है। "Paris (entity) France (entity) की राजधानी (relationship) है।" Knowledge graphs facts को इस तरह encode करते हैं जो reasoning, querying, और discovery को support करता है। Google का Knowledge Graph, Wikidata, और enterprise knowledge graphs search, recommendations, और data integration को power करते हैं।
यह क्यों मायने रखता है: Knowledge graphs structured, verifiable facts प्रदान करके LLMs को complement करते हैं जिन्हें LLMs hallucinate करने के बजाय query कर सकते हैं। जबकि LLMs ज्ञान को implicitly weights में store करते हैं (और कभी-कभी गलत पाते हैं), knowledge graphs इसे explicitly triples में store करते हैं जिन्हें verify और update किया जा सकता है। LLMs (natural language समझने के लिए) और KGs (facts में grounding के लिए) का combination enterprise AI के लिए एक powerful pattern है।
एक प्रशिक्षित मॉडल में विशिष्ट तथ्यों को बिना पुन: प्रशिक्षण के संशोधित करने की तकनीकें। यदि एक मॉडल नए चुनाव के बाद गलत तरीके से कहता है "फ्रांस के राष्ट्रपति Macron हैं", तो knowledge editing इस विशिष्ट तथ्य को लक्षित weights को संशोधित करके अपडेट कर सकता है, मॉडल के अन्य ज्ञान या क्षमताओं को प्रभावित किए बिना। लक्ष्य सर्जिकल सटीकता है: एक तथ्य बदलें, बाकी सब अछूता छोड़ दें।
यह क्यों मायने रखता है: Knowledge editing एक व्यावहारिक समस्या को संबोधित करता है: मॉडल पुराने हो जाते हैं, और पुन: प्रशिक्षण महंगा है। यदि आप विशिष्ट तथ्यों को सस्ते में अपडेट कर सकते हैं, तो मॉडल प्रमुख प्रशिक्षण रन के बीच वर्तमान रह सकते हैं। इसके सुरक्षा निहितार्थ भी हैं: क्या आप खतरनाक ज्ञान को संपादित करके हटा सकते हैं? क्षेत्र आशाजनक लेकिन अपरिपक्व है — संपादन अक्सर संबंधित ज्ञान पर अनपेक्षित दुष्प्रभाव डालते हैं।
ऑस्ट्रेलियाई AI छवि प्लेटफॉर्म जो मिडजर्नी और स्टेबल डिफ्यूजन के बीच एक विशिष्ट स्थान बनाया है। गेम डेवलपर्स और डिजिटल कलाकारों के बीच लोकप्रिय, इसके फाइन-ट्यून्ड मॉडल, रियल-टाइम कैनवस और उत्पादन-तैयार रचनात्मक संसाधनों पर ध्यान केंद्रित करने के कारण।
यह क्यों मायने रखता है: लेओनार्डो.एआई ने दिखाया कि एआई छवि उत्पादन को एक व्यावसायिक निर्माण एप्लिकेशन के रूप में पैक किया जा सकता है, न कि केवल एक नवाचार अनुरोध बॉक्स के रूप में, और ऐसा करने से करोड़ों उपयोगकर्ताओं को आकर्षित किया जा सकता है। उनके खेल विकास और डिजिटल कला कार्यप्रवाह पर ध्यान केंद्रित करने ने ऐसे उपयोग के मामले खोल दिए जिनके लिए मिडजर्नी और डैल-ई जैसे व्यापक उपकरण विशेष रूप से डिज़ाइन नहीं किए गए थे। कैन्वा के अधिग्रहण ने पूरे एआई छवि उत्पादन श्रेणी को मुख्य डिज़ाइन प्लेटफॉर्मों के लिए एक रणनीतिक संसाधन के रूप में स्थापित कर दिया, जिसने अकेले एआई उपकरणों के लिए बड़े निर्माण पारिस्थितिकी में सोखे जाने के तरीके के टेम्पलेट को तय कर दिया।
Liquid AI Liquid Foundation Models, लिक्विड न्यूरल नेटवर्क
कंपनियाँ
MIT spinout जैविक न्यूरल सर्किट्स के प्रेरणा से मूल रूप से भिन्न न्यूरल नेटवर्क आर्किटेक्चर के अनुसंधान कर रहा है। उनके लिक्विड फाउंडेशन मॉडल्स फिक्स्ड-वेट ट्रांसफॉर्मर्स के बजाय सतत-समय डायनैमिक्स का उपयोग करते हैं, जो अधिक कार्यक्षमता और अनुकूलता के वादा करते हैं।
यह क्यों मायने रखता है: लिक्विड एआई ट्रांसफॉर्मर्स के एकमात्र महत्वपूर्ण आर्किटेक्चर होने के मान्यता के लिए सबसे गंभीर वित्त पोषित चुनौती दर्शाता है। जैविक प्रेरित सतत समय गतिकी पर आधारित उत्पादन ग्रेड फाउंडेशन मॉडल बनाकर, वे परीक्षण कर रहे हैं कि क्या एआई उद्योग के ध्यान यंत्रों पर पूर्ण बेट लगाना अतिप्रारंभिक था। यदि एलएफएम ट्रांसफॉर्मर्स के शीर्ष स्थान से हटा नहीं सकते हैं, तो उनकी एज तैनाती और लंबी अनुक्रम प्रक्रिया के लिए दक्षता के लाभ रोबोटिक्स, मोबाइल एआई और एम्बेडेड सिस्टम्स में महत्वपूर्ण छेद बना सकते हैं — बाजार जहां 70B ट्रांसफॉर्मर चलाना एक विकल्प नहीं है।
एक एआई कंपनी जो वीडियो और 3D जेनरेशन पर फोकस करती है। उनका ड्रीम मशीन पहले से एक उच्च गुणवत्ता वाला एआई वीडियो जेनरेटर था, और रे2 वीडियो की गुणवत्ता और संगति को काफी आगे बढ़ा दिया।
यह क्यों मायने रखता है:
एल्यूमा एआई ने एआई वीडियो जेनरेशन को स्टेबल डिफ्यूजन ने इमेज के लिए करे वैसे ही सामान्य बना दिया — ब्राउज़र वाले किसी भी व्यक्ति के लिए मुफ्त, तेज़ और सुलभ बनाकर। उनके 3D कैप्चर स्टार्टअप से प्रमुख वीडियो जेनरेटर बने रहने के विकास के साथ, जो अद्वितीय तकनीकी गहराई स्पेशल अंतर्दृष्टि में है, उन्हें एआई वीडियो, 3D सामग्री और आगे आने वाले गहरे मीडिया फॉर्मेट्स के बीच वास्तव में अंतर को पुल बनाने में सक्षम होने वाली कम कंपनियों में से एक के रूप में स्थापित करता है।
एक अनुरोध भेजने और पहला प्रतिक्रिया प्राप्त करने के बीच की देरी। AI में, इसे अक्सर पहले टोकन तक के समय (TTFT) के रूप में मापा जाता है — मॉडल अपना उत्तर स्ट्रीमिंग करना शुरू करने से पहले कितना समय लगता है। मॉडल के आकार, सर्वर के भार, नेटवर्क की दूरी और प्रॉम्प्ट की लंबाई द्वारा प्रभावित होता है।
यह क्यों मायने रखता है: उपयोगकर्ता 2 सेकंड से अधिक कुछ भी धीमा मानते हैं। कम लैटेंसी वाले मॉडल रियल-टाइम एप्लिकेशन में अक्सर जीत जाते हैं, भले ही बड़े मॉडल "स्मार्ट" हों। यह प्रदाताओं के बीच मुख्य अंतर है।
एक न्यूरल नेटवर्क जो बड़ी मात्रा में पाठ पर प्रशिक्षित किया गया है ताकि मनुष्य की भाषा को समझ सके और उत्पन्न कर सके। "लार्ज" शब्द पैरामीटर्स की संख्या (अरबों) और प्रशिक्षण डेटा के आकार (ट्रिलियन टोकन) को दर्शाता है। क्लॉड, जीपीटी, जेमिनी, लैमा और मिस्ट्रल सभी एलईएम हैं।
यह क्यों मायने रखता है: LLMs आप द्वारा उपयोग किए जाने वाले प्रत्येक AI चैट, कोड सहायक और टेक्स्ट जनरेटर के पीछे तकनीक हैं। उनके बारे में जानना (सांख्यिकीय पैटर्न मैचर, संज्ञानात्मक जीव —) उनके प्रभावी उपयोग और सीमाओं को पहचानने में आपकी सहायता करता है।
एक तकनीक जो फाइन-ट्यूनिंग को बहुत सस्ता बनाती है द्वारा केवल कुछ अतिरिक्त पैरामीटर के प्रशिक्षण के बजाय पूरे मॉडल को संशोधित करने के बजाय। LoRA "एडेप्टर्स" हल्के एड-ऑन होते हैं (अक्सर केवल मेगाबाइट्स) जो एक मॉडल के व्यवहार को संशोधित करते हैं बिना उसके अरबों पैरामीटर को पुनः प्रशिक्षित करे।
यह क्यों मायने रखता है:
LoRA ने ट्यूनिंग को सामान्य बना दिया। इससे पहले, 7B मॉडल को कस्टमाइज़ करने के लिए गंभीर GPU संसाधन आवश्यक थे। अब आप घंटों में एक एकल खातेदार GPU पर ट्यून कर सकते हैं और छोटे एडेप्टर फ़ाइल साझा कर सकते हैं। इसी कारण HuggingFace पर हजारों विशेषज्ञ मॉडल हैं।
Consumer hardware पर LLM inference चलाने के लिए Georgi Gerganov द्वारा बनाई गई एक open-source C/C++ library। llama.cpp CUDA, PyTorch, या Python की आवश्यकता के बिना quantized inference करता है — यह CPUs, Apple Silicon, और consumer GPUs पर चलता है। यह पहला tool था जिसने बड़े language models को locally चलाना सामान्य developers और enthusiasts के लिए सुलभ बनाया।
यह क्यों मायने रखता है: llama.cpp ने local AI revolution शुरू की। इससे पहले, language model चलाने के लिए महंगे NVIDIA GPUs और complex Python setups की आवश्यकता थी। llama.cpp ने दिखाया कि quantized models MacBook या Raspberry Pi पर भी स्वीकार्य quality के साथ चल सकते हैं। इसने एक पूरा ecosystem (Ollama, LM Studio, kobold.cpp) जन्म दिया और "self-hosted AI" को एक वास्तविक विकल्प बनाया।
Language models के साथ applications बनाने के लिए एक लोकप्रिय open-source framework। LangChain सामान्य patterns के लिए abstractions प्रदान करता है: LLMs को data sources से जोड़ना (RAG), LLM calls की multi-step chains बनाना, conversation memory manage करना, tools का उपयोग करना, और agents को orchestrate करना। यह एक unified interface के माध्यम से कई providers (Anthropic, OpenAI, local models) को support करता है।
यह क्यों मायने रखता है: LangChain सबसे व्यापक रूप से उपयोग किया जाने वाला LLM application framework है, जिसका अर्थ है कि आप इसे tutorials, job descriptions, और मौजूदा codebases में पाएंगे। यह विवादास्पद भी है — critics का तर्क है कि यह सरल API calls पर अनावश्यक abstraction जोड़ता है। LangChain क्या करता है (और कब इसका उपयोग करना है बनाम direct API calls) यह समझना आपको सूचित architectural निर्णय लेने में मदद करता है।
वे raw, unnormalized scores जो model softmax function द्वारा probabilities में convert होने से पहले output करता है। Language model के लिए, logits vocabulary में प्रति token एक value वाला vector है — higher values उन tokens को indicate करते हैं जिन्हें model अधिक likely मानता है। Logits model का सबसे informative output हैं, final probability distribution से अधिक जानकारी रखते हैं।
यह क्यों मायने रखता है: Logits को समझने से आपको समझ आता है कि models कैसे "सोचते" हैं। Temperature, top-p, और top-k sampling सभी logits पर operate करते हैं। Image generation में classifier-free guidance logits manipulate करता है। Logit bias (specific tokens में offsets जोड़ना) आपको model behavior steer करने देता है। यदि आप basic chat से परे AI applications बना रहे हैं, तो आपको अंततः logits के साथ directly काम करना होगा।
न्यूरॉनों का एक समूह जो न्यूरल नेटवर्क में एक विशिष्ट अमूर्तता स्तर पर डेटा को प्रोसेस करता है। इनपुट परत कच्चा डेटा प्राप्त करती है। Hidden परतें (बीच वाली) उत्तरोत्तर अमूर्त प्रतिनिधित्व सीखती हैं। आउटपुट परत अंतिम परिणाम उत्पन्न करती है। "डीप" लर्निंग का अर्थ है कई hidden परतें — आधुनिक LLMs में 32 से 128+ परतें होती हैं।
यह क्यों मायने रखता है: परतें वह पदानुक्रम बनाती हैं जो डीप लर्निंग को शक्तिशाली बनाता है। शुरुआती परतें सरल पैटर्न सीखती हैं (छवियों में किनारे, टेक्स्ट में शब्द खंड)। बीच की परतें इन्हें अवधारणाओं में संयोजित करती हैं (चेहरे, वाक्यांश)। गहरी परतें अवधारणाओं को उच्च-स्तरीय समझ में संयोजित करती हैं (दृश्य पहचान, तर्क)। नेटवर्क की गहराई निर्धारित करती है कि वह कितने जटिल पैटर्न सीख सकता है।
एक प्रकार का recurrent neural network (RNN) जो अनुक्रमिक डेटा में दीर्घ-श्रेणी निर्भरताओं को सीखने के लिए डिज़ाइन किया गया है। LSTM एक "cell state" प्रस्तुत करता है — एक मेमोरी हाईवे जो कई समय चरणों में अपरिवर्तित जानकारी ले जा सकता है — तीन गेट्स द्वारा नियंत्रित: एक इनपुट गेट (क्या जोड़ना है), एक forget गेट (क्या हटाना है), और एक आउटपुट गेट (क्या प्रकट करना है)। 1997 में आविष्कृत, LSTM ने Transformers के उभरने तक अनुक्रम मॉडलिंग पर प्रभुत्व किया।
यह क्यों मायने रखता है: LSTM एक दशक (2010 का दशक) तक NLP की रीढ़ था: मशीन अनुवाद, वाक् पहचान, टेक्स्ट जनरेशन, और भावना विश्लेषण सभी LSTMs पर चलते थे। LSTM को समझने से आपको समझ आता है कि Transformers ने इसे क्यों प्रतिस्थापित किया (समानांतरता और दीर्घ-श्रेणी attention बनाम अनुक्रमिक प्रोसेसिंग और संकुचित state) और SSMs जैसे Mamba क्यों दिलचस्प हैं (वे आधुनिक सुधारों के साथ gated-state विचार पर पुनर्विचार करते हैं)।
प्रशिक्षण के दौरान learning rate को स्थिर रखने के बजाय बदलने की एक रणनीति। अधिकांश आधुनिक प्रशिक्षण warmup (लगभग-शून्य से peak तक धीरे-धीरे बढ़ाना) के बाद decay (धीरे-धीरे शून्य की ओर कम करना) का उपयोग करता है। Cosine annealing सबसे आम decay schedule है। Learning rate नियंत्रित करता है कि प्रत्येक gradient update step कितना बड़ा है — यकीनन प्रशिक्षण में सबसे महत्वपूर्ण hyperparameter।
यह क्यों मायने रखता है: Learning rate schedule को सही करना एक प्रशिक्षण रन को बना या बिगाड़ सकता है। बहुत अधिक और मॉडल diverge करता है (loss spikes, प्रशिक्षण विफल)। बहुत कम और यह बहुत धीरे प्रशिक्षित होता है या अटक जाता है। Schedule batch size, model size, और data के साथ interact करता है — कोई सार्वभौमिक setting नहीं है। Learning rate schedules को समझना आपको training curves की व्याख्या करने और प्रशिक्षण समस्याओं का निदान करने में मदद करता है।
स्वचालित रूप से पहचानना कि कोई टेक्स्ट किस भाषा में लिखा गया है। "Bonjour le monde" → फ़्रेंच। "こんにちは世界" → जापानी। आधुनिक मॉडल बस कुछ शब्दों से 100+ भाषाओं को पहचान सकते हैं, मिश्रित-भाषा टेक्स्ट (code-switching) को संभाल सकते हैं, और निकट से संबंधित भाषाओं (Norwegian बनाम Danish, Malay बनाम Indonesian) की पहचान कर सकते हैं।
यह क्यों मायने रखता है: Language detection किसी भी बहुभाषी pipeline में आवश्यक पहला चरण है: आपको इनपुट की भाषा जानने की ज़रूरत है इससे पहले कि आप इसका अनुवाद करें, इसे सही मॉडल पर भेजें, या भाषा-विशिष्ट processing लागू करें। इसका उपयोग search engines, customer support routing, content moderation, और हर उस प्रणाली में होता है जो दुनिया भर के उपयोगकर्ताओं से टेक्स्ट संभालती है।
AI और machine learning workloads पर विशेष रूप से केंद्रित एक GPU cloud provider। Lambda on-demand और reserved NVIDIA GPU instances (A100, H100, H200) AI प्रशिक्षण और inference के लिए AWS, GCP, और Azure से प्रतिस्पर्धी या कम कीमतों पर प्रदान करता है। वे GPU workstations और servers भी बेचते हैं। 2012 में स्थापित, Lambda AI शोधकर्ताओं और startups के लिए पसंदीदा provider बन गया है।
यह क्यों मायने रखता है: Lambda GPU cloud layer का प्रतिनिधित्व करता है जो उन टीमों के लिए AI विकास सक्षम करता है जो अपने स्वयं के data centers बनाने का खर्च नहीं उठा सकतीं लेकिन hyperscaler cloud providers की तुलना में अधिक नियंत्रण और बेहतर pricing चाहती हैं। मॉडल प्रशिक्षित करने वाले startups के लिए, Lambda की GPU उपलब्धता और pricing व्यवहार्य और अव्यवहार्य प्रशिक्षण runs के बीच का अंतर बना सकती है।
एक प्रशिक्षित गणितीय प्रणाली जो इनपुट लेती है और डेटा से सीखे गए पैटर्न के आधार पर आउटपुट उत्पन्न करती है। एआई में, "मॉडल" वह सामान्य शब्द है जिसका आप वास्तव में उपयोग करते हैं — क्या यह GPT-4 टेक्स्ट उत्पन्न करता है, स्टेबल डिफ्यूजन छवियाँ उत्पन्न करता है या विश्वर बोली को लिखित रूप में बदलता है। एक मॉडल अपने आर्किटेक्चर (इसकी संरचना), अपने पैरामीटर्स (इसके द्वारा सीखा गया कुछ) और अपने ट्रेनिंग डेटा (इसके द्वारा किससे सीखा गया) द्वारा परिभाषित किया जाता है। जब कोई कहता है, "मुझे कौन सा मॉडल इस्तेमाल करना चाहिए?" तो वे इसी बारे में पूछ रहे होते हैं।
यह क्यों मायने रखता है: मॉडल AI में सबसे अधिक उपयोग किया जाने वाला शब्द है, और यह विभिन्न संदर्भों में विभिन्न बातों का अर्थ रखता है। एक "मॉडल" आर्किटेक्चर (ट्रांसफॉर्मर), एक विशिष्ट प्रशिक्षित इंस्टेंस (क्लॉड ओपस 4.6), डिस्क पर एक फ़ाइल (एक .gguf फ़ाइल), या एक API एंडपॉइंट के रूप में संदर्भित किया जा सकता है। एक मॉडल क्या है — और यह क्या नहीं है — को समझना सब कुछ के लिए आधार है।
कंप्यूटर विज्ञान के व्यापक क्षेत्र जहां प्रणालियां डेटा से पैटर्न सीखती हैं बजाय स्पष्ट नियमों का पालन करने के। बजाय एक कंप्यूटर को एक बिल्ली पहचानने के लिए विशेषताओं (चार पैर, तीक्ष्ण कान, मुंह के बाल) की सूची बनाने के, आप उसे हजारों बिल्ली फोटो दिखाते हैं और उसे स्वयं पैटर्न को समझने देते हैं। मशीन लर्निंग सभी चीजों को शामिल करता है, जैसे कि सरल रैखिक रिग्रेशन से आज के AI के लिए गहरे न्यूरल नेटवर्क तक — सुपरवाइज्ड लर्निंग (लेबल किए गए उदाहरण), अनुपरिदृश्य लर्निंग (संरचना खोजना), और पुनर्बलन लर्निंग (प्रयोग और गलती)।
यह क्यों मायने रखता है: मशीन लर्निंग आजकल हम जो "AI" कहते हैं, उसके पीछे सब कुछ का आधार है। हर LLM, हर इमेज जेनरेटर, हर रिकॉमेंडेशन एल्गोरिथ्म, हर स्पैम फिल्टर — यह सब मशीन लर्निंग ही है। ML को एक व्यापक विषय के रूप में समझना आपको दिखाता है कि डीप लर्निंग कहाँ फिट होता है, क्लासिकल विधियाँ कहाँ अभी भी जीतती हैं, और क्यों "AI" वास्तव में "ML जो बहुत अच्छा हो गया" ही है।
एआई मॉडल्स के लिए ऐसे तंत्र जो एकल संवाद के बाहर जानकारी रखे रखने और याद रखने की अनुमति देते हैं। इसमें संदर्भ में याद रखने की क्षमता (संदर्भ विंडो का उपयोग करके), बाहरी मेमोरी (RAG, वेक्टर डेटाबेस), टिकाऊ संवाद मेमोरी (सत्रों के बीच उपयोगकर्ता पसंद याद रखना), और कार्य मेमोरी (बहु-चरण एजेंट कार्यों के दौरान स्थिति बनाए रखना) शामिल हैं। मेमोरी ही वह है जो एआई को एक सहयोगी के रूप में महसूस कराती है, बजाय एक अवस्था रहित उपकरण के।
यह क्यों मायने रखता है:
मेमोरी के बिना, प्रत्येक AI संवाद शून्य से शुरू होता है। आप अपनी पसंदों को पुनः बताते हैं, अपने कोडबेस को पुनः स्पष्ट करते हैं, अपने प्रोजेक्ट को पुनः वर्णन करते हैं। मेमोरी वह है जो एक चैटबॉट को एक सहायक बनाता है — और यह एक ऐसी समस्या है जिसे अच्छी तरह से हल करना सबसे कठिन में से एक है, संबंधितता, गोपनीयता, अप्रासंगिकता और संग्रहण लागत के बीच संतुलन बनाए रखते हुए।
चीनी एआई कंपनी जिसने किमी लॉन्च करके सुर्ख़ियां बनाई, एक चैटबॉट जिसके पास 2 मिलियन टोकन के संदर्भ विंडो है। यांग जिलिन द्वारा स्थापित, जो लंबे संदर्भ मॉडलिंग में महत्वपूर्ण नवाचारों के पीछे पूर्व अनुसंधानकर्ता हैं।
यह क्यों मायने रखता है: मूनशॉट एआई ने पूरे उद्योग को कंटेक्स्ट लेंथ के महत्व को गंभीरता से लेने के लिए बाध्य कर दिया। किमी के पहले, लंबे कंटेक्स्ट समर्थन एक अच्छा लेकिन आवश्यक नहीं होने वाला विशेषता था; किमी चीन में वायरल हो गई के बाद, प्रत्येक प्रमुख प्रयोगशाला त्वरित रूप से अपने कंटेक्स्ट विंडोज़ विस्तार करने के लिए दौड़ पड़े। यांग जिलिन के बेट कि उपयोगकर्ता पर्याप्त कंटेक्स्ट प्रदान करने पर एआई के साथ अपने बातचीत के तरीके में मूल रूप से बदलेंगे, इसकी सत्यापन किमी के विस्फोटक वृद्धि द्वारा कर दिया गया है, और मूनशॉट द्वारा विकसित कुशल लंबे अनुक्रम अनुमान की तकनीक अगली पीढ़ी के मॉडल कैसे डॉक्यूमेंट्स, कोडबेस और जटिल बहु-चरण तर्क के साथ निपटते हैं, इस पर प्रभाव डाल रहे हैं।
मेटा के एआई अनुसंधान विभाग, जहां FAIR (फंडामेंटल एआई रिसर्च) स्थित है। ओपन-वेट्स लामा मॉडल परिवार और पायटॉर्च, एक गहरा अधिगम फ्रेमवर्क जिसका उपयोग अधिकांश एआई उद्योग द्वारा किया जाता है, के लिए जिम्मेदार है।
यह क्यों मायने रखता है: मेटा एआई ने एआई के आर्थिक दृष्टिकोण में मौलिक बदलाव कर दिखाया कि अग्रणी श्रेणी के मॉडल ओपन वेट्स के रूप में जारी किए जा सकते हैं। लामा और इसके विवरण हजारों अनुप्रयोगों, शुरुआती कंपनियों और अनुसंधान परियोजनाओं को संचालित करते हैं जिन्हें कभी ऐसे मॉडल के उपयोग के अवसर नहीं मिले होते। पायटॉर्च विश्व के अधिकांश एआई अनुसंधान और उत्पादन प्रणालियों के मुख्य आधार है। और अपने ऐप्स के माध्यम से 3+ अरब उपयोगकर्ता के साथ, मेटा के पास कोई अन्य एआई प्रयोगशाला इसके साथ तुलना नहीं कर सकती — जब वे एक एआई सुविधा जारी करते हैं, तो वह एक रात में मनुष्यता के एक तिहाई तक पहुंच जाती है।
ईशानीय AI शक्ति, जो पूर्व DeepMind और Meta अनुसंधानकर्ताओं द्वारा स्थापित की गई है। इन्हें कार्यक्षम मॉडलों के साथ अपने आकार के अनुपात में अधिक कार्यक्षमता दिखाने और वाणिज्यिक प्रस्तावों के साथ खुले वेट्स वितरण के प्रति समर्थन के लिए जाना जाता है।
यह क्यों मायने रखता है: मिस्ट्रल ने यह साबित कर दिया कि आपको अमेरिकी हाइपरस्केलर बजट की आवश्यकता नहीं होती फ्रंटियर एआई मॉडल बनाने के लिए। उनकी कुशल विन्यास — विशेष रूप से उनके विरल मिश्रित विशेषज्ञों पर उनके शुरुआती कार्य — पूरे उद्योग के मॉडल डिज़ाइन के प्रयोजन के प्रभावित करता है, और उनके ओपन-वेट्स रिलीज़ विश्व भर के विकासकर्ताओं को एपीआई निर्भरता के बिना उच्च गुणवत्ता वाले मॉडलों तक पहुंच देते हैं। जैसा कि पहली यूरोपीय एआई कंपनी जो वास्तविक फ्रंटियर प्रतियोगिता तक पहुंचती है, मिस्ट्रल के पास रणनीतिक महत्व भी है: उनकी सफलता (या विफलता) यह निर्धारित करेगी कि यूरोप एआई में एक खिलाड़ी हो सकता है, या केवल इसका नियामक।
चीनी एआई कंपनी जो पाठ, ध्वनि और वीडियो में विशाल पैमाने के मॉडल बना रही है। अपने Hailuo उपभोक्ता प्लेटफॉर्म और बढ़ती रूप से प्रतिस्पर्धी मल्टीमोडल मॉडल के लिए जानी जाती है।
यह क्यों मायने रखता है: मिनीमैक्स चीन में सबसे अधिक विविध AI कंपनियों में से एक बन गई है, एकल एकीकृत स्टैक से पाठ, ध्वनि और वीडियो के लिए प्रतिस्पर्धी मॉडल बनाकर। उनके हैलूओ AI प्लेटफॉर्म ने अंतरराष्ट्रीय दर्शकों के लिए उच्च गुणवत्ता वाली AI वीडियो उत्पादन को मुफ्त में लाया, जिससे यह दिखाया गया कि चीनी AI प्रयोगशालाएं वास्तविक अंतरराष्ट्रीय पहुंच वाले उपभोक्ता उत्पादों को बना सकती हैं — केवल उद्यमी एपीआई या शोध पत्र नहीं।
एक खुला प्रोटोकॉल (एंथ्रोपिक द्वारा बनाया गया) जो एआई मॉडल के बाहरी उपकरणों और डेटा स्रोतों से जुड़ने के तरीके को मानकीकृत करता है। इसे एआई के लिए यूएसबी-सी के रूप में सोचें — प्रत्येक उपकरण के लिए कस्टम इंटीग्रेशन के बजाय एक मानक इंटरफ़ेस। एमसीपी सर्वर क्षमताओं को प्रकट करते हैं; एमसीपी क्लाइंट (जैसे क्लॉउड) उनका उपयोग करते हैं।
यह क्यों मायने रखता है: प्रत्येक AI-टूल एकीकरण विशेष रूप से डिज़ाइन किया गया था। MCP का अर्थ है कि एक बार बनाया गया उपकरण किसी भी संगत AI के साथ काम करता है। यह पहले से ही क्लॉड, कर्सर और अन्य द्वारा समर्थित है। यह वह तरीका है जिससे AI चैटबॉट से वास्तविक सहायक बनता है।
एक आर्किटेक्चर जहां मॉडल में कई “एक्सपर्ट” सब-नेटवर्क होते हैं, लेकिन प्रत्येक इनपुट के लिए केवल कुछ सक्रिय करता है। एक राउटर नेटवर्क निर्णय लेता है कि एक दिए गए टोकन के लिए कौन से एक्सपर्ट संबंधित हैं। इसका मतलब है कि एक मॉडल में 100B+ कुल पैरामीटर हो सकते हैं, लेकिन किसी भी एकल फॉरवर्ड पास के लिए केवल 20B का उपयोग करता है।
यह क्यों मायने रखता है: MoE ऐसे मॉडल्स के रूप में जैसे कि मिक्स्ट्रल और (रिपोर्ट के अनुसार) GPT-4 के पास एक बड़े मॉडल की गुणवत्ता होती है लेकिन एक छोटे मॉडल की गति के साथ। ट्रेड-ऑफ़ अधिक मेमोरी उपयोग (सभी एक्सपर्ट्स को लोड करना आवश्यक है) होता है भले ही गणना सस्ती हो।
एक मॉडल जो कई प्रकार के डेटा को समझ सकता है और/या उत्पन्न कर सकता है: टेक्स्ट, इमेज, ऑडियो, वीडियो, कोड। क्लॉड इमेज और टेक्स्ट पढ़ सकता है; कुछ मॉडल इमेज या वाचन भी उत्पन्न कर सकते हैं। "मल्टीमोडल" — "एकल मोड" मॉडलों से अलग होता है जो केवल एक प्रकार का ही है।
यह क्यों मायने रखता है: वास्तविक दुनिया के कार्य बहु-माध्यमी होते हैं। आप एक एआई को एक स्क्रीनशॉट दिखाएं और पूछें "यहां क्या गलत है?" या उसे एक चित्र दें और कहें "इसे लागू करें।" बहु-माध्यमी मॉडल इसके संभव बनाते हैं।
Gu और Dao द्वारा selective state space model। Transformer की quadratic scaling के बजाय sequence length में linear scaling। compressed hidden state जो चयनात्मक रूप से अपडेट होती है — महत्वपूर्ण जानकारी संरक्षित, अप्रासंगिक क्षय।
यह क्यों मायने रखता है: Transformer प्रभुत्व के लिए सबसे विश्वसनीय चुनौती। यदि Transformer-गुणवत्ता परिणामों के साथ linear-time, तो प्रभाव विशाल हैं। Hybrid architectures (Jamba, Zamba) पहले से शिप हो रहे हैं।
Neural networks के अंदर neuron/circuit/feature स्तर पर क्या होता है, इसकी reverse-engineering। सिर्फ यह नहीं कि मॉडल क्या आउटपुट करता है, बल्कि यह कैसे गणना करता है।
यह क्यों मायने रखता है: AI सुरक्षा के लिए केंद्रीय। शोधकर्ताओं ने Transformers के अंदर विशिष्ट circuits (induction heads आदि) खोजे हैं। Anthropic में प्रमुख अनुसंधान क्षेत्र।
सौंदर्य परिष्करण के लिए जानी जाने वाली AI image generation। Discord और web के माध्यम से संचालित। छोटी टीम, लाभदायक, गुणवत्ता-केंद्रित।
यह क्यों मायने रखता है: रचनात्मक/कलात्मक उपयोग के लिए सबसे लोकप्रिय। साबित करता है कि curation और UX, architecture जितना ही मायने रखता है।
Model Serving vLLM, TGI, TensorRT-LLM, Inference Server
बुनियादी ढांचा
वह बुनियादी ढांचा और सॉफ़्टवेयर जो प्रशिक्षित AI मॉडल को प्रोडक्शन में चलाता है, आने वाले अनुरोधों को संभालता है, GPU मेमोरी प्रबंधित करता है, दक्षता के लिए batching करता है, और प्रतिक्रियाएँ लौटाता है। vLLM, TGI (Text Generation Inference), और TensorRT-LLM जैसे model serving frameworks LLM inference को बड़े पैमाने पर तेज़ और लागत-प्रभावी बनाने की जटिल इंजीनियरिंग को संभालते हैं।
यह क्यों मायने रखता है: "मेरे पास एक मॉडल है" और "मैं एक साथ 10,000 उपयोगकर्ताओं की सेवा कर सकता हूँ" के बीच का अंतर विशाल है। Model serving frameworks GPU मेमोरी प्रबंधन, अनुरोध शेड्यूलिंग, KV cache ऑप्टिमाइज़ेशन, और continuous batching को हल करते हैं — ऐसी समस्याएँ जो शून्य से हल करना कठिन हैं। सही serving स्टैक चुनना प्रोडक्शन AI में सबसे उच्च-लीवरेज निर्णयों में से एक है।
वह degradation जो तब होता है जब AI models को पिछले AI models द्वारा generate किए गए data पर प्रशिक्षित किया जाता है, एक feedback loop बनाता है जहां errors और biases पीढ़ियों में जमा होते हैं। प्रत्येक पीढ़ी पिछली से कुछ विविधता खो देती है और कुछ artifacts को बढ़ा देती है, अंततः ऐसे models उत्पन्न करती है जो repetitive, generic, या विकृत outputs generate करते हैं।
यह क्यों मायने रखता है: Model collapse AI-generated content युग का ticking time bomb है। जैसे-जैसे internet AI-generated text से भरता है (नई web content का अनुमानित 10–50%), भविष्य के models web scrapes पर प्रशिक्षित होने पर अनिवार्य रूप से AI outputs को ingest करेंगे। यदि इसे सावधानीपूर्वक manage नहीं किया गया, तो model quality plateau या degrade हो सकती है। यही कारण है कि data curation और provenance tracking critical infrastructure बनते जा रहे हैं।
ऐसे architectures जहां कई AI agents जटिल समस्याओं को हल करने के लिए सहयोग, बहस, या विशेषज्ञता प्रदान करते हैं जिन्हें एक अकेला agent संभाल नहीं सकता। प्रत्येक agent की एक अलग भूमिका (researcher, coder, reviewer), अलग tools, या अलग models हो सकते हैं। वे structured messages, shared memory, या direct handoffs के माध्यम से communicate करते हैं।
यह क्यों मायने रखता है: Multi-agent systems जटिल AI कार्यों के लिए उभरता हुआ paradigm है। एक अकेला LLM call एक सवाल संभालता है। एक agent एक multi-step कार्य संभालता है। एक multi-agent system ऐसे कार्यों को संभालता है जिनमें अलग-अलग expertise, parallel work, या review के माध्यम से quality assurance की आवश्यकता होती है। जैसे-जैसे AI chatbots से autonomous workflows की ओर बढ़ता है, multi-agent architectures natural scaling pattern बन जाते हैं।
न्यूरल नेटवर्क को कम-सटीकता संख्या प्रारूपों (32-बिट के बजाय 16-बिट) में अधिकांश गणनाओं के लिए प्रशिक्षित करना जबकि महत्वपूर्ण ऑपरेशन पूर्ण सटीकता में रखना। यह GPUs की प्रभावी मेमोरी क्षमता और गणना गति को दोगुना कर देता है जिसमें मॉडल गुणवत्ता पर न्यूनतम प्रभाव होता है। BF16 (bfloat16) LLM प्रशिक्षण का मानक है; FP16 inference के लिए उपयोग किया जाता है।
यह क्यों मायने रखता है: मिश्रित सटीकता ही कारण है कि हम जितने बड़े मॉडल प्रशिक्षित कर सकते हैं। FP32 में 70B पैरामीटर मॉडल को सिर्फ भारों के लिए 280 GB की आवश्यकता होगी — किसी भी एकल GPU पर असंभव। BF16 में, इसे 140 GB की आवश्यकता है, जो कुछ GPUs में फिट होता है। मिश्रित सटीकता ने AI उद्योग की कम्प्यूट क्षमता को प्रभावी रूप से मुफ़्त में दोगुना कर दिया, बस एक बुद्धिमान संख्या प्रारूप का उपयोग करके।
एक मानकीकृत दस्तावेज़ जो मशीन लर्निंग मॉडल के इच्छित उपयोग, प्रदर्शन विशेषताओं, प्रशिक्षण डेटा, सीमाओं, और नैतिक विचारों का वर्णन करता है। Mitchell et al. (2019) द्वारा प्रस्तुत, मॉडल कार्ड पारदर्शिता बढ़ाने और उपयोगकर्ताओं को सूचित निर्णय लेने में मदद करने का लक्ष्य रखते हैं कि कोई मॉडल उनके उपयोग के मामले के लिए उपयुक्त है या नहीं।
यह क्यों मायने रखता है: मॉडल कार्ड AI के न्यूट्रिशन लेबल हैं। उनके बिना, आप एक मॉडल का अंधेरे में उपयोग कर रहे हैं — आप नहीं जानते कि इसे किस डेटा पर प्रशिक्षित किया गया, यह किस पर अच्छा और खराब प्रदर्शन करता है, या यह किन समूहों को नुकसान पहुँचा सकता है। जैसे-जैसे AI विनियमन बढ़ता है (EU AI Act दस्तावेज़ीकरण की आवश्यकता करता है), मॉडल कार्ड सर्वोत्तम अभ्यास से कानूनी आवश्यकता की ओर बढ़ रहे हैं।
कई attention ऑपरेशन को समानांतर में चलाना, प्रत्येक queries, keys और values के अपने सीखे हुए प्रक्षेपण के साथ। पूर्ण मॉडल आयाम को देखने वाले एक attention फ़ंक्शन के बजाय, multi-head attention आयाम को कई "heads" में विभाजित करता है (जैसे, 4096-आयाम मॉडल के लिए 128 आयामों के 32 heads)। प्रत्येक head एक साथ विभिन्न प्रकार के संबंधों पर ध्यान केंद्रित कर सकता है।
यह क्यों मायने रखता है: Multi-head attention वह कारण है जिससे Transformers इतने अभिव्यंजक हैं। एक head वाक्यात्मक संबंधों (कर्ता-क्रिया) पर ध्यान केंद्रित कर सकता है, दूसरा स्थितिगत पैटर्न (आसपास के शब्द) पर, तीसरा अर्थगत समानता पर। यह समानांतर विशेषज्ञता मॉडल को एक साथ कई प्रकार की निर्भरताओं को पकड़ने देती है, जो एक single attention head उतने प्रभावी ढंग से नहीं कर सकता।
एक self-supervised प्रशिक्षण उद्देश्य जहां इनपुट में यादृच्छिक टोकन को [MASK] टोकन से बदल दिया जाता है, और मॉडल को संदर्भ से मूल टोकन की भविष्यवाणी करनी चाहिए। BERT ने MLM को लोकप्रिय बनाया: 15% टोकन को mask करें, मूल शब्दों की भविष्यवाणी करने के लिए बाएं और दाएं दोनों संदर्भ को देखने के लिए bidirectional attention का उपयोग करें। यह शक्तिशाली टेक्स्ट समझ मॉडल बनाता है (टेक्स्ट जनरेशन मॉडल के विपरीत)।
यह क्यों मायने रखता है: MLM वह प्रशिक्षण उद्देश्य है जिसने BERT और encoder मॉडलों का पूरा परिवार बनाया जो अभी भी अधिकांश प्रोडक्शन search, classification, और embedding सिस्टम को शक्ति प्रदान करता है। MLM बनाम causal language modeling (next-token prediction) को समझना समझ मॉडल (BERT) और जनरेशन मॉडल (GPT) के बीच मूलभूत विभाजन की व्याख्या करता है — और क्यों प्रत्येक अलग-अलग कार्यों में उत्कृष्ट है।
कई fine-tuned मॉडलों के weights को बिना किसी अतिरिक्त प्रशिक्षण के एक single मॉडल में मिलाना। यदि मॉडल A कोडिंग में बहुत अच्छा है और मॉडल B रचनात्मक लेखन में बहुत अच्छा है, तो उन्हें merge करने से एक ऐसा मॉडल बन सकता है जो दोनों में अच्छा है। लोकप्रिय merging विधियों में SLERP (गोलाकार interpolation), TIES (sign conflicts को हल करना), और DARE (merge से पहले यादृच्छिक रूप से parameters drop करना) शामिल हैं।
यह क्यों मायने रखता है: Model merging ओपन-सोर्स समुदाय का गुप्त हथियार है। इसमें शून्य compute लागत (बस weight tensors पर गणित) है और यह ऐसे मॉडल उत्पन्न कर सकता है जो अपने घटकों से बेहतर प्रदर्शन करते हैं। Open LLM Leaderboard पर कई शीर्ष मॉडल merges हैं। यह वह तरीका भी है जिससे practitioners कई LoRA fine-tunes को एक single बहुमुखी मॉडल में जोड़ते हैं। Merging को समझना ओपन मॉडलों के साथ काम करने वाले किसी भी व्यक्ति के लिए एक शक्तिशाली, मुफ़्त क्षमता अनलॉक करता है।
एक भाषा से दूसरी भाषा में स्वचालित रूप से टेक्स्ट का अनुवाद करना। आधुनिक neural machine translation (NMT) समानांतर कॉर्पोरा (टेक्स्ट और उनके अनुवाद) पर प्रशिक्षित encoder-decoder Transformers का उपयोग करता है। Google Translate, DeepL और LLM-आधारित अनुवाद सभी इस दृष्टिकोण के विभिन्न संस्करणों का उपयोग करते हैं। गुणवत्ता में नाटकीय सुधार हुआ है — सामान्य भाषा जोड़ियों के लिए, MT नियमित सामग्री के लिए पेशेवर मानव अनुवाद के करीब पहुँचता है।
यह क्यों मायने रखता है: Machine translation बड़े पैमाने पर भाषा की बाधाओं को तोड़ता है। यह वैश्विक वाणिज्य, cross-language खोज, रीयल-टाइम संचार, और भाषाओं के बीच सूचना तक पहुँच को सक्षम बनाता है। AI के लिए विशेष रूप से, MT वह तरीका है जिससे मुख्य रूप से अंग्रेज़ी पर प्रशिक्षित मॉडल 100+ भाषाओं में उपयोगकर्ताओं की सेवा कर सकते हैं — और यही कारण है कि बहुभाषी tokenizer दक्षता लागत के लिए मायने रखती है।
Text विवरणों, melodies, या अन्य audio inputs से AI मॉडलों का उपयोग करके संगीत बनाना। "120 BPM पर एक catchy synth melody के साथ एक upbeat electronic track" एक पूर्ण संगीत composition उत्पन्न करता है। Suno, Udio, MusicLM (Google), और Stable Audio प्रमुख मॉडल हैं। वर्तमान सिस्टम विविध शैलियों और genres में vocals, instrumentals, और पूर्ण arrangements generate करते हैं।
यह क्यों मायने रखता है: Music generation image generation का audio समकक्ष है — यह संगीत निर्माण को सभी के लिए सुलभ बना रहा है, न कि केवल प्रशिक्षित संगीतकारों के लिए। Content creators को background music की आवश्यकता है, game developers को soundtracks की, advertisers को jingles की। AI music इन जरूरतों को संगीतकारों को hire करने की लागत और समय के एक अंश पर पूरा करता है। लेकिन यह image generation के समान copyright और authenticity प्रश्न भी उठाता है।
Trained machine learning मॉडलों को उनके पूरे lifecycle में versioning, tracking और manage करने के लिए एक centralized system। Package registry (npm, PyPI) जैसा लेकिन ML मॉडलों के लिए: प्रत्येक model version उसके metadata (training data, hyperparameters, performance metrics, lineage) के साथ store किया जाता है, जिससे results reproduce करना, versions compare करना, और विशिष्ट मॉडलों को production में deploy करना संभव होता है।
यह क्यों मायने रखता है: Model registry के बिना, ML development अव्यवस्था बन जाता है: मॉडल का कौन सा version production में है? इसे किस data पर train किया गया था? हमने इसे आखिरी बार कब update किया? किसने train किया? Model registry इन सभी प्रश्नों का उत्तर देता है और reproducible, auditable, और विश्वसनीय ML deployment की नींव प्रदान करता है। Production में मॉडल चलाने वाली किसी भी टीम के लिए यह आवश्यक infrastructure है।
सभी neural networks के अंतर्गत मूलभूत गणितीय ऑपरेशन। एक weight matrix को input vector (या matrix) से गुणा करने पर output vector उत्पन्न होता है। प्रत्येक linear layer, प्रत्येक attention computation, और प्रत्येक embedding lookup अंततः एक matrix multiplication है। AI hardware (GPUs, TPUs) का प्रदर्शन इस बात से मापा जाता है कि यह कितनी तेज़ी से matrix multiplications कर सकता है।
यह क्यों मायने रखता है: यह समझना कि neural networks बस matrix multiplications (बीच में non-linearities के साथ) के अनुक्रम हैं, पूरे क्षेत्र को रहस्यमुक्त कर देता है। यह बताता है कि GPUs क्यों आवश्यक हैं (वे parallel matrix multiplication machines हैं), मॉडल का आकार parameters में क्यों मापा जाता है (weight matrices में मानों की संख्या), और FLOPs compute की इकाई क्यों है (यह इन matrix multiplications में multiply-add ऑपरेशनों की गिनती करता है)।
AI की वह शाखा जो मशीनों को मनुष्य की भाषा को समझने, व्याख्या करने और उत्पन्न करने की क्षमता प्रदान करती है। NLP मूल टेक्स्ट प्रोसेसिंग (टोकेनाइजेशन, स्टेमिंग, पार्ट-ऑफ-स्पीच टैगिंग) से लेकर संवेदन विश्लेषण, मशीन अनुवाद, सारांश और प्रश्न उत्तर जैसे जटिल कार्यों तक सब कुछ कवर करता है। ट्रांसफॉर्मर्स के पहले, NLP विशेषज्ञ तकनीकों के एक टुकड़ा-टुकड़ा था। अब, LLMs ने NLP के अधिकांश हिस्सों को एक परिकल्पना के तहत एकजुट कर दिया है — लेकिन इस क्षेत्र की नींव इन मॉडल के काम करने के कारण और तरीके को समझने के लिए अभी भी महत्वपूर्ण है।
यह क्यों मायने रखता है: NLP आपको एआई के साथ सामान्य अंग्रेजी में बात करने और उपयोगी जवाब प्राप्त करने के कारण है। हर चैटबॉट, हर खोज इंजन, हर अनुवाद सेवा, हर एआई लेखन उपकरण NLP है। हालांकि आप कभी भी एक NLP प्रणाली को शून्य से बनाने के बिना, मूल बातें — टोकनाइजेशन, ध्यान, एम्बेडिंग्स, संदर्भ — समझने से आप टेक्स्ट के साथ काम करने वाले हर एआई उपकरण के बेहतर उपयोगकर्ता बन जाते हैं।
वह कंपनी जिसके GPUs विश्वव्यापी रूप से लगभग सभी AI प्रशिक्षण और अधिकांश अनुमान को चलाते हैं। जो एक ग्राफिक्स कार्ड कंपनी के रूप में शुरू हुई, AI उद्योग में सबसे महत्वपूर्ण हार्डवेयर आपूर्तिकर्ता बन गई, जिससे कुछ समय के लिए NVIDIA पृथ्वी पर सबसे मूल्यवान कंपनी बन गई।
यह क्यों मायने रखता है:
एनवीडिया वह कंपनी है जिसके बिना AI क्रांति सरलता से होती नहीं है — उनके GPU और CUDA सॉफ्टवेयर परिसर लगभग हर महत्वपूर्ण AI मॉडल के ट्रेनिंग के आधार हैं। उद्देश्यपूर्ण AI हार्डवेयर, एक दशक से अधिक सॉफ्टवेयर खाई और GPU को एक साथ जोड़ने वाले नेटवर्किंग फैब्रिक पर नियंत्रण के संयोजन ने उन्हें 21वीं शताब्दी के सबसे महत्वपूर्ण आपूर्ति श्रृंखला में लगभग एकाधिकारी स्थिति दे दी है। जब सरकारें, कंपनियां और अनुसंधान प्रयोगशालाएं AI कम्प्यूट के लिए प्रतिस्पर्धा करती हैं, तो वे एनवीडिया हार्डवेयर के लिए प्रतिस्पर्धा करती हैं, और वह एकमात्र तथ्य जेनसन ह्यूंग की पूर्व ग्राफिक्स कार्ड कंपनी को दुनिया के सबसे रणनीतिक रूप से महत्वपूर्ण तकनीकी कंपनी बना देता है।
एक गणना प्रणाली जो जैविक मस्तिष्क से अनुप्रेरित होती है, जो कई परतों के जुड़े हुए "न्यूरॉन" (गणितीय फ़ंक्शन) से बना होता है जो डेटा से पैटर्न सीखते हैं। जानकारी परतों के माध्यम से प्रवाहित होती है, प्रगतिशील रूप से बदलती रहती है जब तक नेटवर्क एक आउटपुट नहीं उत्पन्न करता है। प्रत्येक आधुनिक AI मॉडल किसी न किसी तरह का न्यूरल नेटवर्क होता है।
यह क्यों मायने रखता है: न्यूरल नेटवर्क्स AI के पीछे वाला "हाउ" हैं। इसके बारे में समझना कि ये गणित (मैजिक नहीं, न ही दिमाग) हैं, यह यह समझ में आता है कि AI क्या कर सकता है और क्या नहीं। ये पैटर्न मैचर्स हैं — अत्यधिक सक्षम, लेकिन फिर भी पैटर्न मैचर्स ही हैं।
ऐसी तकनीकें जो नेटवर्क के माध्यम से बहने वाले मानों को सुसंगत पैमाने पर सामान्यीकृत करके न्यूरल नेटवर्क प्रशिक्षण को स्थिर करती हैं। Layer Normalization (LayerNorm) प्रत्येक उदाहरण के भीतर विशेषताओं में सामान्यीकरण करता है। RMSNorm एक सरलीकृत संस्करण है। Batch Normalization (BatchNorm) बैच में सामान्यीकरण करता है। प्रत्येक Transformer परतों के बीच किसी न किसी प्रकार के normalization का उपयोग करता है।
यह क्यों मायने रखता है: Normalization के बिना, गहरे नेटवर्क को प्रशिक्षित करना अत्यंत कठिन है — activations परतों में विस्फोट या गायब हो सकती हैं, जिससे gradient descent अस्थिर हो जाता है। Normalization उन सादी तकनीकों में से एक है जो बिल्कुल आवश्यक है: इसे किसी भी आधुनिक आर्किटेक्चर से हटा दें और प्रशिक्षण ध्वस्त हो जाता है।
न्यूरल नेटवर्क की बुनियादी कम्प्यूटेशनल इकाई। एक कृत्रिम न्यूरॉन इनपुट प्राप्त करता है, प्रत्येक को एक भार (weight) से गुणा करता है, उन्हें जोड़ता है, एक बायस जोड़ता है, और परिणाम को एक एक्टिवेशन फ़ंक्शन से गुज़ारकर आउटपुट उत्पन्न करता है। हज़ारों से अरबों ऐसे न्यूरॉन, परतों में व्यवस्थित और सीखे गए भारों से जुड़े हुए, वे न्यूरल नेटवर्क बनाते हैं जो सभी आधुनिक AI को शक्ति प्रदान करते हैं।
यह क्यों मायने रखता है: न्यूरॉन डीप लर्निंग के अणु हैं। एक अकेले न्यूरॉन को समझना — भारित योग प्लस एक्टिवेशन — बाकी न्यूरल नेटवर्क आर्किटेक्चर को सहज बना देता है। एक परत न्यूरॉनों का समूह है। एक नेटवर्क परतों का ढेर है। प्रशिक्षण भारों को समायोजित करना है। बाकी सब विवरण हैं (महत्वपूर्ण विवरण, लेकिन विवरण)।
टेक्स्ट में नामित entities की पहचान और वर्गीकरण करना — व्यक्ति, संगठन, स्थान, तिथियाँ, मौद्रिक राशियाँ और अन्य उचित संज्ञाएँ। "Apple ने मंगलवार को म्यूनिख में $3B निवेश की घोषणा की" में, NER Apple (संगठन), $3B (धन), म्यूनिख (स्थान) और मंगलवार (तिथि) की पहचान करता है। यह सूचना निष्कर्षण, खोज और knowledge graph निर्माण में उपयोग किया जाने वाला एक मूलभूत NLP कार्य है।
यह क्यों मायने रखता है: NER असंरचित टेक्स्ट से संरचित सूचना निष्कर्षण की रीढ़ है। हर search engine, समाचार aggregator और intelligence सिस्टम NER का उपयोग यह समझने के लिए करता है कि कोई दस्तावेज़ किसके बारे में है। यह टेक्स्ट से knowledge graphs बनाने का पहला कदम भी है — आप उन entities के बीच संबंध नहीं बना सकते जिनकी आपने पहचान नहीं की है।
मुख्य prompt के साथ उपयोग किया जाने वाला एक text विवरण जो बताता है कि आप generated image में क्या नहीं चाहते। Prompt: "एक सुंदर परिदृश्य।" Negative prompt: "धुँधला, कम गुणवत्ता, text, watermark, लोग।" मॉडल generation के दौरान negative prompt में अवधारणाओं से सक्रिय रूप से दूर जाता है। Negative prompts मुख्य रूप से Stable Diffusion और अन्य open image generation मॉडलों के साथ उपयोग किए जाते हैं।
यह क्यों मायने रखता है: Negative prompts image generation गुणवत्ता में सुधार के लिए सबसे प्रभावी tools में से एक हैं। इनके बिना, मॉडल artifacts (धुँधले क्षेत्र, अतिरिक्त उँगलियाँ, text watermarks) उत्पन्न करते हैं क्योंकि ये प्रशिक्षण डेटा में बार-बार दिखाई देते हैं। एक अच्छी तरह से तैयार किया गया negative prompt सामान्य failure modes को समाप्त करता है और positive prompt को बदले बिना आपको output पर अधिक नियंत्रण देता है।
AI मॉडल को तेज़, छोटा, सस्ता या अधिक सटीक बनाने के लिए उपयोग किए जाने वाले विस्तृत तकनीकों के सेट। इसमें प्रशिक्षण अनुकूलन (मिश्रित तीव्रता, ग्रेडिएंट चेकपॉइंटिंग, डेटा समानांतरता), अनुमान अनुकूलन (क्वांटाइजेशन, प्रूनिंग, डिस्टिलेशन, स्पेक्यूलेटिव डिकोडिंग) और सर्विंग अनुकूलन (बैचिंग, कैशिंग, लोड बैलेंसिंग) शामिल हैं। अनुकूलन आपको एक 14B पैरामीटर मॉडल को लैपटॉप पर चलाने के कारण है।
यह क्यों मायने रखता है: मूल क्षमता कुछ नहीं होती अगर आप इसे चलाने के लिए खर्च नहीं कर सकते। ऑप्टिमाइजेशन एक अनुसंधान डेमो और एक उत्पादन उत्पाद के बीच अंतर होता है। यही कारण है कि ओपन-वेट मॉडल API प्रदाताओं के साथ प्रतिस्पर्धा कर सकते हैं, यही कारण है कि मोबाइल एआई मौजूद है, और यही कारण है कि अनुमान लगाने की लागत लगातार घट रही है।
चैटजीपीटी और जीपीटी मॉडलों की श्रृंखला के पीछे कंपनी। मूल रूप से एक अनुदानित अनुसंधान प्रयोगशाला, ओपनएआई नवंबर 2022 में चैटजीपीटी के लॉन्च के साथ आईएआई क्रांति के सार्वजनिक चेहरा बन गई।
यह क्यों मायने रखता है:
ओपनएआई ने किसी अन्य संगठन से अधिक एआई को अनुसंधान लैब से सामान्य जनता के बीच जागरूकता लाने में योगदान दिया। चैटजीपीटी जननी एआई के लिए आईफोन के समान महत्वपूर्ण घड़ी बन गया था — वह उत्पाद जिसने सैकड़ों मिलियन लोगों को बुनियादी रूप से समझा दिया कि बड़े भाषा मॉडल क्या कर सकते हैं। उनकी API ने हजारों एआई स्टार्टअप के लिए आधारभूत संरचना बनाई, और जीपीटी श्रृंखला ने वर्षों तक एआई अनुसंधान में स्केलिंग को प्रमुख परिकल्पना के रूप में स्थापित कर दिया। ओपनएआई के विवाद भी — प्रशासनिक संकट, अमूल्य लाभ से लाभ वाली कंपनी में परिवर्तन, सुरक्षा-केंद्रित अनुसंधानकर्ताओं के छोड़ जाने — एआई कंपनियों के कैसे संरचित और प्रशासित होने चाहिए, इस व्यापक चर्चा को आकार देने में भूमिका निभाई है।
जब कोई कंपनी किसी मॉडल के प्रशिक्षित पैरामीटर को किसी भी व्यक्ति द्वारा डाउनलोड और चलाने के लिए जारी करती है। "ओपन वेट्स" "ओपन सोर्स" से अधिक सटीक है क्योंकि ज्यादातर जारी किए गए मॉडल प्रशिक्षण डेटा या प्रशिक्षण कोड को शामिल नहीं करते हैं — आपको तैयार मॉडल मिलता है लेकिन व्यंजन नहीं। Llama, Mistral, और Qwen ओपन-वेट्स मॉडल हैं।
यह क्यों मायने रखता है: खुले वेट अर्थ है कि आप अपने स्वयं के हार्डवेयर पर AI चला सकते हैं और पूरी गोपनीयता के साथ — कोई एपीआई कॉल नहीं, अपनी नेटवर्क से कोई डेटा बाहर नहीं जाता है। ट्रेड-ऑफ़ यह है कि आपको उन्हें चलाने के लिए GPU संसाधनों की आवश्यकता होती है और आप सुरक्षा के लिए जिम्मेदार होते हैं।
जब एक मॉडल अपने ट्रेनिंग डेटा को बहुत अच्छी तरह से याद कर लेता है और नए इनपुट के लिए सामान्यीकृत करने की क्षमता खो देता है। एक छात्र जो प्रैक्टिस टेस्ट के उत्तरों को याद करता है लेकिन नए समस्याओं को हल कर नहीं सकता है। मॉडल ट्रेनिंग डेटा पर अच्छा प्रदर्शन करता है लेकिन जिसे पहले नहीं देखा गया है, उस पर खराब तरह से काम करता है।
यह क्यों मायने रखता है: ओवरफिटिंग मॉडल ट्रेनिंग में सबसे आम विफलता मोड है। यही कारण है कि मूल्यांकन में अलग टेस्ट सेट का उपयोग किया जाता है, और यही कारण है कि बहुत लंबे समय तक (बहुत अधिक एपोच) ट्रेनिंग करने से वास्तव में एक मॉडल खराब हो सकता है।
एक user-friendly tool जो एक ही command के साथ language models locally चलाता है। Ollama, llama.cpp को Docker-जैसे अनुभव में wrap करता है: ollama run llama3 Llama 3 को download और run करता है, आपके hardware के लिए स्वचालित रूप से सही quantization का चयन करता है। यह model downloads को manage करता है, API server प्रदान करता है, और hardware detection संभालता है।
यह क्यों मायने रखता है: Ollama local AI के लिए वही है जो Docker containerization के लिए है: इसने friction हटा दिया। Ollama से पहले, local model चलाने का मतलब था quantization levels चुनना, GGUF files download करना, llama.cpp flags configure करना, और GPU offloading manage करना। Ollama यह सब स्वचालित रूप से संभालता है। यह "मैं locally AI चलाना चाहता हूं" से वास्तव में करने तक का सबसे तेज़ रास्ता है।
मशीन लर्निंग मॉडलों का प्रतिनिधित्व करने के लिए एक ओपन प्रारूप जो फ्रेमवर्क के बीच इंटरऑपरेबिलिटी सक्षम करता है। PyTorch में प्रशिक्षित मॉडल को ONNX में निर्यात किया जा सकता है और फिर ONNX Runtime, TensorRT, या अन्य विशिष्ट हार्डवेयर के लिए अनुकूलित inference इंजन का उपयोग करके चलाया जा सकता है। ONNX प्रशिक्षण दुनिया (PyTorch, TensorFlow) और डिप्लॉयमेंट दुनिया (अनुकूलित runtimes) के बीच एक साझा भाषा के रूप में कार्य करता है।
यह क्यों मायने रखता है: ONNX एक वास्तविक प्रोडक्शन समस्या हल करता है: आप PyTorch (शोध मानक) में प्रशिक्षण करते हैं लेकिन ऐसे हार्डवेयर पर डिप्लॉय करते हैं जो भिन्न runtime से बेहतर चलता है। ONNX में कन्वर्ट करने से आप अपने मॉडल को दोबारा लिखे बिना अनुकूलित inference इंजन का उपयोग कर सकते हैं। यह एज डिप्लॉयमेंट के लिए विशेष रूप से महत्वपूर्ण है जहाँ सीमित हार्डवेयर पर अधिकतम प्रदर्शन चाहिए।
AI मॉडलों को खुले रूप से जारी किया जाना चाहिए (भार सार्वजनिक रूप से उपलब्ध, जैसे Llama और Mistral) या मालिकाना रखा जाना चाहिए (केवल API के माध्यम से उपलब्ध, जैसे Claude और GPT) के बारे में चल रही बहस। ओपन समर्थक पारदर्शिता, प्रतिस्पर्धा, और लोकतांत्रिकरण के पक्ष में तर्क देते हैं। क्लोज़्ड समर्थक सुरक्षा, ज़िम्मेदार डिप्लॉयमेंट, और दुरुपयोग को रोकने के पक्ष में तर्क देते हैं। वास्तविकता एक स्पेक्ट्रम है: सच्चे "ओपन सोर्स" मॉडल (प्रशिक्षण डेटा और कोड सहित) दुर्लभ हैं; अधिकांश "ओपन" मॉडल ओपन-वेट हैं।
यह क्यों मायने रखता है: यह बहस AI के भविष्य को आकार देती है। अगर क्लोज़्ड जीतता है, तो कुछ कंपनियाँ सदी की सबसे शक्तिशाली तकनीक तक पहुँच को नियंत्रित करती हैं। अगर ओपन जीतता है, तो शक्तिशाली AI सभी के लिए उपलब्ध है — जिसमें वे भी शामिल हैं जो इसका दुरुपयोग करेंगे। अधिकांश पेशेवर दोनों का उपयोग करते हैं: प्रोडक्शन के लिए मालिकाना APIs (विश्वसनीयता, समर्थन) और प्रयोग, गोपनीयता, और लागत नियंत्रण के लिए ओपन मॉडल। ट्रेड-ऑफ़ को समझने से आपको चुनने में मदद मिलती है।
छवियों या वीडियो में वस्तुओं की पहचान और स्थानीयकरण करना, उनके चारों ओर bounding boxes बनाकर और प्रत्येक box में क्या है इसका वर्गीकरण करके। "स्थान (x1,y1,x2,y2) पर एक कार है और (x3,y3,x4,y4) पर एक व्यक्ति है।" Image classification (जो बताता है कि छवि में क्या है) के विपरीत, object detection बताता है कि छवि में क्या है और कहाँ है — गिनती, tracking और spatial reasoning को सक्षम बनाता है।
यह क्यों मायने रखता है: Object detection self-driving कारों (पैदल चलने वालों, वाहनों, संकेतों का पता लगाना), सुरक्षा कैमरों (व्यक्ति पहचान), खुदरा विश्लेषण (खरीदारों की गिनती), manufacturing गुणवत्ता नियंत्रण (दोषों का पता लगाना), और augmented reality (वास्तविक वस्तुओं के सापेक्ष आभासी वस्तुओं को रखना) के पीछे की तकनीक है। यह सबसे अधिक व्यावसायिक रूप से तैनात computer vision क्षमताओं में से एक है।
छवियों से टेक्स्ट निकालना — दस्तावेज़ों की तस्वीरें, screenshots, संकेत, हस्तलिखित नोट्स, या टेक्स्ट वाली कोई भी छवि। आधुनिक OCR text detection (छवि में टेक्स्ट कहाँ दिखाई देता है यह खोजना) को text recognition (टेक्स्ट क्या कहता है यह पढ़ना) के साथ जोड़ता है। Deep learning OCR घुमावदार टेक्स्ट, कई भाषाओं, विविध fonts और खराब image गुणवत्ता को पुराने नियम-आधारित दृष्टिकोणों से कहीं बेहतर संभालता है।
यह क्यों मायने रखता है: OCR भौतिक दुनिया को डिजिटल बनाता है। खर्च tracking के लिए रसीदों को स्कैन करना, archival के लिए दस्तावेज़ पढ़ना, forms से डेटा निकालना, रीयल-टाइम में संकेतों का अनुवाद करना, और image-आधारित PDFs को खोजने योग्य बनाना सभी OCR पर निर्भर करते हैं। LLMs के साथ मिलकर, OCR परिष्कृत document understanding को सक्षम बनाता है — केवल टेक्स्ट पढ़ना नहीं बल्कि invoices, contracts और reports को समझना।
एक न्यूरल नेटवर्क द्वारा प्रशिक्षण के दौरान सीखे गए आंतरिक मान — मूल रूप से मॉडल के "ज्ञान" के रूप में संख्याओं के रूप में कोड किए गए होते हैं। जब कोई कहता है कि एक मॉडल में "7 अरब पैरामीटर" हैं, तो उनका अर्थ है कि प्रशिक्षण के दौरान डेटा में पैटर्न को पकड़ने के लिए समायोजित किए गए 7 अरब व्यक्तिगत संख्यात्मक मान होते हैं। अधिक पैरामीटर आमतौर पर जटिल पैटर्न सीखने की अधिक क्षमता का अर्थ होता है, लेकिन इसके लिए संग्रहित करने के लिए अधिक मेमोरी और चलाने के लिए अधिक कंप्यूटिंग की आवश्यकता भी होती है।
यह क्यों मायने रखता है: पैरामीटर काउंट मॉडल के आकार के लिए सबसे आम संक्षिप्त रूप है, और यह आपको कितनी GPU मेमोरी की आवश्यकता होगी इसका सीधे तौर पर निर्धारण करता है। 16-बिट प्रीसीजन में 7B मॉडल केवल वेट्स के लिए लगभग 14 जीबी वीआरएएम की आवश्यकता होती है। पैरामीटर्स के बारे में जानकारी आपको लागत का अनुमान लगाना, हार्डवेयर का चयन करना और समझना मदद करती है कि क्वांटाइजेशन (प्रति पैरामीटर प्रीसीजन कम करना) मॉडल्स को उपलब्ध कराने के लिए कितना महत्वपूर्ण है।
चीनी वीडियो उत्पादन कंपनी जो सुगम AI वीडियो उपकरण बना रही है। तेज़ उत्पादन गति के लिए जानी जाती है और एक फ्री टियर जो अंतरराष्ट्रीय बाजारों में तेजी से एक बड़ा उपयोगकर्ता आधार बनाने में उनकी मदद करता है।
यह क्यों मायने रखता है: PixVerse ने दिखाया कि AI वीडियो उत्पादन एक द्रुत-बाजार उत्पाद हो सकता है, न कि केवल विशेषज्ञों और पहले अपनाने वालों के लिए एक उपकरण। उनका उत्साहजनक मुफ्त टियर और तेज़ पुनरावृत्ति चक्र पूरे श्रेणी को मूल्य और पहुंच के बारे में पुनर्विचार करने के लिए विवश कर दिया। एक वर्ष में AI वीडियो में सबसे बड़े उपयोगकर्ता आधार बनाकर, उन्होंने दिखाया कि वितरण और कार्यान्वयन की गति, इस बाजार में कौन जीतता है इस निर्धारित करने में मूल मॉडल की गुणवत्ता के समान महत्वपूर्ण हो सकते हैं।
एआई खोज इंजन जो वास्तविक समय वेब खोज के साथ भाषा मॉडल तर्क को जोड़ता है ताकि सीधे, स्रोत वाले उत्तर प्रदान किए जा सकें बजाय लिंकों की सूची के। एक पीढ़ी में गूगल के खोज प्रभुत्व के लिए सबसे अधिक दृश्य चुनौती।
यह क्यों मायने रखता है:
पर्प्लेक्सिटी गूगल के खोज डोमिनेंस के लिए दशकों में सबसे विश्वसनीय चुनौती है, जो यह साबित करता है कि एक AI-नैटिव उत्तर इंजन जानकारी खोज क्वेरी के लिए मूल रूप से बेहतर अनुभव प्रदान कर सकता है। उन्होंने रिट्रीवल-एग्जामेंटेड जेनरेशन पैराडाइम को एक उपभोक्ता उत्पाद के रूप में लोकप्रिय किया, दिखाते हुए कि रियल-टाइम वेब सर्च के साथ LLM रीजनिंग को मिलाने से परिणाम एकल तकनीक के तुलना में अधिक उपयोगी और भरोसेमंद होते हैं। उनकी तेजी से वृद्धि ने गूगल, माइक्रोसॉफ्ट और अन्य सभी खोज खिलाड़ियों को बड़े भाषा मॉडल के युग में एक खोज इंजन के रूप में क्या दिखना चाहिए इसके बारे में पुनर्विचार करना पड़ा है।
प्रारंभिक, विशाल प्रशिक्षण चरण जहां एक मॉडल एक बड़े कॉर्पस से भाषा (या अन्य मोडलिटीज) को सीखता है। यह महंगा हिस्सा है — हजारों GPU सप्ताहों या महीनों तक चलते रहते हैं, जिसकी लागत करोड़ों डॉलर की होती है। परिणाम एक फाउंडेशन मॉडल होता है जो भाषा को समझता है लेकिन अभी तक किसी भी कार्य के लिए विशेषज्ञ नहीं बनाया गया है।
यह क्यों मायने रखता है: प्र-प्रशिक्षण ही फाउंडेशन मॉडल्स के संभव होने के लिए जिम्मेदार है। यही कारण है कि केवल कुछ ही कंपनियाँ फ्रंटियर मॉडल्स बना सकती हैं — कम्प्यूटिंग लागतें बहुत अधिक होती हैं। बाकी सब कुछ (फाइन-ट्यूनिंग, RLHF, प्रॉम्प्टिंग) इस आधार पर बना हुआ है।
AI मॉडल से बेहतर आउटपुट प्राप्त करने के लिए इनपुट बनाने की विधि। यह सरल तकनीकों (विशिष्ट होना, उदाहरण प्रदान करना) से लेकर उन्नत विधियों (चैन ऑफ़ थॉट, फ़ेव-शॉट प्रॉम्प्टिंग, रोल असाइनमेंट) तक फैला हुआ है। हालांकि इसका नाम शानदार है, लेकिन यह मूल रूप से एक सांख्यिकीय प्रणाली के साथ स्पष्ट संचार के बारे में है।
यह क्यों मायने रखता है: एक ही मॉडल आप कैसे पूछते हैं उस पर निर्भर करता है, बहुत अलग परिणाम दे सकता है। अच्छा प्रॉम्प्ट इंजीनियरिंग AI आउटपुट की गुणवत्ता में सुधार करने के लिए सबसे सस्ता तरीका है — कोई ट्रेनिंग, कोई फाइन-ट्यूनिंग, केवल बेहतर संचार।
मापता है कि मॉडल टेक्स्ट की कितनी अच्छी तरह भविष्यवाणी करता है। exp(average cross-entropy loss)। दर्शाता है "मॉडल कितने टोकन में से चुन रहा है।" कम = बेहतर।
यह क्यों मायने रखता है: कच्ची text modeling क्षमता की तुलना के लिए सबसे मौलिक मेट्रिक। लेकिन उपयोगिता या सुरक्षा को नहीं मापता।
वह टेक्स्ट जो आप AI मॉडल को प्रतिक्रिया प्राप्त करने के लिए देते हैं। प्रॉम्प्ट एक सवाल, एक निर्देश, एक रचनात्मक संक्षिप्त विवरण, या कोड का कोई ब्लॉक हो सकता है जिसकी आप व्याख्या चाहते हैं। मॉडल जो कुछ भी करता है वह इससे शुरू होता है कि आपने क्या दिया। आपके प्रॉम्प्ट की गुणवत्ता, विशिष्टता और संरचना सीधे तौर पर वापस मिलने वाली प्रतिक्रिया की गुणवत्ता को आकार देती है।
यह क्यों मायने रखता है: प्रॉम्प्ट इंटरफ़ेस है। अधिकांश लोग AI का उपयोग करते समय बस यही एक लीवर खींचते हैं, और यह आश्चर्यजनक रूप से शक्तिशाली है। एक अस्पष्ट प्रॉम्प्ट से अस्पष्ट उत्तर मिलता है; एक विशिष्ट, सुव्यवस्थित प्रॉम्प्ट उसी मॉडल से विशेषज्ञ-स्तरीय आउटपुट निकाल सकता है। प्रॉम्प्ट को समझना AI का प्रभावी ढंग से उपयोग करने का पहला कदम है।
एक तंत्र जो Transformer मॉडल को अनुक्रम में टोकन के क्रम के बारे में बताता है। RNNs के विपरीत जो टोकन को अनुक्रमिक रूप से प्रोसेस करते हैं (इसलिए स्थिति निहित है), Transformers सभी टोकन को समानांतर में प्रोसेस करते हैं और उनमें क्रम की कोई अंतर्निहित भावना नहीं होती। Positional encodings स्थिति की जानकारी इंजेक्ट करते हैं ताकि मॉडल जान सके कि "कुत्ता आदमी को काटता है" और "आदमी कुत्ते को काटता है" अलग हैं।
यह क्यों मायने रखता है: स्थितीय जानकारी के बिना, एक Transformer एक वाक्य को शब्दों के बैग के रूप में मानता है — शब्द क्रम खो जाता है। Positional encoding का चुनाव यह भी निर्धारित करता है कि एक मॉडल प्रशिक्षण के दौरान देखे गए अनुक्रमों से लंबे अनुक्रमों को कितनी अच्छी तरह संभालता है, यही कारण है कि RoPE और ALiBi जैसी तकनीकें लंबे-संदर्भ मॉडल के लिए महत्वपूर्ण हैं।
एक तकनीक जो prompt prefix के processed version को कई API calls में save और reuse करती है, redundant computation से बचती है। यदि आप हर request के साथ समान system prompt और document context भेजते हैं (जो सामान्य है), तो prompt caching इसे एक बार process करती है और बाद के requests के लिए cached computation का पुन: उपयोग करती है। इससे latency और cost दोनों कम होती हैं।
यह क्यों मायने रखता है: अधिकांश AI applications हर request के साथ समान system prompt, few-shot examples, या reference documents भेजती हैं। Caching के बिना, provider हर बार इस identical prefix को process करता है। Prompt caching input token costs को 50–90% तक कम कर सकती है और time-to-first-token को काफी कम कर सकती है। High-volume applications के लिए, यह प्रति माह हज़ारों डॉलर की बचत में बदल जाती है।
एक हमला जिसमें दुर्भावनापूर्ण निर्देश उस content में एम्बेड किए जाते हैं जिसे AI model process करता है, जिससे model उपयोगकर्ता या developer के निर्देशों के बजाय हमलावर के निर्देशों का पालन करता है। Direct injection: उपयोगकर्ता दुर्भावनापूर्ण निर्देश टाइप करता है। Indirect injection: दुर्भावनापूर्ण निर्देश किसी website, document, या email में छिपे होते हैं जिसे model अपने कार्य के भाग के रूप में पढ़ता है।
यह क्यों मायने रखता है: Prompt injection AI applications में सबसे गंभीर सुरक्षा vulnerability है। कोई भी app जो LLM को untrusted content (emails, web pages, uploaded documents) process करने देता है, संभावित रूप से vulnerable है। वर्तमान में कोई पूर्ण समाधान नहीं है — केवल शमन उपाय हैं। यदि आप AI-powered applications बना रहे हैं, तो prompt injection को समझना उतना ही महत्वपूर्ण है जितना web development के लिए SQL injection को समझना था।
Classifiers के मूल्यांकन के लिए दो पूरक metrics। Precision उत्तर देता है "model ने जो items positive flag किए, उनमें से कितने वास्तव में हैं?" Recall उत्तर देता है "सभी actual positives में से, model ने कितने खोजे?" उच्च precision वाला spam filter शायद ही कभी real email को spam mark करता है। उच्च recall वाला अधिकांश spam पकड़ता है। F1 score उनका harmonic mean है — दोनों को balance करने वाला एक single number।
यह क्यों मायने रखता है: Accuracy अकेले भ्रामक है। एक model जो कभी "fraud" predict नहीं करता, 99.9% accuracy प्राप्त करता है यदि केवल 0.1% transactions fraudulent हैं — लेकिन यह पूरी तरह बेकार है। Precision और recall trade-offs प्रकट करते हैं: अधिक fraud पकड़ना (higher recall) का मतलब है अधिक false alarms (lower precision), और vice versa। Production में हर classification system इसी trade-off के आधार पर tune किया जाता है।
एक प्रशिक्षित मॉडल से अनावश्यक पैरामीटर (भार, न्यूरॉन, या पूरी परतें) हटाना ताकि वह छोटा और तेज़ हो जाए बिना गुणवत्ता में महत्वपूर्ण गिरावट के। पेड़ की छँटाई की तरह: उन शाखाओं को काटें जो सबसे कम योगदान देती हैं और पेड़ स्वस्थ रहता है। संरचित प्रूनिंग पूरे न्यूरॉन या attention हेड हटाती है। असंरचित प्रूनिंग व्यक्तिगत भारों को शून्य कर देती है।
यह क्यों मायने रखता है: प्रूनिंग quantization और distillation के साथ एक मॉडल कम्प्रेशन तकनीक है। मुख्य अंतर्दृष्टि: अधिकांश न्यूरल नेटवर्क ओवरपैरामीटराइज़्ड होते हैं — कई भार आउटपुट में बहुत कम योगदान देते हैं। "लॉटरी टिकट हाइपोथेसिस" सुझाव देती है कि एक बड़े नेटवर्क के भीतर, एक बहुत छोटा सबनेटवर्क मौजूद है जो मूल के प्रदर्शन की बराबरी कर सकता है। प्रूनिंग उस सबनेटवर्क को खोजती और रखती है।
एक पुन: प्रयोज्य प्रॉम्प्ट संरचना जिसमें चर प्लेसहोल्डर होते हैं जो रनटाइम पर विशिष्ट डेटा से भरे जाते हैं। प्रत्येक उपयोगकर्ता अनुरोध के लिए शून्य से नया प्रॉम्प्ट लिखने के बजाय, आप एक बार टेम्पलेट परिभाषित करते हैं — "निम्नलिखित {document_type} का {language} में सारांश दें, {topic} पर ध्यान केंद्रित करते हुए" — और चर भरते हैं। प्रॉम्प्ट टेम्पलेट प्रोडक्शन AI अनुप्रयोगों के बिल्डिंग ब्लॉक हैं।
यह क्यों मायने रखता है: प्रत्येक प्रोडक्शन AI अनुप्रयोग प्रॉम्प्ट टेम्पलेट का उपयोग करता है। वे संगति सुनिश्चित करते हैं, परीक्षण सक्षम करते हैं, और प्रॉम्प्ट लॉजिक (डेवलपर द्वारा लिखित) को गतिशील सामग्री (उपयोगकर्ताओं या डेटा द्वारा प्रदान) से अलग करते हैं। अच्छे टेम्पलेट परीक्षित, संस्करणित, और पुनरावृत्त होते हैं — वे कोड हैं, तदर्थ टेक्स्ट नहीं। प्रॉम्प्ट टेम्पलेट डिज़ाइन को समझना विश्वसनीय AI अनुप्रयोग बनाने के लिए आवश्यक है।
KV cache के लिए एक मेमोरी प्रबंधन तकनीक जो ऑपरेटिंग सिस्टम वर्चुअल मेमोरी से उधार लेती है। प्रत्येक अनुरोध के KV cache के लिए GPU मेमोरी का एक सन्निहित ब्लॉक आवंटित करने के बजाय (जो विखंडन के माध्यम से मेमोरी बर्बाद करता है), PagedAttention cache को गैर-सन्निहित ब्लॉकों ("pages") में संग्रहीत करता है जो मांग पर आवंटित किए जाते हैं और सामान्य उपसर्गों वाले अनुरोधों में साझा किए जा सकते हैं।
यह क्यों मायने रखता है: PagedAttention vLLM के पीछे का नवाचार है और अब अधिकांश LLM सर्विंग फ़्रेमवर्क द्वारा अपनाया गया है। इसने विखंडन से मेमोरी बर्बादी को समाप्त करके भोले कार्यान्वयन की तुलना में सर्विंग थ्रूपुट 2–4x बढ़ा दिया। इसके बिना, कई समवर्ती उपयोगकर्ताओं को लंबे-संदर्भ मॉडल की सेवा नाटकीय रूप से अधिक महंगी होगी।
एक ऑपरेशन जो एक क्षेत्र को एक single मान में सारांशित करके डेटा के स्थानिक आयामों को कम करता है। Max pooling प्रत्येक क्षेत्र में अधिकतम मान लेता है। Average pooling माध्य लेता है। CNNs में, pooling लेयर्स convolutional लेयर्स के बीच feature maps को downsample करते हैं। Transformers में, pooling टोकन प्रतिनिधित्वों को एक single वेक्टर में संयोजित करता है (जैसे, classification के लिए)।
यह क्यों मायने रखता है: Pooling वह है जिससे न्यूरल नेटवर्क स्थानीय features से वैश्विक समझ तक जाते हैं। एक CNN 224×224 feature maps से शुरू हो सकता है और अंतिम लेयर तक 7×7 तक pool कर सकता है, progressively स्थानिक जानकारी का सारांश देते हुए। NLP में, टोकन embeddings पर mean pooling टोकन प्रतिनिधित्वों के अनुक्रम से एक single sentence embedding बनाने का मानक तरीका है।
Pose Estimation Body Pose, Skeleton Detection, Keypoint Detection
AI का उपयोग
किसी छवि या वीडियो में मानव शरीर (या जानवर, हाथ, चेहरे) की स्थिति और दिशा का पता लगाना, प्रमुख शारीरिक बिंदुओं — जोड़ों, चेहरे के landmarks, उंगलियों की नोक — का स्थान निर्धारित करके। आउटपुट एक skeleton है: शरीर की pose का प्रतिनिधित्व करने वाले जुड़े हुए keypoints का समूह। OpenPose, MediaPipe, और YOLO-Pose लोकप्रिय implementations हैं।
यह क्यों मायने रखता है: Pose estimation इन्हें सक्षम बनाता है: व्यायाम form का विश्लेषण करने वाले fitness ऐप्स, sign language recognition, animation के लिए motion capture, gesture control interfaces, sports analytics, और बुज़ुर्गों की देखभाल में fall detection। AI image generation में, pose skeletons ControlNet inputs के रूप में काम करते हैं — आप वह सटीक body pose निर्दिष्ट करते हैं जो आप चाहते हैं और मॉडल उस pose में एक व्यक्ति generate करता है।
एक मॉडल की सटीकता कम करके इसे छोटा और तेज़ बनाना। एक 32-बिट फ्लोटिंग पॉइंट में प्रशिक्षित मॉडल को 8-बिट, 4-बिट या भी कम तक क्वांटाइज किया जा सकता है — इसके आकार को 4-8 गुना कम करते हुए आश्चर्यजनक रूप से छोटे गुणवत्ता के नुकसान के साथ। GGUF, llama.cpp के माध्यम से स्थानीय अनुमान के लिए लोकप्रिय फॉर्मेट है।
यह क्यों मायने रखता है: क्वांटाइजेशन ही उस चीज है जो एक 14B पैरामीटर मॉडल को एकल GPU या भले ही लैपटॉप पर चलाने की अनुमति देता है। इसके बिना, ओपन-वेट मॉडल्स अधिकांश लोगों के लिए अप्रयोज्य हो जाएंगे। Q4_K_M और Q5_K_M वेरिएंट्स साइज वर्सस क्वालिटी के बीच स्वीट स्पॉट पर पहुंच जाते हैं।
प्राकृतिक भाषा में पूछे गए प्रश्नों का उत्तर देने वाली प्रणाली। Extractive QA एक दिए गए दस्तावेज़ में उत्तर span ढूँढता है ("पैराग्राफ 3 के अनुसार, उत्तर है...")। Generative QA एक या अधिक स्रोतों से उत्तर संश्लेषित करता है। Open-domain QA बिना किसी विशिष्ट दस्तावेज़ के किसी भी प्रश्न का उत्तर देता है। RAG-आधारित QA प्रासंगिक दस्तावेज़ पुनर्प्राप्त करता है और उनसे उत्तर उत्पन्न करता है।
यह क्यों मायने रखता है: Question answering AI assistants के लिए मूलभूत इंटरैक्शन पैटर्न है। हर chatbot, हर enterprise knowledge base, हर customer support bot अनिवार्य रूप से एक QA सिस्टम है। विभिन्न QA paradigms (extractive, generative, retrieval-augmented) को समझना आपको अपने application के लिए सही architecture चुनने और सटीकता के बारे में यथार्थवादी अपेक्षाएँ स्थापित करने में मदद करता है।
एक प्रशिक्षण परिप्रेक्ष्य जहां एक एआई एजेंट एक पर्यावरण के साथ बर्ताव करते हुए, कार्रवाई करते हुए और पुरस्कार या दंड प्राप्त करते हुए सीखता है। सुपर्वाइज्ड लर्निंग (जो चिह्नित उदाहरणों से सीखता है) के विपरीत, RL अनुभव से सीखता है — ट्रायल एंड एरर के माध्यम से। RL ने अल्फा गो को विश्व चैंपियन बीता देने के लिए प्रशिक्षित किया, रोबोटों को चलना सीखने के लिए शिक्षा देता है और चैटबॉट्स के लिए सहायक बनाने वाला RLHF में "RL" है।
यह क्यों मायने रखता है: स्वायत्त शिक्षा (RL) एआई के लिए कार्य करना सीखने के तरीका है, न कि केवल भविष्यवाणी करना। यह ऐसे मॉडलों और एजेंटों के बीच का पुल है जो प्रश्नों के उत्तर दे सकते हैं और लक्ष्यों को पूरा कर सकते हैं। समय के साथ योजना बनाने, रणनीति बनाने या अनुकूलित करने वाली प्रत्येक एआई प्रणाली में RL अपने वंशानुक्रम में कहीं न कहीं होता है।
AI मॉडल के स्टेप-बाई-स्टेप सोचने की क्षमता, जटिल समस्याओं को विच्छेद करना और तार्किक रूप से सही निष्कर्ष निकालना। आधुनिक तर्क मॉडल (जैसे OpenAI के o1/o3 और DeepSeek-R1) को उत्तर देने से पहले विशिष्ट तर्क प्रक्रिया उत्पन्न करने के लिए प्रशिक्षित किया जाता है, जो गणित, कोडिंग और तार्किक कार्यों में प्रदर्शन में भारी सुधार लाता है। यह सरल पैटर्न मैचिंग से अलग है — तर्क मॉडल पहले नहीं देखे गए समस्याओं को हल कर सकते हैं।
यह क्यों मायने रखता है: तर्क — वह सीमा क्षमता है जो "बुद्धिमान लगने वाली AI" को "वास्तव में बुद्धिमान AI" से अलग करती है। अच्छा तर्क करने वाले मॉडल कोड के डीबग कर सकते हैं, प्रमेय साबित कर सकते हैं, बहु-चरण रणनीतियों की योजना बना सकते हैं और अपनी गलतियों को पकड़ सकते हैं। तर्क के साथ और बिना तर्क के मॉडलों के बीच अंतर वर्तमान में AI में सबसे बड़ा गुणवत्ता का भेदक है।
Resemble AI वॉयस क्लोनिंग, स्पीच सिंथेसिस, वॉटरमार्किंग
कंपनियाँ
कैनेडियन वॉइस एआई कंपनी जो उच्च-स्पष्टता वाले वॉइस क्लोनिंग और वास्तविक समय बोली संश्लेषण में विशेषज्ञ है। डीपफेक डिटेक्शन के लिए न्यूरल ऑडियो वॉटरमार्किंग जारी करने वाले पहले से एक में, वॉइस क्लोनिंग के नैतिक परिणामों को शुरुआत से गंभीरता से लेने वाले।
यह क्यों मायने रखता है:
रेज़म्बल AI महत्वपूर्ण हैं क्योंकि उन्होंने शुरूआत में ही अपने बिना सुरक्षा बुनियादी ढांचे वाले आवाज क्लोनिंग को एक जिम्मेदारी, न कि एक उत्पाद के रूप में माना था। अपने संश्लेषण उपकरणों के साथ डीपफेक अनुमान और न्यूरल वॉटरमार्किंग के साथ जारी करके, उन्होंने ज़िम्मेदार आवाज AI के लिए एक प्रतिमान स्थापित किया, जिसका अनुसरण अब उद्योग के बाकी हिस्सों द्वारा भाग रहा है। जैसे-जैसे सिंथेटिक मीडिया के चारों ओर विनियमन वैश्विक रूप से कड़ा हो रहे हैं, रेज़म्बल के मूल के बारे में जानकारी और सहमति सत्यापन पर उनका आगे बढ़े हुए होना उन्हें उस आवाज AI कंपनी के रूप में स्थापित करता है जिस पर कंपनियां वास्तव में भरोसा कर सकती हैं।
एआई रिसर्च कंपनी जो पूर्व DeepMind, Google Brain और FAIR के अनुसंधानकर्ताओं द्वारा स्थापित की गई है। मूल से बनाए गए पोलीमोडल मॉडल जो पाठ, छवियाँ, वीडियो और ऑडियो की प्रक्रिया कर सकते हैं।
यह क्यों मायने रखता है: रीका ने दिखाया कि एक छोटी, अनुसंधान-केंद्रित टीम जिसके पास सही पृष्ठभूमि हो, बिलियन डॉलर के फंडिंग के बिना फ्रंटियर-क्लास बहुमाध्यम मॉडल बना सकती है — और वह स्वाभाविक रूप से बहुमाध्यम आर्किटेक्चर जो शून्य से प्रशिक्षित किया गया है, अधिकांश बड़े प्रयोगशालाओं द्वारा उपयोग किए जाने वाले बोल्टेड-ऑन प्रयोग की तुलना में बेहतर प्रदर्शन कर सकते हैं। उनके स्थापना से स्नोफ्लेक के अधिग्रहण तक के तेजी से विकास ने यह भी खुलासा कर दिया कि अब उद्यम डेटा प्लेटफॉर्म एआई टैलेंट पर तीव्र गुरुत्वाकर्षण की खींच लगा रहे हैं, जो सुझाता है कि बहुमाध्यम एआई का भविष्य डेटा इन्फ्रास्ट्रक्चर कंपनियों के अंदर हो सकता है, बजाय अलग-अलग अनुसंधान प्रयोगशालाओं के।
AI डिज़ाइन टूल जो उच्च गुणवत्ता वाले चित्र और वेक्टर ग्राफिक्स उत्पादन पर केंद्रित है। पहले वालों में से एक जो वास्तव में उपयोगी डिज़ाइन संसाधन उत्पादित करता है — SVGs, ब्रांड संगत स्टाइल्स, और उत्पादन तैयार आउटपुट जिन्हें डिज़ाइनर्स वास्तव में उपयोग करना चाहते हैं।
यह क्यों मायने रखता है: Recraft एक दुर्लभ एआई कंपनी है जिसका निर्माण सोशल मीडिया के वायरल मोमेंट्स के बजाय व्यावसायिक डिज़ाइनर्स के लिए किया गया है, और यह दिखाया है कि इस दृष्टिकोण के माध्यम से स्टेट-ऑफ-द-आर्ट परिणाम उत्पन्न किए जा सकते हैं। उनकी उत्पादन तैयार आउटपुट पर ध्यान केंद्रित करना — साफ वेक्टर्स, ब्रांड संगतता, स्पष्ट पृष्ठभूमि — एक अंतर भरता है जिस पर कोई अन्य इमेज जेनरेशन कंपनी गंभीरता से ध्यान नहीं दी है, जिससे वे एक वास्तविक डिज़ाइन उपकरण के रूप में उद्योग के लिए सबसे करीब चीज बन गए हैं, बजाय एक कला खिलौना।
प्रमुख AI वीडियो उत्पादन कंपनी। मूल Stable Diffusion आर्किटेक्चर के सह-निर्माता थे और फिर वीडियो में शिफ्ट कर दिया, जहां उनके Gen श्रृंखला मॉडल AI फिल्म उत्पादन उपकरणों के लिए अब तक के अग्रणी बन गए हैं।
यह क्यों मायने रखता है: रनवे वह कंपनी है जिसने एआई वीडियो जेनरेशन को शोध जिज्ञासा से फिल्म बनाने के उपकरण तक ले जाया, मॉडल के बाद मॉडल जिस गति से उन्होंने जारी किया वह गति उन्हें फ्रंटियर पर रखती रही जबकि गहरे बजट वाले प्रतियोगी इस क्षेत्र में प्रवेश कर गए। उनका क्रिएटिव-टूल्स-फर्स्ट डीएनए — कलाकारों से, इंजीनियर्स के बजाय — उन्हें व्यावसायिक वर्कफ्लो के बारे में समझ देता है जो शुद्ध शोध प्रयोगशालाएं दोहराने में कठिनाई महसूस करती हैं, और उनका एक व्यापक प्लेटफॉर्म बनाने पर बेतरतीब बेट जबकि केवल एक मॉडल नहीं, लंबे समय तक सही खेल साबित हो सकता है।
एक तकनीक जो एआई मॉडल को प्रतिक्रिया उत्पन्न करने से पहले संबंधित दस्तावेज बरामद करके बाहरी ज्ञान के अक्सेस देती है। एक बार में केवल ट्रेनिंग के दौरान मॉडल द्वारा सीखे गए चीजों पर निर्भर नहीं करते हुए, RAG एक ज्ञान डेटाबेस की खोज करता है, संबंधित चूने को खोजता है, और उन्हें प्रॉम्प्ट में संदर्भ के रूप में शामिल करता है।
यह क्यों मायने रखता है: RAG दो प्रमुख समस्याओं को हल करता है: हैल्यूसिनेशन (मॉडल के पास संदर्भ के लिए वास्तविक स्रोत होते हैं) और ज्ञान कट-अॉफ (ज्ञान डेटाबेस को पुनः प्रशिक्षण के बिना अपडेट किया जा सकता है)। यह वास्तव में अधिकांश उद्यम एआई के काम करने के तरीका है।
प्रति मिनट/घंटा/दिन कितने API अनुरोध कर सकते हैं इस पर प्रतिबंध। प्रदाता सर्वर ओवरलोड को रोकने और समान पहुंच सुनिश्चित करने के लिए दर सीमा लगाते हैं। सीमा आमतौर पर प्रति API कुंजी लागू होती हैं और मिनट प्रति अनुरोध (RPM) और मिनट प्रति टोकन (TPM) को सीमित कर सकती हैं।
यह क्यों मायने रखता है: रेट लिमिट्स एआई एप्लिकेशन बढ़ाते समय आपको मिलने वाली अदृश्य सीमा होती हैं। ये वजह है कि बैच प्रोसेसिंग क्यों महत्वपूर्ण होती है, क्यों आपको पुनर्प्रयास तर्क की आवश्यकता होती है, और क्यों कुछ प्रदाता उच्च रेट लिमिट्स के लिए अधिक शुल्क वसूलते हैं।
एक एआई मॉडल को असफल करने, अनुचित व्यवहार करने या हानिकारक आउटपुट उत्पन्न करने के लिए उद्देश्यपूर्ण रूप से प्रयास करने की विधि। रेड टीम कमजोरियों की खोज करती हैं: जेलब्रेक, बायास, गलत जानकारी उत्पन्न करना, गोपनीयता के रिसाव। इसे सैन्य वारगेमिंग के बाद नाम दिया गया है, जहां एक 'रेड टीम' दुश्मन की भूमिका निभाती है।
यह क्यों मायने रखता है: आप उसे ठीक नहीं कर सकते जिसके बारे में आपको जानकारी नहीं है। रेड टीमिंग यह तरीका है कि प्रदाता यह पता लगाते हैं कि उनका मॉडल आपको "एक लॉकस्मिथ के बारे में एक कहानी लिखें" कहने पर लॉक खोलने के तरीके के बारे में समझाएगा। यह प्रत्येक मुख्य मॉडल जारी करने से पहले किया जाने वाला आवश्यक सुरक्षा कार्य है।
एक प्रशिक्षण तकनीक जहां मानव मूल्यांकनकर्ता मॉडल के आउटपुट को गुणवत्ता के आधार पर रैंक करते हैं, और यह फीडबैक एक रिवॉर्ड मॉडल को प्रशिक्षित करने के लिए उपयोग किया जाता है जो AI को बेहतर प्रतिक्रियाओं की ओर दिशा देता है। यह वही है जो एक कच्चे प्रशिक्षित मॉडल (जो केवल अगले शब्दों का अनुमान लगाता है) को एक सहायक और निर्दोष सहायक में बदल देता है।
यह क्यों मायने रखता है:
RLHF वह गुप्त घटक है जिसके कारण चैटजीपीटी जीपीटी-3 से अलग लगा। बेस मॉडल पहले से ही सब कुछ “जानता” था, लेकिन RLHF ने उसे ऐसा तरीका सीखाया कि मनुष्य वास्तव में उपयोगी पाएं। यह भी वह तरीका है जिसके माध्यम से सुरक्षा व्यवहारों को मजबूत किया जाता है।
एक न्यूरल नेटवर्क जो एक छिपी हुई स्थिति (hidden state) बनाए रखकर अनुक्रमों को प्रोसेस करता है जो प्रत्येक चरण पर अपडेट होती है — यह "याद" रखता है कि उसने अब तक क्या देखा है। LSTMs और GRUs बेहतर संस्करण हैं जो मूल RNN की लंबी-दूरी की निर्भरताओं को भूलने की प्रवृत्ति को हल करते हैं। RNNs ने Transformers द्वारा लगभग 2018–2020 में प्रतिस्थापित किए जाने से पहले NLP और स्पीच पर प्रभुत्व किया।
यह क्यों मायने रखता है: RNNs आधुनिक भाषा मॉडल के पूर्वज हैं। यह समझना कि वे विफल क्यों हुए (धीमी अनुक्रमिक प्रोसेसिंग, लंबी-दूरी की निर्भरताओं में कठिनाई) यह बताता है कि Transformers सफल क्यों हुए (समानांतर प्रोसेसिंग, सभी स्थितियों पर attention)। SSM/Mamba आर्किटेक्चर कुछ मायनों में आधुनिक सुधारों के साथ RNN विचार की वापसी है।
एक model जो AI responses के बीच मानव वरीयताओं की भविष्यवाणी करने के लिए प्रशिक्षित किया जाता है। एक prompt और दो candidate responses दिए जाने पर, reward model score करता है कि मनुष्य कौन सा response पसंद करेंगे। RLHF pipeline में, reward model वह signal प्रदान करता है जो language model को बेहतर responses उत्पन्न करने के लिए प्रशिक्षित करता है — यह मानव निर्णय का learned proxy है।
यह क्यों मायने रखता है: Reward model वह मुख्य component है जो RLHF को काम करता है। आप training के दौरान हर response को मनुष्य से rate नहीं करवा सकते (बहुत धीमा, बहुत महंगा), इसलिए आप मानव वरीयताओं का अनुमान लगाने के लिए एक model प्रशिक्षित करते हैं और उसे training signal के रूप में उपयोग करते हैं। Reward model की गुणवत्ता सीधे alignment की गुणवत्ता निर्धारित करती है — एक खराब reward model ऐसा model उत्पन्न करता है जो गलत चीज़ों के लिए optimize करता है।
एक query के response में बड़े collection से relevant documents, passages, या data खोजने की प्रक्रिया। AI में, retrieval RAG का "R" है — वह step जहां language model को दिए जाने से पहले relevant context fetch किया जाता है। Retrieval keyword matching (BM25), semantic similarity (embeddings), या दोनों को combine करने वाले hybrid approaches का उपयोग कर सकता है।
यह क्यों मायने रखता है: Retrieval वह है जो LLMs को real-world applications के लिए व्यावहारिक बनाता है। Model का internal knowledge static, incomplete, और कभी-कभी गलत है। Retrieval उसे inference time पर current, accurate, domain-specific जानकारी तक पहुंच देता है। आपकी retrieval pipeline की quality सीधे आपके RAG system की quality निर्धारित करती है — सबसे अच्छा LLM खराब context से अच्छे answers उत्पन्न नहीं कर सकता।
एक मशीन लर्निंग कार्य जो श्रेणी के बजाय एक सतत संख्यात्मक मान की भविष्यवाणी करता है। "कल तापमान क्या होगा?" (रिग्रेशन: एक संख्या की भविष्यवाणी) बनाम "क्या कल बारिश होगी?" (वर्गीकरण: एक श्रेणी की भविष्यवाणी)। Linear regression एक सीधी रेखा फिट करता है; न्यूरल नेटवर्क रिग्रेशन इनपुट और आउटपुट के बीच मनमाने गैर-रैखिक संबंध सीख सकता है।
यह क्यों मायने रखता है: रिग्रेशन दो मूलभूत ML कार्यों में से एक है (दूसरा वर्गीकरण) और स्टॉक मूल्य भविष्यवाणी से रियल एस्टेट मूल्यांकन से वैज्ञानिक मॉडलिंग तक सब कुछ अंतर्निहित करता है। यह मशीन लर्निंग को समझने का सबसे सरल प्रवेश बिंदु भी है — डेटा बिंदुओं पर एक रेखा फिट करना कुछ ऐसा है जिसे अधिकांश लोग दृश्यीकृत कर सकते हैं, और linear regression से न्यूरल नेटवर्क तक की छलांग अवधारणात्मक रूप से छोटी है।
एक कनेक्शन जो एक या अधिक लेयर्स को बायपास करता है, इनपुट को सीधे आउटपुट में जोड़कर: output = layer(x) + x। प्रत्येक लेयर को एक पूर्ण परिवर्तन सीखने के बजाय, इसे केवल "residual" सीखने की आवश्यकता है — आइडेंटिटी फंक्शन से अंतर। Residual connections हर Transformer लेयर में होते हैं और गहरे नेटवर्क को प्रशिक्षित करने के लिए आवश्यक हैं।
यह क्यों मायने रखता है: Residual connections के बिना, गहरे नेटवर्क को प्रशिक्षित करना लगभग असंभव है — ग्रेडिएंट कई लेयर्स में या तो लुप्त हो जाते हैं या विस्फोट करते हैं। Residual connections एक ग्रेडिएंट हाईवे प्रदान करते हैं जो सूचना (और ग्रेडिएंट) को सीधे प्रारंभिक लेयर्स से अंतिम लेयर्स तक प्रवाहित करने देता है, किसी भी संख्या में मध्यवर्ती परिवर्तनों को बायपास करते हुए। यही कारण है कि हम 100+ लेयर के नेटवर्क बिल्कुल भी प्रशिक्षित कर सकते हैं।
RLHF का एक वैरिएंट जहां preference labels मानव एनोटेटर के बजाय एक AI मॉडल से आते हैं। एक मजबूत AI मॉडल response जोड़ों की तुलना करता है और बताता है कि कौन सा बेहतर है, reinforcement learning के लिए फ़ीडबैक सिग्नल प्रदान करता है। यह मानव लेबलिंग की बाधा से परे alignment को स्केल करता है जबकि उचित गुणवत्ता बनाए रखता है।
यह क्यों मायने रखता है: RLAIF वह है जिससे alignment स्केल करता है। मानव एनोटेशन महंगा ($10–50+ प्रति घंटा), धीमा, और असंगत है। AI फ़ीडबैक तत्काल, सस्ता, और अथक है। Constitutional AI (Anthropic) RLAIF को एक मुख्य घटक के रूप में उपयोग करता है — एक AI सिद्धांतों के अनुसार responses की आलोचना करता है, बड़े पैमाने पर preference डेटा प्रदान करता है। मुख्य प्रश्न यह है कि क्या AI फ़ीडबैक पर्याप्त अच्छा है: यह मानव निर्णय से bootstraps करता है लेकिन पूर्वाग्रहों को विरासत में और बढ़ा सकता है।
AI मॉडल की प्रवृत्ति उपयोगकर्ताओं को वे बातें सुनाने की जो वे सुनना चाहते हैं, बजाय सच के। एक सिकोफैंटिक मॉडल गलत पूर्वधारणाओं से सहमत हो जाता है, खराब विचारों का समर्थन करता है, जब चुनौती दी जाती है तो अपनी स्थिति बदल देता है भले ही वह पहले सही रहा हो, और सहायता के बजाय पसंद किए जाने की प्राथमिकता देता है। सिकोफैंटिकता RLHF प्रशिक्षण का एक सीधा प्रत्यक्ष प्रभाव है — मॉडल सीखते हैं कि सहमति भावना वाले जवाब मानव मूल्यांकनकर्ताओं से अधिक रेटिंग प्राप्त करते हैं, इसलिए वे सहमति के लिए अधिकतमीकरण करते हैं जबकि सटीकता के बजाय।
यह क्यों मायने रखता है: साइकोफैंसी एआई में अत्यंत घातक विफलता मोड़ों में से एक है क्योंकि यह उस उपयोगकर्ता के लिए अदृश्य होता है जिसे विशेष अभिवादन किया जा रहा है। यदि आप एक मॉडल से पूछते हैं "क्या यह एक अच्छा व्यवसाय विचार नहीं है?" और यह हमेशा हां कहता है, तो आप एक दर्पण प्राप्त कर रहे हैं, न कि एक सलाहकार। साइकोफैंसी के खिलाफ लड़ाई संरेखन अनुसंधान के सक्रिय क्षेत्र में है, और यही कारण है कि सर्वोत्तम मॉडलों को उन समयों पर सम्मानपूर्वक असहमति व्यक्त करने के लिए प्रशिक्षित किया जाता है जब वे चाहिए।
एक बड़े भाषा मॉडलों के विरोध के बारे में चर्चा करते हुए कि वे केवल उन्नत पैटर्न मैचर होते हैं जो अर्थ के बिना संभाव्य ध्वनि वाले पाठ को सुरेख करते हैं। इस शब्द का उपयोग एमिली बेंडर, टिमनिट जेब्रू और उनके सहयोगियों द्वारा उनके प्रभावशाली 2021 के पेपर "On the Dangers of Stochastic Parrots" में किया गया था, जिसमें चेतावनी दी गई थी कि LLMs अपने प्रशिक्षण डेटा से बायस को अंकित करते हैं, असाधारण संसाधनों का उपयोग करते हैं और समझ के झूठा चित्र बनाते हैं जो उपयोगकर्ताओं को उनकी वास्तविकता से अधिक भरोसा करने के लिए भ्रमित करते हैं।
यह क्यों मायने रखता है: स्टोकेस्टिक परीकत विवाद यह बताता है कि वास्तव में AI क्या “समझता है”। क्या LLMs वास्तव में तर्क करते हैं या बस सांख्यिकीय नकल में बहुत अच्छे हैं, यह निर्णय लेता है कि हम उनका उपयोग कैसे करें, हम उनके आउटपुट पर कितना भरोसा करें और हम उनका नियंत्रण कैसे करें। यह भी लेंस है जिसके माध्यम से आलोचक नई क्षमता के दावे मूल्यांकन करते हैं — यह वास्तविक प्रगति है या एक अधिक विश्वासजनक परीकत?
कम गुणवत्ता के, सामान्य, अवांछित AI-जनित सामग्री जो इंटरनेट को भर देता है। 2024 में यह शब्द एक अपमानजनक शब्द के रूप में उत्पन्न हुआ, जो खराब AI टेक्स्ट, चित्रों और वीडियो की तरंग के लिए है, जो खोज परिणामों, सोशल मीडिया फीड और ऑनलाइन बाजारों को दूषित करता है। स्लॉप AI के स्पैम के समकक्ष है — तकनीकी रूप से 'सामग्री' होता है लेकिन कोई मूल्य नहीं जोड़ता, अक्सर अन्य स्लॉप से अंतर नहीं कर सकता, और जिस प्लेटफॉर्म को छूता है उसकी गुणवत्ता कम करता है। लिंक्डइन पोस्ट सोचें जो 'आजकल के तेजी से चल रहे दुनिया' से शुरू होते हैं, छह अंगूठे वाले हाथ वाली स्टॉक फोटो या 2,000 शब्दों में कुछ नहीं कहते वाले SEO लेख।
यह क्यों मायने रखता है: स्लॉप एक वातावरणीय लागत है जो सामग्री उत्पादन को मुफ्त बनाने के कारण होती है। जब कोई भी व्यक्ति कुछ मिनटों में १,००० ब्लॉग पोस्ट या १०,००० उत्पाद छवियों को उत्पन्न कर सकता है, तो सामग्री निर्माण की अर्थव्यवस्था टूट जाती है — और गुणवत्ता उसके साथ टूट जाती है। स्लॉप ही वजह है कि प्लेटफॉर्म एआई पहचान बनाने के लिए तेजी से प्रतिस्पर्धा कर रहे हैं, जबकि गूगल अपने खोज एल्गोरिदम को अपडेट करता रहता है, और 'मनुष्य द्वारा बनाया गया' क्यों बिक्री का बिंदु बन रहा है। यह अतिसरल 'AI will democratize creativity' नारा के खिलाफ सबसे मजबूत तर्क भी है।
चीनी AI स्टार्टअप प्रतिस्पर्धी विशाल भाषा और बहुमाध्यम मॉडल बना रहा है। उनकी स्टेप श्रृंखला अंतरराष्ट्रीय मानकों पर मजबूत प्रदर्शन दिखाई दिया है, जिसका समर्थन महत्वपूर्ण कम्प्यूटेशन निवेश द्वारा किया गया है।
यह क्यों मायने रखता है: स्टेपफ़न एक प्रमाण है कि चीन के एआई परिचर अपने आप में गंभीर प्रतियोगी उत्पन्न कर सकता है, न कि केवल मौजूदा टेक जायंट्स से। उनके स्टेप मॉडल अंतरराष्ट्रीय मानकों पर अपने वजन के ऊपर बैठे रहते हैं, और उनके मल्टीमोडल और वीडियो उत्पादन में तेजी से विस्तार दिखाता है कि अच्छी तरह से संगठित स्टार्टअप्स संबंधित रूप से संक्षिप्त संसाधनों के साथ व्यापक क्षमता के क्षेत्र को कवर कर सकते हैं। वैश्विक एआई बाजार के लिए, स्टेपफ़न ऐसी कंपनी का प्रतिनिधित्व करता है जो चीन के स्वतंत्र एआई स्टार्टअप सीन को अनदेखा करना असंभव बनाता है — तकनीकी रूप से मजबूत, अंतरराष्ट्रीय उन्मुख और इतनी तेज़ गति से आगे बढ़ रहा है कि बहुत बड़े प्रतियोगियों को ईमानदार रहने के लिए मजबूर करता है।
एआई हार्डवेयर कंपनी जो एआई कार्यों के लिए विशेष रूप से बनाए गए कस्टम चिप्स (RDUs) डिज़ाइन करती है। उनका SambaNova Cloud कुछ सबसे तेज़ अनुमान गति प्रदान करता है, जो एआई सर्विंग के लिए 'स्पीड-फर्स्ट' दृष्टिकोण पर Groq के साथ प्रतिस्पर्धा करता है।
यह क्यों मायने रखता है: संबा नोवा महत्वपूर्ण है क्योंकि एनवीडिया केवल एक विकल्प नहीं होना चाहिए कृत्रिम बुद्धिमत्ता कम्प्यूटिंग के लिए, और किसी को यह साबित करना चाहिए कि विशेष रूप से डिज़ाइन किए गए कृत्रिम बुद्धिमत्ता चिप्स शोध पेपर्स के बजाय वास्तविक बाजार में प्रतिस्पर्धा कर सकते हैं। उनकी आरडीयू आर्किटेक्चर दिखाता है कि जब आप न्यूरल नेटवर्क कार्यों के लिए सिलिकॉन को विशेष रूप से डिज़ाइन करते हैं तो महत्वपूर्ण प्रदर्शन बढ़ोतरी संभव है, और उनकी क्लाउड अनुमान सेवा विकासकर्ताओं को यह अनुभव देती है कि GPU के बाद कृत्रिम बुद्धिमत्ता बुनियादी ढांचा कैसा दिख सकता है। क्या संबा नोवा खुद एक प्रमुख विकल्प बन जाता है या नहीं, वे प्रतिस्पर्धी दबाव — ग्रोक, सेरेब्रस और क्लाउड प्रदाताओं के अपने चिप्स के साथ — एक ऐसे उद्योग के लिए स्वास्थ्यकर है जो एक स्थायी हार्डवेयर मोनोकल्चर के लिए अपना खर्च नहीं झेल सकता।
भारतीय AI कंपनी जो भारत की भाषाई विविधता के लिए विशेष रूप से अनुकूलित मॉडल बना रही है। उनके मॉडल हिंदी, तमिल, तेलुगू, बंगाली और अन्य भारतीय भाषाओं को एक ऐसी बोली के साथ संभालते हैं जिसके साथ वैश्विक मॉडल निरंतर संघर्ष करते हैं।
यह क्यों मायने रखता है: सर्वम एआई एक प्रमुख उत्तर है जो वैश्विक एआई उद्योग द्वारा अधिकांश अन्न छोड़ दिया गया सवाल है: वह कौन है जो वास्तव में एक पांचवें भाग के मनुष्य द्वारा बोली जाने वाली भाषाओं के लिए फाउंडेशन मॉडल बनाता है? भारत के एआई अनुसंधान समुदाय, सरकारी संरेखन और भारतीय भाषाई विविधता के लिए विशेष रूप से बनाए गए उत्पाद स्टैक के गहरे मूलों के साथ, सर्वम दोनों व्यावसायिक अवसर और रणनीतिक आवश्यकता का प्रतिनिधित्व करता है। उनकी सफलता या विफलता यह बताएगी कि एआई क्रांति वास्तव में वैश्विक हो जाएगी या अंग्रेजी पहले घटना बने रहेगी जिसमें अनुवाद लगाए गए हों।
2022 में Stable Diffusion को खुले स्रोत के रूप में जारी करके चित्र उत्पादन को सामान्य जनता तक पहुंचाने वाली कंपनी। नेतृत्व में अस्थिरता के बावजूद, उनके मॉडल खुले स्रोत चित्र उत्पादन पारिस्थितिकी तंत्र के मुख्य ढांचा बने रहे।
यह क्यों मायने रखता है: स्टेबिलिटी एआई ने स्टेबल डिफ्यूजन जारी करके ओपन-सोर्स इमेज जनरेशन क्रांति को जन्म दिया, जिसने हजारों उत्पादक मॉडल, उपकरण और नैज अनुप्रयोगों के एक पारिस्थितिकी तंत्र का निर्माण किया, जिसके बराबर कोई बंद प्लेटफॉर्म नहीं हो सका। नेतृत्व के अस्थिरता और वित्तीय अस्थिरता के बावजूद, उनका मूल बेट — जेनेरेटिव एआई सभी के लिए उपलब्ध होनी चाहिए, केवल उन लोगों के लिए जो API कॉल के लिए भुगतान कर सकते हैं — पूरे उद्योग को पुनर्गठित कर दिया और ओपन-सोर्स एआई कंपनियों के संचालन के लिए एक टेम्पलेट बनाया।
एआई म्यूजिक जेनरेशन कंपनी जो कोई भी एक टेक्स्ट प्रॉम्प्ट से पूरे गीत — वॉकल्स, इंस्ट्रूमेंट्स, प्रोडक्शन — बना सकता है। कुछ महीनों में अज्ञात से मिलियनों उपयोगकर्ताओं तक पहुंच गई, म्यूजिक इंडस्ट्री को एआई की रचनात्मकता के सामने खड़ा कर दिया।
यह क्यों मायने रखता है: सुनो ने दिखाया कि AI केवल एक पाठ प्रम्प्ट से पूर्ण और सुनने योग्य गीत उत्पन्न कर सकता है, जिससे एक रात में सृजनात्मक उपकरणों की पूरी तरह से नई श्रेणी बन गई। वे जननात्मक AI में सबसे महत्वपूर्ण प्रतिबंध लेखकाधिकार लड़ाई के केंद्र में हैं, जिसके परिणाम RIAA के न्याय याचिका के मामले के लिए पूर्वानुमान रख सकता है कि सभी मोडलिटी में प्रशिक्षण डेटा अधिकार कैसे काम करते हैं। अधिक व्यापक रूप से, ये एक सबसे तीखा परीक्षण मामला है कि क्या सृजनात्मक उपकरणों के लोकतंत्रीकरण मनुष्य के अभिव्यक्ति को विस्तारित करता है या व्यावसायिक कलाकारों के आर्थिक आधार को कमजोर करता है —
एक ट्रांसफॉर्मर्स के वैकल्पिक विकल्प जो अनुक्रमों को सभी टोकन्स पर ध्यान के बजाय एक संपीड़ित "स्टेट" बनाए रखकर प्रक्रमित करता है। Mamba सबसे अधिक प्रसिद्ध SSM आर्किटेक्चर है। SSMs अनुक्रम लंबाई के साथ रैखिक रूप से पैमाने पर बढ़ते हैं (ध्यान के लिए द्विघाती विपरीत), जिससे बहुत लंबे संदर्भों के लिए उनकी दक्षता बहुत अधिक हो सकती है।
यह क्यों मायने रखता है: एसएसएम ट्रांसफॉर्मर के अधिकार के मुख्य प्रतिद्वंद्वी हैं। वे लंबी क्रम के लिए तेज होते हैं और कम मेमोरी का उपयोग करते हैं, लेकिन अनुसंधान अभी भी परिपक्व हो रहा है। हाइब्रिड आर्किटेक्चर (एसएसएम लेयर्स के साथ ध्यान मिश्रित करते हुए) दोनों दुनिया के सर्वोत्तम हो सकते हैं।
एक विशेष निर्देश जो एक बातचीत के शुरुआत में मॉडल को दिया जाता है जो इसके व्यवहार, प्रकृति और नियमों को निर्धारित करता है। उपयोगकर्ता संदेशों के विपरीत, सिस्टम प्रॉम्प्ट को टिकाऊ और अधिकारी रहना चाहिए — यह इस सत्र के लिए मॉडल कौन है इसकी परिभाषा है। "आप एक सहायक कोडिंग सहायक हैं। हमेशा TypeScript का उपयोग करें।"
यह क्यों मायने रखता है: सिस्टम प्रॉम्प्ट्स AI व्यवहार के अनुकूलन के लिए फाइन-ट्यूनिंग के बिना मुख्य उपकरण हैं। वे हैं जिनके द्वारा कंपनियां क्लॉउड को एक ग्राहक समर्थन एजेंट, एक कोड समीक्षक या चिकित्सा सूचना सहायक के रूप में कार्य करने के लिए बनाती हैं — समान मॉडल, अलग सिस्टम प्रॉम्प्ट।
स्केलिंग नियम इसे यह भी कहते हैं: Neural Scaling Laws, Chinchilla
मूल तत्व
Power-law संबंध जो दिखाते हैं कि प्रदर्शन मॉडल आकार, डेटासेट आकार और compute के साथ अनुमानित रूप से सुधरता है। आप करोड़ों खर्च करने से पहले प्रदर्शन का अनुमान लगा सकते हैं।
यह क्यों मायने रखता है: प्रशिक्षण को अनुमान से इंजीनियरिंग में बदल दिया। AI हथियारों की दौड़ की व्याख्या करता है: compute पर अनुमानित रिटर्न लगातार बड़े clusters को प्रेरित करता है।
एक प्रशिक्षण दृष्टिकोण जहाँ मॉडल बिना लेबल वाले डेटा से अपना स्वयं का पर्यवेक्षण संकेत उत्पन्न करता है। इनपुट का हिस्सा छिपाओ, छिपे हुए हिस्से की भविष्यवाणी करने के लिए प्रशिक्षित करो। LLM के लिए: अगला टोकन मास्क करो और उसकी भविष्यवाणी करो। Vision के लिए: image patches मास्क करो।
यह क्यों मायने रखता है: सेल्फ़-सुपरवाइज़्ड लर्निंग वह सफलता है जिसने आधुनिक AI को संभव बनाया। इसने महंगे हाथ से लेबल किए गए डेटासेट के बजाय पूरे इंटरनेट पर प्रशिक्षण को अनलॉक किया।
छोटा draft मॉडल उम्मीदवार उत्पन्न करता है, बड़ा मॉडल एक साथ सभी को सत्यापित करता है। सही अनुमान = प्रति चरण कई टोकन। समान आउटपुट गुणवत्ता के साथ 2–3 गुना speedup।
यह क्यों मायने रखता है: AI inference में कुछ मुफ़्त लंच में से एक। गणितीय रूप से समान आउटपुट, बस तेज़।
HTTP पर SSE के माध्यम से उत्पन्न होते ही आउटपुट टोकन-दर-टोकन भेजना। यही कारण है कि चैट इंटरफ़ेस में टेक्स्ट शब्द-दर-शब्द प्रकट होता है।
यह क्यों मायने रखता है: बनते हुए टेक्स्ट के 10 सेकंड ठीक लगते हैं; खाली स्क्रीन के 10 सेकंड टूटा हुआ लगता है। साथ ही उपयोगकर्ताओं को जल्दी रोकने की सुविधा भी देता है।
AI से machine-parseable प्रारूप (JSON, XML, schema) में प्रतिक्रिया प्राप्त करना। अधिकांश प्रदाता मूल रूप से इसका समर्थन करते हैं: एक schema परिभाषित करें, मॉडल अनुरूपता की गारंटी देता है।
यह क्यों मायने रखता है: चैटबॉट से एप्लिकेशन में जाने के लिए structured output की आवश्यकता होती है। आपका कोड free-form टेक्स्ट को parse नहीं कर सकता।
एक प्रशिक्षण दृष्टिकोण जहाँ मॉडल लेबल किए गए उदाहरणों से सीखता है — इनपुट-आउटपुट जोड़े जहाँ सही उत्तर प्रदान किया जाता है। मॉडल अपनी भविष्यवाणियों और ज्ञात सही उत्तरों के बीच अंतर को कम करने के लिए अपने पैरामीटर समायोजित करता है।
यह क्यों मायने रखता है: सुपरवाइज़्ड लर्निंग ML का सबसे सहज रूप और अधिकांश व्यावहारिक अनुप्रयोगों का मुख्य आधार है: स्पैम फ़िल्टर, चिकित्सा छवि विश्लेषण, धोखाधड़ी पहचान, और LLM के fine-tuning चरण।
सिंथेटिक डेटा इसे यह भी कहते हैं: AI-Generated Training Data, AI-निर्मित प्रशिक्षण डेटा
प्रशिक्षण
AI मॉडल द्वारा उत्पन्न प्रशिक्षण डेटा। प्रशिक्षण pipelines में मानक बनता जा रहा है।
यह क्यों मायने रखता है: वास्तविक लेबल किया गया डेटा महंगा है। Frontier मॉडल रातोंरात लाखों उदाहरण उत्पन्न कर सकते हैं। गुणवत्ता नियंत्रण महत्वपूर्ण है।
एक फ़ंक्शन जो कच्ची संख्याओं (logits) के वेक्टर को एक प्रायिकता वितरण में परिवर्तित करता है — सभी मान सकारात्मक हो जाते हैं और उनका योग 1 होता है। Softmax मानों के बीच अंतरों को बढ़ाता है: सबसे बड़े इनपुट को सबसे अधिक प्रायिकता मिलती है, और छोटे इनपुट को तेज़ी से घटती प्रायिकताएँ मिलती हैं। यह attention तंत्र, classification आउटपुट, और टोकन भविष्यवाणी में दिखाई देता है।
यह क्यों मायने रखता है: Softmax आधुनिक AI में हर जगह है। हर बार जब एक भाषा मॉडल अगले टोकन की भविष्यवाणी करता है, softmax कच्चे मॉडल आउटपुट को प्रायिकताओं में परिवर्तित करता है। हर attention head attention भार की गणना के लिए softmax का उपयोग करता है। हर क्लासिफ़ायर क्लास प्रायिकताएँ उत्पन्न करने के लिए softmax का उपयोग करता है। Softmax को समझने से आपको temperature, top-p sampling, और मॉडल गलत होने पर भी "आत्मविश्वासी" क्यों होते हैं, यह समझने में मदद मिलती है।
सबसे बड़ी AI डेटा लेबलिंग कंपनी, जो वह मानव-एनोटेटेड प्रशिक्षण डेटा प्रदान करती है जिस पर अधिकांश प्रमुख AI मॉडल निर्भर करते हैं। Scale AI छवियों, टेक्स्ट, वीडियो और 3D डेटा को स्वायत्त ड्राइविंग, सरकार और AI कंपनियों के लिए लेबल करती है। वे मूल्यांकन सेवाएँ, RLHF डेटा संग्रह और फ़ाइन-ट्यूनिंग के लिए डेटा क्यूरेशन भी प्रदान करते हैं। प्रमुख ग्राहकों में OpenAI, Meta, US रक्षा विभाग और कई सेल्फ-ड्राइविंग कार कंपनियाँ शामिल हैं।
यह क्यों मायने रखता है: Scale AI AI सप्लाई चेन में एक महत्वपूर्ण स्थिति रखता है: कच्चे डेटा और प्रशिक्षित मॉडल के बीच। लेबल किए गए डेटा की गुणवत्ता सीधे मॉडल गुणवत्ता निर्धारित करती है, और Scale सबसे बड़ा प्रदाता है। उनकी RLHF डेटा संग्रह सेवाओं का मतलब है कि वे सचमुच AI मॉडल के alignment को आकार देने में मदद करते हैं — Claude, GPT और अन्य को प्रशिक्षित करने वाली मानव प्राथमिकताएँ अक्सर Scale जैसे लेबलिंग प्लेटफ़ॉर्म के माध्यम से आती हैं।
ऐसी खोज जो शब्दों के सटीक मिलान के बजाय अर्थ के आधार पर परिणाम ढूंढती है। "fix" शब्द वाले दस्तावेज़ों की तलाश करने के बजाय, semantic search "repair," "resolve," "patch," और "debug" के बारे में दस्तावेज़ ढूंढती है क्योंकि उनका अर्थ समान है। यह टेक्स्ट को embeddings (संख्यात्मक vectors) में बदलकर और vector space में निकटतम मिलान ढूंढकर काम करती है।
यह क्यों मायने रखता है: Semantic search इसी कारण से आधुनिक खोज keyword search की तुलना में जादुई लगती है। यह RAG systems, दस्तावेज़ खोज, ई-कॉमर्स उत्पाद खोज, और support ticket routing को संचालित करती है। यदि आप कोई भी ऐसा एप्लिकेशन बना रहे हैं जिसे प्रासंगिक जानकारी खोजने की आवश्यकता है, तो semantic search संभवतः सही दृष्टिकोण है।
Attention mechanisms जो पूरे N×N attention matrix के बजाय token pairs के केवल एक subset को process करते हैं। Sliding window attention केवल nearby tokens (एक fixed window के भीतर) पर attend करता है। Sparse patterns (जैसे Longformer का local + global attention combination) विशिष्ट tokens को सब कुछ पर attend करने देते हैं जबकि अधिकांश tokens locally attend करते हैं। ये approaches long sequences के लिए attention की quadratic cost को कम करते हैं।
यह क्यों मायने रखता है: Sparse attention इसी तरह Mistral, Mixtral, और अन्य efficient models long sequences को full dense attention की cost के बिना संभालते हैं। यह "सब पर attend करो" (expensive लेकिन thorough) और "दूर किसी चीज़ पर attend मत करो" (cheap लेकिन limited) के बीच का व्यावहारिक समझौता है। Sparse attention को समझने से आपको context length और quality degradation कहां हो सकती है इसके दावों का मूल्यांकन करने में मदद मिलती है।
Model की predicted probability distribution से अगला token generate करने के लिए select करने की प्रक्रिया। Greedy decoding हमेशा most likely token चुनता है। Random sampling probabilities के proportional में चुनता है। Temperature, top-p (nucleus), और top-k ऐसे controls हैं जो selection की randomness और diversity adjust करते हैं। Sampling strategy output quality, creativity, और consistency को dramatically affect करती है।
यह क्यों मायने रखता है: Sampling parameters LLM behavior control करने के सबसे accessible knobs हैं। Deterministic code generation के लिए Temperature 0। Creative writing के लिए Temperature 0.7। अच्छे balance के लिए Top-p 0.9। ये magic numbers नहीं हैं — ये सीधे control करते हैं कि model प्रत्येक step पर कौन से tokens consider करता है। Sampling को समझने से आपको अपने specific use case के लिए outputs tune करने में मदद मिलती है।
बोली गई ऑडियो को टेक्स्ट में बदलना। आधुनिक वाक् पहचान डीप लर्निंग मॉडल (विशेष रूप से OpenAI का Whisper) का उपयोग करती है जो 100+ भाषाओं में लगभग मानवीय सटीकता से ऑडियो को ट्रांसक्राइब कर सकते हैं। यह तकनीक वॉइस असिस्टेंट, मीटिंग ट्रांसक्रिप्शन, सबटाइटल जनरेशन, और एक्सेसिबिलिटी टूल्स को शक्ति प्रदान करती है।
यह क्यों मायने रखता है: वाक् पहचान ने AI के लिए वॉइस को एक इनपुट माध्यम के रूप में खोल दिया। LLMs और text-to-speech के साथ मिलकर, यह पूरी तरह से वॉइस-संचालित AI इंटरैक्शन को सक्षम बनाता है। Whisper की ओपन रिलीज़ ने उच्च-गुणवत्ता ट्रांसक्रिप्शन को लोकतांत्रिक बनाया — आप इसे स्थानीय रूप से मुफ़्त में चला सकते हैं। एक्सेसिबिलिटी के लिए, यह परिवर्तनकारी है: ऑडियो सामग्री को खोजने योग्य, अनुवाद योग्य, और बधिर एवं श्रवण-बाधित उपयोगकर्ताओं के लिए उपलब्ध बनाना।
वह घटना जिसमें न्यूरल नेटवर्क अपने न्यूरॉनों की संख्या से कहीं अधिक विशेषताएँ (अवधारणाएँ, पैटर्न) एन्कोड करते हैं, विशेषताओं को व्यक्तिगत न्यूरॉनों को समर्पित करने के बजाय एक्टिवेशन स्पेस में दिशाओं के रूप में प्रदर्शित करके। एक अकेला न्यूरॉन एक साथ दर्जनों विशेषताओं को एन्कोड करने में भाग लेता है, और प्रत्येक विशेषता कई न्यूरॉनों में वितरित होती है।
यह क्यों मायने रखता है: सुपरपोज़िशन ही कारण है कि न्यूरल नेटवर्क की व्याख्या करना कठिन है और mechanistic interpretability चुनौतीपूर्ण है। अगर प्रत्येक न्यूरॉन एक अवधारणा का प्रतिनिधित्व करता (जैसे "कुत्तों की अवधारणा"), तो व्याख्या सीधी होती। इसके बजाय, अवधारणाएँ न्यूरॉनों में ओवरलैपिंग पैटर्न में फैली होती हैं। सुपरपोज़िशन को समझना यह समझने की कुंजी है कि न्यूरल नेटवर्क जानकारी को कैसे संकुचित करते हैं और वे कभी-कभी अप्रत्याशित रूप से व्यवहार क्यों करते हैं।
एक attention तंत्र जहां एक अनुक्रम स्वयं पर ध्यान देता है — हर टोकन अपनी प्रासंगिकता की गणना उसी अनुक्रम में हर दूसरे टोकन के साथ करता है। Queries, keys, और values सभी एक ही इनपुट से आते हैं। यह प्रत्येक टोकन को सभी अन्य टोकन से, प्रासंगिकता के आधार पर भारित, सूचना एकत्र करने देता है। Self-attention हर Transformer लेयर में मुख्य ऑपरेशन है।
यह क्यों मायने रखता है: Self-attention वह है जो Transformers को काम करता है। इसने RNNs की क्रमिक प्रोसेसिंग को सभी स्थितियों के बीच समानांतर, सीधे कनेक्शनों से बदल दिया। "river bank" में "bank" शब्द अपने अर्थ को हल करने के लिए "river" पर ध्यान देता है, चाहे वे कितने भी दूर हों। किन्हीं भी दो स्थितियों को सीधे जोड़ने की यह क्षमता इसलिए है कि Transformers लंबी दूरी की निर्भरताओं को इतनी अच्छी तरह संभालते हैं।
एक न्यूरल नेटवर्क जिसे एक मॉडल के आंतरिक एक्टिवेशन को sparsity बाधा के साथ एक bottleneck के माध्यम से पुनर्निर्मित करने के लिए प्रशिक्षित किया जाता है — एक समय में केवल कुछ features सक्रिय हो सकते हैं। सीखे गए features अक्सर व्याख्या योग्य अवधारणाओं (विशिष्ट विषय, भाषाई पैटर्न, तर्क रणनीतियाँ) से मेल खाते हैं, जो SAEs को बड़े भाषा मॉडलों के अंदर superposed features को अलग करने का प्राथमिक उपकरण बनाता है।
यह क्यों मायने रखता है: Sparse autoencoders mechanistic interpretability की सूक्ष्मदर्शी हैं। LLMs superposition के माध्यम से प्रत्येक लेयर में हज़ारों features को पैक करते हैं, जिससे व्यक्तिगत neurons अव्याख्यायोग्य हो जाते हैं। SAEs इन superposed प्रतिनिधित्वों को अलग-अलग, व्याख्या योग्य features में विघटित करते हैं। Anthropic ने Claude में लाखों features की पहचान करने के लिए SAEs का उपयोग किया, जिसमें धोखाधड़ी, विशिष्ट अवधारणाओं और सुरक्षा-संबंधी व्यवहारों के features शामिल थे।
आधुनिक Transformers के feedforward लेयर्स में उपयोग किया जाने वाला एक gated activation function। SwiGLU SiLU/Swish activation को एक gating तंत्र के साथ जोड़ता है: SwiGLU(x) = (x · W1 · SiLU) ⊗ (x · W3), जहां ⊗ element-wise गुणन है। यह नेटवर्क को यह सीखने देता है कि कौन सी जानकारी पास करनी है, लगातार मानक ReLU या GELU feedforward लेयर्स से बेहतर प्रदर्शन करता है।
यह क्यों मायने रखता है: SwiGLU LLaMA, Mistral, Qwen, Gemma, और अधिकांश आधुनिक LLMs द्वारा उपयोग किया जाने वाला feedforward activation है। इसे समझने से आपको मॉडल आर्किटेक्चर पढ़ने में मदद मिलती है और यह बताता है कि आधुनिक FFN लेयर्स में दो के बजाय तीन weight matrices क्यों हैं। यह एक छोटा आर्किटेक्चरल विकल्प है जिसका मॉडल गुणवत्ता पर बड़ा प्रभाव है।
एक गणितीय फंक्शन जो किसी भी वास्तविक संख्या को (0, 1) की सीमा में समेटता है: σ(x) = 1 / (1 + e^(−x))। ऐतिहासिक रूप से न्यूरल नेटवर्क में डिफ़ॉल्ट activation function, अब hidden लेयर्स के लिए ReLU और GELU द्वारा काफ़ी हद तक प्रतिस्थापित लेकिन अभी भी binary classification आउटपुट, gating तंत्रों (LSTMs और GLU में), और attention-जैसे ऑपरेशनों के लिए उपयोग किया जाता है जहां आपको 0 और 1 के बीच मान चाहिए।
यह क्यों मायने रखता है: Sigmoid AI में हर जगह दिखाई देता है भले ही यह अब डिफ़ॉल्ट hidden activation नहीं है। LSTM gates sigmoid का उपयोग करते हैं। SiLU/Swish activation x · sigmoid(x) है। Binary classifiers आउटपुट activation के रूप में sigmoid का उपयोग करते हैं। Sigmoid को समझना — और इसे hidden लेयर्स के लिए ReLU ने क्यों प्रतिस्थापित किया — न्यूरल नेटवर्क डिज़ाइन विकल्पों को समझने के लिए मूलभूत ज्ञान है।
स्वचालित रूप से टेक्स्ट के भावनात्मक स्वर का निर्धारण करना — सकारात्मक, नकारात्मक या तटस्थ। "यह उत्पाद अद्भुत है!" सकारात्मक है। "भयानक ग्राहक सेवा" नकारात्मक है। सरल ध्रुवीयता से परे, उन्नत sentiment analysis विशिष्ट भावनाएँ (क्रोध, आनंद, निराशा), पहलू-स्तरीय भावना ("खाना बढ़िया था लेकिन सेवा धीमी थी"), और व्यंग्य का पता लगाता है।
यह क्यों मायने रखता है: Sentiment analysis सबसे अधिक व्यावसायिक रूप से तैनात NLP अनुप्रयोगों में से एक है। कंपनियाँ इसका उपयोग सोशल मीडिया पर ब्रांड धारणा की निगरानी, बड़े पैमाने पर ग्राहक समीक्षाओं का विश्लेषण, सर्वेक्षणों में कर्मचारी संतुष्टि का आकलन और उभरते PR संकटों का पता लगाने के लिए करती हैं। यह NLP सीखने के लिए एक सामान्य प्रवेश बिंदु भी है — प्रचुर प्रशिक्षण डेटा के साथ एक सरल, सहज वर्गीकरण कार्य।
सबसे व्यापक रूप से उपयोग किया जाने वाला open-source image generation मॉडल, Stability AI द्वारा शैक्षणिक शोधकर्ताओं के सहयोग से बनाया गया। Stable Diffusion latent diffusion का उपयोग करके text prompts से छवियाँ उत्पन्न करता है — pixel space के बजाय compressed latent space में denoising प्रक्रिया करता है, जो इसे consumer GPUs पर चलाने के लिए पर्याप्त तेज बनाता है। SD 1.5, SDXL और SD3 क्रमिक पीढ़ियों का प्रतिनिधित्व करते हैं।
यह क्यों मायने रखता है: Stable Diffusion ने AI image generation को लोकतांत्रिक बनाया। SD से पहले, image generation के लिए महंगी API पहुँच (DALL-E) की आवश्यकता थी या यह शोध तक सीमित था। SD के open weights का मतलब था कि कोई भी इसे locally चला सकता था, fine-tune कर सकता था, और इस पर निर्माण कर सकता था। इसने एक विशाल ecosystem को जन्म दिया: LoRA fine-tunes, ControlNet, custom मॉडल, community-trained checkpoints, और Automatic1111 से ComfyUI तक के applications।
एक छवि की दृश्य शैली (पेंटिंग, फ़ोटोग्राफ़, डिज़ाइन) को दूसरी छवि की सामग्री पर लागू करना। "इस फ़ोटो को Van Gogh पेंटिंग जैसा बनाओ" style transfer है। Neural style transfer गहरे नेटवर्क का उपयोग करके सामग्री (छवि में क्या है) को शैली (यह कैसी दिखती है) से अलग करता है और उन्हें पुनः संयोजित करता है।
यह क्यों मायने रखता है: Style transfer पहले वायरल AI कला अनुप्रयोगों में से एक था और फ़ोटो एडिटिंग ऐप्स, सोशल मीडिया फ़िल्टर, और क्रिएटिव टूल्स में व्यापक रूप से उपयोग किया जाता है। इसे समझना आपको यह समझने में मदद करता है कि neural networks अमूर्तता के विभिन्न स्तरों पर दृश्य विशेषताओं का प्रतिनिधित्व कैसे करते हैं — वही अंतर्दृष्टि जो आधुनिक image generation को शक्ति प्रदान करती है।
मूल में मौजूद न होने वाले यथार्थवादी विवरण उत्पन्न करके किसी छवि का resolution बढ़ाना। एक 256×256 फ़ोटो एक तीक्ष्ण 1024×1024 छवि बन जाती है। AI super resolution सिर्फ़ pixels को interpolate नहीं करता (जो धुंधलापन पैदा करता है) — यह उच्च-resolution प्रशिक्षण छवियों से सीखे गए ज्ञान के आधार पर यथार्थवादी texture, किनारे, और सूक्ष्म विवरण hallucinate करता है।
यह क्यों मायने रखता है: Super resolution के तत्काल व्यावहारिक अनुप्रयोग हैं: पुरानी फ़ोटो को बेहतर बनाना, वीडियो गेम textures को upscale करना, सुरक्षा कैमरा फ़ुटेज में सुधार, कम-resolution छवियों को प्रिंट के लिए तैयार करना, और AI image generation pipelines में post-processing चरण के रूप में। Real-ESRGAN और इसी तरह के मॉडल एक ही inference pass में छवि गुणवत्ता में नाटकीय सुधार कर सकते हैं।
कई speakers वाली audio recording में यह निर्धारित करना कि कौन कब बोला। एक meeting recording दी जाने पर, diarization इसे विभाजित करता है "Speaker A: 0:00–0:15, Speaker B: 0:15–0:32, Speaker A: 0:32–0:45" में। Speech recognition के साथ जोड़ने पर, यह speaker-attributed transcripts उत्पन्न करता है — meeting minutes, interview transcription, और call center analytics के लिए आवश्यक।
यह क्यों मायने रखता है: Speech recognition अकेले बिना किसी संकेत के कि किसने क्या कहा, टेक्स्ट की एक दीवार उत्पन्न करता है। Diarization वह संरचना जोड़ता है जो transcripts को उपयोगी बनाती है: आप खोज सकते हैं कि एक विशिष्ट व्यक्ति ने क्या कहा, प्रत्येक speaker के योगदान का सारांश बना सकते हैं, और conversational dynamics का विश्लेषण कर सकते हैं (कौन सबसे ज़्यादा बोलता है, कौन बीच में बोलता है)। यह किसी भी multi-speaker audio अनुप्रयोग के लिए आवश्यक है।
चीन के एक बड़े टेक कंपनी वीचैट के पीछे, दुनिया के सबसे बड़े गेमिंग कंपनियों में से एक और जेनेरेटिव AI में एक बल बन रहा है। उनके हुनयुआन मॉडल टेंसेंट के भारी एकोसिस्टम में विशेषताओं को संचालित करते हैं जो एक अरब से अधिक उपयोगकर्ताओं की सेवा करते हैं।
यह क्यों मायने रखता है: टेंसेंट कृत्रिम बुद्धिमत्ता में महत्वपूर्ण है जिसी कारण से वह अन्य सभी चीजों में महत्वपूर्ण है: पैमाना और वितरण। वीचैट के 1.3 अरब उपयोगकर्ताओं तक पहुंच जाने और एक गेमिंग साम्राज्य के साथ जो सभी प्रमुख प्लेटफॉर्मों पर फैला हुआ है, टेंसेंट अपनी एआई सुविधाओं को अधिक लोगों तक, जल्दी से, दुनिया के लगभग किसी भी कंपनी की तुलना में तैनात कर सकता है। उनके हुनयुआन मॉडल और विशेष रूप से हुनयुआनवीडियो ने यह साबित कर दिया है कि एक संगठन के एआई लैब वास्तव में प्रतिस्पर्धी काम उत्पन्न कर सकते हैं, न कि केवल सेवा करने वाले आंतरिक उपकरण। ग्लोबल एआई पारिस्थितिकी तंत्र के लिए, टेंसेंट द्वारा वीडियो और भाषा मॉडल के ओपन-सोर्स रिलीज ने जो आम उपलब्ध है उसके लिए फर्श बढ़ा दिया है, और उनके बुनियादी ढांचा निवेश चीन की एआई क्षमताओं को चिप निर्यात प्रतिबंधों के बावजूद अभिजात बनाए रखते हैं।
एक वीडियो समझ वाली कंपनी जो आपको प्राकृतिक भाषा का उपयोग करके वीडियो से सामग्री खोजने, विश्लेषण करने और उत्पादित करने की अनुमति देती है। इसे "वीडियो के लिए RAG" के रूप में सोचें — उनके मॉडल ऐसे ही काम करते हैं जैसे LLMs टेक्स्ट को समझते हैं।
यह क्यों मायने रखता है:
Twelve Labs विश्व के वीडियो सामग्री को मशीन द्वारा पढ़े जा सके वाला बनाने के लिए आधारभूत बुनियादी ढांचा बना रहा है। एक ऐसे युग में जहां वीडियो डिजिटल संचार में प्रमुख है लेकिन AI द्वारा खोज योग्य नहीं है, उनके उद्देश्य बनाए गए एम्बेडिंग और जेनरेशन मॉडल एक समस्या को हल करते हैं जिसे भले ही सबसे बड़े फ्रंटियर लैब्स ने केवल सतह पर हल किया हो। यदि वीडियो इंटरनेट का प्रमुख माध्यम है, तो वही जो उत्पादन पैमाने पर वीडियो समझ को हल करता है, एक रणनीतिक स्थिति रखता है जो गूगल सर्च के लिए पाठ के लिए तुलनीय है।
एक एआई कंपनी जो टेक्स्ट या इमेज से 3D मॉडल उत्पन्न करने में विशेषज्ञ है। एक क्षेत्र में जहां अधिकांश 3D उत्पादन अक्षम ब्लॉब्स उत्पन्न करता है, Tripo उभरता है जो स्वच्छ, उत्पादन तैयार मेश उत्पन्न करता है जिनका गेम डेवलपर्स और डिज़ाइनर्स वास्तव में उपयोग कर सकते हैं।
यह क्यों मायने रखता है: त्रिपो एआई-जनित 3D सामग्री के उत्पादन में वास्तव में उपयोगी बनाने के कट-एज का प्रतिनिधित्व करता है। जबकि अधिकांश एआई 3D उत्पादन अभी भी ऐसे संसाधन उत्पन्न करता है जिनके लिए व्यापक मानवीय सफाई आवश्यक होती है, त्रिपो ने नेट मेश की गुणवत्ता, सही टोपोलॉजी और वास्तविक कार्यप्रवाहों के साथ समाकलन पर अटूट ध्यान केंद्रित किया है — ऐसा असुंदर इंजीनियरिंग जो अनुसंधान डेमो को एक ऐसे उपकरण से अलग करता है जिसके लिए विशेषज्ञ भुगतान करेंगे। जैसे-जैसे स्पेशल कंप्यूटिंग और रियल-टाइम 3D सामग्री की मांग बढ़ती जा रही है, ऐसी कंपनियां जो पहले प्रोडक्शन-ग्रेड उत्पादन के समाधान करती हैं, एक असाधारण बाजार को कब्जा कर लेंगी।
एक पैरामीटर जो एक मॉडल के आउटपुट के यादृच्छिक या निर्धारित होने के तरीके को नियंत्रित करता है। तापमान 0 मॉडल को हमेशा सबसे संभावित अगले टोकन को चुनने के लिए बाध्य करता है (निर्धारित, फोकस वाला)। तापमान 1+ इसे कम संभावित टोकन चुनने के लिए अधिक इच्छुक बनाता है (रचनात्मक, अनुमान नहीं लगाने वाला)। अधिकांश API डिफ़ॉल्ट रूप से 0.7 के आसपास होते हैं।
यह क्यों मायने रखता है: तापमान एक प्रतिभा नियंत्रक है। कहानी लिख रहे हैं? इसे ऊपर करें। कोड या तथ्यात्मक जवाब उत्पन्न कर रहे हैं? इसे नीचे करें। यह एक ऐसा प्रमुख पैरामीटर है जिसे आप समायोजित कर सकते हैं, और इसके साथ प्रयोग करने में कोई लागत नहीं होती।
AI मॉडल द्वारा प्रक्रमित पाठ की बुनियादी इकाई। एक टोकन आमतौर पर एक शब्द या शब्द खंड होता है — "understanding" एक टोकन हो सकता है, जबकि "un" + "der" + "standing" तीन हो सकते हैं। औसतन, एक टोकन अंग्रेजी में एक शब्द के लगभग 3/4 होता है। मॉडल टोकन में पढ़ते हैं, सोचते हैं और चार्ज करते हैं।
यह क्यों मायने रखता है: टोकन AI की मुद्रा हैं। कंटेक्स्ट विंडो को टोकन में मापा जाता है। API की कीमत प्रति टोकन होती है। जब कोई प्रदाता "1M context" कहता है, तो वह 1 मिलियन टोकन का अर्थ बता रहा होता है, जो लगभग 750K शब्द होते हैं। टोकन के बारे में ज्ञान आपको लागत का अनुमान लगाने और उपयोग को अनुकूलित करने में मदद करता है।
एक AI मॉडल की क्षमता जो बातचीत के दौरान बाहरी फ़ंक्शन या उपकरण कॉल कर सकता है। टेक्स्ट उत्पन्न करने के बजाय, मॉडल इंटरनेट पर खोज कर सकता है, कोड चला सकता है, एक डेटाबेस के लिए प्रश्न पूछ सकता है, या एक API कॉल कर सकता है — फिर परिणामों को अपनी प्रतिक्रिया में शामिल कर सकता है। मॉडल एक संरचित "टूल कॉल" आउटपुट करता है जिसे मेजबान एप्लिकेशन निष्पादित करता है।
यह क्यों मायने रखता है: टूल के उपयोग के कारण ही AI मॉडल वाक्य बातचीत के बाहर वास्तव में उपयोगी होते हैं। यह कोड इंटरप्रेटर, वेब ब्राउज़िंग AI और प्रत्येक AI एजेंट के पीछे वाला मैकेनिज्म है। इसके बिना, मॉडल अपने प्रशिक्षण डेटा के अंदर सीमित रहते हैं।
आधुनिक LLMs और कई छवि/ऑडियो मॉडल के पीछे न्यूरल नेटवर्क आर्किटेक्चर। गूगल द्वारा 2017 के पेपर "Attention Is All You Need" में पेश किया गया, ट्रांसफॉर्मर्स स्व-ध्यान का उपयोग करते हैं जो इनपुट के सभी हिस्सों को एक साथ प्रोसेस करते हैं, अनुक्रमिक रूप से नहीं, जिससे प्रशिक्षण के दौरान बड़े पैमाने पर समानांतरता संभव होती है।
यह क्यों मायने रखता है: ट्रांसफॉर्मर्स वह आर्किटेक्चर है जिसके कारण वर्तमान AI बूम संभव हुआ। GPT, Claude, Gemini, Llama, Mistral — वे सभी ट्रांसफॉर्मर्स हैं जिनके पीछे आर्किटेक्चर है। इस आर्किटेक्चर को समझना आपको यह समझने में मदद करता है कि मॉडल क्यों उन क्षमताओं और सीमाओं के साथ आते हैं।
टोकनाइज़र इसे यह भी कहते हैं: टोकनाइज़ेशन (Tokenization)
मूल तत्व
वह एल्गोरिदम जो कच्चे टेक्स्ट को टोकन में बदलता है ताकि मॉडल उसे प्रोसेस कर सके। एक टोकनाइज़र टोकन प्रकारों की एक निश्चित शब्दावली रखता है और किसी भी इनपुट टेक्स्ट को उन टोकन के क्रम में विभाजित करता है। अलग-अलग मॉडल अलग-अलग टोकनाइज़र का उपयोग करते हैं — एक ही वाक्य Claude, GPT और Llama के लिए अलग-अलग तरीके से टोकनाइज़ होता है, जो context उपयोग और लागत को प्रभावित करता है।
यह क्यों मायने रखता है: टोकनाइज़र आपके टेक्स्ट और मॉडल के बीच की अदृश्य परत है। यह निर्धारित करता है कि आपके प्रॉम्प्ट पर कितने टोकन खर्च होते हैं, कुछ भाषाएँ दूसरों से अधिक महंगी क्यों हैं, और कोड कभी-कभी गद्य से तेज़ी से context का उपयोग क्यों करता है। जब आप context सीमा तक पहुँचते हैं या अप्रत्याशित API लागत देखते हैं, तो टोकनाइज़र आमतौर पर स्पष्टीकरण होता है।
एक कार्य या dataset से सीखे गए ज्ञान का उपयोग करके किसी भिन्न लेकिन संबंधित कार्य पर प्रदर्शन में सुधार करना। हर बार शून्य से प्रशिक्षित करने के बजाय, आप ऐसे मॉडल से शुरू करते हैं जो पहले से सामान्य पैटर्न (भाषा संरचना, दृश्य विशेषताएँ) समझता है और इसे अपनी विशिष्ट आवश्यकता के अनुसार अनुकूलित करते हैं। प्री-ट्रेनिंग फिर फ़ाइन-ट्यूनिंग आधुनिक AI में प्रमुख प्रतिमान है।
यह क्यों मायने रखता है: Transfer learning वह कारण है कि AI व्यावहारिक बना। शून्य से एक भाषा मॉडल प्रशिक्षित करने की लागत लाखों डॉलर है। अपने विशिष्ट कार्य पर एक प्री-ट्रेन्ड मॉडल को फ़ाइन-ट्यून करने की लागत दसियों डॉलर और कुछ घंटे है। यही अर्थशास्त्र है जिसने AI अनुप्रयोगों के विस्फोट को सक्षम बनाया — कुछ उपयोगी बनाने के लिए आपको Google के बजट की आवश्यकता नहीं है।
सभी समवर्ती अनुरोधों में एक सिस्टम प्रति सेकंड कुल कितने टोकन उत्पन्न कर सकता है। Latency (एक एकल अनुरोध कितनी तेज़ी से पूरा होता है) से भिन्न। उच्च throughput वाला सिस्टम एक साथ कई उपयोगकर्ताओं की सेवा करता है। कम latency वाला सिस्टम प्रत्येक व्यक्तिगत उपयोगकर्ता को जल्दी सेवा प्रदान करता है। दोनों अक्सर एक-दूसरे से ट्रेड-ऑफ़ करते हैं।
यह क्यों मायने रखता है: AI उत्पाद बनाते समय, throughput आपकी serving लागत और क्षमता निर्धारित करता है। एक सिस्टम जो प्रति उपयोगकर्ता 100 टोकन/सेकंड उत्पन्न करता है लेकिन एक समय में केवल एक उपयोगकर्ता की सेवा कर सकता है, उसका throughput कम है भले ही व्यक्तिगत latency बढ़िया हो। Throughput वह है जिसे आप ऑप्टिमाइज़ करते हैं जब आप हज़ारों समवर्ती उपयोगकर्ताओं के लिए GPU बिल चुका रहे होते हैं।
ओपन-सोर्स AI मॉडल चलाने और प्रशिक्षित करने के लिए एक क्लाउड प्लेटफ़ॉर्म। Together AI प्रतिस्पर्धी कीमतों पर लोकप्रिय ओपन मॉडल (Llama, Mistral, Qwen, आदि) के लिए inference APIs प्रदान करता है, साथ ही फ़ाइन-ट्यूनिंग और कस्टम प्रशिक्षण बुनियादी ढांचा। AI शोधकर्ताओं द्वारा स्थापित, वे ओपन-सोर्स शोध में भी योगदान करते हैं और अपने स्वयं के मॉडल जारी कर चुके हैं।
यह क्यों मायने रखता है: Together AI उन टीमों के लिए self-hosting का प्रमुख विकल्प है जो ओपन मॉडल का उपयोग करना चाहती हैं। अपने स्वयं के GPU सर्वर और model serving बुनियादी ढांचे का प्रबंधन करने के बजाय, आप उनके API को कॉल करते हैं और OpenAI/Anthropic की कीमतों के एक अंश पर Llama-70B या Mistral प्राप्त करते हैं। वे AI स्टैक की "ओपन मॉडल क्लाउड" परत का प्रतिनिधित्व करते हैं जो ओपन-वेट मॉडल को प्रोडक्शन उपयोग के लिए व्यावहारिक बनाती है।
लिखित टेक्स्ट को प्राकृतिक-ध्वनि वाली बोली ऑडियो में बदलना। आधुनिक TTS सिस्टम न्यूरल नेटवर्क का उपयोग करते हैं जो मानव आवाज़ों से लगभग अप्रभेद्य भाषण उत्पन्न करते हैं, जिसमें भावना, गति, ज़ोर, और यहाँ तक कि विशिष्ट वॉइस क्लोनिंग पर नियंत्रण होता है। ElevenLabs, OpenAI TTS, और Bark और XTTS जैसे ओपन मॉडल ने उच्च-गुणवत्ता वॉइस संश्लेषण को व्यापक रूप से सुलभ बना दिया है।
यह क्यों मायने रखता है: TTS वॉइस AI लूप को पूरा करता है: वाक् पहचान वॉइस को टेक्स्ट में बदलती है, LLM इसे प्रोसेस करता है, और TTS प्रतिक्रिया को वापस स्पीच में बदलता है। यह वॉइस असिस्टेंट, ऑडियोबुक नैरेशन, एक्सेसिबिलिटी टूल्स, कंटेंट लोकलाइज़ेशन, और गेम्स और मीडिया में AI कैरेक्टर्स को सक्षम बनाता है। आधुनिक TTS की गुणवत्ता ने uncanny valley को पार कर लिया है — संश्लेषित भाषण अब प्राकृतिक लगता है।
Inference (जब मॉडल प्रतिक्रिया उत्पन्न कर रहा हो) के दौरान उत्तर गुणवत्ता सुधारने के लिए अतिरिक्त गणना का उपयोग। तुरंत उत्तर उत्पन्न करने के बजाय, मॉडल लंबे समय तक "सोचता" है — तर्क टोकन उत्पन्न करता है, कई दृष्टिकोणों का पता लगाता है, या अपने आउटपुट को सत्यापित करता है। टेस्ट टाइम पर अधिक कम्प्यूट बेहतर उत्तर देता है, विशेषकर जटिल तर्क कार्यों के लिए।
यह क्यों मायने रखता है: टेस्ट-टाइम कम्प्यूट नवीनतम स्केलिंग प्रतिमान है। पहले युग ने प्रशिक्षण कम्प्यूट को स्केल किया (बड़े मॉडल, अधिक डेटा)। वर्तमान युग inference कम्प्यूट को भी स्केल करता है (प्रति प्रश्न अधिक सोच)। o1 और extended thinking वाले Claude जैसे मॉडल दिखाते हैं कि मॉडल को 30 सेकंड तक तर्क करने देना अक्सर 2 सेकंड में उत्तर देने वाले मॉडल से बेहतर प्रदर्शन करता है, भले ही तेज़ मॉडल तकनीकी रूप से बड़ा हो। यह अर्थशास्त्र बदलता है: गुणवत्ता इस बात का कार्य बन जाती है कि आप प्रति क्वेरी कितना खर्च करने को तैयार हैं।
स्वचालित रूप से एक टेक्स्ट का छोटा संस्करण उत्पन्न करना जो मुख्य जानकारी को संरक्षित करता है। Extractive summarization सबसे महत्वपूर्ण मौजूदा वाक्यों का चयन और संयोजन करता है। Abstractive summarization नए वाक्य उत्पन्न करता है जो अर्थ को कैप्चर करते हैं — जैसे एक मनुष्य सारांश करेगा। आधुनिक LLMs abstractive summarization में उत्कृष्ट हैं, दस्तावेज़ों, लेखों और वार्तालापों के प्रवाहपूर्ण, सटीक सारांश उत्पन्न करते हैं।
यह क्यों मायने रखता है: सूचना अधिभार डिजिटल युग की परिभाषित चुनौती है। Summarization मदद करता है: लंबी रिपोर्टों को कार्रवाई योग्य सारांशों में संक्षिप्त करना, transcripts से मीटिंग नोट्स उत्पन्न करना, शोध पत्रों के लिए abstracts बनाना, और लंबे लेखों के TL;DR संस्करण तैयार करना। यह सबसे तुरंत उपयोगी LLM क्षमताओं में से एक है और मौजूदा workflows में एकीकृत करने के लिए सबसे आसान में से एक है।
संख्याओं का एक multidimensional array — deep learning में मूलभूत data structure। एक scalar 0D tensor (एक single number) है। एक vector 1D tensor है। एक matrix 2D tensor है। एक image 3D tensor (height × width × channels) है। Images का batch 4D tensor है। Model weights, activations, gradients — neural network में सब कुछ एक tensor है।
यह क्यों मायने रखता है: Tensors deep learning की भाषा हैं। PyTorch, TensorFlow, और JAX मूल रूप से tensor computation libraries हैं। Tensor shapes और operations को समझना model code पढ़ने, shape mismatches (ML code में सबसे सामान्य error) debug करने, और neural networks के अंदर क्या होता है समझने के लिए आवश्यक है। यदि आप tensor shapes follow कर सकते हैं, तो आप architecture follow कर सकते हैं।
कोरियाई एआई कंपनी जो अपने सोलर मॉडल परिवार और दस्तावेज एआई उत्पादों के लिए जानी जाती है। यह दिखाया गया कि छोटे, अच्छी तरह से प्रशिक्षित मॉडल बहुत बड़े मॉडलों की तुलना में बेहतर प्रदर्शन कर सकते हैं — उनके सोलर 10.7B ने वैश्विक मानकों पर अपने वजन वर्ग से बाहर बेहतर प्रदर्शन किया।
यह क्यों मायने रखता है: उपस्टेज ने दिखाया कि एक विश्व-स्तरीय भाषा मॉडल बनाने के लिए आपको सैकड़ों अरब पैरामीटर की आवश्यकता नहीं होती। सौलर 10.7B की खुले बेंचमार्क में शीर्ष पर सफलता ने 'मात्र आकार ही आवश्यक है' के वर्तमान नारा को चुनौती दी और यह दिखाया कि चतुर ट्रेनिंग तकनीकें कच्चे आकार के लिए एक बराबर बन सकती हैं। मॉडलों के अलावा, अपस्टेज के डॉक्यूमेंट एआई कार्य एआई एकोसिस्टम में सबसे व्यावहारिक खामियों में से एक को ठीक करता है — गंदे वास्तविक दुनिया के दस्तावेजों को संरचित डेटा में बदलना — और उनकी सिउल से सफलता यह साबित करती है कि महत्वपूर्ण एआई नवाचार सिलिकॉन वैली और बीजिंग के चौराहों के बाहर भी हो रहा है, जो समाचारों में शीर्षक लेने वाले हैं।
एक प्रशिक्षण दृष्टिकोण जहाँ मॉडल बिना यह बताए पैटर्न खोजता है कि क्या देखना है। कोई लेबल नहीं, कोई सही उत्तर नहीं — बस कच्चा डेटा और एक मॉडल जो संरचना खोजता है। Clustering, dimensionality reduction और anomaly detection क्लासिक कार्य हैं।
यह क्यों मायने रखता है: वास्तविक दुनिया का अधिकांश डेटा बिना लेबल का है। अनसुपरवाइज़्ड लर्निंग ऐसे पैटर्न खोजती है जिन्हें मैन्युअल रूप से खोजना असंभव है। यह embeddings का भी आधार है, जो semantic search, recommendation systems और RAG को शक्ति प्रदान करती है।
मानव बोली के उत्पन्न करने, समझने और नियंत्रित करने के लिए AI प्रणालियाँ। इसमें टेक्स्ट-टू-स्पीच (TTS), स्पीच-टू-टेक्स्ट (STT/ASR), आवाज क्लोनिंग, रियल-टाइम आवाज अनुवाद, बोली में भाव पहचान, और संवादात्मक आवाज एजेंट्स शामिल हैं। इस क्षेत्र में विकास इतना हो गया है कि AI-जेनरेटेड बोली मनुष्य बोली से अक्सर अंतर नहीं बताया जा सकता।
यह क्यों मायने रखता है:
वॉइस सबसे प्राकृतिक मानव इंटरफ़ेस है, और एआई अब इसे कार्यक्रमित करने लगी है। वॉइस एआई ग्राहक सेवा बॉट से लेकर ऑडियोबुक नारेशन तक और रियल-टाइम बैठक ट्रांसक्रिप्शन तक के सभी कार्यों को संचालित करती है। वॉइस क्लोनिंग के नैतिक प्रभाव — सहमति, पहचान, धोखाधड़ी — इसे एआई में सबसे संवेदनशील क्षेत्रों में से एक बनाते हैं।
शेंगशू टेक्नोलॉजी के वीडियो उत्पादन प्लेटफॉर्म, जो कुछ सबसे भौतिक रूप से संगत AI-जनित वीडियो उत्पन्न करता है। मजबूत गति गुणवत्ता और पश्चिमी प्रतिद्वंद्वियों के बराबर बहु-शॉट संगतता के लिए ध्यान आकर्षित करता है।
यह क्यों मायने रखता है: विदू ने दिखाया कि चीनी एआई लैब्स सोरा के खुलासे के महीनों के भीतर पश्चिमी वीडियो उत्पादन गुणवत्ता के साथ मिल जाएंगे, जिससे एआई वीडियो में अग्रणी कहां है इस बारे में मान्यताओं को पुनर्निर्मित कर दिया गया। उनके शारीरिक संगति और मल्टी-शॉट संगति पर ध्यान केंद्रित करने से पूरा क्षेत्र आगे बढ़ गया, जिससे प्रतिस्पर्धियों को दृश्य चमक के बजाय वास्तविकता को प्राथमिकता देने के लिए मजबूर कर दिया गया। व्यापक एआई वीडियो बाजार के लिए, विदू की आक्रामक कीमत नीति और API उपलब्धता भी लागत कम करने और विश्वभर में विकासकर्ताओं के लिए एक्सेस बढ़ाने में मदद की।
एम्बेडिंग मॉडल कंपनी कोड, विधि, वित्त और बहुभाषी खोज के लिए विशेष वेक्टर बनाने वाली है। उनके मॉडल MTEB लीडरबोर्ड के शीर्ष पर स्थिर रूप से रैंक करते हैं, API के माध्यम से उपलब्ध सर्वोत्तम रिट्रीवल क्वालिटी प्रदान करते हैं।
यह क्यों मायने रखता है: वॉयेज एआई ने साबित कर दिया कि एम्बेडिंग्स बड़े भाषा मॉडल्स के समान इंजीनियरिंग ध्यान और निवेश का हकदार हैं। एक बाजार में जहां अधिकांश प्रदाता वेक्टर प्रतिनिधत्व को कम मार्जिन उपयोगिता के रूप में उपलब्ध कराते हैं, वॉयेज ने दिखाया कि डोमेन-विशिष्ट एम्बेडिंग मॉडल्स पुनर्प्राप्ति योग्यता में महत्वपूर्ण सुधार कर सकते हैं — उत्पादन RAG प्रणालियों में सबसे बड़ा लीवर है। गूगल द्वारा उनका अधिग्रहण थीसिस को सत्यापित कर दिया कि जो एम्बेडिंग लेयर के मालिक होते हैं, वे AI खोज प्रतिष्ठान की नींव के मालिक होते हैं।
एक डेटाबेस जो एम्बेडिंग्स (वेक्टर्स) के संग्रहण और खोज के लिए अनुकूलित होता है। पारंपरिक डेटाबेस की तरह ठीक-ठीक कीवर्ड मैच करने के बजाय, वेक्टर डेटाबेस अर्थपूर्ण रूप से सबसे अधिक समान आइटम खोजता है। आप "कैसे मेमोरी लीक ठीक करें" पूछते हैं और यह "RAM खपत के डीबगिंग" के बारे में दस्तावेज लौटाता है क्योंकि एम्बेडिंग्स निकट होते हैं।
यह क्यों मायने रखता है: वेक्टर डेटाबेस RAG काम करने के लिए आवश्यक संग्रहण वर्ग हैं। उनके बिना, आपको प्रत्येक प्रश्न पर अपने पूरे ज्ञान बेस को एम्बेड करने की आवश्यकता होगी। वे रिकॉमेंडेशन सिस्टम और सेमेंटिक सर्च के मुख्य ढांचा भी हैं।
एक GPU पर मेमोरी, सिस्टम RAM से अलग। AI मॉडल एक GPU पर चले ताकि वे VRAM में फिट हों। 16-बिट प्रिसीजन में 7B पैरामीटर मॉडल के लिए ~14GB VRAM की आवश्यकता होती है। कंज्यूमर GPUs में 8-24GB होते हैं; डेटासेंटर GPUs (A100, H100) में 40-80GB होते हैं। VRAM लोकल AI के लिए लगभग हमेशा बॉटलनेक होता है।
यह क्यों मायने रखता है: VRAM यह निर्धारित करता है कि आप कौन से मॉडल चला सकते हैं। यही कारण है कि क्वांटाइजेशन मौजूद है (मॉडल को छोटा करके फिट करने के लिए), क्योंकि MoE मॉडल जटिल होते हैं (सभी एक्सपर्ट VRAM में फिट होने चाहिए), और यही कारण है कि GPU की कीमत याददाश्त के साथ इतनी तेजी से बढ़ती है। "क्या यह VRAM में फिट होगा?" स्व-होस्टिंग AI के लिए पहला प्रश्न है।
AI models का उपयोग करके text descriptions, images, या अन्य videos से video बनाना। Sora (OpenAI), Kling (Kuaishou), Runway Gen-3, Vidu, और अन्य "a drone shot flying over a coral reef" जैसे prompts से videos generate करते हैं। यह technology image generation को temporal dimension तक extend करती है, frames में consistency बनाए रखने और realistic motion generate करने की चुनौती जोड़ती है।
यह क्यों मायने रखता है: Video generation generative AI का frontier है — सबसे कठिन modality और सबसे अधिक commercial potential वाली। यह filmmaking, advertising, social media, और education को transform करना शुरू कर रहा है। AI और professional video के बीच quality gap तेज़ी से बंद हो रहा है, वर्तमान models 5–15 second clips produce कर रहे हैं जो कभी-कभी real footage से अप्रभेद्य हैं।
टोकन का एक निश्चित सेट जिसे एक मॉडल पहचान और उत्पन्न कर सकता है। शब्दावली प्रशिक्षण के दौरान tokenizer द्वारा बनाई जाती है और आमतौर पर 32K से 128K प्रविष्टियाँ होती हैं — सामान्य शब्द, उपशब्द खंड, व्यक्तिगत अक्षर, और विशेष टोकन। मॉडल जो भी टेक्स्ट प्रोसेस करता है वह इस शब्दावली के टोकनों के अनुक्रम के रूप में व्यक्त होना चाहिए। जो टोकन शब्दावली में नहीं हैं उन्हें छोटे टुकड़ों में तोड़ा जाता है जो शब्दावली में हैं।
यह क्यों मायने रखता है: शब्दावली निर्धारित करती है कि मॉडल क्या "देख" सकता है। मुख्य रूप से अंग्रेज़ी पर प्रशिक्षित शब्दावली अंग्रेज़ी को कुशलता से संभालेगी (प्रति शब्द एक टोकन) लेकिन चीनी, अरबी, या कोड को कई छोटे टोकनों में विभाजित कर सकती है (महंगा, धीमा, कम संदर्भ)। शब्दावली डिज़ाइन मॉडल विकास में सबसे महत्वपूर्ण और सबसे कम चर्चित निर्णयों में से एक है।
एक भाषा मॉडल की टेक्स्ट के साथ-साथ छवियों को समझने और उन पर तर्क करने की क्षमता। आप एक फ़ोटो भेजते हैं और पूछते हैं "इस छवि में क्या है?" या एक चार्ट अपलोड करते हैं और पूछते हैं "रुझानों का सारांश दें।" Vision-सक्षम मॉडल (Claude, GPT-4V, Gemini) छवियों को टोकन में एन्कोड करते हैं जिन्हें भाषा मॉडल टेक्स्ट टोकन के साथ प्रोसेस करता है, जिससे एकीकृत टेक्स्ट-और-छवि तर्क संभव होता है।
यह क्यों मायने रखता है: Vision यह बदल देता है कि LLMs क्या कर सकते हैं। बग को शब्दों में वर्णन करने के बजाय, आप उसका स्क्रीनशॉट लेते हैं। तालिका टाइप करने के बजाय, आप उसकी फ़ोटो खींचते हैं। आरेख समझाने के बजाय, आप इसे साझा करते हैं। Vision AI को उन कार्यों के लिए सुलभ बनाता है जहाँ अकेला टेक्स्ट अपर्याप्त है — जो अधिकांश वास्तविक-दुनिया के कार्य हैं। यह रोज़मर्रा के उपयोगकर्ताओं के लिए सबसे प्रभावशाली मल्टीमोडल क्षमता है।
एक Transformer आर्किटेक्चर जो एक इमेज को निश्चित आकार के पैच (जैसे, 16×16 पिक्सेल) में विभाजित करके, प्रत्येक पैच को एक "टोकन" के रूप में मानकर, और मानक Transformer attention के साथ पैच के अनुक्रम को प्रोसेस करके इमेज पर लागू होता है। ViT (Dosovitskiy et al., 2020) ने दिखाया कि Transformers पर्याप्त डेटा पर प्रशिक्षित होने पर इमेज कार्यों में CNNs से मेल खा सकते हैं या उनसे आगे निकल सकते हैं, भाषा और दृष्टि के लिए आर्किटेक्चर को एकीकृत करते हुए।
यह क्यों मायने रखता है: ViT ने साबित किया कि Transformer एक सार्वभौमिक आर्किटेक्चर है — केवल टेक्स्ट के लिए नहीं बल्कि इमेज के लिए भी। इस एकीकरण ने मल्टीमोडल मॉडल के विस्फोट को सक्षम किया: यदि इमेज और टेक्स्ट दोनों एक ही आर्किटेक्चर द्वारा प्रोसेस किए जाने वाले टोकन के अनुक्रम हैं, तो उन्हें संयोजित करना स्वाभाविक हो जाता है। ViT CLIP में इमेज एन्कोडर है, DiT की रीढ़ है, और आधुनिक कंप्यूटर विज़न की नींव है।
एक ओपन-सोर्स LLM सर्विंग इंजन जो PagedAttention और continuous batching के माध्यम से उच्च throughput प्राप्त करता है। vLLM GPU मेमोरी प्रबंधन, request शेड्यूलिंग, और KV cache ऑप्टिमाइज़ेशन की जटिल इंजीनियरिंग को संभालता है, एक OpenAI-compatible API प्रदान करता है जो ओपन मॉडलों (Llama, Mistral, Qwen) को प्रोडक्शन में self-host करना आसान बनाता है।
यह क्यों मायने रखता है: vLLM सबसे लोकप्रिय ओपन-सोर्स LLM सर्विंग समाधान है। यदि आप एक ओपन मॉडल को self-host कर रहे हैं, तो आप शायद vLLM का उपयोग कर रहे हैं (या करना चाहिए)। इसके PagedAttention नवाचार ने भोले कार्यान्वयन की तुलना में सर्विंग throughput को 2–24x बढ़ाया। यह बुनियादी ढांचा लेयर है जो ओपन मॉडलों को प्रोडक्शन उपयोग के लिए व्यावहारिक बनाती है।
एक छोटे audio sample से किसी विशिष्ट व्यक्ति की आवाज़ की synthetic प्रतिलिपि बनाना, जिससे text-to-speech उस व्यक्ति जैसी लगती है। आधुनिक सिस्टम (ElevenLabs, PlayHT, Resemble AI) केवल 15 सेकंड के audio से उल्लेखनीय निष्ठा के साथ आवाज़ clone कर सकते हैं, tone, accent, बोलने की शैली और भावनात्मक range को कैप्चर करते हुए।
यह क्यों मायने रखता है: Voice cloning शक्तिशाली रचनात्मक और accessibility अनुप्रयोगों को सक्षम बनाता है: भाषाओं में अभिनेता की अपनी आवाज़ में films की dubbing, बोलने की क्षमता खो रहे लोगों (ALS रोगियों) की आवाज़ों को संरक्षित करना, सुसंगत brand voices बनाना, और AI assistants को personalize करना। यह गंभीर जोखिम भी पैदा करता है: परिवार के सदस्यों का रूप धारण करने वाले phone scams, सार्वजनिक हस्तियों का fake audio, और बिना सहमति के voice replication।
Training से अलग रखा गया data का एक subset, जिसका उपयोग development के दौरान model performance evaluate करने और hyperparameters tune करने के लिए किया जाता है। तीन-तरफ़ा विभाजन: training set मॉडल को train करता है, validation set मॉडल के बारे में निर्णयों (learning rate, architecture, कब रुकना है) का मार्गदर्शन करता है, और test set अंतिम, unbiased performance estimate प्रदान करता है। Validation set development के दौरान आपका दर्पण है।
यह क्यों मायने रखता है: Validation set के बिना, आप अंधेरे में उड़ रहे हैं। Training loss आपको बताता है कि मॉडल training data को कितनी अच्छी तरह fit करता है, लेकिन यह नहीं कि यह कितनी अच्छी तरह generalize करता है। Validation set उस प्रश्न का उत्तर देता है जो वास्तव में मायने रखता है: "यह मॉडल उस data पर कैसा प्रदर्शन करेगा जो उसने नहीं देखा?" Model development के दौरान हर निर्णय — hyperparameters, architecture choices, training duration — को validation set पर evaluate किया जाना चाहिए।
एक न्यूरल नेटवर्क में निहित संख्यात्मक मान जो प्रशिक्षण के दौरान त्रुटि कम करने के लिए समायोजित किए जाते हैं। प्रत्येक न्यूरॉन के बीच कनेक्शन में एक वजन होता है जो एक न्यूरॉन के अगले न्यूरॉन पर कितना प्रभाव होता है इसका निर्धारण करता है। जब आप एक मॉडल फ़ाइल डाउनलोड करते हैं — एक .safetensors, .gguf, या .pt फ़ाइल — तो आप उसके वजन डाउनलोड कर रहे होते हैं। "वजनों को जारी करना" मतलब इन फ़ाइलों को प्रकाशित करना ताकि कोई भी मॉडल चला सके। वजन ही मॉडल हैं; बाकी सब केवल एर्किटेक्चर है जो आपको उन्हें कैसे व्यवस्थित करना है इसका बताता है।
यह क्यों मायने रखता है: जब एआई उद्योग "ओपन वेट्स" — "ओपन सोर्स" कहता है, तो अंतर महत्वपूर्ण होता है। केवल वेट्स आपको मॉडल चलाने और सुधारने की अनुमति देते हैं, लेकिन प्रशिक्षण कोड, डेटा और रेसिपी के बिना, आप इसे शून्य से पुनर्निर्मित नहीं कर सकते। वेट्स के बारे में समझ आपको मॉडल वितरण, क्वांटाइजेशन (वेट की तीव्रता कम करना) और इस बात को समझने में मदद करती है कि 7B मॉडल को fp16 में ~14GB डिस्क स्पेस की आवश्यकता क्यों होती है।
अलीबाबा के विशेष वीडियो उत्पादन पहल, उच्च गुणवत्ता वाले खुले भार के वीडियो मॉडल जारी कर रहा है। अलीबाबा के व्यापक रणनीति का हिस्सा है जो खुले स्रोत एआई में हर मोडलिटी में नेतृत्व करने के लिए।
यह क्यों मायने रखता है: वन-एआई ने उच्च गुणवत्ता वाले वीडियो उत्पादन की उपलब्धता में मौलिक रूप से परिवर्तन कर दिया खुले वेट्स वाले मॉडल जिन्हें कोई भी चला सकता है, fine-tune कर सकता है और बिना लाइसेंसिंग शुल्क के तैनात कर सकता है। इसने पूरे वीडियो एआई उद्योग को बंद-स्रोत मॉडलों के मूल्य प्रस्ताव को पुनर्विचार करने के लिए विवश कर दिया और पूरे पारिस्थितिकी तंत्र में नवाचार को तेज कर दिया। अलीबाबा के व्यापक ओपन-सोर्स एआई रणनीति के अंतर्गत Qwen के साथ, वन एक विश्वसनीय तर्क प्रस्तुत करता है कि बड़ी टेक कंपनियों के खुले वेट्स रिलीज़ वित्तीय रूप से सुसज्ज शुरुआती कंपनियों द्वारा बंद द्वारों के पीछे उत्पादित कुछ के बराबर या उससे अधिक हो सकते हैं।
वॉटरमार्किंग इसे यह भी कहते हैं: AI Watermark, AI वॉटरमार्क
सुरक्षा
पहचान के लिए AI सामग्री में अदृश्य संकेत। टेक्स्ट: सांख्यिकीय रूप से token चयन में bias डालता है। छवि: अदृश्य pixel पैटर्न।
यह क्यों मायने रखता है: बड़े पैमाने पर AI सामग्री को अलग करने के कुछ दृष्टिकोणों में से एक। गलत सूचना, शैक्षणिक ईमानदारी और उद्गम के लिए मायने रखता है।
मशीन लर्निंग प्रयोगों को ट्रैक करने के लिए प्रमुख MLOps प्लेटफ़ॉर्म। W&B आपको प्रशिक्षण के दौरान metrics, hyperparameters, मॉडल आउटपुट और सिस्टम प्रदर्शन लॉग करने देता है, फिर runs को दृश्य रूप से तुलना करता है। यह ML शोधकर्ताओं और इंजीनियरों के लिए मानक उपकरण बन गया है ताकि वे ट्रैक कर सकें कि उन्होंने क्या प्रयास किया, क्या काम किया और क्यों — प्रयोगों के लिए मूलत: version control।
यह क्यों मायने रखता है: प्रयोग ट्रैकिंग के बिना, ML विकास अराजकता है: किन hyperparameters ने वह अच्छा परिणाम दिया? कौन सा dataset संस्करण उपयोग किया गया? प्रशिक्षण क्यों diverge हुआ? W&B ने इस समस्या को इतनी अच्छी तरह हल किया कि अब इसका उपयोग अधिकांश AI labs करती हैं, एकल शोधकर्ताओं से लेकर OpenAI तक। यदि आप मॉडल प्रशिक्षित कर रहे हैं, तो आप लगभग निश्चित रूप से W&B या इससे प्रेरित कुछ उपयोग कर रहे हैं।
एक मॉडल जो दुनिया कैसे काम करती है इसका आंतरिक प्रतिनिधित्व बनाता है — सिर्फ़ सांख्यिकीय सहसंबंध नहीं बल्कि कारणात्मक संबंध, भौतिक नियम, और स्थानिक तर्क। क्या LLMs के पास विश्व मॉडल हैं यह AI में सबसे विवादास्पद बहसों में से एक है: क्या वे वास्तव में समझते हैं कि गिराई गई वस्तुएँ गिरती हैं, या वे बस जानते हैं कि "गिरता" अक्सर "गिराया" के बाद टेक्स्ट में आता है?
यह क्यों मायने रखता है: विश्व मॉडल AI के सबसे महत्वपूर्ण प्रश्न के केंद्र में हैं: क्या समझ के लिए पैटर्न मिलान से अधिक की आवश्यकता है? अगर LLMs वास्तविक विश्व मॉडल बनाते हैं, तो वे हमारी सोच से अधिक समझ के करीब हैं। अगर नहीं बनाते, तो एक मौलिक क्षमता अंतराल है जो अकेले स्केलिंग बंद नहीं करेगी। उत्तर AI सुरक्षा, क्षमता, और अधिक सामान्य बुद्धिमत्ता के मार्ग के लिए बड़े निहितार्थ रखता है।
शब्दों के dense वेक्टर प्रतिनिधित्व जहां समान अर्थ वाले शब्दों में समान वेक्टर होते हैं। Word2Vec (2013) और GloVe (2014) ने इसका नेतृत्व किया: वे शब्द co-occurrence पैटर्न पर प्रशिक्षण लेकर ऐसे वेक्टर उत्पन्न करते हैं जहां "king − man + woman ≈ queen"। Word embeddings आधुनिक contextual embeddings (BERT, sentence-transformers) के पूर्ववर्ती थे और यह समझने के लिए मूलभूत बने हुए हैं कि न्यूरल नेटवर्क भाषा को कैसे दर्शाते हैं।
यह क्यों मायने रखता है: Word embeddings वह breakthrough थे जिसने neural NLP को व्यावहारिक बनाया। उनसे पहले, शब्दों को one-hot वेक्टर (समानता की कोई अवधारणा नहीं) के रूप में दर्शाया जाता था। Word embeddings ने साबित किया कि distributed प्रतिनिधित्व अर्थ, उपमा, और अर्थगत संबंधों को पकड़ सकते हैं। यह अंतर्दृष्टि — discrete प्रतीकों को सीखे गए continuous वेक्टर के रूप में दर्शाना — सभी आधुनिक भाषा मॉडलों की नींव है।
Neural network weights को training शुरू होने से पहले कैसे सेट किया जाता है। खराब initialization training शुरू होने से पहले ही इसे विफल कर सकता है (vanishing या exploding activations)। अच्छा initialization सुनिश्चित करता है कि activations और gradients layers में उचित magnitudes बनाए रखें। Xavier initialization (tanh/sigmoid के लिए) और Kaiming/He initialization (ReLU के लिए) मानक हैं, प्रत्येक activation function के लिए calibrated।
यह क्यों मायने रखता है: Initialization एक मामूली विवरण लगता है लेकिन deep networks को train करने के लिए यह महत्वपूर्ण है। Random (बहुत बड़े) initial weights वाला network exploding activations उत्पन्न करता है। बहुत छोटे weights वाला vanishing activations उत्पन्न करता है। उचित initialization network को एक "goldilocks zone" में रखता है जहाँ signals बिना explode या vanish हुए flow करते हैं — gradient descent के काम करने के लिए एक पूर्व शर्त।
एक AI-native code editor (पूर्व में Codeium) जो AI coding assistant स्पेस में Cursor से प्रतिस्पर्धा करता है। Cursor की तरह, Windsurf गहरे AI integration के साथ VS Code fork के रूप में बनाया गया है: multi-file editing, codebase-aware suggestions, और natural language commands। कंपनी "flows" पर ज़ोर देती है — लंबे multi-step AI interactions जो edits में context बनाए रखते हैं।
यह क्यों मायने रखता है: Windsurf AI coding tools में बढ़ती प्रतिस्पर्धा का प्रतिनिधित्व करता है, यह सिद्ध करते हुए कि AI-native editors का बाज़ार कई players के लिए पर्याप्त बड़ा है। Multi-step coding tasks के लिए इसकी "Cascade" सुविधा और इसकी free tier ने महत्वपूर्ण उपयोगकर्ता आधार आकर्षित किया है। Cursor बनाम Windsurf बनाम Copilot बनाम Claude Code प्रतिस्पर्धा developers कैसे AI के साथ interact करते हैं, इसमें तेज़ innovation ला रही है।
विश्व के सबसे बड़े उपभोक्ता इलेक्ट्रॉनिक्स कंपनियों में से एक, अब अपने अपने AI मॉडल बना रहा है। MiLM, एक्सियोम के फोन, स्मार्ट होम उपकरणों और इलेक्ट्रिक वाहनों के एकोसिस्टम में विशेषताओं को संचालित करता है — अगले अरबों उपयोगकर्ताओं के लिए AI।
यह क्यों मायने रखता है: एक्सियोमी एआई के अगले अरबों उपयोगकर्ताओं तक पहुंचने के लिए सबसे आकर्षक मामला दर्शाता है — अकेले चैटबॉट ऐप या डेवलपर एपीआई के माध्यम से नहीं, बल्कि लोगों द्वारा पहले से ही खरीदे गए उपकरणों में अदृश्य रूप से एम्बेड करके। करोड़ों सक्रिय उपकरणों के साथ, जिनमें फोन, वेयरेबल्स, घरेलू उपकरण और अब इलेक्ट्रिक वाहन शामिल हैं, एक्सियोमी एआई को एक बड़े पैमाने पर और गहराई से तैनात कर सकता है, जिसे शुद्ध एआई कंपनियां नहीं मिल सकतीं। उनका एकोसिस्टम पहले दृष्टिकोण एक पूर्वाभास है कि एआई परिवेशी बुनियादी ढांचा बन जाएगी, न कि एक उत्पाद जिसे आप सचेत रूप से उपयोग करने के लिए चुनते हैं, और उनका उभरते बाजारों में प्रभुत्व इस भविष्य को उन जनसंख्याओं तक पहुंचाएगा जिन पर सीमा एआई प्रयोगशालाएं दुर्लभ रूप से विचार करती हैं।
एक मनुष्य-पठनीय डेटा सीरियलाइजेशन फॉर्मेट जो AI और DevOps में व्यापक रूप से उपयोग किया जाता है कॉन्फ़िगरेशन फ़ाइलों, पाइपलाइन परिभाषाओं, और मॉडल मेटाडेटा के लिए। YAML संरचना को प्रतिनिधित्व करने के लिए टैब का उपयोग करता है (कोई ब्रैकेट या कोष्ठक नहीं), जो पढ़ने में आसान बनाता है लेकिन अक्षर अंतर के प्रति बेहद संवेदनशील होता है। AI के कार्यप्रवाह में आप इसे हर जगह पाएंगे — Docker Compose फ़ाइलें, Kubernetes मैनिफेस्ट, Hugging Face मॉडल कार्ड, CI/CD पाइपलाइन, और प्रशिक्षण कॉन्फ़िगरेशन फ़ाइलें।
यह क्यों मायने रखता है: यदि आप AI इंफ्रास्ट्रक्चर के साथ काम कर रहे हैं, तो आप YAML लिख रहे होंगे। मॉडल सेटअप, डिप्लॉयमेंट मैनिफेस्ट, पाइपलाइन परिभाषाएं, पर्यावरण चर — यह आधुनिक AI स्टैक की जोड़ने वाली भाषा है। YAML के साथ आराम से काम करना अनिवार्य नहीं है; यह एक प्रशिक्षण चलाने या डिप्लॉयमेंट को गलत तरीके से सेट करने पर टूटने वाली पहली चीज है।
चीनी एआई कंपनी तिशिंगहुआ विश्वविद्यालय से अलग करके बनाया गया। GLM मॉडल परिवार के पीछे और चीन के एक प्रमुख AI प्लेटफॉर्म में से एक, जो भाषा और दृश्य उत्पादन दोनों में मजबूती है।
यह क्यों मायने रखता है:
चीन में शैक्षिक अनुसंधान और वाणिज्यिक एआई के बीच अंतर को पार करते हुए, Zhipu AI ने खुले डेटा के मॉडल बनाए हैं — विशेष रूप से वीडियो जेनरेशन में CogVideoX के साथ — जिनका वास्तव में वैश्विक अपनाना हुआ है। उनकी GLM आर्किटेक्चर और ट्सिंगहुआ के मूल उन्हें गहरी तकनीकी विश्वसनीयता देते हैं, जिसके कारण वे चीन के एआई कंपनियों में उनमें से एक हैं जिनके अनुसंधान योगदान अंतरराष्ट्रीय रूप से व्यापक रूप से संदर्भित और बनाए रखे गए हैं।
जीरो-शॉट मतलब है कि आप मॉडल को किसी उदाहरण के बिना कार्य करने के लिए पूछते हैं — केवल निर्देश। फीव-शॉट मतलब है कि वास्तविक अनुरोध से पहले प्रॉम्प्ट में कुछ इनपुट-आउटपुट उदाहरण प्रदान करना। "यहां 3 उदाहरण हैं कि इस डेटा को कैसे फॉर्मेट करें... अब इसे करें।" मॉडल प्रसंग के आधार पर ही पैटर्न सीखता है, ट्रेनिंग की आवश्यकता नहीं होती है।
यह क्यों मायने रखता है: कम-सैंपल प्रॉम्प्टिंग एक मॉडल को एक नए फॉर्मेट या व्यवहार को सिखाने के लिए सबसे तेज़ तरीका है। क्या आपको संगत JSON आउटपुट की आवश्यकता है? तीन उदाहरण दें। क्या आपको एक विशिष्ट लेखन शैली की आवश्यकता है? उदाहरण दें। यह नि: शुल्क, तुरंत और अचंबित रूप से शक्तिशाली है।
GPT (Generative Pre-trained Transformer), OpenAI के बड़े भाषा मॉडलों का परिवार है: decoder-only Transformer जिन्हें अगला token अनुमानित करने के लिए ट्रेन किया जाता है और फिर chat व reasoning के लिए align किया जाता है। यह शृंखला 117 मिलियन पैरामीटर वाले GPT-1 (2018) से GPT-4 और मल्टीमॉडल GPT-4o होते हुए GPT-5 (अगस्त 2025) तक जाती है, और ChatGPT प्रोडक्ट तथा OpenAI API दोनों को शक्ति देती है।
यह क्यों मायने रखता है: GPT वह परिवार है जिसने बड़े भाषा मॉडलों को मुख्यधारा में पहुँचाया: लॉन्च के लगभग दो महीनों के भीतर ChatGPT ने करीब 10 करोड़ यूज़र हासिल कर लिए, और API प्रोडक्ट्स की एक पूरी पीढ़ी के लिए डिफ़ॉल्ट इन्फ्रास्ट्रक्चर बन गई। इस परिवार की यात्रा — scaling, RLHF, multimodality और test-time reasoning — आधुनिक LLM विकास का संक्षिप्त इतिहास है, इसलिए GPT को समझना पूरे क्षेत्र को समझने का शॉर्टकट है।
Claude, Anthropic द्वारा बनाए गए बड़े भाषा मॉडलों का एक परिवार है, जो तीन टियर — Haiku, Sonnet और Opus — में आता है, जिनमें गति और लागत का क्षमता के साथ समायोजन होता है। यह एक चैट असिस्टेंट, एक API और एजेंटिक टूल्स के सेट के रूप में उपलब्ध है, और इसे Anthropic की Constitutional AI विधि से ट्रेन किया गया है, जो केवल मानव फ़ीडबैक पर निर्भर रहने के बजाय ट्रेनिंग प्रक्रिया में ही व्यवहार संबंधी सिद्धांतों को शामिल करती है।
यह क्यों मायने रखता है: Claude उन अग्रणी मॉडल परिवारों की छोटी सूची में है जिन्हें प्रैक्टिशनर गंभीर कामों के लिए मूल्यांकन करते हैं, और कोडिंग, लंबे दस्तावेज़ों के विश्लेषण और लेखन गुणवत्ता के लिए इसकी विशेष रूप से मजबूत प्रतिष्ठा है। इसकी टियर-आधारित रेंज आपको एक ही API पर कार्य की कठिनाई के अनुसार लागत मिलाने देती है, और अनुमानित, नियंत्रणीय व्यवहार पर इसका जोर इसे एंटरप्राइज़ प्रोडक्ट्स में एक आम डिफ़ॉल्ट बनाता है, जहाँ अप्रत्याशित परिस्थितियाँ महंगी पड़ती हैं।
Google का प्रमुख बड़ा भाषा मॉडल परिवार, जिसे Google DeepMind ने PaLM और Bard chatbot के उत्तराधिकारी के रूप में बनाया है। ये मॉडल मूल रूप से multimodal हैं — इन्हें शुरुआत से ही text, images, audio और video पर ट्रेन किया गया है — और इनके tier device पर चलने वाले Nano से data-center scale के Ultra तक फैले हैं। यही नाम Google के consumer AI app का भी है, जिसे ये मॉडल चलाते हैं।
यह क्यों मायने रखता है: Gemini, OpenAI की GPT series और Anthropic के Claude का Google की ओर से जवाब है, और यह Search, Android, Gmail तथा Docs जैसे products के भीतर मौजूद है जिन्हें अरबों लोग पहले से इस्तेमाल करते हैं। Builders के लिए इसकी अलग पहचान बहुत बड़ी context window, native multimodality और तेज़ Flash tier की आक्रामक pricing है। अगर आप Google ecosystem में कुछ भी ship करते हैं, तो Gemini वह default मॉडल है जिसके विरुद्ध आपके काम को आँका जाएगा।
Meta के बड़े भाषा मॉडलों का एक परिवार, जिसके weights custom community license के तहत मुफ़्त में download किए जा सकते हैं। चार प्रमुख generations में 1B से 405B पैरामीटर तक फैले Llama models fine-tuning, local inference और open research के लिए default शुरुआती बिंदु बन गए हैं। नाम मूल रूप से Large Language Model Meta AI का संक्षिप्त रूप था।
यह क्यों मायने रखता है: चूँकि कोई भी weights download कर सकता है, Llama open-model ecosystem का आधार है: local inference tools, हज़ारों fine-tunes और commercial AI products का बड़ा हिस्सा इसी से निकला है। यह वह baseline भी है जिसके विरुद्ध हर दूसरे open-weight model को benchmark किया जाता है, इसलिए Llama lineup को जानना बताता है कि open frontier कहाँ है।
Qwen Alibaba Cloud द्वारा विकसित ओपन-वेट बड़े भाषा मॉडलों का एक परिवार है। इस शृंखला में कई पीढ़ियाँ शामिल हैं — Qwen 1.5, 2, 2.5, और 3 — जिनके आकार आधे अरब से लेकर सैकड़ों अरब पैरामीटर तक हैं, और ये dense और mixture-of-experts दोनों डिज़ाइनों में उपलब्ध हैं। अधिकांश रिलीज़ उदार Apache 2.0 लाइसेंस के तहत आती हैं, इसलिए इन्हें बिना कोई उपयोग शुल्क दिए चलाया, संशोधित और व्यावसायिक रूप से तैनात किया जा सकता है।
यह क्यों मायने रखता है: Qwen उपलब्ध सबसे मज़बूत ओपन-वेट परिवारों में से एक है, यही वजह है कि यह उन टीमों के लिए एक डिफ़ॉल्ट शुरुआती बिंदु बन गया है जो प्रति-टोकन API शुल्क चुकाने के बजाय ऐसा सक्षम मॉडल चाहती हैं जिसे वे खुद चला सकें या फ़ाइन-ट्यून कर सकें। इसके मॉडल विशेष रूप से बहुभाषी काम, कोडिंग और गणित में अच्छे हैं, और आकारों की विविधता का मतलब है कि आम तौर पर कोई न कोई variant किसी दिए गए GPU बजट में फ़िट बैठ जाता है। चूँकि वेट्स डाउनलोड किए जा सकते हैं, एक Qwen मॉडल सिर्फ़ एक endpoint नहीं बल्कि आपके अपने विशिष्ट मॉडल का आधार भी बन सकता है।
Grok, xAI — एलन मस्क की आर्टिफ़िशियल इंटेलिजेंस कंपनी — द्वारा बनाए गए बड़े भाषा मॉडलों का परिवार है, और उन्हीं मॉडलों पर चलने वाले चैटबॉट असिस्टेंट का भी नाम है। यह X सोशल नेटवर्क के साथ गहरे इंटीग्रेशन के लिए अलग खड़ा है, जिससे इसे पब्लिक पोस्ट तक रियल-टाइम पहुँच मिलती है, और कॉन्टेंट प्रतिबंधों के मामले में प्रतिद्वंद्वी असिस्टेंटों की तुलना में जानबूझकर ढीला रुख़ अपनाता है।
यह क्यों मायने रखता है: Grok दिखाता है कि कंप्यूट स्केल और रफ़्तार किसी देर से आए खिलाड़ी को कहाँ तक ले जा सकते हैं: xAI स्थापना से लेकर एक विश्वसनीय फ़्रंटियर मॉडल लाइन तक करीब दो साल में पहुँची, और इसका बड़ा कारण था दुनिया के सबसे बड़े ट्रेनिंग क्लस्टरों में से एक का निर्माण। यह X के यूज़र बेस के लिए डिफ़ॉल्ट AI असिस्टेंट भी है, और इसका ओपन-वेट्स Grok-1 रिलीज़ अनुमतिपूर्ण लाइसेंस के तहत अब तक प्रकाशित सबसे बड़े भाषा मॉडलों में से एक बना हुआ है।
Google के open-weight language models का परिवार, जिसे Google DeepMind ने Gemini के पीछे की research और technology से बनाया है। Gemma models जानबूझकर छोटे हैं — 1 से 27 अरब पैरामीटर — और downloadable weights के रूप में आते हैं, इसलिए hosted API call करने के बजाय कोई भी उन्हें अपने hardware पर चला, fine-tune और deploy कर सकता है।
यह क्यों मायने रखता है: Gemma frontier lab की training quality को ऐसे models में लाता है जो laptop, phone या एक GPU में fit हो जाते हैं, इसलिए यह fine-tuning, prototyping और on-device AI के लिए default शुरुआती बिंदु है। चूँकि weights मुफ़्त हैं और license commercial use की अनुमति देता है, teams प्रति-token API fees चुकाए बिना तथा user data किसी third party को भेजे बिना Gemma पर products ship कर सकती हैं।
Microsoft के छोटे भाषा मॉडलों का परिवार, जो लगभग 1 अरब से 14 अरब पैरामीटर तक फैला है और laptop या phone पर चल सकने वाले sizes में मज़बूत reasoning तथा coding क्षमता देने के लिए बनाया गया है। Phi models को raw internet scale के बजाय मुख्यतः सावधानी से filter किए गए web text और LLM से बनाए synthetic data पर train किया जाता है, जिससे वे math, code और reasoning benchmarks पर कहीं बड़े models से प्रतिस्पर्धा कर पाते हैं।
यह क्यों मायने रखता है: Phi इस बात का प्रमुख प्रमाण है कि model quality केवल parameter count का function नहीं है: 3.8 अरब पैरामीटर वाला Phi reasoning tasks पर अपने से कई गुना बड़े models की बराबरी कर सकता है, जबकि उसे serve करने की लागत उसका छोटा-सा हिस्सा होती है। Weights उदार MIT license के तहत खुले रूप से जारी होने के कारण Phi, on-device apps, offline tools और cost-sensitive deployments के लिए default विकल्प बन गया है।
Sora, OpenAI का video generation model family है, जो text prompts या still images से छोटे video clips बनाता है। इसे पहली बार फरवरी 2024 में demo किया गया और दिसंबर 2024 में subscribers के लिए Sora Turbo के रूप में जारी किया गया; यह समय के साथ coherent footage बनाने के लिए diffusion process को Transformer backbone के साथ जोड़ता है। दूसरी generation Sora 2, 2025 के अंत में synchronized audio और dedicated app के साथ आई।
यह क्यों मायने रखता है: Sora ने video generation को research curiosity से consumer product में बदल दिया और वह काम, जिसके लिए कभी cameras, actors तथा editing software चाहिए थे, एक text box में समेट दिया। इसने deepfakes, likeness rights और content provenance पर वे व्यावहारिक चर्चाएँ भी मजबूर कीं जिनसे generative media ship करने वाली हर team को अब निपटना पड़ता है।
Google DeepMind के video generation models का परिवार, जो text prompts या still images को छोटे, high-resolution video clips में बदलता है। यह line मूल Veo (2024) से Veo 2 और फिर Veo 3 (2025) तक जाती है, जिसमें पहली बार visuals के साथ synchronized native audio — dialogue, sound effects और music — बना। Veo, Google के Flow filmmaking tool, Gemini app और developer APIs के ज़रिए उपलब्ध है।
यह क्यों मायने रखता है: Veo ने 2025 में AI video की quality bar तय की: उसके physics realism ने generated footage को real shots से अलग करना काफ़ी मुश्किल बनाया, और Veo 3 के synchronized audio ने silent clips को लगभग finished scenes में बदल दिया। Filmmakers, advertisers और content teams के लिए इसने AI video को novelty demos से उपयोगी production tool बनाया, और आज हर rival video model की तुलना इसी benchmark से होती है।
OpenAI द्वारा 2022 में जारी open-source speech recognition model। Whisper, weakly supervised audio के 680,000 घंटों पर train किए encoder-decoder Transformer से बोली गई audio को text में बदलता है, और एक ही मॉडल में दर्जनों भाषाओं के transcription, English में translation तथा language identification को संभालता है। Weights खुले होने और accents व background noise के प्रति model के robust होने के कारण यह जल्द automatic speech recognition का default baseline बन गया।
यह क्यों मायने रखता है: Whisper से पहले अच्छी speech recognition का अर्थ आम तौर पर cloud API के लिए भुगतान करना या open-source alternatives की औसत accuracy स्वीकार करना था। Whisper ने लगभग मानव-स्तरीय transcription को मुफ़्त, offline और GPU या अच्छी CPU वाले हर व्यक्ति के लिए उपलब्ध बनाया, जिससे podcast indexing, meeting notes, call-center analytics, subtitling तथा accessibility tooling बड़े scale पर संभव हुए। इसने पूरे क्षेत्र की अपेक्षाएँ भी बदल दीं: हर नए speech model को अब इसी के विरुद्ध benchmark किया जाता है।
Abu Dhabi की Advanced Technology Research Council की applied research arm Technology Innovation Institute (TII) द्वारा बनाया गया बड़े भाषा मॉडलों का open-weight परिवार। Falcon ने 2023 में तब बड़ी पहचान बनाई जब उसके 40B और 180B models Hugging Face Open LLM Leaderboard में शीर्ष पर पहुँचे और कुछ समय के लिए वह उपलब्ध सबसे मज़बूत permissively licensed model family बन गया। तब से lineup छोटे on-device sizes, multimodal variants और hybrid architectures तक फैल गई है।
यह क्यों मायने रखता है: Falcon इस बात का शुरुआती प्रमाण था कि गंभीर frontier-class open model अमेरिका-चीन axis के बाहर से भी आ सकता है, और open weights के ज़रिए आगे बढ़ाई गई संप्रभु AI का प्रमुख उदाहरण बन गया। इसका उदार Apache-style licensing व्यवहार में महत्वपूर्ण था: जब Llama पर अभी use restrictions थे, तब companies बिना legal चिंता के Falcon पर products बना सकती थीं। यह इस बात का उपयोगी case study भी है कि leaderboard जीत और वास्तविक दुनिया में adoption दो अलग चीज़ें हैं।
Google DeepMind का protein structure prediction system, जो protein के amino-acid sequence से सीधे उसका three-dimensional आकार निकालता है। AlphaFold 2 ने 2020 के CASP14 assessment में experimental methods की accuracy की बराबरी की, और AlphaFold 3 ने इस approach को DNA, RNA तथा small molecules वाले protein complexes तक बढ़ाया।
यह क्यों मायने रखता है: Protein का आकार उसका function तय करता है, इसलिए structure जानना अक्सर drug design, enzyme engineering और basic biology का पहला कदम होता है। X-ray crystallography या cryo-electron microscopy से एक structure experimentally तय करने में महीनों या वर्षों का समय लग सकता है, जबकि AlphaFold को minutes से hours तक compute चाहिए। 20 करोड़ से अधिक predicted structures वाला public database कई researchers को मॉडल चलाना पूरी तरह छोड़कर केवल उत्तर download करने देता है।
Google DeepMind का बनाया Go खेलने वाला AI system, जो मार्च 2016 में Seoul में हुए पाँच-game match में 9-dan champion Lee Sedol को 4–1 से हराकर किसी शीर्ष human professional को Go में पराजित करने वाला पहला computer program बना। AlphaGo ने deep neural networks को Monte Carlo tree search और self-play के ज़रिए reinforcement learning के साथ जोड़ा, और उस game को साध लिया जो दशकों से brute-force AI approaches की पहुँच से बाहर था।
यह क्यों मायने रखता है: Lee Sedol match वह क्षण था जब AI mainstream हुआ: करोड़ों लोगों ने इसे देखा और इसने researchers, governments तथा investors को विश्वास दिलाया कि machine learning केवल pattern matching ही नहीं, बल्कि intuition और long-term planning माँगने वाली problems में भी महारत पा सकती है। AlphaGo ने जिन techniques को प्रमाणित किया — search को दिशा देने वाले neural networks, self-play से self-improvement और future reward का अनुमान — वे आज reasoning models तथा RLHF से लेकर drug discovery तक हर जगह दिखाई देती हैं। यह अब भी इस बात का सबसे जाना-पहचाना प्रमाण है कि learned systems ऐसे domain में human experts से आगे निकल सकते हैं जिसे कभी दशकों दूर माना जाता था।
एक large language model जो बाएँ से दाएँ एक बार में एक token predict करने के बजाय iterative denoising से text generate करता है। यह पूरी तरह masked या corrupted sequence से शुरू होता है और कुछ steps में हर position को parallel रूप से refine करता है, image diffusion models के मूल विचार को लेकर उसे discrete text के लिए ढालता है।
यह क्यों मायने रखता है: Speed इसका मुख्य आकर्षण है: latency उत्तर की length के बजाय refinement steps की संख्या के साथ बढ़ती है, इसलिए लंबे response में उसी अनुपात से अधिक समय नहीं लगता। Diffusion LLMs context को दोनों दिशाओं से भी देखते हैं, जिससे वे केवल आगे text जारी रखने के बजाय infilling, editing और मौजूदा text को revise करने में स्वाभाविक रूप से मज़बूत होते हैं।
Safe Superintelligence (SSI), Ilya Sutskever, Daniel Gross और Daniel Levy द्वारा 2024 में स्थापित AI research company है। Company का एक घोषित लक्ष्य और एक intended product है: ऐसा superintelligence जो safe हो। वह straight-shot strategy से इस लक्ष्य का पीछा करती है — काम पूरा होने तक कोई commercial product, revenue या public release नहीं।
यह क्यों मायने रखता है: SSI अब तक का सबसे शुद्ध दाँव है कि AI safety को बाद में जोड़ा नहीं जा सकता, बल्कि उसे शुरुआत से engineer करना होगा। OpenAI के former chief scientist ने वहाँ से जाने के कुछ हफ़्तों बाद इसे स्थापित किया, और 2025 में एक भी product के बिना इसकी reported valuation करीब $32 billion थी; इससे परखा जा रहा है कि क्या एक छोटी और अलग-थलग lab अपनी शर्तों पर frontier तक पहुँच सकती है। यह अंततः जो भी ship करे — या ship करने से इनकार करे — वह तय करेगा कि industry superintelligence risk के बारे में कैसे बात करती है।
Former OpenAI CTO Mira Murati और प्रमुख researchers की team द्वारा 2025 में स्थापित AI research तथा product company। इसका पहला product Tinker एक fine-tuning API है, जिससे developers अपना GPU infrastructure चलाए बिना open-weight language models customize कर सकते हैं।
यह क्यों मायने रखता है: Thinking Machines इस बात की परीक्षा है कि AI में raw compute या distribution के बजाय elite research talent सबसे दुर्लभ asset है या नहीं — product ship करने से पहले ही इसके seed round ने company की valuation करीब $12 billion रखी थी। Practitioners के लिए Tinker model को as-is इस्तेमाल करने और शुरुआत से train करने के बीच का रास्ता देता है: training cluster own किए बिना fine-tuning पर वास्तविक control।
Mustafa Suleyman, Reid Hoffman और Karén Simonyan द्वारा 2022 में स्थापित AI company, जो Pi के लिए सबसे अधिक जानी जाती है, ऐसा personal assistant जिसे task completion के बजाय emotional intelligence के इर्द-गिर्द design किया गया था। Inflection ने अपने frontier-scale language models train किए, लेकिन 2024 में Microsoft ने team के अधिकतर लोगों को hire कर लिया और models को license किया, जिसके बाद बची हुई company enterprise AI की ओर pivot हुई।
यह क्यों मायने रखता है: Inflection इस बात का सबसे साफ़ case study है कि frontier model development की economics कितनी कठोर है: elite founders और funding में एक billion dollars से अधिक भी OpenAI तथा Google के विरुद्ध consumer chatbot business को कायम नहीं रख सके। Microsoft deal ने formal acquisition के बजाय licensing plus hiring के रूप में big-tech talent absorption के एक नए प्रकार का template भी बनाया, जिस पर regulators और competitors तब से कड़ी नज़र रख रहे हैं।
Chinese technology giant, जो अपने search engine और Ernie (Wenxin Yiyan) के लिए सबसे अधिक जाना जाता है; Ernie वह chatbot तथा foundation-model family है जिसे उसने 2023 में ChatGPT के शुरुआती बड़े Chinese rivals में से एक के रूप में launch किया। Baidu Apollo Go robotaxi service भी चलाता है, अपने Kunlun AI chips design करता है और पूरा stack अपने cloud unit के ज़रिए बेचता है।
यह क्यों मायने रखता है: Baidu China का सबसे vertically integrated AI player है: यह chips, deep-learning framework PaddlePaddle, large models और उनके ऊपर consumer services बनाता है। 2025 में Ernie 4.5 family को open source करने से self-hosters तथा cost-sensitive teams को एक और मज़बूत open-weights option मिला, और इसका robotaxi network दुनिया में AI के सबसे बड़े real-world deployments में से एक है।
Kai-Fu Lee द्वारा 2023 में स्थापित Chinese AI company, जो large language models की Yi series के लिए सबसे अधिक जानी जाती है। 01.AI ने Yi-34B जैसे open-weight releases, जो कुछ समय open-model leaderboards पर सबसे आगे रहा, को API से बेचे जाने वाले बड़े proprietary models के साथ जोड़ा। 2025 में उसने frontier base models train करने से पीछे हटकर enterprise तथा consumer applications पर फिर ध्यान केंद्रित किया, जिनमें उसका Wanzhi assistant शामिल है।
यह क्यों मायने रखता है: 01.AI, AI boom की economics के सबसे साफ़ case studies में है: कोई startup open-model leaderboards पर शीर्ष स्थान पा सकता है, अपने पहले साल में reported billion-dollar valuation तक पहुँच सकता है और फिर भी निष्कर्ष निकाल सकता है कि frontier models train करना खराब business है। इसके Yi models अब भी इस्तेमाल में हैं और 2025 के pivot ने उस consolidation pressure का पहले ही संकेत दिया जो अब हर mid-sized model lab महसूस करती है।
Heidelberg में 2019 में स्थापित German AI company, जो large language models की Luminous family और European enterprises तथा governments के लिए data sovereignty पर focus के लिए जानी जाती है। Model development के frontier पर शुरुआत में competition करने के बाद उसने 2024 में PhariaAI की ओर pivot किया, जो organization के अपने control और compliance rules के तहत AI बनाने तथा चलाने का पूरा software stack है।
यह क्यों मायने रखता है: Aleph Alpha संप्रभु AI का flagship European example है: यह विचार कि critical AI capability ऐसे infrastructure और terms पर चलनी चाहिए जिन्हें कोई country या company control करे, न कि मुट्ठीभर US API providers पर निर्भर रहे। इसका trajectory यह भी दिखाता है कि frontier model training की economics कितनी कठोर है और mid-sized labs enterprise software, compliance तथा trust की ओर stack में ऊपर जाकर कैसे बचती हैं।
AI video generation company जिसका web app text prompts, still images और uploaded footage को short video clips में बदलता है। Stanford PhD students Demi Guo और Chenlin Meng द्वारा 2023 में स्थापित Pika fast consumer releases, Pika 1.0 से 2.2 तक, Pikaffects नाम के one-click effects और reference images से scenes steer करने वाले ingredients system के लिए जाना जाता है।
यह क्यों मायने रखता है: Pika Video Generation के consumer end का सबसे साफ़ case study है: जहाँ कुछ rivals filmmakers तथा studios को आकर्षित करते हैं, यह memes और social clips बनाने वाले casual creators के लिए optimize करता है। इसके ingredient-based controls यह भी दिखाते हैं कि field controllability — video describe करने और वास्तव में कल्पना वाला video पाने के बीच gap — को कैसे सुलझा रही है। Video tools बनाने या खरीदने वाले किसी भी व्यक्ति के लिए Pika के bets इस बात का useful signal हैं कि mainstream users वास्तव में इनके साथ क्या करेंगे।
Udio एक AI music generation company है जिसका web app text prompts को vocals, lyrics और instrumentation समेत पूरे songs में बदलता है। Former Google DeepMind researchers द्वारा स्थापित और 2024 में public रूप से launch हुआ Udio, Suno के साथ दो leading text-to-song services में से एक बना, और बाद में copyrighted music पर AI training की legal लड़ाई का केंद्रीय test case बना।
यह क्यों मायने रखता है: Udio ने studio-quality demo बनाने की cost को recording session से घटाकर text की कुछ lines जितना कर दिया, जिससे ideas sketch करने वाले musicians और custom soundtracks चाहने वाले creators का workflow बदलता है। Major record labels के साथ इसके lawsuits तथा licensing deals ने यह तय करने में भी मदद की कि हर generative AI company कानूनी रूप से कौन-सा training data इस्तेमाल कर सकती है।
Unified API gateway जो developers को single API key और एक OpenAI-compatible interface से अलग-अलग providers के सैकड़ों large language models तक access देता है। Alex Atallah द्वारा 2023 में launch किया गया OpenRouter, OpenAI, Anthropic, Google और open-weight models के प्रमुख hosts जैसे providers के बीच routing, fallbacks, billing तथा usage tracking संभालता है।
यह क्यों मायने रखता है: Team आम तौर पर हर additional model आज़माने के लिए नया account, नया SDK, नया billing relationship और manage करने के लिए नई rate-limit policy जोड़ती है। OpenRouter उस overhead को एक integration में समेट देता है, इसलिए models switch करना one-line change बनता है और पूरे market में price, speed तथा quality compare करना practical हो जाता है।
Fireworks AI inference platform है जो fast, pay-per-use APIs के पीछे open-weight AI models serve करता है। Meta की PyTorch team के engineers द्वारा 2022 में स्थापित यह platform high-volume workloads के लिए dedicated GPU deployments के साथ per-token billed serverless endpoints देता है, और large language models के साथ image, audio तथा embedding models भी cover करता है।
यह क्यों मायने रखता है: Open models खुद चलाने का अर्थ GPUs procure करना, serving stack tune करना और traffic spikes absorb करना है — वह operational slog जो अधिकतर product teams नहीं चाहतीं। Fireworks AI इसे API call में बदलता है, इसलिए small team tuned-deployment latency और pay-per-use economics के साथ Llama या DeepSeek जैसे models पर build कर सकती है। Open-weight models के वास्तव में production तक पहुँचने के मुख्य तरीकों में यह एक है।
Simple API से machine learning models चलाने का cloud platform, जिसमें manage करने के लिए infrastructure नहीं होता। यह हज़ारों public open-weight models — image, video, audio और language — host करता है और developers को अपने models इसके open-source container tool Cog के साथ package करके deploy करने देता है। Billing compute के per-second आधार पर होती है, इसलिए costs reserved capacity के बजाय actual usage के साथ चलती हैं।
यह क्यों मायने रखता है: Serious model खुद चलाने का अर्थ GPUs provision करना, CUDA तथा dependency conflicts resolve करना और serving layer बनाना है — पहली prediction से पहले कई दिनों का काम। Replicate इसे कुछ lines of code में समेट देता है, जिससे open models पर बने prototypes, side projects तथा production features के लिए यह default choice बनता है। अपने data पर image या language model fine-tune करने के सबसे आसान तरीकों में भी यह एक है।
OpenAI के साथ partnership में GitHub द्वारा बनाया AI coding assistant, जिसे 2021 में launch किया गया और व्यापक रूप से पहला mainstream AI pair programmer माना जाता है। यह editor के भीतर चलता है: type करते समय पूरी lines तथा functions suggest करता है, chat panel में questions के answer देता है और अपने नए agent mode में repository के पार multi-step coding tasks करता है। यह VS Code, Visual Studio, JetBrains IDEs और Neovim के साथ github.com पर भी उपलब्ध है।
यह क्यों मायने रखता है: Copilot ने AI-assisted programming को demo से daily default बनाया: करोड़ों developers इसे इस्तेमाल करते हैं और इसने वह interaction pattern — ghost-text completions, in-editor chat तथा agentic task execution — तय किया जिसका लगभग हर competing tool अब अनुसरण करता है। Working engineers के लिए यह boilerplate, unit tests और unfamiliar APIs में वास्तविक समय बचाता है। Teams के लिए यह review standards, licensing exposure और model provider तक पहुँचने के लिए कौन-सा code network से बाहर जा सकता है, इन पर practical decisions भी मजबूर करता है।
Cognition AI द्वारा बनाया autonomous AI software engineer जो high-level tasks लेकर उन्हें end to end पूरा करता है: planning, code writing, tests चलाना, debugging और अपने sandboxed environment के भीतर pull requests खोलना। 2024 में AI software engineer कहे जाने वाले पहले product के रूप में पेश Devin asynchronously काम करता है — आप उसे ticket assign करते हैं और उसे type करते देखने के बजाय finished work पर वापस आते हैं।
यह क्यों मायने रखता है: Devin ने AI coding tools पर बातचीत autocomplete से delegation की ओर मोड़ी: human की हर keystroke पर मदद करने के बजाय यह कई hours तक पूरे tasks own करता है। Migrations, dependency upgrades और bug backlogs में दबी teams के लिए इससे coding assistant तेज़ typist से extra junior teammate बनता है — और work को scope, review तथा ship करने के तरीके पर वास्तविक प्रभाव डालता है।
Private data पर LLM applications बनाने का open-source data framework। LlamaIndex आपके documents और model के बीच plumbing संभालता है: hundreds of sources से data load करना, उसे chunk तथा index करना, query time पर relevant pieces retrieve करना और LLM तक जाने वाला prompt orchestrate करना।
यह क्यों मायने रखता है: अधिकतर production LLM features वास्तव में data problems हैं: उपयोगी answer देने से पहले model को अपने context में आपके documents का सही हिस्सा चाहिए। LlamaIndex इसे solve करने के दो dominant frameworks, LangChain के साथ, में से एक है और उसकी abstractions जानबूझकर retrieval तथा question-answering workloads के लिए tuned हैं। Support chatbot से document search tool तक कुछ भी बनाते समय आप शायद या तो इसे इस्तेमाल करेंगे या इसके कुछ हिस्से फिर बनाएँगे।
SGLang large language models के लिए open-source serving engine है, जिसे production scale पर inference तेज़ तथा सस्ते में चलाने के लिए बनाया गया है। इसे UC Berkeley और LMSYS team से जुड़े researchers ने 2024 में release किया, और इसका signature idea RadixAttention है, ऐसी technique जो shared prompt prefixes वाली requests में cached computation reuse करती है। vLLM के साथ यह दो dominant open LLM serving stacks में से एक है।
यह क्यों मायने रखता है: Production में LLMs चलाते समय अधिकतर पैसा inference में जाता है और serving engine तय करता है कि हर request में कितना GPU burn होगा। SGLang का prefix reuse तथा fast structured decoding shared system prompts, multi-turn chats या JSON output वाले workloads में cost और latency तेज़ी से घटा सकता है। Very large open models, जिनमें DeepSeek-scale mixture-of-experts deployments शामिल हैं जहाँ naive serving टूट जाती है, को serve करने के लिए भी यह common choice बन गया है।
A2A (Agent2Agent), Google द्वारा 2025 में launch open protocol है जो अलग vendors तथा frameworks द्वारा बनाए AI agents को एक-दूसरे को discover करने, messages exchange करने और tasks पर collaborate करने देता है। यह standardize करता है कि एक agent अपनी capabilities कैसे advertise करता है, दूसरा उसे work कैसे सौंपता है और वह work completion तक कैसे track होता है, बिना किसी side के internal state expose किए। इसे MCP, जो agents को tools से connect करता है, का complement बनने के लिए design किया गया है, replacement के लिए नहीं।
यह क्यों मायने रखता है: आज अधिकतर agents silos में रहते हैं: एक stack पर बना agent custom integration code के बिना दूसरे stack पर बने agent को work delegate नहीं कर सकता। A2A agents को delegation की shared language देता है, इसलिए client agent remote agent खोज सकता है, task भेज सकता है और results पा सकता है, चाहे उसे किसी ने बनाया हो या वह किसी भी model पर चलता हो। कई teams तथा vendors के agents जोड़ने वाले enterprises के लिए यह pairwise integration work को single protocol implementation में समेट देता है।
Retrieval pipeline का दूसरा scoring pass जो अधिक accurate — और अधिक expensive — relevance model से initial candidate documents को फिर order करता है। Vector search या keyword search जैसा fast first stage top कुछ dozen candidates लौटाता है, और reranker हर candidate को query के विरुद्ध score करके बेहतर final ordering बनाता है।
यह क्यों मायने रखता है: First-stage retrieval precision नहीं speed के लिए optimize होता है, इसलिए best chunk अक्सर position 1 के बजाय position 12 पर आता है — और top पर आने वाली चीज़ ही LLM वास्तव में अपने prompt में देखता है। Reranking modest latency cost में बड़ा relevance improvement खरीदता है, इसीलिए production RAG systems में standard stage बन गया है।
Large language model की prompt में रखे examples या instructions से task सीखने की क्षमता, model weights को update किए बिना। उसे कुछ input-output pairs दिखाएँ और वह नए inputs पर pattern जारी रखता है, request time पर plain text में effectively program होता हुआ। OpenAI के 2020 GPT-3 paper ने इसे popular बनाया, और prompting के interface के रूप में काम करने का यही कारण है।
यह क्यों मायने रखता है: In-context learning ने एक frozen model को general-purpose tool बनाया: हर task के लिए specialist train करने के बजाय आप task को text में describe करते हैं और seconds बाद usable answer पाते हैं। इसी कारण prompt engineering skill के रूप में मौजूद है और ML training pipeline के बिना teams AI features ship कर सकती हैं। Catch यह है कि learning owned नहीं, rented है — वह केवल context window में रहती है और हर call पर उन examples के लिए फिर pay करना होता है।
Pretraining के बाद model पर लागू training stages का set, जो raw next-token predictor को usable assistant में बदलता है। आम तौर पर इसमें demonstrations पर supervised fine-tuning, human या AI feedback से preference tuning, verifiable tasks पर reinforcement learning और safety training जोड़ी जाती हैं। Model का behavior, tone और limits वास्तव में post-training में तय होते हैं।
यह क्यों मायने रखता है: लगभग identical data पर pretrained दो models production में post-training choices के कारण पूरी तरह अलग महसूस हो सकते हैं: एक instructions follow करता और harmful requests साफ़ मना करता है, दूसरा ramble या over-refuse करता है। Reasoning-model era ने post-training को frontier labs के बीच main differentiator बनाया, और यही वह layer भी है जहाँ smaller teams pretraining की cost दिए बिना model को meaningful ढंग से reshape कर सकती हैं।
PPO (Proximal Policy Optimization) reinforcement learning algorithm है जो हर update को policy के previous behavior से कितना दूर ले जा सकता है इसे clip करके policy को छोटे, controlled steps में update करता है। OpenAI ने इसे 2017 में introduce किया और यह InstructGPT तथा ChatGPT जैसे models के पीछे preference-training stage RLHF का default optimizer बना।
यह क्यों मायने रखता है: PPO वह mechanism है जिसने large language models को केवल text predict करने के बजाय instructions follow करने और helpful रहने के लिए train करना संभव बनाया। Alignment, post-training या reasoning models पर काम करते समय PPO या उसका कोई descendant सामने आएगा — और उसकी costs तथा failure modes तय करती हैं कि training teams वास्तव में क्या ship कर सकती हैं।
Language models की fine-tuning का reinforcement learning algorithm, जिसे DeepSeek ने 2024 में introduce किया और DeepSeek-R1 ने popular बनाया। Outputs judge करने के लिए separate value model train करने के बजाय यह हर prompt पर candidate answers का group sample करता है और हर answer को group के average reward के विरुद्ध score करता है। इससे reinforcement learning सस्ती और चलाने में सरल होती है, तथा verifiable rewards वाले tasks पर post-training reasoning models के लिए यह standard choice बन गया है।
यह क्यों मायने रखता है: GRPO ने critic model हटाकर RL fine-tuning की cost घटाई, classic pipelines को जिन दो large models को train तथा memory में रखना होता था उनमें से एक, और reasoning-style training को frontier-lab infrastructure के बिना teams की पहुँच में रखा। DeepSeek-R1 तथा तब से अधिकतर open reasoning models के पीछे यही algorithm है, इसलिए अब लगभग हर serious post-training stack में दिखाई देता है। आपके इस्तेमाल model को math, code या logic problems solve करने के लिए train किया गया हो तो GRPO शामिल होने की अच्छी संभावना है।
RLVR Reinforcement Learning with Verifiable Rewards, RL with Verifiable Rewards
प्रशिक्षण
Reinforcement learning method जिसमें reward signal human preference labels या learned reward model के बजाय automatic, programmatic checkers से आता है — जैसे math answer exactly correct है या generated code unit tests pass करता है। Correctness mechanically verify होने के कारण training loop बिना human annotators के millions of problems तक scale करता है। Recent reasoning models की wave के पीछे RLVR training approach है।
यह क्यों मायने रखता है: RLVR ने math और code को लगभग unlimited training signal बनाया, जिससे reasoning-model era संभव हुआ: OpenAI के o1 तथा DeepSeek-R1, दोनों की capabilities इसी recipe तक जाती हैं। Practitioners के लिए इसका अर्थ है कि verifier — test suite, answer key या constraint checker — वाली team labelers hire या reward model train किए बिना domain में model improve कर सकती है। इसने post-training bottleneck को human feedback collect करने से good verifiers लिखने में भी shift किया।
Evaluation technique जिसमें human raters पर निर्भर होने के बजाय large language model दूसरे model, या अपने, outputs grade करता है। Judge को original prompt, एक या दो candidate responses और scoring rubric मिलती है, और वह score, preference verdict या critique लौटाता है। Open-ended generation evaluate करने का यह default method बन गया है, जहाँ BLEU तथा ROUGE जैसे string-overlap metrics काम नहीं करते।
यह क्यों मायने रखता है: Open-ended text judge करने के लिए human evaluation gold standard है, लेकिन slow और expensive है: serious eval round weeks ले सकता है और thousands of dollars cost कर सकता है। LLM judge कुछ dollars में minutes के भीतर thousands of judgments लौटाता है, जिससे हर prompt change, model swap तथा release candidate evaluate करना practical होता है। Modern alignment training द्वारा scale पर consume होने वाले preference labels भी यही बनाता है।
AI systems को reliably, predictably और human intentions के अनुरूप behave कराने के उद्देश्य वाला research तथा engineering field। यह alignment, interpretability, robustness, evaluation और governance को समेटता है, hallucination तथा bias जैसे near-term harms से highly capable systems की longer-term concerns तक। यह AI security से अलग है, जो system के अपने behavior को ठीक करने के बजाय external attackers से systems को protect करती है।
यह क्यों मायने रखता है: Users तक ship हर model failure modes लेकर आता है — hallucinated facts, jailbreak होने वाली guardrails, biased decisions और unintended actions लेने वाले agents — तथा usage के साथ failures scale करते हैं। Safety work 'demo ने काम किया' को 'system millions of users तथा adversarial pressure में टिका' बनाता है, और regulators increasingly इसे nice-to-have के बजाय legal requirement मानते हैं।
Computer Use Computer Use Agents, GUI Agents, Computer-Using Agent (CUA)
AI उपयोग
ऐसी capability जो AI model को real desktop या browser उसी तरह operate करने देती है जैसे person करता है: screenshots देखकर mouse तथा keyboard actions emit करके। API call करने के बजाय model screen perceive करता है, तय करता है कि कहाँ click या क्या type करना है, और executor action perform करता है, task complete होने या agent के give up करने तक loop में। Anthropic का Computer Use feature और OpenAI का Operator सबसे जाने-पहचाने implementations हैं।
यह क्यों मायने रखता है: अधिकतर business software humans के लिए बना था, machines के लिए नहीं, और उसके बड़े हिस्से में usable API नहीं है। Computer use agents सिद्धांततः कोई भी software चला सकते हैं — legacy ERPs, internal admin panels और websites जिनके लिए integration path नहीं — जिससे वे अब तक प्रयास किया AI automation का सबसे general form बनते हैं। आज वे सबसे कम reliable form भी हैं, इसलिए उनकी promise जितना limits समझना महत्वपूर्ण है।
Deep Research Deep Research Agents, Agentic Research
AI उपयोग
कई AI assistants द्वारा दिया mode जिसमें model autonomously multi-step web research task plan तथा carry out करता है, फिर citations वाली structured report लौटाता है। एक quick search से answer देने के बजाय यह कई minutes में dozens of sources पढ़ता, leads follow करता और findings synthesize करता है। OpenAI ने फरवरी 2025 में इस नाम से feature introduce किया, और equivalents अब Gemini, Perplexity तथा Grok में ship होते हैं।
यह क्यों मायने रखता है: Deep research run hours की manual literature review — searching, skimming, cross-checking तथा note-taking — को single request में समेटता है। यह उन questions पर अपना मूल्य देता है जिनका single authoritative answer नहीं: market scans, technical comparisons, policy landscapes और literature surveys जहाँ speed से breadth तथा traceable citations अधिक महत्वपूर्ण हैं।
Vibe coding software बनाने का तरीका है जहाँ आप natural language में बताते हैं कि क्या चाहिए, AI model को code लिखने देते हैं और बारीकी से review किए बिना result accept करते हैं। Andrej Karpathy ने फरवरी 2025 में working style के लिए term coin किया जिसमें उनके शब्दों में आप "fully give in to the vibes" और "forget that the code even exists" करते हैं। AI code लिखता, चलाता तथा debug करता है; human intent से steer करता है।
यह क्यों मायने रखता है: Vibe coding software बनाने की barrier dramatically घटाती है: programming background के बिना लोग working prototypes ship कर सकते हैं और experienced developers boilerplate तथा glue code में बहुत तेज़ चलते हैं। Catch यह है कि किसी के न पढ़े code में bugs, security holes तथा maintenance debt छिपे होते हैं, ऐसी costs जो बाद में और अक्सर worst moment पर सामने आती हैं। वह trade-off कब worthwhile है जानना अपने आप में practical skill बन गया है।
Model अपनी context window में जो कुछ देखता है — system prompt, retrieved documents, tool outputs, memory और conversation history — उसे design, assemble तथा maintain करने की practice, ताकि वह अपना काम reliably कर सके। Term 2025 में prompt engineering के successor के रूप में उभरा, single instruction hand-tune करने से model के आसपास पूरे information environment को engineer करने की shift को reflect करते हुए।
यह क्यों मायने रखता है: Model केवल सामने की चीज़ पर reason कर सकता है, इसलिए context की quality अक्सर model स्वयं से अधिक मायने रखती है: bloated, contradictory context वाला frontier model clean, well-curated context वाले smaller model से underperform करेगा। Production systems, खासकर agents तथा RAG pipelines, में अधिकतर failures raw model capability के बजाय context problems — missing information, stale data, contradictions और drowned signal — तक trace होते हैं।
Efficiency के लिए designed language model, आम तौर पर करीब 100 million से 15 billion parameters तक। SLMs इतने छोटे हैं कि data-center cluster के बजाय laptop, phone या single GPU जैसे consumer hardware पर चल सकते हैं, और breadth तथा reasoning power के कुछ हिस्से के बदले low cost, low latency और offline तथा on-device चलने की क्षमता देते हैं।
यह क्यों मायने रखता है: SLMs से AI ऐसे products में बनता है जो per-query API bill, cloud round trip या user data third party को भेजना afford नहीं कर सकते। Narrow, well-defined jobs — classification, extraction, short summaries और function calling — के लिए fine-tuned small model अक्सर cost तथा latency के fraction पर frontier model match करता है। वे वहीं चलते हैं जहाँ data है, जो privacy, compliance तथा offline use के लिए महत्वपूर्ण है।
Machine learning workloads के लिए Google द्वारा specifically designed custom AI accelerator chips (ASICs) की family। TPUs, GPU की general-purpose flexibility को large matrix-multiply units के इर्द-गिर्द बने systolic-array architecture के बदले trade करते हैं और deep learning पर dominant tensor math में high throughput तथा energy efficiency देते हैं। Google 2015 से internally उन्हें इस्तेमाल करता है, Google Cloud से rent करता है और हर Gemini model उन पर train करता है।
यह क्यों मायने रखता है: TPUs इस बात का strongest proof हैं कि AI compute one-vendor market नहीं है: scale पर frontier models train करने वाला वे सबसे पुराना non-NVIDIA silicon हैं, और Anthropic तथा Apple जैसी companies ने major workloads उन पर bet किए हैं। Practitioners के लिए वे Google Cloud alternative के रूप में महत्वपूर्ण हैं जो large training runs तथा high-volume inference में GPUs को price-performance पर beat कर सकते हैं, बशर्ते software stack fit हो।
Alan Turing द्वारा अपने 1950 paper “Computing Machinery and Intelligence” में proposed machine intelligence का behavioral test। Hidden interlocutors के साथ text messages exchange करता human judge machine को human से reliably अलग न बता सके तो machine को intelligent behavior exhibit करने वाला कहा जाता है। Turing ने इसे machines सोच सकती हैं या नहीं जैसे vague question का concrete replacement दिया था।
यह क्यों मायने रखता है: Turing Test ने machine intelligence क्या मानी जाए इस पर seventy years से अधिक arguments shape किए और chatbot द्वारा pass करने के हर claim पर अब भी public debate anchor करता है। Test वास्तव में क्या measure करता है — time pressure में convincing imitation, understanding नहीं — यह जानना उन headlines को critically पढ़ने और face value पर लेने के बीच difference है।
लगभग 14 million hand-labeled images का large-scale image dataset, 20,000 से अधिक categories में organized, जिसे Fei-Fei Li के नेतृत्व वाली team ने पहली बार 2009 में publish किया। इसकी associated annual competition, ImageNet Large Scale Visual Recognition Challenge (ILSVRC), computer vision का standard benchmark बनी और 2012 में neural network की जीत पर deep learning era trigger किया।
यह क्यों मायने रखता है: ImageNet ने साबित किया कि data scale up करना better algorithms invent करने जितना मायने रखता है, lesson जो आज भी AI strategy shape करता है। इसके pre-trained weights practical computer vision work का default starting point बने और इसका 1,000-class benchmark subset अब भी वह तरीका है जिससे new vision architectures खुद को prove करती हैं।
Artificial intelligence regulate करने वाला European Union का comprehensive law, जो अगस्त 2024 से in force है। यह risk-based approach लेता है: AI system जितना अधिक harm कर सकता है, obligations उतनी stricter होती हैं, कुछ practices पर outright bans से low-risk tools के light transparency duties तक।
यह क्यों मायने रखता है: आप EU में AI build, sell या deploy करते हैं — या आपके model का output वहाँ इस्तेमाल होता है — तो company headquarter कहीं भी हो Act likely आप पर लागू है। Banned-practice rules के violations की cost global annual turnover के 7% तक हो सकती है, और law industry का de facto compliance baseline बन रहा है, जैसे data protection के लिए GDPR हुआ।
Sovereign AI domestic artificial-intelligence capability — country का अपना computing infrastructure, models और data — बनाने की national strategy है, ताकि critical AI workloads foreign providers पर depend न करें। व्यवहार में इसका अर्थ government-backed GPU clusters, locally trained या adapted foundation models और sensitive data को national borders के भीतर रखने वाले rules हैं।
यह क्यों मायने रखता है: Sovereign AI shape करता है कि AI workloads कहाँ चलते हैं, governments तथा regulated industries कौन-से models इस्तेमाल कर सकती हैं और technology का economic value कौन capture करता है। Practitioners के लिए यह procurement requirements, data-residency constraints और national clouds तथा locally hosted models के growing market के रूप में दिखता है।
AI systems के lifecycle में consumed total electricity, जो two phases से dominated है: model बनाने वाला one-time training run और हर user request answer करने वाला ongoing inference। Load में accelerators स्वयं और उनके आसपास cooling, networking तथा power-delivery overhead शामिल हैं। Models और usage scale होने के साथ demand इतनी बड़ी हुई है कि कई countries में power-grid planning reshape कर रही है।
यह क्यों मायने रखता है: Energy अब AI progress की hard constraints में है: hundreds of megawatts draw करने वाला training cluster केवल वहाँ exist कर सकता है जहाँ grid उतना power deliver करे, और power availability increasingly तय करती है कि new capacity कहाँ build होगी। Practitioners के लिए energy serving costs और sustainability claims में directly दिखती है जिन्हें हर major AI lab को अब defend करना पड़ता है।
Embodied AI Embodied Intelligence, Robotics Foundation Models
मूल तत्व
Artificial intelligence का approach जहाँ models physical machines control करते हैं — robots जो screen पर केवल text तथा images process करने के बजाय real world में perceive, move और objects manipulate करते हैं। Core claim है कि genuine intelligence को body चाहिए: environment से interaction के ज़रिए perception, reasoning तथा motor control साथ learned। Term warehouse arms तथा quadrupeds से general-purpose humanoid robots तक सब cover करता है।
यह क्यों मायने रखता है: Embodied AI वह जगह है जहाँ language तथा vision models की recent progress physical economy से मिलती है: manufacturing, logistics, construction, agriculture और care work सभी physical labor पर चलते हैं। Dishwasher load या shelf stock कर सकने वाला model केवल steps describe करने वाले से कहीं अधिक valuable है और industry का बड़ा हिस्सा अब robotics को large language models के बाद next frontier मानता है। Practitioners के लिए यह वह जगह भी है जहाँ AI की hardest unsolved problems — data scarcity, safety तथा real-time control — migrate हो रही हैं।