मूल तत्व

SLM

इसे भी कहा जाता है: Small Language Model, Small Language Models

Efficiency के लिए designed language model, आम तौर पर करीब 100 million से 15 billion parameters तक। SLMs इतने छोटे हैं कि data-center cluster के बजाय laptop, phone या single GPU जैसे consumer hardware पर चल सकते हैं, और breadth तथा reasoning power के कुछ हिस्से के बदले low cost, low latency और offline तथा on-device चलने की क्षमता देते हैं।

यह क्यों मायने रखता है

SLMs से AI ऐसे products में बनता है जो per-query API bill, cloud round trip या user data third party को भेजना afford नहीं कर सकते। Narrow, well-defined jobs — classification, extraction, short summaries और function calling — के लिए fine-tuned small model अक्सर cost तथा latency के fraction पर frontier model match करता है। वे वहीं चलते हैं जहाँ data है, जो privacy, compliance तथा offline use के लिए महत्वपूर्ण है।

गहन अध्ययन

Label moving target cover करता है, लेकिन व्यवहार में करीब 0.1B से 15B parameters वाले models का अर्थ है — ऐसी हर चीज़ जिसे accelerators के rack के बजाय workstation, phone या single modest GPU पर serve कर सकते हैं। SLMs को नाम देने लायक category 2024 तथा 2025 में आया shift बनाता है, जिसे कभी "small is the new big" summarize किया गया: केवल scale up करने के बजाय labs ने small models को disproportionately capable बनाने में effort डाला। Microsoft की Phi series, Google का Gemma, Alibaba के smaller Qwen sizes और Mistral के Ministral 3B तथा 8B ने दिखाया कि frontier बड़ा भाषा मॉडल के hundredth size का model everyday workloads का surprising हिस्सा संभाल सकता है। नतीजा two-tier ecosystem है: hard, open-ended problems के लिए giant models और बाकी सब के लिए small models।

Small Models इतने Capable कैसे हुए

तीन techniques jump के अधिकतर हिस्से के लिए responsible हैं। पहली data quality है: Phi line ने दिखाया कि heavily filtered, textbook-style material पर training small model को raw web scrape की तुलना में per token अधिक सिखाती है, और अब उस material का बड़ा हिस्सा larger models द्वारा लिखित सिंथेटिक डेटा है। दूसरी डिस्टिलेशन है, जहाँ large teacher model के outputs — और कभी full probability distributions — training targets बनते हैं, जिससे student ऐसा behavior absorb करता है जो केवल text से कभी नहीं सीख सकता। तीसरी frontier models पर इस्तेमाल वही post-training stack — instruction tuning और preference optimization — है, जो small scale पर comparatively cheap है लेकिन model की usability dramatically improve करता है। साथ में इनका अर्थ है कि आज well-trained 3B model कुछ वर्ष पुराने अपने size से कई गुना general-purpose models को outperform करता है।

Efficiency Stack

Raw parameter count केवल आधी story है; दूसरी आधी small models को cheap चलाने वाली tooling है। क्वांटाइज़ेशन modest quality loss के साथ weights को 16-bit floating point से 8-bit या 4-bit precision तक compress करती है, इसलिए 7–8B model करीब 16 GB memory से roughly 4–5 GB और 3B model करीब 2 GB में fit होता है। GGUF जैसे formats और llama.cpp तथा Ollama जैसे runtimes ने ordinary CPUs पर, GPU के बिना, इसे one-command experience बनाया। Same stack phones तथा single-board computers पर चलता है, जिससे on-device assistants — Apple Intelligence जैसे features के पीछे small local models समेत — theoretical के बजाय practical होते हैं।

SLMs कहाँ अपना मूल्य देते हैं

SLMs का strongest production case narrow, high-volume work है। Classification, entity extraction, routing, moderation, short summarization तथा structured parsing ऐसे tasks हैं जहाँ फ़ाइन-ट्यूनिंग वाला 1–8B model नियमित रूप से prompted frontier model match करता है, ऐसी per-request cost पर जो orders of magnitude lower और response time बहुत snappier हो सकता है। Common architecture cascade है: small model easy 80–90% traffic संभालता और केवल hard या ambiguous queries large model तक escalate करता है, इसलिए expensive model load का fraction देखता है।

दूसरा case placement है: model को वहीं चलाना जहाँ data है। On-device inference का अर्थ user data phone या corporate network से कभी नहीं निकलता, जिससे privacy reviews तथा compliance सरल होते हैं और features connectivity के बिना काम करते रहते हैं। यही Edge AI का core bet है: data center से rented के बजाय device में embedded intelligence। Fine-tuned SLM ऐसा asset भी है जिसे team outright own करती है — disk पर weights, silent version changes नहीं और success के साथ बढ़ता per-token bill नहीं।

Small का अर्थ Dumb नहीं

Common misconception दोनों directions में है कि model size usefulness तय करता है। एक तरफ modern SLMs standard benchmarks पर केवल कुछ वर्ष पुराने flagship models को beat करते हैं, इसलिए उन्हें toys dismiss करना out of date है। दूसरी तरफ limits real हैं: 3B model 400B के मुकाबले far less world knowledge रखता है, multi-step reasoning तथा nuanced instruction following में weak है और actual knowledge से आगे push करने पर आसानी से हैलूसिनेशन करता है। Practical rule size नहीं, fit है: task narrow हो और output fine-tune या constrain कर सकें तो SLM आम तौर पर right tool है; task open-ended तथा knowledge-heavy हो तो नहीं।

SLM