Latent Space
यह क्यों मायने रखता है
Modern AI का ज़्यादातर असली काम latent space में होता है। Stable Diffusion और FLUX जैसे image generators पहले एक छोटा latent बनाते हैं और अंत में ही उसे pixels में decode करते हैं, इसीलिए वे laptop पर भी चल जाते हैं। RAG systems text को embeddings में बदलते हैं और बिंदुओं के बीच की दूरी के आधार पर search करते हैं। Interpretability research language model की अंदरूनी latent states से अर्थ पढ़ने की कोशिश करती है।
Latent space को समझने से कई बातें साफ़ होती हैं। Image model दो concepts को आपस में मिला देता है, तो अक्सर इसलिए कि वे space में पास-पास हैं। Semantic search कोई अजीब तरह से जुड़ा नतीजा लौटाता है, तो इसलिए कि embedding model ने उसे ऐसे कारणों से पास रखा है जो इंसान को नहीं दिखते।
गहन अध्ययन
"Latent" का मतलब है छिपा हुआ। Latent space संख्याओं का वह अंदरूनी set है जिससे model किसी input का वर्णन करता है, यह खुद raw input नहीं है। बिल्ली की एक image में 30 लाख pixel values हो सकती हैं, लेकिन model के अंदर वह कुछ हज़ार संख्याएँ बन जाती है, जो "बिल्ली जैसा होना", pose, रोशनी और style को दर्ज करती हैं। हर input इस space का एक बिंदु बन जाता है, और model इस space को ऐसे व्यवस्थित करना सीखता है कि मिलती-जुलती चीज़ें एक साथ आएँ।
आप latent space को कभी सीधे नहीं देखते। आप उससे मिलने वाली क्षमताएँ देखते हैं: "मिलते-जुलते" documents ढूँढने वाला search, styles को मिलाने वाले image generators, और वे models जो समझते हैं कि "राजा" और "रानी" आपस में जुड़े हैं।
Geometry ही अर्थ है
अच्छी तरह train हुए latent space में दूरी और दिशा दोनों का मतलब होता है। पास के बिंदु मिलते-जुलते होते हैं। दिशाएँ गुणों को encode कर सकती हैं: word embeddings का मशहूर उदाहरण यह है कि "पुरुष" से "स्त्री" तक का vector लगभग वही है जो "राजा" से "रानी" तक का है। Image models में किसी दिशा में चलने से मुस्कान जुड़ सकती है या दिन का समय बदल सकता है। Interpolation भी इसी वजह से काम करता है: दो latents के बीच सीधी रेखा में चलिए, तो दो images के बीच smooth बदलाव मिलता है।
वे latent spaces जिनसे आपका सामना होगा
- Embedding spaces: text या image embedding models से आते हैं और search, clustering और recommendations में काम आते हैं। यहाँ बिंदुओं की तुलना आमतौर पर cosine similarity से होती है।
- VAE latents: image और video generators में इस्तेमाल होते हैं। यह एक compressed grid है जो spatial रूप से अब भी एक छोटी image जैसा दिखता है, आमतौर पर हर side पर 8 गुना छोटा।
- Hidden states: LLM के अंदर हर layer और हर token का vector। ये बहुत high-dimensional (हज़ारों dimensions) होते हैं और इंसानों के पढ़ने के लिए नहीं बने, लेकिन इनमें text की model की उस पल की समझ होती है।
हर space smooth नहीं होता
Latent space उतना ही उपयोगी है जितना वह व्यवस्थित है। साधारण autoencoder खाली गड्ढे छोड़ सकता है, जहाँ random बिंदु बेमतलब output में decode होते हैं। Variational autoencoders और diffusion training space को continuous बनाते हैं, ताकि कहीं से भी sample लेने पर ठीक-ठाक नतीजा मिले। अलग-अलग models के embedding spaces आपस में compatible भी नहीं होते: एक model के vectors दूसरे के लिए बेमानी हैं, इसलिए embedding model बदलने पर पूरे corpus को दोबारा embed करना पड़ता है।
High-dimensional space intuition के उलट चलता है
Latent spaces में अक्सर सैकड़ों से हज़ारों dimensions होते हैं, और वहाँ 2D या 3D वाली intuition काम नहीं करती। लगभग सभी random vectors एक-दूसरे से करीब-करीब perpendicular होते हैं, और models इसी का फ़ायदा उठाकर dimensions की संख्या से कहीं ज़्यादा concepts ठूँस लेते हैं (देखें Superposition)। t-SNE और UMAP जैसी visualization विधियाँ इन spaces को 2D में दबाकर plot बनाती हैं, पर उनमें हमेशा विकृति आती है। इसलिए ऐसे plots को sketch मानिए, नक्शा नहीं।