The Bitter Lesson
यह क्यों मायने रखता है
यह निबंध शायद modern AI का सबसे ज़्यादा उद्धृत अनौपचारिक लेख है, और इसने बड़ी labs के सोचने का ढंग गढ़ा है। Large language models के पीछे का दाँव bitter lesson का ही अमल है: एक सरल, सामान्य architecture लीजिए, उसे बहुत सारा data और compute दीजिए, और भाषा के नियम हाथ से code मत कीजिए। जब लोग कहते हैं कि कोई idea "bitter-lesson-pilled" है या नहीं, तो वे पूछ रहे होते हैं कि क्या scale का अगला दौर उसे बहा ले जाएगा।
Builders के लिए इसमें एक व्यावहारिक चेतावनी है: किसी model की मौजूदा कमज़ोरियों के लिए बनाए गए चतुर workarounds अक्सर अगले model के आते ही बेकार हो जाते हैं।
गहन अध्ययन
"The Bitter Lesson" मार्च 2019 में छपा एक छोटा निबंध है, जिसे Rich Sutton ने लिखा, जो reinforcement learning के संस्थापकों में से एक हैं और बाद में Turing Award के विजेता बने। AI research के 70 सालों को पीछे मुड़कर देखते हुए उन्हें एक ही कहानी बार-बार दोहराती दिखी। Researchers किसी समस्या की अपनी समझ को system में भरने की कोशिश करते हैं: शतरंज की रणनीति, व्याकरण के नियम, image में किनारों को कैसे पहचानना है। शुरू में इससे मदद मिलती है। फिर एक ज़्यादा सरल और ज़्यादा सामान्य तरीका, जो बस search और learning के ज़रिए ज़्यादा computation इस्तेमाल करता है, उसे पीछे छोड़ देता है और बेहतर होता जाता है।
यह सबक कड़वा इसलिए है क्योंकि इसका मतलब है कि जिस ज्ञान पर researchers को सबसे ज़्यादा गर्व होता है, वह लंबी दौड़ में अक्सर मायने नहीं रखता।
Sutton के उदाहरण
- Chess: Deep Blue ने 1997 में Garry Kasparov को मुख्य रूप से भारी search के दम पर हराया, जिससे वे researchers निराश हुए जिन्होंने शतरंज की इंसानी समझ को encode करने की कोशिश की थी।
- Go: हाथ से गढ़े गए तरीके दशकों तक अटके रहे। AlphaGo ने search को learning के साथ जोड़ा, और फिर AlphaZero ने इंसानी खेलों का data पूरी तरह छोड़ दिया और ज़्यादा मज़बूत हो गया।
- Speech recognition: phonemes के बारे में भाषाविदों के ज्ञान पर बने systems statistical methods से हार गए, और फिर deep learning से।
- Computer vision: हाथ से design किए गए feature detectors की जगह convolutional networks ने ले ली, जो अपने features खुद सीखते थे।
यह क्या नहीं कहता
इस निबंध को अक्सर "बस compute बढ़ा दो" तक सिमटा दिया जाता है। Sutton का असली दावा इससे संकरा है: उन तरीकों को तरजीह दीजिए जो ज़्यादा computation उपलब्ध होने पर उसका इस्तेमाल कर सकें। Structure अब भी मायने रखता है। Transformer खुद एक इंसानी design है, लेकिन ऐसा सामान्य design जो अच्छी तरह scale करता है। Data भी मुफ़्त नहीं है: learning को सीखने के लिए कुछ चाहिए, और कई समस्याओं में सही data जुटाना ही मुश्किल हिस्सा है।
LLMs के साथ building में इसे लागू करना
विस्तृत prompt chains, model के output को ठीक करने के लिए हाथ से लिखे parsers, और कठोर multi-step pipelines की जगह अक्सर बेहतर model को किया गया एक ही call ले लेता है। Agents बनाने वाली कई teams यही pattern बताती हैं: models की हर नई पीढ़ी उन्हें कुछ scaffolding हटाने देती है। एक काम की आदत है हर workaround के बारे में पूछना: "क्या ज़्यादा मज़बूत model इसे गैर-ज़रूरी बना देगा?" अगर हाँ, तो उसे सस्ता और आसानी से हटाने लायक रखिए, और उसमें निवेश कीजिए जो टिकता है: आपका data, आपके evaluations और आपके tools।
आलोचना और Sutton का अपना मोड़
आलोचक कहते हैं कि compute महँगा है, कि जहाँ data कम हो (जैसे robotics या medicine में) वहाँ efficiency और अच्छे priors मायने रखते हैं, और कि सबसे बड़े फ़ायदे अक्सर scale को नए ideas के साथ जोड़ने से आए हैं। Sutton ने खुद तर्क दिया है कि आज के LLMs उनके सबक का पूरी तरह पालन नहीं करते, क्योंकि वे दुनिया के अपने अनुभव से नहीं बल्कि इंसानों के लिखे text से सीखते हैं। उनकी नज़र में सचमुच scalable रास्ता अब भी ऐसे systems हैं जो कुछ करके और देखकर लगातार सीखते रहते हैं।