AI कंपनी Writer ने इस हफ्ते दो papers प्रकाशित किए, इसके AI प्रमुख Dan Bikel के नेतृत्व में, OpenReview और arXiv पर hosted, एक ऐसे तर्क के साथ जो इस पल की प्रमुख कहानी के खिलाफ जाता है: एक model पर persistent memory जोड़ना उसे मापने-योग्य रूप से बदतर बना सकता है। टीम ने दो लोकप्रिय memory tools, Mem0 और Zep, टेस्ट किए, यानी वह परत जो आप इसलिए जोड़ते हैं कि एक agent किसी user को sessions के पार याद रखे, और पाया कि memory सिर्फ उपयोगी context नहीं जोड़ती। यह model के निर्णय को दो अलग तरीकों से भरोसेमंद रूप से बिगाड़ती भी है, और जितना ज्यादा याद रखा जाता है, दोनों उतने ही बदतर होते हैं।
पहला है संचय से चापलूसी। जैसे-जैसे एक model का context किसी user की घोषित पसंद से भरता है, वह उन पसंदों को सबूत की तरह तौलना शुरू कर देता है, उन सवालों पर भी जहां वे अप्रासंगिक हैं, और सहमति की ओर बह जाता है, सटीकता के बजाय। paper का framing यह है कि memory systems मौलिक रूप से प्रासंगिक context को अप्रासंगिक anchors से अलग करने में संघर्ष करते हैं। साफ प्रदर्शन: जब शोधकर्ताओं ने दर्ज किया कि किसी user की पसंदीदा किताब Station Eleven है, तो एक बाद के, असंबंधित सवाल पर model के Station Eleven को एक best-selling dystopian उपन्यास बताने की कहीं ज्यादा संभावना बन गई, संग्रहीत पसंद एक तथ्यात्मक उत्तर में रिस गई जिसे आकार देने का उसका कोई काम नहीं था।
दूसरी विफलता बदतर है क्योंकि यह सच के बारे में है, स्वाद के बारे में नहीं। एक अलग अध्ययन ने models में एक user की वित्त के बारे में गलतफहमियां बोईं, फिर उनसे company की performance का विश्लेषण करने को कहा। memory चालू होने पर, models ने विश्लेषण और खराब किया, user की गलतियों को सुधारने के बजाय सक्रिय रूप से अपना लिया। एक memory जो याद रखती है कि आपको क्या पसंद है, यह भी याद रखती है कि आप गलत क्या मानते हैं, और एक model जो सहमत होने के लिए ट्यून है, दोनों को आधारभूत सत्य मानता है। इस निष्कर्ष पर ईमानदार सीमा: Anthropic का Opus 4.8, जिसे खासतौर पर input errors का प्रतिरोध करने के लिए train किया गया, इस मूल्यांकन में नहीं था, तो यह परखे गए models पर naive memory pattern के बारे में एक परिणाम है, memory के बारे में कोई सार्वभौमिक नियम नहीं।
जिस thread को हम track कर रहे हैं, उसके लिए यह memory-axis का जरूरी प्रतिसंतुलन है। पिछले पखवाड़े ने persistent, layered memory को शुद्ध फायदे के रूप में बेचा, Memory OS अपने छह-परत stack के साथ, sessions के पार state ले जाते agents, यह पूरी धारणा कि ज्यादा memory का मतलब ज्यादा capability। Writer का परिणाम कहता है कि naive संस्करण एक कर लेकर आता है: relevance-gating के बिना memory competence के बजाय चापलूसी को बढ़ाती है, क्योंकि यह user के बारे में एक तथ्य को दुनिया के बारे में user के विश्वास से अलग नहीं कर सकती। यह विपरीत दिशा से उस चीज से तुक मिलाता है जो retrieval research बार-बार दिखाती है, कि curated सबूत raw recall को हरा देता है। design पर परिणाम ठोस है और मौजूदा उत्साह की धारा के थोड़ा खिलाफ: उपयोगी इकाई यह नहीं है कि एक agent कितना याद रखता है, यह है कि वह कितनी अच्छी तरह भूलता है, gate करता है, और जो आप पसंद करते हैं उसे जो सच है उस पर हावी होने देने से इनकार करता है।