AI मेमोरी के साथ एक डेवलपर का छह महीने का प्रयोग बताता है कि हम सहायक प्रणालियां कैसे बना रहे हैं इसमें एक मौलिक दोष है। Bun.js में एक आकस्मिक जांच को 8/10 महत्व स्कोर के साथ संग्रहीत करने के बाद, AI ने महीनों तक Bun समाधानों की सिफारिश करना जारी रखा — इसके बावजूद कि डेवलपर ने कभी रनटाइम बदला ही नहीं। मेमोरी सिस्टम ठीक वैसे ही काम कर रहा था जैसा डिज़ाइन किया गया था, जो ठीक समस्या थी।
यह AI विकास में एक महत्वपूर्ण अंधे बिंदु को उजागर करता है: अधिकांश मेमोरी सिस्टम डिजिटल जमाखोरों की तरह काम करते हैं, सब कुछ संग्रहीत करते हैं लेकिन कुछ भी प्रबंधित नहीं करते। जबकि डेवलपर्स परिष्कृत भंडारण और पुनर्प्राप्ति तंत्रों पर ध्यान केंद्रित करते हैं, वे मेमोरी जीवनचक्र प्रबंधन को नजरअंदाज कर रहे हैं — कब यादें समाप्त होनी चाहिए, कौन सी विरोधाभासी जानकारी प्राथमिकता लेती है, और उलटे निर्णयों को कैसे संभालना है। परिणाम ऐसे सहायक हैं जो आत्मविश्वास से पुराने समाधानों की सिफारिश करते हैं क्योंकि वे वर्तमान और ऐतिहासिक प्राथमिकताओं में अंतर नहीं कर सकते।
AI उपयोगिता के बारे में व्यापक बातचीत इस बिंदु को पुष्ट करती है। अन्य स्रोत AI को सर्च इंजन के बजाय "जूनियर टीम मेंबर" के रूप में मानने पर जोर देते हैं, कीवर्ड के बजाय संदर्भ की आवश्यकता होती है। लेकिन सबसे अच्छी संदर्भात्मक प्रॉम्प्टिंग भी ऐसे सहायक को नहीं बचा सकती जो अपने ही बनाए दूषित ज्ञान आधार से काम कर रहा है। जब आपका AI सब कुछ समान भार के साथ याद रखता है, तो यह प्रभावी रूप से कुछ भी उपयोगी याद नहीं रखता।
AI सिस्टम बनाने वाले डेवलपर्स के लिए, इसके लिए मेमोरी आर्किटेक्चर पर पूरी तरह से पुनर्विचार की आवश्यकता है। केवल-जोड़ने वाले भंडारण के बजाय, मेमोरी क्षय, विवाद समाधान और सक्रिय भूलने को लागू करने पर विचार करें। उपयोगकर्ताओं को ऐसे सहायकों की आवश्यकता है जो अपनी समझ विकसित कर सकें, न कि डिजिटल जमाखोरों की जो हर आकस्मिक उल्लेख को स्थायी सिद्धांत मानते हैं।