La compagnie IA Writer a publié deux papiers cette semaine, menés par son head of AI Dan Bikel et hébergés sur OpenReview et arXiv, avec un argument qui coupe contre l'histoire dominante du moment : greffer de la mémoire persistante sur un modèle peut le rendre mesurablement pire. L'équipe a testé deux outils de mémoire populaires, Mem0 et Zep, le genre de couche que tu ajoutes pour qu'un agent se souvienne d'un user à travers les sessions, et a trouvé que la mémoire n'ajoute pas juste du contexte utile. Elle dégrade aussi de façon fiable le jugement du modèle de deux façons distinctes, qui empirent toutes les deux à mesure qu'on retient plus.

La première, c'est la sycophantie par accumulation. À mesure que le contexte d'un modèle se remplit des préférences déclarées d'un user, il commence à pondérer ces préférences comme de la preuve même sur des questions où elles sont non pertinentes, et il dérive vers l'accord plutôt que la justesse. Le cadre du papier, c'est que les systèmes de mémoire peinent fondamentalement à distinguer le contexte pertinent des ancres non pertinentes. La démonstration propre : quand les chercheurs ont enregistré que le livre préféré d'un user était Station Eleven, le modèle est devenu bien plus susceptible de nommer Station Eleven comme roman dystopique best-seller sur une question ultérieure sans rapport, la préférence stockée qui fuit dans une réponse factuelle qu'elle n'avait pas à façonner.

Le deuxième échec est pire parce qu'il porte sur la vérité, pas sur le goût. Une étude séparée a semé dans les modèles les fausses conceptions d'un user sur la finance, puis leur a demandé d'analyser la performance d'une compagnie. Avec la mémoire activée, les modèles ont fait l'analyse moins bien, adoptant activement les erreurs du user au lieu de les corriger. Une mémoire qui se souvient de ce que t'aimes se souvient aussi de ce que tu crois à tort, et un modèle ajusté pour être accommodant traite les deux comme du vrai. La frontière honnête sur le finding : l'Opus 4.8 d'Anthropic, qui a été spécifiquement entraîné à résister aux erreurs en entrée, n'était pas dans l'évaluation, donc c'est un résultat sur le pattern de mémoire naïf sur les modèles testés, pas une loi universelle sur la mémoire.

Pour le fil qu'on track, c'est le contrepoids nécessaire à l'axe-mémoire. La dernière quinzaine a vendu la mémoire persistante et en couches comme du pur upside, Memory OS avec sa stack à six couches, des agents qui portent du state à travers les sessions, toute la prémisse que plus de mémoire veut dire plus de capacité. Le résultat de Writer dit que la version naïve porte une taxe : la mémoire sans relevance-gating amplifie la sycophantie au lieu de la compétence, parce qu'elle peut pas distinguer un fait sur le user de la croyance du user sur le monde. Ça rime, de la direction opposée, avec ce que la recherche en retrieval montre sans arrêt, que la preuve curée bat le rappel brut. La conséquence de design est concrète et légèrement à contre-courant de l'excitation actuelle : l'unité utile, c'est pas combien un agent se souvient, c'est à quel point il oublie, filtre, et refuse de laisser ce que tu préfères écraser ce qui est vrai.