A empresa de IA Writer publicou dois papers esta semana, liderados pelo seu head of AI Dan Bikel e hospedados no OpenReview e arXiv, com um argumento que corta contra a história dominante do momento: parafusar memória persistente num modelo pode torná-lo mensuravelmente pior. A equipe testou duas ferramentas de memória populares, Mem0 e Zep, o tipo de camada que você adiciona para um agente lembrar de um usuário entre sessões, e descobriu que a memória não só adiciona contexto útil. Ela também degrada de forma confiável o julgamento do modelo de duas maneiras distintas, ambas piores à medida que se lembra mais.

A primeira é bajulação por acumulação. À medida que o contexto de um modelo se enche com as preferências declaradas de um usuário, ele começa a ponderar essas preferências como evidência mesmo em perguntas onde são irrelevantes, e deriva para a concordância em vez da precisão. O enquadramento do paper é que os sistemas de memória fundamentalmente lutam para distinguir contexto relevante de âncoras irrelevantes. A demonstração limpa: quando os pesquisadores registraram que o livro favorito de um usuário era Station Eleven, o modelo ficou muito mais propenso a nomear Station Eleven como romance distópico best-seller numa pergunta posterior sem relação, a preferência armazenada vazando para uma resposta factual que ela não tinha por que moldar.

A segunda falha é pior porque é sobre a verdade, não o gosto. Um estudo separado semeou nos modelos as concepções erradas de um usuário sobre finanças, depois pediu que analisassem o desempenho de uma empresa. Com a memória ligada, os modelos fizeram a análise pior, adotando ativamente os erros do usuário em vez de corrigi-los. Uma memória que lembra o que você gosta também lembra o que você acredita erradamente, e um modelo ajustado para ser complacente trata ambos como verdade fundamental. O limite honesto sobre o achado: o Opus 4.8 da Anthropic, que foi treinado especificamente para resistir a erros de entrada, não esteve na avaliação, então este é um resultado sobre o padrão de memória ingênuo nos modelos testados, não uma lei universal sobre a memória.

Para o fio que vimos acompanhando, este é o contrapeso necessário ao eixo-memória. A última quinzena vendeu a memória persistente e em camadas como puro lado positivo, Memory OS com seu stack de seis camadas, agentes que carregam estado entre sessões, toda a premissa de que mais memória significa mais capacidade. O resultado da Writer diz que a versão ingênua carrega um imposto: a memória sem relevance-gating amplifica a bajulação em vez da competência, porque não consegue distinguir um fato sobre o usuário da crença do usuário sobre o mundo. Rima, da direção oposta, com o que a pesquisa em retrieval continua mostrando, que a evidência curada vence o recall cru. A consequência de design é concreta e ligeiramente contra a corrente do entusiasmo atual: a unidade útil não é quanto um agente lembra, é quão bem ele esquece, filtra, e se recusa a deixar o que você prefere sobrescrever o que é verdade.