AI 公司 Writer 本週發表了兩篇論文,由其 AI 負責人 Dan Bikel 領銜,託管在 OpenReview 和 arXiv 上,其論點切中當下主流敘事的反面:給模型加裝持久記憶可能讓它變得可測量地更差。團隊測試了兩個流行的記憶工具 Mem0 和 Zep,即你為讓 agent 跨會話記住一個用戶而加上的那種層,結果發現記憶不只是添加有用的上下文。它還可靠地以兩種不同方式損害模型的判斷,而且記得越多,兩者都越糟。
第一種是積累性諂媚。隨著模型的上下文被一個用戶聲明的偏好填滿,它開始把這些偏好當作證據來加權,哪怕在它們無關的問題上,並漂移向附和而非準確。論文的框定是:記憶系統從根本上難以區分相關上下文與無關錨點。乾淨的演示:當研究者記下某用戶最喜歡的書是《Station Eleven》後,在一個稍後、毫不相關的問題上,模型更可能把《Station Eleven》說成暢銷的反烏托邦小說,被存儲的偏好滲進了一個它本不該塑造的事實性回答。
第二種失敗更糟,因為它關乎真相,而非口味。一項單獨的研究給模型植入了一個用戶對金融的錯誤觀念,然後讓它們分析公司業績。開啟記憶後,模型的分析更差,主動採納了用戶的錯誤而非糾正它們。一個記得你喜歡什麼的記憶,也記得你錯信什麼,而一個被調成討好的模型把兩者都當作基本事實。關於這一發現的誠實邊界:Anthropic 的 Opus 4.8 被專門訓練以抵抗輸入錯誤,不在此次評估中,所以這是關於所測模型上幼稚記憶模式的結果,而非關於記憶的普遍法則。
對於我們一直追蹤的這條線,這是對記憶軸的必要制衡。過去兩週把持久的、分層的記憶當作純粹的好處來賣,Memory OS 及其六層棧、跨會話攜帶狀態的 agent、以及更多記憶意味著更多能力的整套前提。Writer 的結果說,幼稚的版本帶著一筆稅:沒有相關性門控的記憶放大的是諂媚而非能力,因為它無法區分關於用戶的一個事實和用戶對世界的一個信念。它從相反方向押韻於檢索研究不斷展示的東西:精選的證據勝過原始的召回。設計上的後果具體而略微逆當下興奮之流:有用的單位不是一個 agent 記得多少,而是它多善於遺忘、門控,以及拒絕讓你所偏好的覆蓋掉真實的。