跳到主要內容
Zubnet AI › 學習 › Wiki › Grokking
訓練

Grokking

別名:Delayed Generalization、延遲泛化、頓悟
一種訓練現象,網路先把訓練資料死記硬背下來,過了很久之後才突然學會一般規律。

為什麼重要

Grokking 挑戰了一條標準建議:當訓練表現已經完美而驗證表現停滯不前時,就應該停止訓練。在這些實驗裡,提前停止會錯過真正的解。

它還給研究者提供了一個乾淨的實驗場,用來研究一個深層問題:網路什麼時候是在死記硬背,什麼時候是在學習背後的規律?這個問題正是「大模型是否真的能泛化」的核心,grokking 也成了可解釋性領域被研究得最多的例子之一。

深度解析

2022 年,OpenAI 的研究者報告了一件怪事。他們在模加法這類簡單的數學任務上訓練小型 Transformer,只給網路看完整答案表的一部分。網路很快在見過的樣本上達到了 100% 的準確率,而在其餘樣本上的表現不比瞎猜好:典型的過擬合。但當訓練繼續進行很久,有時長達一千倍的時間,網路在沒見過的樣本上的準確率突然躍升到接近 100%。

網路不再死記硬背,開始真正理解。作者把這種現象叫作 grokking,這個詞出自 Robert Heinlein 的小說《異鄉異客》(Stranger in a Strange Land),意思是把一件事理解得如此透徹,以至於它成了你的一部分。它和 xAI 的 Grok 模型沒有關係,後者只是借用了同一個詞。

內部發生了什麼

2023 年,Neel Nanda 及其同事對一個在模加法上發生了 grokking 的網路做了逆向工程。它發現了一種基於三角函數的演算法:把數字表示成繞圓的旋轉,再用三角恆等式把它們組合起來。這項工作描述了三個階段:

  1. 記憶:網路把訓練樣本當作查找表存下來。
  2. 電路形成:通用演算法在記憶解的旁邊慢慢成形,測試準確率看不出任何變化。
  3. 清理:記憶解被移除,測試準確率突然躍升。

所以,「突然」的理解在底層其實是漸進的。曲線之所以顯得陡峭,只是因為在通用電路接管之前,測試指標反映不出任何進展。

為什麼通用解會勝出

主流的解釋與正則化有關。死記硬背需要又大又複雜的權重,而通用演算法更緊湊。權重衰減(weight decay)持續懲罰大權重,所以時間一長,它會偏向更高效的解。沒有權重衰減,grokking 往往慢得多,或者根本不會發生。訓練資料越多,它發生得越快;資料足夠多時,這種延遲就消失了。

它能推廣到多遠

Grokking 在小型演算法資料集上最明顯。在特殊條件下,影像和文字任務上也出現過類似的延遲泛化,但大型語言模型看不出有這種行為,因為它們很少把同一個樣本看兩遍,也就沒法先死記硬背。相關的現象還有雙重下降(double descent):隨著模型或訓練時間增長,測試誤差先上升後又下降。

給實踐者的啟示

  • 不要指望現實中的模型會 grokking,就無休止地訓練下去。在小資料集上做普通微調時,訓練損失和驗證損失之間的差距不斷拉大,仍然只是過擬合。
  • 指標持平可能掩蓋了進展。損失曲線和準確率數字反映不出權重裡發生的一切。
  • 正則化不只是防止過擬合,它還能改變網路找到的是哪一個解。
← 所有術語
ESC