跳到主要内容
Zubnet AI › 学习 › Wiki › 苦涩的教训
基础

苦涩的教训

别名:The Bitter Lesson、Bitter Lesson、Sutton 的苦涩教训
Rich Sutton 在 2019 年提出的论点,即能随算力扩展的通用方法,最终会胜过建立在人类专业知识之上的方法。

为什么重要

这篇文章可能是现代 AI 领域被引用最多的非正式文章,它塑造了各大实验室的思考方式。大语言模型背后的赌注就是苦涩教训的实际应用:采用一个简单通用的架构,给它海量的数据和算力,不去手工编写语言规则。当人们说一个想法是不是“bitter-lesson-pilled”时,他们问的是:它会不会被下一轮规模扩展冲走。

对开发者来说,它带来一个实用的警告:为模型当前弱点设计的巧妙变通方案,往往在下一代模型到来时就过时了。

深度解析

《苦涩的教训》(The Bitter Lesson)是 Rich Sutton 在 2019 年 3 月发表的一篇短文。他是强化学习的奠基人之一,后来获得了图灵奖。回顾 70 年的 AI 研究,他看到同一个故事在反复上演。研究者总想把自己对问题的理解内置到系统里:国际象棋的策略、语法规则、如何检测图像中的边缘。这在开始时有帮助。随后,一种更简单、更通用的方法,仅仅靠搜索和学习来利用更多算力,就超过了它,并且还在不断进步。

这个教训之所以苦涩,是因为它意味着研究者最引以为傲的知识,从长远看往往并不重要。

Sutton 举的例子

  • 国际象棋:1997 年,深蓝主要靠大规模搜索击败了 Garry Kasparov,这让那些试图把人类棋理编码进程序的研究者大为沮丧。
  • 围棋:手工设计的方法停滞了几十年。AlphaGo 把搜索和学习结合起来,之后 AlphaZero 完全抛弃了人类棋谱,反而变得更强。
  • 语音识别:建立在语言学家音素知识之上的系统输给了统计方法,后来又输给了深度学习。
  • 计算机视觉:手工设计的特征检测器被能自己学习特征的卷积网络取代。

它没有说什么

这篇文章常被简化成“加算力就行”。Sutton 的实际主张要窄一些:应当偏向那些在算力变得更充裕时能够用上更多算力的方法。结构仍然重要。Transformer 本身就是人类的设计,只不过是一种扩展性很好的通用设计。数据也不是免费的:学习需要有东西可学,而对很多问题来说,收集到合适的数据才是难点。

把它用在基于 LLM 的开发上

精心设计的提示链、为修复模型输出而手写的解析器、僵硬的多步骤流水线,常常会被对一个更好模型的单次调用取代。许多构建智能体的团队都提到同一个规律:每一代新模型都能让他们删掉一些脚手架。一个有用的习惯是,对任何变通方案都问一句:“更强的模型会不会让它变得多余?”如果会,就让它保持廉价、容易拆除,把精力投到能长久留存的东西上:你的数据、你的评估和你的工具。

批评,以及 Sutton 自己的转折

批评者指出,算力成本高昂;在数据稀缺的领域(比如机器人或医学),效率和好的先验很重要;而且最大的进步往往来自规模与新想法的结合。Sutton 本人也认为,今天的 LLM 并没有完全遵循他的教训,因为它们是从人类写的文本中学习,而不是从自己对世界的经验中学习。在他看来,真正可扩展的路线,仍然是通过行动和观察持续学习的系统。

← 所有术语
ESC