Aller au contenu principal
Zubnet AI › Apprendre › Wiki › La leçon amère
Fondamentaux

La leçon amère

Aussi appelé : The Bitter Lesson, Bitter Lesson, La leçon amère de Sutton
L'argument avancé par Rich Sutton en 2019, selon lequel les méthodes générales qui passent à l'échelle avec le calcul finissent par battre celles qui reposent sur l'expertise humaine.

Pourquoi c'est important

L'essai est sans doute le texte informel le plus cité de l'IA moderne, et il a façonné la manière de penser des grands laboratoires. Le pari derrière les grands modèles de langage, c'est la leçon amère en action : prendre une architecture simple et générale, lui donner énormément de données et de calcul, et ne pas coder à la main de règles linguistiques. Quand on dit qu'une idée est ou n'est pas « bitter-lesson-pilled », on se demande si elle sera balayée par la prochaine vague de passage à l'échelle.

Pour ceux qui construisent, elle porte un avertissement pratique : les contournements astucieux des faiblesses actuelles d'un modèle deviennent souvent obsolètes à l'arrivée du modèle suivant.

En profondeur

« The Bitter Lesson » est un court essai publié en mars 2019 par Rich Sutton, l'un des fondateurs de l'apprentissage par renforcement et plus tard lauréat du prix Turing. En revenant sur 70 ans de recherche en IA, il a vu la même histoire se répéter. Les chercheurs essaient d'intégrer dans un système leur propre compréhension d'un problème : la stratégie aux échecs, les règles de grammaire, la manière de détecter les contours dans une image. Cela aide au début. Puis une méthode plus simple et plus générale, qui se contente d'utiliser plus de calcul grâce à la recherche et à l'apprentissage, la dépasse et continue de s'améliorer.

La leçon est amère parce qu'elle signifie que les connaissances dont les chercheurs sont le plus fiers ont tendance à ne pas compter à long terme.

Les exemples de Sutton

  • Les échecs : Deep Blue a battu Garry Kasparov en 1997 principalement grâce à une recherche massive, au grand dam des chercheurs qui avaient tenté d'encoder la compréhension humaine des échecs.
  • Le go : les approches conçues à la main ont piétiné pendant des décennies. AlphaGo a combiné recherche et apprentissage, puis AlphaZero a entièrement abandonné les données de parties humaines et est devenu plus fort.
  • La reconnaissance vocale : les systèmes fondés sur la connaissance qu'ont les linguistes des phonèmes ont perdu face aux méthodes statistiques, puis face à l'apprentissage profond.
  • La vision par ordinateur : les détecteurs de caractéristiques conçus à la main ont été remplacés par des réseaux convolutifs qui apprenaient leurs propres caractéristiques.

Ce qu'elle ne dit pas

L'essai est souvent réduit à « il suffit d'ajouter du calcul ». L'affirmation réelle de Sutton est plus étroite : privilégier les méthodes capables d'utiliser davantage de calcul à mesure qu'il devient disponible. La structure compte toujours. Le transformer est lui-même une conception humaine, mais une conception générale qui passe bien à l'échelle. Les données ne sont pas gratuites non plus : l'apprentissage a besoin de quelque chose à apprendre et, pour bien des problèmes, réunir les bonnes données est la partie difficile.

L'appliquer quand on construit avec des LLM

Les chaînes de prompts élaborées, les parseurs écrits à la main pour réparer la sortie d'un modèle et les pipelines rigides en plusieurs étapes finissent souvent remplacés par un seul appel à un meilleur modèle. De nombreuses équipes qui construisent des agents rapportent le même schéma : chaque génération de modèles leur permet de supprimer de l'échafaudage. Une bonne habitude consiste à se demander, devant tout contournement : « un modèle plus fort rendra-t-il cela inutile ? » Si oui, gardez-le peu coûteux et facile à retirer, et investissez dans ce qui dure : vos données, vos évaluations et vos outils.

Les critiques, et la nuance de Sutton lui-même

Les critiques font remarquer que le calcul coûte cher, que l'efficacité et de bons a priori comptent quand les données sont rares (comme en robotique ou en médecine), et que les plus grands gains sont souvent venus de la combinaison de l'échelle avec de nouvelles idées. Sutton lui-même a soutenu que les LLM d'aujourd'hui ne suivent pas pleinement sa leçon, parce qu'ils apprennent à partir de textes écrits par des humains plutôt que de leur propre expérience du monde. Selon lui, l'approche vraiment extensible reste celle de systèmes qui apprennent en continu en agissant et en observant.

← Tous les termes
ESC