Aller au contenu principal
Zubnet AI › Apprendre › Wiki › Sous-apprentissage
Entraînement

Sous-apprentissage

Aussi appelé : Underfitting, Biais élevé
Quand un modèle est trop simple ou pas assez entraîné pour capter les motifs de ses données, au point d'échouer même sur les exemples vus à l'entraînement.

Pourquoi c'est important

Distinguer le sous-apprentissage du surapprentissage est l'une des compétences de diagnostic les plus utiles en machine learning, parce que les remèdes vont dans des directions opposées. Le surapprentissage demande moins de capacité, plus de régularisation ou plus de données. Le sous-apprentissage demande plus de capacité, un entraînement plus long ou moins de régularisation. Appliquez le mauvais remède et vous aggravez la situation.

À l'ère des LLM, le sous-apprentissage tient moins à des modèles trop petits qu'au sous-entraînement. Les travaux sur Chinchilla ont montré que beaucoup de grands modèles de l'époque avaient été entraînés sur bien trop peu de tokens pour leur taille. Ils étaient en sous-apprentissage, et des modèles plus petits entraînés sur plus de données les battaient. Aujourd'hui, les petits modèles sont souvent volontairement entraînés bien au-delà du point « optimal en calcul », précisément pour éliminer le moindre reste de sous-apprentissage.

En profondeur

Le surapprentissage attire toute l'attention, mais son contraire est tout aussi courant. Un modèle en sous-apprentissage n'a pas assez appris. Sa perte d'entraînement reste élevée, sa perte de validation aussi, et les deux sont proches. C'est comme un étudiant qui a survolé le manuel : il ne réussit ni les exercices ni l'examen, parce qu'il n'a jamais vraiment compris la matière.

L'image classique : ajuster une droite à des données qui forment clairement une courbe. Ajouter des données n'y change rien, car une droite ne peut tout simplement pas représenter une courbe.

Comment le repérer

Regardez vos courbes de perte :

  • Sous-apprentissage : les pertes d'entraînement et de validation sont toutes deux élevées et proches, et peuvent encore baisser au moment où vous arrêtez.
  • Surapprentissage : la perte d'entraînement continue de baisser alors que la perte de validation stagne ou remonte, et l'écart se creuse.
  • Bon ajustement : les deux sont basses et l'écart est faible.

Si la perte d'entraînement elle-même est mauvaise, le modèle n'arrive même pas à s'ajuster aux données qu'il a vues. C'est du sous-apprentissage, et plus de données ne le corrigera pas.

Causes fréquentes

  • Pas assez de capacité : trop peu de paramètres ou de couches pour la complexité de la tâche.
  • Pas assez d'entraînement : arrêt trop précoce, ou taux d'apprentissage si faible que le modèle bouge à peine.
  • Trop de régularisation : un dropout ou un weight decay trop forts peuvent empêcher le modèle d'apprendre les vrais motifs.
  • Des caractéristiques faibles ou des entrées mauvaises : si l'information nécessaire n'est pas dans l'entrée, aucun modèle ne peut l'apprendre.
  • Un bug : étiquettes mélangées, pipeline de données cassé ou couche gelée ressemblent exactement à du sous-apprentissage. Vérifiez cela en premier.

Remèdes

Entraînez plus longtemps, augmentez le taux d'apprentissage (prudemment), utilisez un modèle plus grand, réduisez la régularisation ou améliorez les entrées. En fine-tuning, un rang LoRA trop petit ou trop peu d'étapes peuvent mener au sous-apprentissage : le modèle change à peine de comportement. Essayez d'abord de faire surapprendre volontairement un petit sous-ensemble de vos données. Si le modèle n'arrive même pas à mémoriser 100 exemples, quelque chose est cassé dans votre configuration.

Le sous-apprentissage en fine-tuning

Quand on dit qu'un fine-tuning « n'a pas pris », le modèle est généralement en sous-apprentissage sur la nouvelle tâche. Les signes : des sorties qui ignorent le format visé ou qui sonnent encore comme le modèle de base. Avant d'ajouter des données, vérifiez que le taux d'apprentissage et le nombre d'époques sont raisonnables, et que la perte n'est calculée que sur les parties des exemples que le modèle doit apprendre.

← Tous les termes
ESC