ImageNet
Pourquoi c’est important
En profondeur
ImageNet, c'est en réalité deux choses qu'on confond : un jeu de données et un concours. Le jeu de données, publié en 2009, contient environ 14 millions d'images moissonnées sur le web et triées à la main en plus de 20 000 catégories empruntées à la hiérarchie lexicale WordNet, de races de chiens précises à des types de fromages en passant par des électroménagers. Le concours, l'ILSVRC, s'est tenu annuellement de 2010 à 2017 sur un sous-ensemble plus petit et sélectionné — environ 1,2 million d'images d'entraînement réparties en 1 000 classes — et demandait aux équipes de classifier des images et de localiser des objets. C'est dans ce concours que l'apprentissage profond moderne est de fait né, et le sous-ensemble qu'il utilisait, souvent appelé ImageNet-1K, demeure l'un des bancs d'essai les plus cités en IA.
Bâti à partir de WordNet et du travail participatif
Fei-Fei Li et ses collaborateurs sont partis d'un pari à contre-courant pour l'époque : alors que la plupart de la recherche en vision par ordinateur se concentrait sur des algorithmes plus astucieux, ils soutenaient que le progrès manquait de données. Ils ont fait correspondre les catégories à la hiérarchie de noms de WordNet, recueilli des images candidates auprès des moteurs de recherche, et embauché des travailleurs sur Amazon Mechanical Turk pour vérifier chaque étiquette, en intégrant de la redondance et des contrôles de qualité pour garder l'annotation fiable à grande échelle. Le résultat était supérieur de plusieurs ordres de grandeur aux jeux de données alors courants en recherche visuelle, qui contenaient typiquement quelques dizaines de milliers d'images tout au plus. Le jeu de données a été publié en 2009, et le concours annuel a suivi en 2010 pour forcer le domaine à s'en servir. Les premiers résultats étaient peu inspirants — les méthodes traditionnelles ne s'amélioraient que de façon marginale — ce qui a rendu le résultat de 2012 d'autant plus spectaculaire.
La percée de 2012
En 2012, AlexNet — un réseau de neurones convolutif profond bâti par Alex Krizhevsky, Ilya Sutskever et Geoffrey Hinton — a remporté la tâche de classification avec un taux d'erreur top-5 de 15,3 %, tandis que le deuxième, qui utilisait des caractéristiques traditionnelles conçues à la main, se situait autour de 26 %. Une marge aussi grande n'arrive pratiquement jamais dans les concours de bancs d'essai, et le domaine l'a remarqué en quelques semaines. En quelques années, toutes les participations sérieuses étaient des réseaux de neurones profonds, et les taux d'erreur ont continué de chuter : des architectures à connexions résiduelles ont poussé l'erreur top-5 sous les 4 % dès 2015, dépassant le taux d'erreur d'environ 5 % d'un annotateur humain entraîné. La leçon que la communauté en a tirée était double — les réseaux profonds fonctionnent, et ils ne fonctionnent aussi bien qu'alimentés par des données à l'échelle d'ImageNet.
Ça n'a pas réglé la vision
Une idée fausse répandue veut que des scores surhumains sur ImageNet signifient que la vision par ordinateur est terminée. Le banc d'essai teste une habileté étroite : attribuer une seule étiquette propre à une photo web où le sujet remplit habituellement le cadre. Il dit peu de choses sur la détection d'objets dans des scènes encombrées, le comptage fin, la robustesse aux angles de caméra inhabituels ou la longue traîne de l'imagerie du monde réel. Les modèles qui excellent sur ImageNet s'appuient souvent sur des indices raccourcis — textures et arrière-plans plutôt que forme de l'objet — et leur justesse chute sensiblement sur des variantes de test conçues pour exposer exactement cette fragilité. Et comme les étiquettes sont uniques et parfois ambiguës (une photo de border collie sur une plage est à la fois un chien et une scène de plage), la métrique top-5 masque en partie à quel point la classification est réellement désordonnée. ImageNet a été une échelle que le domaine a gravie avant de devoir en descendre.
La vie après le concours
L'ILSVRC s'est éteint après 2017, mais ImageNet n'a jamais quitté le flux de travail. Sa contribution la plus durable s'est avérée être l'apprentissage par transfert : les réseaux entraînés sur ImageNet apprennent des caractéristiques visuelles généralistes, et ajuster finement ces poids pré-entraînés sur un petit jeu de données propre à la tâche bat un entraînement à partir de zéro dans la plupart des applications de vision par ordinateur, de l'imagerie médicale à l'inspection industrielle. ImageNet-1K persiste aussi comme terrain d'épreuve standard où des architectures comme le transformer de vision ont d'abord démontré qu'elles pouvaient rivaliser avec les convolutions, et la version plus grande à 21 000 catégories sert encore au pré-entraînement à grande échelle. Le domaine s'est depuis tourné vers des données à l'échelle du web, faiblement étiquetées et auto-supervisées — la même philosophie du primat des données qu'ImageNet a défendue, poussée au point où quelques millions d'images vérifiées à la main paraissent maintenant peu. C'est là le véritable héritage : moins un jeu de données sur lequel on s'entraîne encore que la preuve que celui qui a les meilleures données gagne habituellement.