Le terme « parrot stochastique » provient d’un article spécifique — « On the Dangers of Stochastic Parrots: Can Language Models Be Too Big ? » d’Emily Bender, Timnit Gebru, Angelina McMillan-Major et Margaret Mitchell, publié en 2021. Les arguments réels de cet article sont plus nuancés que suggère le mot d’ordre. Bender et Gebru ne prétendaient pas simplement que les modèles de langage sont bêtes. Elles soulevaient quatre préoccupations : le coût environnemental de la formation de modèles de plus en plus grands, l’encodage de visions du monde hégémoniques trouvées dans les données d’entraînement internet, l’incapacité des modèles à ancrer leurs sorties dans un sens réel, et le risque que le texte fluide trompe les gens en leur faisant croire qu’il existe une compréhension authentique derrière. L’article est devenu infâme non seulement pour son contenu, mais aussi pour ses conséquences — Google a licencié Gebru de son équipe d’IA éthique peu après qu’elle l’ait soumis à une revue interne, puis a licencié Mitchell quelques semaines plus tard. La controverse a transformé ce qui aurait pu être une contribution académique standard en un point de friction sur le contrôle corporatif de la recherche sur l’éthique de l’IA.
La version « steel-man » de l’argument du parrot stochastique est forte, et une engagement honnête avec l’IA exige d’en reconnaître la validité. Les modèles de langage encodent effectivement des biais provenant de leurs données d’entraînement — non pas comme un bug réparable, mais comme une caractéristique structurelle de l’apprentissage à partir du texte humain. Ils n’ont pas de compréhension ancrée au sens conventionnel : un modèle peut décrire le goût d’une fraise en détail exquis sans jamais avoir expérimenté le goût. Les ressources computationnelles nécessaires aux modèles de pointe sont effectivement énormes, et les coûts environnementaux sont réels, même s’ils s’améliorent par paramètre. Le plus important est que l’avertissement du papier sur l’« illusion de compréhension » a bien vieilli. Les gens surestiment effectivement le texte fluide. Toute déployance d’un chatbot dans le service client ou la santé prouve que les utilisateurs attribuent une compréhension aux systèmes qui n’en ont aucune, au moins pas dans le sens que les humains entendent par « compréhension ».
Les arguments les plus solides contre viennent des capacités émergentes après la publication de l’article. Le raisonnement en chaîne de pensée, où les modèles résolvent des problèmes étape par étape et aboutissent à des réponses correctes qu’ils ne pouvaient atteindre en une seule passe, est difficile à expliquer comme une simple imitation statistique. L’apprentissage en contexte — la capacité à apprendre de nouvelles tâches à partir de quelques exemples dans le prompt, sans mise à jour de poids — dépasse tout ce que font les perroquets. Les modèles peuvent écrire du code fonctionnel pour des problèmes nouveaux, traduire entre des langues pour lesquelles ils ont vu peu de données parallèles, et généraliser des instructions à des situations très différentes de leurs exemples d’entraînement. Si c’est « juste » une correspondance de motifs, alors la correspondance de motifs est bien plus puissante que ne suggère la métaphore. La question n’est pas de savoir si les modèles sont des correspondants de motifs (ils le sont), mais si la correspondance de motifs à une échelle suffisante produit quelque chose fonctionnellement équivalent à la raison.
C’est ici que la conversation devient véritablement philosophique, et honnêtement, non résolue. L’expérience de pensée de la pièce chinoise de John Searle — où une personne suit des règles pour manipuler des symboles chinois sans comprendre le chinois — correspond directement au débat sur le parrot stochastique. Les défenseurs des capacités des LLM (Large Language Models) argumentent pour une équivalence fonctionnelle : si un système produit des sorties indistinctes de la compréhension, importe-t-il le mécanisme interne ? Les critiques argumentent que sans ancrage dans l’expérience physique et une intentionnalité authentique, aucune manipulation de texte ne constitue une compréhension. Les deux côtés ont raison, et la réponse honnête est que nous n’avons pas de définition satisfaisante de « compréhension », même pour la cognition humaine. La réponse du pragmatiste est qu’il pourrait ne pas importer. Si un modèle peut diagnostiquer un bug dans votre code, expliquer un concept de physique de manière claire, ou rédiger un mémoire juridique que le juriste juge utile, le statut philosophique de sa « compréhension » est moins important que la validité et l’utilité des sorties.
La plupart des chercheurs en IA sérieux ont dépassé le cadre binaire « parrot vs. intelligence réelle ». La question intéressante n’est plus de savoir si les LLM comprennent le langage — c’est plutôt de comprendre quel type de cognition est en jeu, et ce qu’il peut et ne peut pas faire de manière fiable. Les modèles font clairement quelque chose de plus que de répéter, mais ils manquent clairement de choses que les humains possèdent : une mémoire persistante à travers les conversations, une expérience incarnée, des croyances cohérentes, la capacité de savoir ce qu’ils ne savent pas. L’étiquette de parrot stochastique reste utile comme un frein contre l’excitation — un rappel que le texte fluide n’est pas la même chose que la vérité, et que les sorties impressionnantes ne garantissent pas une raison solide. Mais comme une description complète de ce que font les grands modèles de langage, elle a cessé d’être adéquate à partir de GPT-4 environ. Le domaine a besoin de métaphores meilleures, et surtout, d’outils empiriques plus performants pour comprendre ce que ces systèmes apprennent réellement.