Phi
Pourquoi c’est important
En profondeur
Phi est la famille maison de petits modèles de langage de Microsoft, et elle existe pour tester une hypothèse précise : un modèle entraîné sur des données exceptionnellement propres et à vocation pédagogique peut raisonner aussi bien qu'un modèle beaucoup plus gros entraîné sur du texte web brut. La série a commencé en 2023 avec Phi-1, un modèle de code de 1,3 milliard de paramètres, et s'est développée à travers Phi-2, Phi-3 et Phi-4 en une gamme s'étendant d'environ 1 à 14 milliards de paramètres, incluant des variantes multimodales et à mélange d'experts. Toutes les publications récentes sortent en poids ouverts sous licence MIT, donc elles peuvent être téléchargées, ajustées et déployées commercialement sans frais. Dans l'industrie, Phi est devenu la référence de la catégorie des petits modèles de langage — la preuve que « petit » est un choix de conception, pas un plafond de capacité. C'est aussi un argument permanent voulant que les prochains gains en IA viennent d'une meilleure sélection des données plutôt que d'une simple montée en échelle.
Des manuels scolaires, c'est tout ce qu'il faut
L'article fondateur de la série tirait son titre de sa thèse : des manuels scolaires, c'est tout ce qu'il faut. Au lieu de s'entraîner sur Internet non filtré, l'équipe de Phi assemble deux types de données : des pages web filtrées algorithmiquement pour leur « qualité de manuel » — une écriture dense, correcte et explicative — et du matériel entièrement synthétique rédigé par un gros modèle enseignant, comme des exercices, des explications et des exemples résolus dans un style de manuel. Le pari a rapporté immédiatement : Phi-1, avec 1,3 milliard de paramètres entraînés sur seulement environ 7 milliards de tokens, s'est classé de façon compétitive avec des modèles plusieurs fois plus gros sur le banc d'essai de programmation HumanEval. Chaque génération suivante a gardé la recette et augmenté la quantité — environ 1 400 milliards de tokens pour Phi-2, 3 300 milliards pour Phi-3-mini et un peu moins de 10 000 milliards pour Phi-4 — avec une part de synthétique qui grandissait chaque fois.
Cette approche est voisine de la distillation sans être tout à fait la même chose : plutôt que de copier les sorties d'un enseignant token par token, l'enseignant rédige du nouveau matériel pédagogique, qui est ensuite filtré, décontaminé par rapport aux jeux de test des bancs d'essai, puis mélangé à du texte humain sélectionné. Cette sélection compte, parce qu'entraîner un modèle sur de la sortie de modèle non révisée est un chemin connu vers l'effondrement de modèle, où la qualité se dégrade à mesure que les erreurs s'accumulent d'une génération à l'autre. La réponse de Phi, c'est une sélection agressive — Microsoft décrit ne garder qu'une petite fraction des pages web candidates et des échantillons générés. La philosophie inverse la lecture habituelle des lois d'échelle : si la qualité des données est assez haute, la frontière optimale en calcul se déplace, et les petits modèles cessent d'être des versions affamées des gros.
La famille, de Phi-1 à Phi-4
La gamme se navigue plus facilement par générations que modèle par modèle. Phi-1 et Phi-1.5, tous deux de 2023, étaient des preuves de concept de 1,3 milliard de paramètres — le premier pour le code, le second pour le raisonnement de sens commun. Phi-2, publié à la fin de 2023 à 2,7 milliards de paramètres, a été le premier à revendiquer la parité avec des modèles plusieurs fois plus gros sur les bancs d'essai standards. Phi-3 est arrivé en 2024 comme une véritable famille : un mini de 3,8 milliards avec des variantes de contexte de 4K et 128K, un small de 7 milliards, un medium de 14 milliards et un modèle de vision, tous sous licence MIT. La révision Phi-3.5 a ajouté une variante à mélange d'experts avec environ 6,6 milliards de paramètres actifs, améliorant la qualité par unité de calcul.
Phi-4, annoncé à la fin de 2024 et publié ouvertement au début de 2025, est passé à 14 milliards de paramètres et a misé le plus fort sur les données synthétiques, avec des résultats particulièrement solides en mathématiques de compétition. Il a été suivi de Phi-4-mini à 3,8 milliards de paramètres et d'un ensemble de variantes ajustées pour le raisonnement qui produisent de longues chaînes de pensée avant de répondre — une application directe du calcul au moment du test à une petite ossature. En pratique, le nom vous dit le compromis visé : mini pour les téléphones et les portables, la classe de 14 milliards pour les serveurs à un seul GPU, et les variantes de raisonnement quand la justesse en mathématiques et en logique compte plus que la latence.
Petit ne veut pas dire limité
Le raccourci facile, c'est qu'un modèle de 4 milliards de paramètres est un jouet. Sur les tâches à forte charge de raisonnement — mathématiques du primaire et de compétition, complétion de code, casse-têtes logiques — les modèles Phi égalent ou battent régulièrement des modèles généralistes deux à cinq fois plus gros, parce que le raisonnement est une habileté que des données pédagogiques propres et denses transmettent bien. La limite honnête, c'est la connaissance : le rappel factuel évolue avec le nombre de paramètres, donc un petit modèle emmagasine simplement moins de détails. Il va halluciner plus facilement sur des faits obscurs, des dates et des citations, et il est plus faible dans les langues à faibles ressources. La conséquence pratique, c'est que Phi brille dans les charges de travail où les faits pertinents sont fournis au moment de l'exécution — les prompts à génération augmentée par récupération, l'utilisation d'outils, le traitement de documents — et qu'il est un mauvais choix comme encyclopédie à livre ouvert. Les équipes qui le déploient avec succès le traitent comme un moteur de raisonnement rapide, pas comme une base de connaissances.
Exécuter Phi en pratique
Comme les poids sont ouverts, Phi se retrouve partout où les petits modèles s'exécutent. Quantifiés sur 4 bits, les modèles mini n'occupent que quelques gigaoctets, donc ils s'exécutent confortablement sur le processeur d'un portable, sur un téléphone ou sur un seul GPU grand public au moyen d'outils comme Ollama et llama.cpp, et Microsoft publie des versions ONNX visant les scénarios sur appareil et d'IA en périphérie. L'ajustement fin est bon marché : un adaptateur LoRA pour un modèle mini s'entraîne sur un seul GPU en quelques heures, ce qui fait de Phi une base courante pour des classificateurs spécialisés, des extracteurs et des copilotes hors ligne. Le calcul des coûts est le vrai attrait — servir un modèle de 4 milliards de paramètres coûte un ordre de grandeur de moins que servir un grand modèle de langage de pointe, et pour les tâches à haut volume et sensibles à la latence, cette différence décide si une fonctionnalité voit le jour ou non. Phi se classe systématiquement parmi les familles de modèles les plus téléchargées sur Hugging Face, ce qui garde l'outillage, les quantifications et les ajustements communautaires faciles à trouver.