DeepSeek a publié DSpark, un cadre de décodage spéculatif qui permet à ses modèles DeepSeek-V4 Flash et Pro de générer du texte plus rapidement. Il est livré sous forme de points de contrôle améliorés, c'est-à-dire le même modèle sous-jacent avec un petit module de décodage supplémentaire attaché, pas un nouveau modèle doté de nouvelles capacités. Le but n'est pas un système plus intelligent, c'est un système moins coûteux et plus rapide.

Le décodage spéculatif vaut la peine d'être compris parce que c'est l'un des leviers les plus discrets et les plus utiles de l'économie de l'IA. Normalement, un gros modèle produit du texte un jeton à la fois, chaque étape attendant la précédente, ce qui est lent. Avec le décodage spéculatif, un petit modèle brouillon rapide devine plusieurs jetons d'avance, et le gros modèle vérifie toutes ces suppositions en une seule fois. Quand les suppositions sont justes, et elles le sont souvent pour du texte ordinaire, vous obtenez la même sortie que le gros modèle aurait produite, mais en beaucoup moins d'étapes séquentielles lentes. Le résultat est une qualité identique à une vitesse supérieure.

La contribution spécifique de DSpark réside dans la manière dont il fait ces suppositions. Il combine deux approches existantes: une tête parallèle lourde, dans le style d'une méthode appelée DFlash, avec une petite tête séquentielle qui fonctionne davantage comme la famille Eagle, en utilisant une étape Markov légère. Le mélange augmente le taux d'acceptation, ce qui signifie qu'une plus grande part des jetons devinés par le modèle brouillon survit à la vérification du gros modèle, et c'est ce chiffre qui détermine vraiment le gain de vitesse obtenu. Selon les propres tests de DeepSeek, DSpark bat à la fois Eagle3 et DFlash, augmentant la longueur de jetons acceptés d'environ 16 à 31 pour cent et stimulant le débit de 51 pour cent à jusqu'à 400 pour cent selon la tâche, avec une latence réduite.

La manoeuvre la plus lourde de conséquences est ce que DeepSeek a fait en parallèle du cadre. Il a ouvert en open source DeepSpec, une base de code complète pour entraîner et évaluer les petits modèles brouillons dont dépend le décodage spéculatif, et surtout elle ne se limite pas aux propres modèles de DeepSeek. DeepSpec est conçu pour fonctionner aussi sur d'autres modèles ouverts, dont Gemma de Google et Qwen d'Alibaba. Cela transforme une accélération privée en outil partagé: quiconque exploite ces modèles ouverts peut entraîner un modèle brouillon et capturer des gains similaires, plutôt que d'attendre que chaque laboratoire livre sa propre version propriétaire.

Les bémols honnêtes sont les habituels pour les revendications de performance. Les chiffres sont ceux de DeepSeek et n'ont pas été vérifiés de manière indépendante, et les gains du décodage spéculatif varient énormément selon la charge de travail, donc le 400 pour cent en titre est un meilleur cas pour des tâches favorables plutôt qu'un chiffre auquel quiconque devrait s'attendre de manière générale. Mais le fil conducteur compte plus que n'importe quel chiffre isolé. L'inférence, le coût d'exploitation réel d'un modèle une fois qu'il existe, est là où va la majeure partie de l'argent dans l'IA déployée, et un flux constant de techniques comme celle-ci continue de faire baisser ce coût. Ouvrir la boîte à outils en open source, et la faire fonctionner sur les modèles d'autres laboratoires, répand le bénéfice plus largement que le seul bilan de DeepSeek. Ce sont les sorties tape-à-l'oeil qui font les gros titres, mais c'est un travail comme celui-ci qui décide discrètement à quel point l'IA devient réellement abordable.