MiniMax a livré M3 aujourd'hui, un lancement API-first avec poids ouverts et rapport technique promis dans 10 jours. Le titre c'est MSA (MiniMax Sparse Attention), un nouveau schéma d'attention sparse qui livre un contexte de 1M tokens à environ 1/20 du compute par token du modèle M2 précédent. La multimodalité native est dans le mix : texte, image et vidéo en entrée (sortie texte uniquement), entraînés ensemble dès le départ plutôt qu'ajoutés via un adaptateur de vision. Tarif à partir de 20$/mois pour ~1,7 milliards de tokens ; SWE-Bench Pro à 59,0% (selon MiniMax, devant GPT-5.5 et Gemini 3.1 Pro, approchant Opus 4.7).
MSA est un mécanisme d'attention à deux étages. Une branche d'indexation légère scanne les tokens entrants et sélectionne quels blocs du KV-cache sont pertinents ; le calcul d'attention coûteux ne s'exécute ensuite que sur ces blocs sélectionnés. MiniMax décrit l'implémentation comme "KV outer gather Q" : les blocs KV servent de boucle externe, agrégeant les requêtes qui les touchent, chaque bloc lu une fois avec accès mémoire contigu. Ils affirment plus de 4x plus rapide que les implémentations Flash-Sparse-Attn. À 1M de contexte, MSA produit environ 15,6x plus rapide en décodage et 9,7x plus rapide en prefill comparé à M2, pour 1/20 du compute par token. Le nombre de paramètres n'est pas divulgué dans les matériaux de lancement. Les poids ouverts et le rapport technique sont prévus dans les 10 jours ; le repo HuggingFace à surveiller est huggingface.co/MiniMaxAI. D'ici là, traite la description d'architecture comme la propre framing de MiniMax en attente de vérification indépendante, et les chiffres de benchmark comme vendor-led (TechTimes les a déjà cadrés comme "frontier claims, unverified benchmarks").
Deux fils d'écosystème à suivre. Premièrement, l'angle coût : MiniMax tarife M3 à environ 5 à 10 pourcent du coût de GPT-5.5 et Gemini 3.1 Pro pour des benchmarks coding similaires. Si les chiffres survivent à la reproduction indépendante, c'est le point de pression open-weight qui se met en focus pour le frontier fermé. Deuxièmement, le fil architectural : MSA est un routeur appris (la branche d'indexation) qui sélectionne quels blocs KV méritent l'attention. C'est structurellement similaire au routing MoE, appliqué à la couche d'attention au lieu du FFN. Pour les builders qui pensent l'efficacité long-context sans explosion quadratique, le pattern index-puis-attend est une des directions à étudier aux côtés de Hyena, Mamba et les variantes longformer. Le côté agentique (Agent Teams qui roulent des workflows multi-étages concurrents, la boucle de self-correction producer-verifier) est intéressant mais vendor-decrit ; le demo CUDA-optimization à 1 959 tool calls et le run de 12 heures de reproduction autonome de paper sont le genre de démos qui paraissent extraordinaires dans le matériel de lancement et ont besoin de vrais reruns de harness avant de te dire quelque chose sur ta charge.
Lundi matin, si t'as des charges long-context (lectures de codebase, QA full-document, runs d'agent multi-heures), M3 vaut l'intégration via API aujourd'hui et benchmarking contre ton modèle frontier courant dans la plage 200K à 1M. L'écart de coût est assez large pour matter même si M3 est meaningfully derrière en qualité, et le plancher de fidélité garantie 512K te donne une bande d'opération sécuritaire. Si tu es committed aux poids ouverts, le countdown de 10 jours matter : jusqu'à ce que ces poids atterrissent sur HuggingFace, c'est une histoire d'API fermée. Si tu construis ta propre infra d'attention sparse, le paper MSA (quand il sort) est lecture obligatoire. Et comme toujours avec les benchmarks vendor contre les modèles frontier, fais rouler ton propre harness sur une charge qui ressemble à la tienne avant de réorienter ton stack.
