MiniMax ने आज M3 जारी किया, एक API-फर्स्ट लॉन्च जिसमें ओपन वेट्स और टेक्निकल रिपोर्ट 10 दिनों के अंदर का वादा है। हेडलाइन है MSA (MiniMax Sparse Attention), एक नया स्पार्स अटेंशन स्कीम जो 1M टोकन कॉन्टेक्स्ट को पिछले M2 मॉडल के लगभग 1/20 प्रति टोकन कंप्यूट पर डिलीवर करता है। नेटिव मल्टीमॉडैलिटी शामिल है: टेक्स्ट, इमेज और वीडियो इनपुट के रूप में (केवल टेक्स्ट आउटपुट), विज़न अडैप्टर के साथ बोल्ट किए जाने के बजाय शुरू से एक साथ ट्रेन किए गए। कीमत $20/महीने से ~1.7 बिलियन टोकन के लिए शुरू; SWE-Bench Pro 59.0% पर (MiniMax कहता है GPT-5.5 और Gemini 3.1 Pro से आगे, Opus 4.7 के करीब)।
MSA एक टू-स्टेज अटेंशन मैकेनिज्म है। एक हल्की इंडेक्स ब्रांच आने वाले टोकन्स को स्कैन करती है और चुनती है कि कौन से KV-cache ब्लॉक्स प्रासंगिक हैं; महंगा अटेंशन कंप्यूटेशन फिर केवल उन चुने हुए ब्लॉक्स पर रन होता है। MiniMax इम्प्लीमेंटेशन को "KV outer gather Q" के रूप में डिस्क्राइब करता है: KV ब्लॉक्स आउटर लूप की तरह काम करते हैं, उन क्वेरीज को एग्रीगेट करते हैं जो उन्हें हिट करती हैं, हर ब्लॉक एक बार पढ़ा जाता है मेमोरी एक्सेस कंटिग्युअस के साथ। वे दावा करते हैं Flash-Sparse-Attn इम्प्लीमेंटेशन से 4x से ज़्यादा तेज़। 1M कॉन्टेक्स्ट पर, MSA M2 के मुकाबले लगभग 15.6x तेज़ डिकोडिंग और 9.7x तेज़ प्रीफिल करता है, 1/20 प्रति टोकन कंप्यूट के लिए। पैरामीटर काउंट लॉन्च मटीरियल में डिस्क्लोज़ नहीं किया गया। ओपन वेट्स और टेक्निकल रिपोर्ट 10 दिनों के अंदर शेड्यूल्ड हैं; देखने वाला HuggingFace रिपो है huggingface.co/MiniMaxAI। तब तक, आर्किटेक्चर डिस्क्रिप्शन को MiniMax की अपनी फ्रेमिंग के रूप में ट्रीट करें जो स्वतंत्र वेरिफिकेशन का इंतज़ार कर रही है, और बेंचमार्क नंबर्स को वेंडर-लेड के रूप में (TechTimes ने पहले से उन्हें "frontier claims, unverified benchmarks" के रूप में फ्रेम किया है)।
दो इकोसिस्टम थ्रेड्स ट्रैक करने लायक हैं। पहला, कॉस्ट एंगल: MiniMax M3 की कीमत GPT-5.5 और Gemini 3.1 Pro के समान coding बेंचमार्क्स की कॉस्ट के लगभग 5 से 10 प्रतिशत पर रख रहा है। अगर नंबर्स स्वतंत्र रिप्रोडक्शन से बच जाते हैं, यह क्लोज्ड फ्रंटियर के लिए ओपन-वेट प्रेशर पॉइंट फोकस में आ रहा है। दूसरा, आर्किटेक्चरल थ्रेड: MSA एक लर्न्ड राउटर है (इंडेक्स ब्रांच) जो चुनता है कि किन KV ब्लॉक्स पर ध्यान दिया जाए। यह स्ट्रक्चरली MoE राउटिंग के समान है, FFN के बजाय अटेंशन लेयर पर लागू। लॉन्ग-कॉन्टेक्स्ट एफिशिएंसी के बारे में सोचने वाले builders के लिए quadratic blowup के बिना, इंडेक्स-फिर-अटेंड पैटर्न Hyena, Mamba और longformer वैरिएंट्स के साथ अध्ययन करने योग्य दिशाओं में से एक है। एजेंटिक साइड (Agent Teams कन्करेंट मल्टी-स्टेज वर्कफ्लोज़ रन करते हुए, producer-verifier सेल्फ-करेक्शन लूप) इंटरेस्टिंग है लेकिन वेंडर-डिस्क्राइब्ड; 1,959 टूल कॉल्स वाला CUDA-ऑप्टिमाइज़ेशन डेमो और 12-घंटे ऑटोनॉमस पेपर-रिप्रोडक्शन रन वो तरह के डेमो हैं जो लॉन्च मटीरियल में शानदार दिखते हैं और आपकी वर्कलोड के बारे में कुछ कहने से पहले रियल harness रीरन्स की ज़रूरत होती है।
सोमवार सुबह, अगर आपके पास लॉन्ग-कॉन्टेक्स्ट वर्कलोड्स हैं (codebase रीड्स, फुल-डॉक्यूमेंट QA, मल्टी-घंटे एजेंट रन्स), M3 आज API के माध्यम से इंटीग्रेट करने और 200K से 1M रेंज में आपके वर्तमान फ्रंटियर मॉडल के खिलाफ बेंचमार्किंग करने लायक है। कॉस्ट गैप काफी बड़ा है कि मायने रखता है भले ही M3 क्वालिटी में काफी पीछे हो, और 512K गारंटीड-फिडेलिटी फ्लोर आपको एक सेफ ऑपरेटिंग बैंड देता है। अगर आप ओपन वेट्स के लिए कमिटेड हैं, 10-दिन काउंटडाउन मायने रखता है: जब तक वे वेट्स HuggingFace पर लैंड नहीं होते, यह एक क्लोज्ड-API स्टोरी है। अगर आप अपना खुद का स्पार्स अटेंशन इन्फ्रास्ट्रक्चर बना रहे हैं, MSA पेपर (जब आता है) ज़रूरी पढ़ने वाला है। और हमेशा की तरह वेंडर बेंचमार्क्स के साथ फ्रंटियर मॉडल्स के खिलाफ, अपने स्टैक को रीओरिएंट करने से पहले अपने वर्कलोड जैसे लोड पर अपना खुद का harness चलाएं।