Mistral Large 4 'Le Chonk': ट्रिलियन पैरामीटर

Mistral AI ने Mistral Large 4 के वेट प्रकाशित किए हैं—यह उसका पहला ट्रिलियन-पैरामीटर मॉडल है। अंदरूनी तौर पर इसे Le Chonk उपनाम दिया गया है। यह एक ग्रैन्युलर mixture-of-experts सिस्टम है, जिसमें कुल 1.05 ट्रिलियन पैरामीटर हैं, प्रति टोकन लगभग 49 से 52 अरब सक्रिय पैरामीटर, 1-मिलियन-टोकन संदर्भ विंडो और इमेज इनपुट की सुविधा है। एक ही चेकपॉइंट त्वरित चैट सवालों और लंबे एजेंटिक रन—दोनों को संभालता है; इसके लिए रीजनिंग एफर्ट सेटिंग में low, medium और high स्तर चुने जा सकते हैं। मॉडल को यूरोप में Mistral के अपने डेटा सेंटरों में 3,800 NVIDIA Grace Blackwell GPU पर शुरू से प्रशिक्षित किया गया था। यह अब vega.chat के मॉडल पिकर और api.vega.chat के ज़रिए उपलब्ध है।

दो रिलीज़, एक महीने का अंतर

Mistral की मॉडल रजिस्ट्री में Large 4 के दो संस्करण सूचीबद्ध हैं: 6 अक्टूबर, 2026 का सार्वजनिक प्रीव्यू, जिसे अब रिटायर्ड चिह्नित किया गया है, और 29 अक्टूबर, 2026 का अंतिम चेकपॉइंट, जो सक्रिय रिलीज़ है। Hugging Face पर ओपन वेट 29 अक्टूबर वाले संस्करण के हैं, जिसे अतिरिक्त RL ट्रेनिंग से बेहतर बनाया गया है। प्रीव्यू अवधि में बताए गए आँकड़े—जिनमें शुरुआती API कीमतें भी शामिल हैं—रिटायर्ड चेकपॉइंट के लिए थे, न कि जारी किए गए संस्करण के लिए। यहाँ तक कि आधिकारिक दस्तावेज़ पेज पर अब भी 6 अक्टूबर की तारीख और Public Preview लेबल मौजूद है।

इससे पहले का फ्लैगशिप, Mistral Large 3, दिसंबर 2025 में Mistral 3 परिवार के हिस्से के रूप में आया था। इस आकार के मॉडल के लिए फ्लैगशिप रिलीज़ के बीच दस महीने का अंतर तेज़ रफ़्तार है।

आर्किटेक्चर: 675B से एक ट्रिलियन तक

	Mistral Large 3	Mistral Large 4
कुल पैरामीटर	675B	1.05T
प्रति टोकन सक्रिय	41B	~49B (एम्बेडिंग और आउटपुट लेयर सहित 52B)
आर्किटेक्चर	Granular MoE	Granular MoE
विज़न एन्कोडर	2.5B	1.6B Pixtral-शैली
संदर्भ विंडो	256k	1M टोकन
रीजनिंग	नहीं	low / medium / high, डिफ़ॉल्ट रूप से high
ट्रेनिंग क्लस्टर	3,000 NVIDIA H200	3,800 NVIDIA Grace Blackwell
लाइसेंस	Apache 2.0	Mistral Ecosystem Open-Weight License

vLLM टीम की रिलीज़-दिवस की जानकारी के मुताबिक, इसके ट्रंक में 72 MoE लेयर हैं, जिनमें 128 रूट किए गए एक्सपर्ट (top-4) और एक साझा एक्सपर्ट है; हिडन साइज़ 6,144 है। अटेंशन MLA है, जिसमें एक sparse DSA इंडेक्सर हर क्वेरी के लिए शीर्ष 2,048 keys चुनता है। इसी से दस लाख टोकन का संदर्भ संभालने योग्य रहता है। Pixtral-शैली का एन्कोडर अलग-अलग आकार और आस्पेक्ट रेशियो वाली इमेज स्वीकार करता है और एक अनुरोध में कई इमेज भी ले सकता है। आधिकारिक चेकपॉइंट FP8 और NVFP4 में उपलब्ध हैं; दोनों FP8 latent KV cache का इस्तेमाल करते हैं। इसमें मौजूद DSpark drafter तीन sliding-window MLA लेयर पर speculative decoding चलाता है, हर चरण में लगभग 2.9 टोकन स्वीकार करता है और TP8 पर लगभग 2x थ्रूपुट बढ़ाता है।

Sparse activation होने से यह किसी छोटे मॉडल का छद्म रूप नहीं बन जाता। हर टोकन पर केवल ~49B पैरामीटर सक्रिय होते हैं, लेकिन 1.05T वेट और KV cache को स्टोर करने के लिए अब भी एक शक्तिशाली मल्टी-GPU नोड चाहिए।

बेंचमार्क: दमदार दावे, मिले-जुले नतीजे

अंतिम चेकपॉइंट के लिए Mistral के बताए आँकड़े कागज़ पर अच्छे दिखते हैं:

बेंचमार्क	नतीजा	टिप्पणी
FrontierCode 2.0	19.7%, पहला स्थान	Cognition का बंद end-to-end कोडिंग मूल्यांकन
AA Coding Agent Index	48%	प्रति कार्य 47% कम टोकन के साथ लगभग GLM-5.3 के स्तर पर
Terminal-Bench 4.0	41%	प्रीव्यू से +13 अंक, ओपन-वेट मॉडल में सबसे आगे
Cyber Index	51%	कमज़ोरियाँ ढूँढ़ता, दोहराता और पैच करता है
दुर्भावनापूर्ण साइबर अनुरोधों को अस्वीकार करना	96.6%	Mistral के अनुसार, ओपन मॉडल में सबसे अधिक
B3 Agent Security	97.1%	प्रीव्यू के 93.3% से बेहतर
Finch (वित्त, टेबल)	73.3%	Kimi K3 के बाद ओपन वेट में दूसरा
BrowseComp	84.5%	GLM-5.3 और DeepSeek Flash 4.1 से आगे
Surge Code (ब्लाइंड मानव पसंद)	GLM-5.3, Kimi K3, DeepSeek V4.1 Flash से बेहतर	केवल Claude Opus 5.5 से पीछे

स्वतंत्र लैब Vals AI ने उसी ओपन चेकपॉइंट को परखा और अलग आँकड़े पाए: Terminal-Bench 4.0 पर 26.26%—जबकि Mistral का आँकड़ा 41% है—Vibe Code Bench पर 81.56%, वित्तीय एजेंट मूल्यांकन पर 61.72%, और Vals Index पर 56.42%, जिससे मॉडल 30 में से 17वें स्थान पर आता है। एक ही नाम वाले बेंचमार्क पर 15 अंकों का अंतर आम तौर पर बताता है कि अलग-अलग रन में टेस्ट हार्नेस, टूल, टोकन बजट और रुकने के मानदंड अलग थे। मॉडलों की तुलना करते समय, उनकी कॉन्फ़िगरेशन की भी तुलना करें।

MindStudio के एक व्यावहारिक परीक्षण से एक अहम सावधानी सामने आती है। आठ एजेंटिक कोडिंग कार्यों में मॉडल ने 80 में से 42 अंक हासिल किए: Gemma 2B के एक लोकल फाइन-ट्यून ने 10 में से 10 और तीन-लिफ्ट सिमुलेशन ने 9.5 अंक पाए, लेकिन दो कार्यों में मॉडल ने शून्य अंक हासिल किए, क्योंकि उसने फ़ाइल बनाए बिना या कोई जवाब दिए बिना ही अपना टर्न समाप्त कर दिया। इसकी कमज़ोरी भरोसेमंद ढंग से काम पूरा करने में है: उन रन में मॉडल कुछ भी तैयार करने से पहले रुक गया। यह अब भी आत्मविश्वास से भरा सारांश दे सकता है, जबकि उसके नीचे की फ़ाइल टूटी हुई हो या मौजूद ही न हो।

कीमत

अंतिम रिलीज़ की API कीमत प्रति दस लाख इनपुट टोकन $0.70 और प्रति दस लाख आउटपुट टोकन $2.10 है; कैश किए गए इनपुट की कीमत $0.07 है। बिना कैश वाले प्रति टोकन के हिसाब से यह Large 3 से 40% महँगा है, हालाँकि प्रीव्यू की $1.36 इनपुट और $4.18 आउटपुट कीमत से काफी कम है।

	Large 3	Large 4
प्रति 1M टोकन इनपुट	$0.50	$0.70
कैश किया गया इनपुट	~90% छूट	$0.07
प्रति 1M टोकन आउटपुट	$1.50	$2.10

Mistral का जवाब है कि मॉडल अधिक कुशल है: अगर यह प्रतिद्वंद्वियों के मुकाबले एजेंटिक कार्य 30 से 47% कम टोकन में पूरा करता है, तो प्रति दस लाख टोकन की लागत से ज़्यादा अहम प्रति पूरे हुए कार्य की लागत है। किसी भी निष्कर्ष पर पहुँचने से पहले अपने काम पर इसे मापना सही रहेगा।

लाइसेंस की शर्त

Large 4, Mistral Ecosystem Open-Weight License के तहत जारी हुआ है, जो MIT का संशोधित रूप है। इस्तेमाल, बदलाव, फाइन-ट्यूनिंग, वितरण और व्यावसायिक उपयोग—सबकी अनुमति है, लेकिन एक शर्त के साथ: Model-as-a-Service व्यवसाय चलाने वाली कंपनी, जहाँ तीसरे पक्ष को इनपुट और पैरामीटर पर सार्थक नियंत्रण के साथ इन्फ़रेंस या पोस्ट-ट्रेनिंग की सुविधा मिलती है, उसे Mistral से अलग व्यावसायिक लाइसेंस लेना होगा। आंतरिक उपयोग और Mistral के अपने उत्पादों के ज़रिए इस्तेमाल इस शर्त से मुक्त हैं। Large 3 के Apache 2.0 लाइसेंस में ऐसी कोई शर्त नहीं है, इसलिए होस्टिंग प्रदाताओं के लिए उसका कानूनी इस्तेमाल सरल है।

डिप्लॉयमेंट नोट्स

vLLM ने रिलीज़ के पहले दिन ही कई इंजीनियरिंग सुविधाओं के साथ सपोर्ट जारी किया। NVFP4 चार Blackwell GPU पर चलता है (या आठ पर TP8 के साथ)। Decode context parallelism, latent KV cache को अलग-अलग ranks में बाँटता है, जिससे TP8 पर KV क्षमता लगभग 7.9x बढ़ जाती है। HiSparse, KV को होस्ट मेमोरी में भेजता है, जिससे GB300 नोड की KV क्षमता 1.97M से बढ़कर 8.77M से 11.25M टोकन के बीच पहुँच जाती है। SGLang, Transformers और Docker Model Runner भी समर्थित हैं। Microsoft Foundry उन संगठनों के लिए निजी Azure डिप्लॉयमेंट देता है जो मॉडल को अपने इंफ़्रास्ट्रक्चर पर चलाना चाहते हैं।

इकोसिस्टम में एकीकरण से जुड़ी एक समस्या: Vercel AI SDK के Mistral प्रोवाइडर ने Large 4 के लिए reasoning_effort पैरामीटर को चुपचाप हटा दिया, क्योंकि मॉडल ID हार्डकोड की गई allowlist में मौजूद नहीं थी। इसलिए अनुरोध बिना किसी रीजनिंग के भेजे गए। अब यह बग ठीक कर दिया गया है और इसके लिए regression tests भी हैं। इससे मिलने वाली सीख व्यापक है: जाँचें कि रीजनिंग और टूल पैरामीटर सचमुच मॉडल तक पहुँचते हैं या नहीं, क्योंकि “SDK Mistral को सपोर्ट करता है” कहने से यह स्पष्ट नहीं होता।

सुरक्षा, कुछ खुली सावधानियों के साथ

इस रिलीज़ में Mistral ने सुरक्षा को असामान्य रूप से प्रमुखता दी: दुर्भावनापूर्ण साइबर अनुरोधों को अस्वीकार करने की 96.6% दर, B3 Agent Security Benchmark पर 97.1% हमलों का प्रतिरोध, और पेनटेस्टिंग व रेड-टीमिंग के लिए एक विशेष साइबर वैरिएंट, जिसे Orange Cyberdefense जैसे साझेदारों को सख़्त अनुबंधों के तहत दिया गया। कंपनी यह भी साफ़ तौर पर कहती है कि लाइव ट्रैफ़िक की निगरानी से वास्तविक हमलों में नुकसान बढ़ाने की संभावना दिखी, इसलिए सुरक्षा उपायों को लगातार बेहतर बनाया जा रहा है। तकनीकी दस्तावेज़ चेतावनी देते हैं कि मॉडल अचूक नहीं है और सत्यापन तथा मानवीय निगरानी के बिना महत्वपूर्ण निर्णयों के लिए नहीं बनाया गया है। MindStudio के नतीजों से पता चलता है कि इस मॉडल में मज़बूत सुरक्षा आँकड़ों के साथ अधूरे एजेंटिक कार्य भी मौजूद हैं।

Large 3 या Large 4

जब आपको 1M संदर्भ, रीजनिंग मोड या एजेंटिक कोडिंग और साइबर कार्यों में सबसे मज़बूत ओपन-वेट आँकड़े चाहिए हों, और आपका डिप्लॉयमेंट ट्रिलियन-पैरामीटर चेकपॉइंट संभाल सकता हो, तो Large 4 चुनें। जब प्रति टोकन कीमत या लाइसेंस की सरलता अधिक मायने रखती हो, तो Large 3 पर बने रहें: Apache 2.0 में कोई MaaS शर्त नहीं है, बिना कैश वाले टोकन की कीमत 40% कम है, और मॉडल कार्ड NVFP4 में A100 या H100 पर सिंगल-नोड डिप्लॉयमेंट का उल्लेख करता है। Large 3 की अपनी ज्ञात कमज़ोरियाँ भी हैं, जिनमें 64k संदर्भ से आगे NVFP4 की गुणवत्ता में गिरावट और स्वतंत्र परीक्षणों में कम भरोसेमंद टूल कॉलिंग शामिल हैं।

आप जो भी चुनें, 29 अक्टूबर वाले चेकपॉइंट पर अपने वास्तविक कार्यों के साथ एक पायलट चलाएँ, जाँचें कि टूल कॉल काम कर रहे हैं और फ़ाइलें सचमुच बन रही हैं, और दर्ज किए गए हर आँकड़े के साथ संस्करण और सैंपलिंग कॉन्फ़िगरेशन भी लिखें। Mistral की सुझाई गई सेटिंग्स temperature 1.0 और top_p 0.95 हैं।

Mistral Large 4 अब vega.chat की मॉडल सूची में उपलब्ध है, और डेवलपर इसे api.vega.chat के अनुकूल API के ज़रिए इस्तेमाल कर सकते हैं।