Mistral Large 4 «Le Chonk»: trillion parametrli model

Mistral AI o‘zining trillion parametrli ilk modeli Mistral Large 4 vaznlarini e’lon qildi. Ichki jamoada unga Le Chonk laqabi berilgan. Bu jami 1,05 trillion parametrga ega, har bir token uchun taxminan 49–52 milliard parametr faollashadigan granular ekspertlar aralashmasi (MoE) tizimi bo‘lib, 1 million tokenli kontekst oynasi va tasvir kiritish imkoniyatiga ega. Bitta checkpoint tezkor chat savollariga ham, uzoq davom etadigan agent vazifalariga ham xizmat qiladi; rejimlar low, medium va high darajali mulohaza yuritish sozlamasi orqali almashtiriladi. Model Mistral’ning Yevropadagi o‘z ma’lumotlar markazlarida 3,800 ta NVIDIA Grace Blackwell GPU yordamida noldan o‘qitilgan va u allaqachon vega.chat model tanlagichida hamda api.vega.chat orqali mavjud.

Bir oy farq bilan chiqqan ikki reliz

Mistral’ning model reyestrida Large 4’ning ikki versiyasi keltirilgan: 2026-yil 6-oktabrdagi ommaviy preview, hozir foydalanishdan chiqarilgan deb belgilangan, va 2026-yil 29-oktabrdagi yakuniy checkpoint — faol reliz. Hugging Face’dagi ochiq vaznlar 29-oktabrdagi versiyaga mos keladi; u qo‘shimcha RL treningi bilan yaxshilangan. Preview davrida keltirilgan raqamlar, jumladan dastlabki API narxlari, amaldagi emas, foydalanishdan chiqarilgan checkpoint’ga tegishli. Hatto rasmiy hujjatlar sahifasida ham hanuz 6-oktabr sanasi va Public Preview belgisi ko‘rsatilgan.

Avvalgi flagman Mistral Large 3 Mistral 3 oilasining bir qismi sifatida 2025-yil dekabrida chiqqan. Bunday o‘lchamdagi flagmanlar orasida o‘n oylik oraliq juda tez sur’at hisoblanadi.

Arxitektura: 675B dan bir trilliongacha

	Mistral Large 3	Mistral Large 4
Jami parametrlar	675B	1.05T
Har bir token uchun faollashadigan parametrlar	41B	~49B (embedding va chiqish qatlamlari bilan 52B)
Arxitektura	Granular MoE	Granular MoE
Vision encoder	2.5B	1.6B Pixtral-uslubidagi
Kontekst oynasi	256k	1M token
Mulohaza yuritish	yo‘q	low / medium / high, odatiy holatda high
Trening klasteri	3,000 NVIDIA H200	3,800 NVIDIA Grace Blackwell
Litsenziya	Apache 2.0	Mistral Ecosystem Open-Weight License

vLLM jamoasining reliz kuni e’lon qilgan tavsifiga ko‘ra, asosiy qism 128 ta yo‘naltiriladigan ekspertli (top-4), bitta umumiy ekspertli va yashirin o‘lchami 6,144 bo‘lgan 72 ta MoE qatlamidan iborat. Attention qismi MLA bo‘lib, undagi siyrak DSA indeksatori har bir so‘rov uchun eng yuqori ko‘rsatkichli 2,048 ta kalitni tanlaydi. Bu million tokenli kontekstni boshqarish mumkin bo‘lib qolishining sabablaridan biridir. Pixtral-uslubidagi encoder turli o‘lcham va tomonlar nisbatidagi bir nechta tasvirni bitta so‘rovda qabul qiladi. Rasmiy checkpoint’lar FP8 va NVFP4 formatlarida taqdim etiladi; ikkalasi ham FP8 latent KV cache’dan foydalanadi. O‘rnatilgan DSpark drafter uchta sirpanuvchi oyna MLA qatlamida spekulyativ dekodlashni bajaradi, har bir qadamda o‘rtacha 2.9 tokenni qabul qiladi va TP8’da unumdorlikni qariyb 2 baravar oshiradi.

Siyrak faollashuv modelni kichikdek ko‘rsatmaydi. Har bir token uchun atigi ~49B parametr ishlasa-da, 1.05T vazn va KV cache’ni saqlash uchun bir nechta GPU’li jiddiy server kerak bo‘ladi.

Benchmarklar: kuchli da’volar, aralash natijalar

Yakuniy checkpoint uchun Mistral e’lon qilgan ko‘rsatkichlar qog‘ozda kuchli ko‘rinadi:

Benchmark	Natija	Izoh
FrontierCode 2.0	19.7%, birinchi o‘rin	Cognition’ning yopiq, boshidan oxirigacha bo‘lgan kod yozish baholashi
AA Coding Agent Index	48%	Har bir vazifada 47% kamroq token ishlatib, taxminan GLM-5.3 darajasida
Terminal-Bench 4.0	41%	Preview’dan 13 punkt yuqori, ochiq vaznli modellar orasida yetakchi
Cyber Index	51%	Zaifliklarni topadi, qayta yaratadi va tuzatadi
Zararli kiber so‘rovlarga rad javobi	96.6%	Mistral ma’lumotiga ko‘ra, ochiq modellar orasida eng yuqori
B3 Agent Security	97.1%	Preview’dagi 93.3% dan yuqori
Finch (moliya, jadvallar)	73.3%	Ochiq vaznli modellar orasida Kimi K3’dan keyingi ikkinchi o‘rin
BrowseComp	84.5%	GLM-5.3 va DeepSeek Flash 4.1’dan yuqori
Surge Code (odamlarning ko‘r-ko‘rona tanlovi)	GLM-5.3, Kimi K3 va DeepSeek V4.1 Flash’dan yuqori	Faqat Claude Opus 5.5’dan ortda

Mustaqil Vals AI laboratoriyasi ayni ochiq checkpoint’ni o‘lchab, boshqa natijalarni oldi: Terminal-Bench 4.0’da 26.26% — Mistral e’lon qilgan 41% ga qarshi; Vibe Code Bench’da 81.56%; moliyaviy agent baholashida 61.72%; Vals Index’da esa 56.42%, bu modelni 30 ta model ichida 17-o‘ringa qo‘yadi. Bir xil benchmark nomida 15 punktlik tafovut odatda sinov muhiti, vositalar, token budjeti va to‘xtash mezonlari sinovlar orasida farq qilganini anglatadi. Modellarni solishtirganda, sozlamalarini ham solishtiring.

MindStudio’ning amaliy sinovi muhim bir cheklovni ko‘rsatadi. Sakkizta agentli kod yozish vazifasida model 80 balldan 42 ball oldi: mahalliy Gemma 2B fine-tune modeli 10 balldan 10, uchta lift simulyatsiyasi esa 9.5 ball oldi. Ammo model fayl yaratmasdan yoki umuman javob qaytarmasdan navbatini yakunlagani uchun ikki vazifada nol ball oldi. Zaif tomoni — ishonchlilik: bu sinovlarda model biror narsa chiqarishdan avval to‘xtadi, shuningdek, asosidagi artefakt buzilgan yoki yo‘q bo‘lsa ham, ishonchli ohangdagi xulosa berishi mumkin.

Narxlar

Yakuniy reliz API narxlari har bir million kiruvchi token uchun $0.70, chiquvchi token uchun esa $2.10; keshlangan kiruvchi tokenlar narxi $0.07. Bu Large 3’ning keshlanmagan har bir token narxidan 40% yuqori, ammo preview davridagi $1.36 kirish va $4.18 chiqish narxidan ancha past.

	Large 3	Large 4
Har 1M token uchun kirish	$0.50	$0.70
Keshlangan kirish	~90% chegirma	$0.07
Har 1M token uchun chiqish	$1.50	$2.10

Mistral bunga samaradorlik bilan javob beradi: agar model agentli vazifalarni raqiblarga nisbatan 30–47% kamroq token bilan bajarsa, har bir million token narxidan ko‘ra yakunlangan vazifa narxi muhimroq bo‘ladi. Har ikki xulosa chiqarishdan avval buni o‘z ish yukingizda o‘lchab ko‘rishga arziydi.

Litsenziyadagi yulduzcha

Large 4 o‘zgartirilgan MIT litsenziyasi bo‘lgan Mistral Ecosystem Open-Weight License asosida taqdim etiladi. Foydalanish, o‘zgartirish, fine-tuning, tarqatish va tijoriy maqsadda ishlatishga ruxsat berilgan. Bitta shart bor: uchinchi tomonlarga kirish yoki parametrlar ustidan sezilarli nazorat berilgan inference yoki post-training xizmatini ko‘rsatuvchi Model-as-a-Service biznesini yuritadigan kompaniya Mistral’dan alohida tijoriy litsenziya olishi kerak. Ichki foydalanish va Mistral’ning o‘z mahsulotlari orqali foydalanish bu talabdan mustasno. Large 3’ning Apache 2.0 litsenziyasida bunday band yo‘q, shu sababli u hosting provayderlari uchun huquqiy jihatdan soddaroq tanlov.

Joylashtirish bo‘yicha eslatmalar

vLLM reliz kuni qo‘llab-quvvatlashni muhandislik ishlari bo‘yicha batafsil ro‘yxat bilan taqdim etdi. NVFP4 to‘rtta Blackwell GPU’da (yoki sakkizта GPU’da TP8) ishlaydi. Decode context parallelism latent KV cache’ni rank’lar bo‘ylab taqsimlab, TP8’da KV sig‘imini taxminan 7.9 baravar oshiradi. HiSparse esa KV’ni host xotirasiga ko‘chirib, GB300 tugunining KV sig‘imini 1.97M dan 8.77M–11.25M token oralig‘igacha oshiradi. SGLang, Transformers va Docker Model Runner ham qo‘llab-quvvatlanadi; Microsoft Foundry esa modelni o‘z infratuzilmasida ishlatmoqchi bo‘lgan tashkilotlarga Azure’da xususiy joylashtirish imkonini beradi.

Ekotizimdagi integratsiya bilan bog‘liq bir tuzoq: Vercel AI SDK’ning Mistral provayderi model identifikatori qat’iy kodlangan ruxsat etilgan ro‘yxatda yo‘qligi sababli Large 4 uchun reasoning_effort parametrini jimgina tashlab yuborgan. Natijada so‘rovlar mulohaza yuritishsiz yuborilgan. Xato tuzatildi va regressiya testlari qo‘shildi. Bundan umumiy saboq shuki, mulohaza yuritish va vosita parametrlari modelga haqiqatan yetib borayotganini tekshiring: “SDK Mistral’ni qo‘llab-quvvatlaydi” degani buning o‘zi haqida hech narsa demaydi.

Xavfsizlik va ochiq qolayotgan savollar

Mistral bu relizda xavfsizlikka odatdagidan ko‘proq e’tibor qaratdi: zararli kiber so‘rovlarga 96.6% rad javobi, B3 Agent Security Benchmark’da hujumlarga 97.1% qarshilik va pentest hamda red-teaming uchun mo‘ljallangan maxsus kiber varianti — u Orange Cyberdefense kabi hamkorlarga qat’iy shartnomalar asosida berilgan. Kompaniya jonli trafikni kuzatish real hujumlarda imkoniyatlarni kuchaytirish ehtimolini ko‘rsatganini ham ochiq aytadi, shu sababli himoya choralari takomillashtirib borilmoqda. Texnik hujjatlarda model xatosiz bo‘lishi uchun yaratilmagani, muhim qarorlarda esa tekshiruv va inson nazoratisiz foydalanish uchun mo‘ljallanmagani haqida ogohlantiriladi. MindStudio natijalari ko‘rsatganidek, kuchli xavfsizlik ko‘rsatkichlari va oxirigacha bajarilmagan agent vazifalari bitta modelda yonma-yon mavjud.

Large 3 yoki Large 4

Agar sizga 1M kontekst, mulohaza yuritish rejimlari yoki agentli kod yozish va kiber vazifalarida eng kuchli ochiq vaznli natijalar kerak bo‘lsa, shuningdek, joylashtirish muhitingiz trillion parametrli checkpoint’ni ko‘tara olsa, Large 4’ni tanlang. Token narxi yoki litsenziya soddaligi muhimroq bo‘lsa, Large 3’da qoling: Apache 2.0’da MaaS bandi yo‘q, keshlanmagan token narxi 40% arzonroq, model kartasida esa NVFP4 formatida A100 yoki H100’da bitta tugunga joylashtirish hujjatlashtirilgan. Large 3’ning ham ma’lum zaif tomonlari bor: 64k kontekstdan keyin NVFP4 sifati pasayadi va mustaqil sinovlarda vositalardan foydalanish chaqiruvlari barqarorligi sustroq.

Qaysi birini tanlamang, 29-oktabrdagi checkpoint’ni haqiqiy vazifalaringizda sinab ko‘ring, vosita chaqiruvlari ishga tushishi va artefaktlar rostdan ham yozilishini tekshiring, hamda qayd etgan har bir raqamingiz yonida versiya va sampling sozlamalarini ko‘rsating. Mistral tavsiya qilgan sozlamalar: temperature 1.0 va top_p 0.95.

Mistral Large 4 vega.chat model ro‘yxatida mavjud, dasturchilar esa unga api.vega.chat mos API orqali murojaat qilishlari mumkin.