Mistral Large 4 “Le Chonk”: Trilyon parametr, açıq çəkilər

Mistral AI ilk trilyon parametrli modeli Mistral Large 4-ün çəkilərini yayımlayıb. Daxildə “Le Chonk” ləqəbi ilə tanınan model 1,05 trilyon ümumi parametrə, hər token üçün təxminən 49–52 milyard aktiv parametrə, 1 milyon tokenlik kontekst pəncərəsinə və təsvir girişlərinə malik qranulyar ekspertlər qarışığı sistemidir. Bir model həm qısa söhbət suallarını, həm də uzun agent tapşırıqlarını yerinə yetirir; bunlar aşağı, orta və yüksək səviyyələri olan düşünmə səyi parametri ilə seçilir. Model Mistral-ın Avropadakı öz məlumat mərkəzlərindəki 3,800 NVIDIA Grace Blackwell GPU-da sıfırdan öyrədilib və artıq vega.chat model seçicisində, eləcə də api.vega.chat vasitəsilə əlçatandır.
Bir ay fərqlə yayımlanan iki versiya
Mistral-ın model reyestrində Large 4-ün iki versiyası göstərilir: 6 oktyabr 2026-cı ildə yayımlanmış, indi istifadədən çıxarılmış kimi qeyd olunan ictimai önizləmə və aktiv buraxılış olan, 29 oktyabr 2026-cı il tarixli yekun checkpoint. Hugging Face-dəki açıq çəkilər əlavə RL təlimi ilə təkmilləşdirilmiş 29 oktyabr versiyasına uyğundur. İlkin API qiymətləri də daxil olmaqla, önizləmə dövründə açıqlanan rəqəmlər istifadədən çıxarılmış checkpoint-i təsvir edir, hazırda yayımlanmış versiyanı yox. Hətta rəsmi sənədlər səhifəsində də 6 oktyabr tarixi və “Public Preview” etiketi qalır.
Əvvəlki flaqman model Mistral Large 3, Mistral 3 ailəsinin tərkibində 2025-ci ilin dekabrında təqdim edilmişdi. Bu ölçüdə flaqman modellər arasında on aylıq fasilə sürətli buraxılış tempidir.
Arxitektura: 675B-dən bir trilyona
| Mistral Large 3 | Mistral Large 4 | |
|---|---|---|
| Ümumi parametrlər | 675B | 1.05T |
| Hər token üçün aktiv | 41B | ~49B (embedding və çıxış layları ilə 52B) |
| Arxitektura | Qranulyar MoE | Qranulyar MoE |
| Görüntü enkoderi | 2.5B | 1.6B Pixtral tipli |
| Kontekst pəncərəsi | 256k | 1M token |
| Düşünmə | yoxdur | aşağı / orta / yüksək, standart olaraq yüksək |
| Təlim klasteri | 3,000 NVIDIA H200 | 3,800 NVIDIA Grace Blackwell |
| Lisenziya | Apache 2.0 | Mistral Ecosystem Open-Weight License |
vLLM komandasının ilk gün yayımladığı icmala görə, modelin əsas hissəsində 128 marşrutlaşdırılan ekspertli (top-4) və bir ümumi ekspertli 72 MoE layı, həmçinin 6,144 gizli ölçü var. Diqqət mexanizmi MLA-dır və burada hər sorğu üçün ən uyğun 2,048 açarı seçən seyrək DSA indeksləyicisi işləyir; bu, milyon tokenlik konteksti idarəolunan saxlamağın yollarından biridir. Pixtral tipli enkoder müxtəlif ölçülü və aspekt nisbətli, bir sorğuda bir neçə təsviri qəbul edir. Rəsmi checkpoint-lər FP8 və NVFP4 formatlarında yayımlanır və hər ikisi FP8 latent KV keşindən istifadə edir. Daxili DSpark draft modeli üç sürüşən pəncərəli MLA layında spekulyativ dekodlaşdırma aparır, hər addımda təxminən 2.9 token qəbul edir və TP8-də məhsuldarlığı təxminən 2 dəfə artırır.
Seyrək aktivləşmə bu modeli kiçik model kimi göstərmir. Hər token üçün yalnız ~49B parametr aktivləşsə də, 1.05T çəkinin və KV keşinin saxlanması güclü, çox-GPU-lu qovşaq tələb edir.
Bençmarklar: iddialar güclü, nəticələr isə qarışıqdır
Mistral-ın yekun checkpoint üçün açıqladığı nəticələr kağız üzərində güclü görünür:
| Bençmark | Nəticə | Qeyd |
|---|---|---|
| FrontierCode 2.0 | 19.7%, birinci yer | Cognition-ın qapalı, başdan-sona kodlaşdırma qiymətləndirməsi |
| AA Coding Agent Index | 48% | Hər tapşırıq üçün 47% az tokenlə təxminən GLM-5.3 səviyyəsi |
| Terminal-Bench 4.0 | 41% | Önizləmədən +13 bənd, açıq çəkili modellər arasında lider |
| Cyber Index | 51% | Zəiflikləri aşkarlayır, təkrar yaradır və yamaqlayır |
| Zərərli kiber sorğuların rədd edilməsi | 96.6% | Mistral-a görə, açıq modellər arasında ən yüksək nəticə |
| B3 Agent Security | 97.1% | Önizləmədəki 93.3%-dən yüksək |
| Finch (maliyyə, cədvəllər) | 73.3% | Kimi K3-dən sonra açıq çəkilər arasında ikinci |
| BrowseComp | 84.5% | GLM-5.3 və DeepSeek Flash 4.1-dən yüksək |
| Surge Code (kor, insan seçimləri) | GLM-5.3, Kimi K3 və DeepSeek V4.1 Flash-dan üstündür | Yalnız Claude Opus 5.5-dən geri qalır |
Müstəqil Vals AI laboratoriyası eyni açıq checkpoint-i ölçüb fərqli nəticələr əldə edib: Terminal-Bench 4.0-da Mistral-ın 41%-i ilə müqayisədə 26.26%, Vibe Code Bench-də 81.56%, maliyyə agenti qiymətləndirməsində 61.72% və modeli 30 model arasında 17-ci yerə qoyan 56.42% Vals Index. Eyni adlı bençmarkda 15 bəndlik fərq adətən sınaqlar arasında qiymətləndirmə çərçivəsinin, alətlərin, token büdcəsinin və dayandırma meyarlarının fərqli olduğunu göstərir. Modelləri müqayisə edərkən konfiqurasiyaları müqayisə edin.
MindStudio-nun praktiki sınağı əlavə bir qeydi ortaya qoyur. Səkkiz agent kodlaşdırma tapşırığı üzrə model 80 baldan 42 bal toplayıb: yerli Gemma 2B fine-tune-u 10 baldan 10, üç liftli simulyasiya isə 9.5 bal alıb, amma model iki tapşırıqda sıfır bal toplayıb, çünki fayl yaratmadan və ya ümumiyyətlə cavab qaytarmadan növbəsini bitirib. Zəif tərəfi etibarlılıqdır: bu sınaqlarda model heç nə təqdim etmədən dayanıb və əsas artefakt xarab və ya çatışmayan halda belə inamlı xülasə qaytara bilər.
Qiymətlər
Yekun buraxılış üçün API qiyməti hər milyon giriş tokeninə $0.70, hər milyon çıxış tokeninə $2.10, keşlənmiş giriş tokenlərinə isə $0.07-dir. Bu, keşi olmayan hər token üzrə Large 3-dən 40% bahadır, amma önizləmə dövründəki $1.36 giriş və $4.18 çıxış qiymətlərindən xeyli aşağıdır.
| Large 3 | Large 4 | |
|---|---|---|
| 1M token üçün giriş | $0.50 | $0.70 |
| Keşlənmiş giriş | ~90% endirim | $0.07 |
| 1M token üçün çıxış | $1.50 | $2.10 |
Mistral buna qarşı səmərəliliyi göstərir: model rəqiblərdən 30–47% az token sərf edərək agent tapşırıqlarını tamamlayırsa, tamamlanmış tapşırığın dəyəri hər milyon tokenin qiymətindən daha vacibdir. Hər iki halda nəticə çıxarmamışdan əvvəl bunu öz iş yükünüzdə ölçməyə dəyər.
Lisenziya ilə bağlı istisna
Large 4 dəyişdirilmiş MIT lisenziyası olan Mistral Ecosystem Open-Weight License ilə yayımlanır. İstifadə, dəyişiklik, fine-tuning, yayım və kommersiyalaşdırmaya icazə verilir, bir şərtlə: üçüncü tərəflərə giriş və parametrlər üzərində əhəmiyyətli nəzarətlə inferensiya və ya sonrakı təlim imkanı verən Model-as-a-Service biznesi ilə məşğul olan şirkət Mistral-dan ayrıca kommersiya lisenziyası almalıdır. Daxili istifadə və Mistral-ın öz məhsulları vasitəsilə istifadə bu şərtdən istisnadır. Large 3-ün Apache 2.0 lisenziyasında belə bənd yoxdur; bu da onu hostinq provayderləri üçün hüquqi baxımdan daha sadə seçim edir.
Yerləşdirmə qeydləri
vLLM ilk gündən geniş mühəndislik yenilikləri ilə dəstək təqdim edib. NVFP4 dörd Blackwell GPU-da (və ya səkkiz GPU-da TP8 ilə) işləyir. Decode context parallelism latent KV keşini rank-lar arasında bölərək TP8-də KV tutumunu təxminən 7.9 dəfə artırır; HiSparse isə KV-ni host yaddaşına köçürür və GB300 qovşağının KV tutumunu 1.97M-dən 8.77M–11.25M tokenə qədər yüksəldir. SGLang, Transformers və Docker Model Runner da dəstəklənir; modeli öz infrastrukturlarında işlətmək istəyən təşkilatlar üçün Microsoft Foundry şəxsi Azure yerləşdirmələri təklif edir.
Ekosistemdə rast gəlinən inteqrasiya tələlərindən biri: Vercel AI SDK-nın Mistral provayderi model identifikatoru sərt kodlaşdırılmış icazə siyahısında olmadığından Large 4 üçün reasoning_effort parametrini səssizcə ötürməyib; nəticədə sorğular heç bir düşünmə rejimi olmadan göndərilib. Xəta düzəldilib və reqressiya testləri əlavə olunub. Buradan ümumi bir nəticə çıxır: düşünmə və alət parametrlərinin həqiqətən modelə çatdığını yoxlayın, çünki “SDK Mistral-ı dəstəkləyir” ifadəsi bunun təmin edildiyini göstərmir.
Təhlükəsizlik və açıq qalan məsələlər
Mistral bu buraxılışda təhlükəsizliyə xüsusi diqqət ayırıb: zərərli kiber sorğuların 96.6% rədd edilməsi, B3 Agent Security Benchmark-da hücumlara 97.1% müqavimət və Orange Cyberdefense kimi tərəfdaşlara ciddi müqavilələr əsasında təqdim olunan, pentest və red-team işi üçün ixtisaslaşmış kiber variant. Şirkət həmçinin canlı trafikə nəzarətin real hücumlarda imkanların arta biləcəyini göstərdiyini açıq şəkildə bildirir və buna görə təhlükəsizlik tədbirləri təkmilləşdirilməyə davam edir. Texniki sənədlərdə modelin yanılmaz olmadığı, yoxlama və insan nəzarəti olmadan kritik qərarlar üçün nəzərdə tutulmadığı xəbərdarlığı verilir. MindStudio nəticələrinin göstərdiyi kimi, güclü təhlükəsizlik göstəriciləri və tamamlanmamış agent tapşırıqları eyni modeldə yanaşı mövcuddur.
Large 3, yoxsa Large 4?
1M kontekst, düşünmə rejimləri və ya agent kodlaşdırma və kiber tapşırıqlarda ən güclü açıq çəkili nəticələr lazımdırsa, eləcə də yerləşdirmə infrastrukturunuz trilyon parametrli checkpoint-i idarə edə bilirsə, Large 4-ü seçin. Token qiyməti və ya lisenziya sadəliyi daha vacibdirsə, Large 3-dən istifadə edin: Apache 2.0-da MaaS bəndi yoxdur, keşi olmayan tokenin qiyməti 40% aşağıdır və model kartında NVFP4 formatında A100 və ya H100 üzərində bir qovşaqlı yerləşdirmə sənədləşdirilib. Large 3-ün də məlum zəiflikləri var: 64k kontekstdən sonra NVFP4 keyfiyyəti azalır, müstəqil sınaqlarda isə alətlərlə işləməsi daha qeyri-sabitdir.
Hansını seçməyinizdən asılı olmayaraq, real tapşırıqlarınızla 29 oktyabr checkpoint-i üzərində pilot sınaq keçirin, alət çağırışlarının işlədiyini və artefaktların həqiqətən yaradıldığını yoxlayın, qeyd etdiyiniz hər rəqəmin yanında versiyanı və nümunələmə konfiqurasiyasını göstərin. Mistral-ın tövsiyə etdiyi parametrlər temperature 1.0 və top_p 0.95-dir.
Mistral Large 4 vega.chat model siyahısında əlçatandır; tərtibatçılar isə onu api.vega.chat uyğun API-si vasitəsilə çağıra bilərlər.