Mistral Large 4 «Le Chonk». Տրիլիոն պարամետր

Mistral AI-ն հրապարակել է Mistral Large 4-ի կշիռները՝ իր առաջին տրիլիոն պարամետրով մոդելի։ Ներքին գործածության մեջ այն ստացել է Le Chonk մականունը։ Սա մանրահատիկ փորձագետների խառնուրդի համակարգ է՝ ընդհանուր 1.05 տրիլիոն պարամետրով, որոնցից յուրաքանչյուր տոկենի համար ակտիվանում է մոտ 49–52 միլիարդը։ Մոդելն ունի 1 միլիոն տոկենի համատեքստի պատուհան և ընդունում է պատկերներ։ Նույն checkpoint-ը կարող է սպասարկել և՛ արագ զրույցային հարցերը, և՛ երկարատև agentic առաջադրանքները․ ռեժիմը փոխվում է reasoning effort կարգավորմամբ՝ ցածր, միջին և բարձր մակարդակներով։ Մոդելը զրոյից վարժեցվել է Mistral-ի՝ Եվրոպայում գտնվող սեփական տվյալների կենտրոններում տեղակայված 3,800 NVIDIA Grace Blackwell GPU-ներով։ Այն արդեն հասանելի է vega.chat-ի մոդելների ցանկում և api.vega.chat-ի միջոցով։

Երկու թողարկում՝ մեկ ամսվա տարբերությամբ

Mistral-ի մոդելների գրանցամատյանում նշված է Large 4-ի երկու տարբերակ․ 2026 թվականի հոկտեմբերի 6-ի հանրային նախադիտումը, որն այժմ նշված է որպես հնացած, և 2026 թվականի հոկտեմբերի 29-ի վերջնական checkpoint-ը, որը գործող թողարկումն է։ Hugging Face-ում տեղադրված բաց կշիռները համապատասխանում են հոկտեմբերի 29-ի տարբերակին, որը բարելավվել է լրացուցիչ RL վարժեցմամբ։ Նախադիտման շրջանում հրապարակված թվերը, ներառյալ API-ի սկզբնական գները, վերաբերում են հնացած checkpoint-ին, ոչ թե թողարկված տարբերակին։ Նույնիսկ պաշտոնական փաստաթղթերի էջում դեռ նշված է հոկտեմբերի 6-ի ամսաթիվը և Public Preview պիտակը։

Նախորդ առաջատար մոդելը՝ Mistral Large 3-ը, թողարկվել էր 2025 թվականի դեկտեմբերին՝ Mistral 3 ընտանիքի կազմում։ Այս չափի առաջատար մոդելների միջև տասը ամիսը կարճ ժամանակահատված է։

Ճարտարապետություն․ 675B-ից մինչև մեկ տրիլիոն

	Mistral Large 3	Mistral Large 4
Ընդհանուր պարամետրեր	675B	1.05T
Ակտիվ պարամետրեր մեկ տոկենի համար	41B	~49B (52B՝ ներդրումային և ելքային շերտերով)
Ճարտարապետություն	Մանրահատիկ MoE	Մանրահատիկ MoE
Տեսողության կոդավորիչ	2.5B	1.6B՝ Pixtral-ի ոճով
Համատեքստի պատուհան	256k	1M տոկեն
Reasoning	չկա	ցածր / միջին / բարձր, լռելյայն՝ բարձր
Վարժեցման կլաստեր	3,000 NVIDIA H200	3,800 NVIDIA Grace Blackwell
Լիցենզիա	Apache 2.0	Mistral Ecosystem Open-Weight License

Ըստ vLLM թիմի՝ թողարկման օրը հրապարակված գրառման, հիմնական ցանցն ունի 72 MoE շերտ՝ 128 ուղղորդվող փորձագետով (top-4), մեկ ընդհանուր փորձագետով և 6,144 թաքնված չափով։ Ուշադրության մեխանիզմը MLA է՝ նոսր DSA ինդեքսավորիչով, որն ընտրում է յուրաքանչյուր հարցման համար լավագույն 2,048 բանալին․ սա այն գործոններից մեկն է, որի շնորհիվ միլիոն տոկենի համատեքստը մնում է կառավարելի։ Pixtral-ի ոճով կոդավորիչն ընդունում է տարբեր չափերի և կողմերի հարաբերակցության պատկերներ, մի քանիսը՝ մեկ հարցման մեջ։ Պաշտոնական checkpoint-ները հասանելի են FP8 և NVFP4 ձևաչափերով, երկուսն էլ՝ FP8 թաքնված KV քեշով։ Ներկառուցված DSpark գուշակող մոդուլն իրականացնում է սպեկուլյատիվ դեկոդավորում երեք սահող պատուհանով MLA շերտերի վրա, յուրաքանչյուր քայլում ընդունում է մոտ 2.9 տոկեն և TP8-ի դեպքում ապահովում է գրեթե 2x թողունակություն։

Նոսր ակտիվացումը չի նշանակում, թե սա քողարկված փոքր մոդել է։ Յուրաքանչյուր տոկենի համար ակտիվանում է միայն ~49B պարամետր, սակայն 1.05T կշիռները և KV քեշը պահելու համար դեռևս անհրաժեշտ է հզոր բազմաGPU հանգույց։

Հենանիշեր․ տպավորիչ պնդումներ, խառը արդյունքներ

Mistral-ի հրապարակած՝ վերջնական checkpoint-ի ցուցանիշները թղթի վրա տպավորիչ են․

Հենանիշ	Արդյունք	Նշում
FrontierCode 2.0	19.7%, առաջին տեղ	Cognition-ի փակ կոդավորման ամբողջական գնահատում
AA Coding Agent Index	48%	Մոտավորապես GLM-5.3-ի մակարդակին՝ յուրաքանչյուր առաջադրանքի համար 47% պակաս տոկեններով
Terminal-Bench 4.0	41%	Նախադիտման տարբերակից +13 միավոր, բաց կշիռներով մոդելների առաջատար
Cyber Index	51%	Հայտնաբերում, վերարտադրում և ուղղում է խոցելիությունները
Վնասակար կիբերհարցումների մերժումներ	96.6%	Mistral-ի համաձայն՝ բաց մոդելների մեջ ամենաբարձրը
B3 Agent Security	97.1%	Նախադիտման 93.3%-ի համեմատ աճ
Finch (ֆինանսներ, աղյուսակներ)	73.3%	Բաց կշիռներով մոդելների մեջ երկրորդը՝ Kimi K3-ից հետո
BrowseComp	84.5%	Ավելի բարձր, քան GLM-5.3-ի և DeepSeek Flash 4.1-ի արդյունքները
Surge Code (մարդկանց կույր նախընտրություններ)	Գերազանցում է GLM-5.3-ին, Kimi K3-ին և DeepSeek V4.1 Flash-ին	Զիջում է միայն Claude Opus 5.5-ին

Անկախ Vals AI լաբորատորիան նույն բաց checkpoint-ը գնահատել է այլ արդյունքներով․ Terminal-Bench 4.0-ում՝ 26.26%՝ Mistral-ի 41%-ի դիմաց, Vibe Code Bench-ում՝ 81.56%, ֆինանսական agent-ի գնահատման մեջ՝ 61.72%, իսկ Vals Index-ում՝ 56.42%, որը մոդելին դասում է 30-ից 17-րդ տեղում։ Նույնանուն հենանիշի 15 միավորի տարբերությունը սովորաբար նշանակում է, որ փորձարկումների գործիքակազմերը, գործիքները, տոկենների բյուջեն և կանգառի չափանիշները տարբեր են եղել։ Մոդելները համեմատելիս համեմատեք դրանց կազմաձևերը։

MindStudio-ի գործնական փորձարկումը ևս մեկ կարևոր վերապահում է ներկայացնում։ Agentic կոդավորման ութ առաջադրանքում մոդելը հավաքել է 80-ից 42 միավոր․ տեղային Gemma 2B fine-tune-ը ստացել է 10-ից 10, իսկ երեք վերելակների սիմուլյացիան՝ 9.5։ Սակայն երկու առաջադրանքում մոդելը զրո է ստացել, քանի որ ավարտել է հերթը՝ առանց ֆայլ ստեղծելու կամ ընդհանրապես պատասխան վերադարձնելու։ Թույլ կողմը հուսալիությունն է․ այդ փորձարկումներում մոդելը կանգ է առել՝ որևէ արդյունք չտալով, և դեռ կարող է վստահ հնչող ամփոփում ներկայացնել, մինչդեռ դրա հիմքում ընկած արտեֆակտը սխալ է կամ բացակայում է։

Գներ

Վերջնական թողարկման API-ի գինը մեկ միլիոն մուտքային տոկենի համար $0.70 է, իսկ մեկ միլիոն ելքայինի համար՝ $2.10․ քեշավորված մուտքային տոկենների գինը $0.07 է։ Սա Large 3-ի համեմատ 40% թանկ է չքեշավորված տոկենի համար, սակայն զգալիորեն ցածր է նախադիտման տարբերակի $1.36 մուտքային և $4.18 ելքային գներից։

	Large 3	Large 4
Մուտքային՝ 1M տոկենի համար	$0.50	$0.70
Քեշավորված մուտք	~90% զեղչ	$0.07
Ելքային՝ 1M տոկենի համար	$1.50	$2.10

Mistral-ի հակափաստարկը արդյունավետությունն է․ եթե մոդելն agentic առաջադրանքներն ավարտում է մրցակիցներից 30–47% պակաս տոկեններով, ապա ավարտված առաջադրանքի արժեքն ավելի կարևոր է, քան մեկ միլիոն տոկենի գինը։ Երկու կողմից էլ եզրակացություն անելուց առաջ արժե դա չափել ձեր սեփական աշխատանքային բեռի վրա։

Լիցենզիայի աստղանիշը

Large 4-ը թողարկվում է Mistral Ecosystem Open-Weight License-ի պայմաններով, որը MIT լիցենզիայի փոփոխված տարբերակն է։ Օգտագործումը, փոփոխումը, fine-tuning-ը, տարածումն ու առևտրային կիրառումը թույլատրված են՝ մեկ պայմանով․ Model-as-a-Service բիզնես վարող ընկերությունը, որտեղ երրորդ կողմերը ստանում են inference-ի կամ հետվարժեցման հասանելիություն՝ մուտքերի և պարամետրերի նկատմամբ նշանակալի վերահսկողությամբ, Mistral-ից առանձին առևտրային լիցենզիա պետք է ստանա։ Ներքին օգտագործումը և Mistral-ի սեփական արտադրանքների միջոցով օգտագործումը բացառություն են։ Large 3-ի Apache 2.0 լիցենզիան նման դրույթ չունի, ուստի այն հոսթինգ մատակարարների համար իրավական առումով ավելի պարզ տարբերակ է։

Տեղակայման նշումներ

vLLM-ը թողարկման օրը ներկայացրել է աջակցություն՝ ինժեներական զգալի հնարավորություններով։ NVFP4-ն աշխատում է չորս Blackwell GPU-ով (կամ TP8 ռեժիմով՝ ութ GPU-ի վրա)։ Դեկոդավորման համատեքստի զուգահեռացումը թաքնված KV քեշը բաշխում է ռենքերի միջև՝ TP8-ում մոտ 7.9x մեծացնելով KV-ի տարողությունը։ HiSparse-ը KV-ն տեղափոխում է հոսթի հիշողություն՝ GB300 հանգույցի KV տարողությունը 1.97M-ից հասցնելով 8.77M–11.25M տոկենի։ Աջակցվում են նաև SGLang-ը, Transformers-ը և Docker Model Runner-ը, իսկ Microsoft Foundry-ն կազմակերպություններին առաջարկում է Azure-ի մասնավոր տեղակայումներ՝ մոդելն իրենց ենթակառուցվածքում գործարկելու համար։

Էկոհամակարգում ինտեգրման մի ծուղակ․ Vercel AI SDK-ի Mistral մատակարարը լուռ անտեսում էր reasoning_effort պարամետրը Large 4-ի համար, քանի որ մոդելի ID-ն բացակայում էր կոշտ կոդավորված թույլատրելի ցանկում։ Արդյունքում հարցումները ուղարկվում էին առանց reasoning-ի։ Սխալն ուղղվել է, և ավելացվել են ռեգրեսիոն թեստեր։ Ընդհանուր դասը հետևյալն է․ ստուգեք, որ reasoning-ի և գործիքների պարամետրերն իսկապես հասնում են մոդելին, քանի որ «SDK-ն աջակցում է Mistral-ին» արտահայտությունն այդ մասին ոչինչ չի ասում։

Անվտանգություն՝ բաց հարցերով

Mistral-ն այս թողարկման մեջ անվտանգությանը սովորականից մեծ ուշադրություն է հատկացրել․ վնասակար կիբերհարցումների 96.6% մերժման ցուցանիշ, B3 Agent Security Benchmark-ում հարձակումներին դիմակայելու 97.1% արդյունք և մասնագիտացված կիբերտարբերակ՝ ներթափանցման թեստավորման ու red-teaming-ի համար, որը խիստ պայմանագրերով տրամադրվել է Orange Cyberdefense-ի նման գործընկերներին։ Ընկերությունը նաև բացահայտ նշում է, որ իրական տրաֆիկի մշտադիտարկումը ցույց է տվել իրական հարձակումներում մոդելի հնարավորություններն ընդլայնելու ներուժ, ուստի անվտանգության սահմանափակումները շարունակաբար կատարելագործվում են։ Տեխնիկական փաստաթղթերում զգուշացվում է, որ մոդելը կատարյալ չէ և նախատեսված չէ առանց վավերացման ու մարդկային վերահսկողության կարևոր որոշումներ կայացնելու համար։ Անվտանգության բարձր ցուցանիշներն ու չավարտված agentic առաջադրանքները համատեղ առկա են նույն մոդելում, ինչպես ցույց են տալիս MindStudio-ի արդյունքները։

Large 3, թե՞ Large 4

Ընտրեք Large 4-ը, եթե ձեզ անհրաժեշտ է 1M համատեքստը, reasoning ռեժիմները կամ agentic կոդավորման ու կիբերառաջադրանքներում բաց կշիռներով լավագույն ցուցանիշները, և եթե ձեր տեղակայումը կարող է սպասարկել տրիլիոն պարամետրով checkpoint-ը։ Մնացեք Large 3-ի վրա, եթե ավելի կարևոր են տոկենի գինը կամ լիցենզիայի պարզությունը․ Apache 2.0-ը MaaS դրույթ չունի, չքեշավորված տոկենն արժե 40% պակաս, իսկ մոդելի քարտում փաստագրված է մեկ հանգույցում A100 կամ H100-ի վրա NVFP4-ով տեղակայումը։ Large 3-ն էլ ունի հայտնի թույլ կողմեր, այդ թվում՝ NVFP4-ի որակի անկումը 64k համատեքստից հետո և անկախ թեստերում գործիքների ավելի անվստահելի գործարկումը։

Ինչն էլ ընտրեք, փորձնական գործարկում արեք հոկտեմբերի 29-ի checkpoint-ով՝ ձեր իրական առաջադրանքների վրա։ Ստուգեք, որ գործիքների կանչերն աշխատում են, և արտեֆակտներն իսկապես գրվում են։ Յուրաքանչյուր գրանցված ցուցանիշի կողքին նշեք տարբերակն ու նմուշառման կազմաձևը։ Mistral-ի առաջարկած կարգավորումներն են՝ temperature 1.0 և top_p 0.95։

Mistral Large 4-ն արդեն հասանելի է vega.chat-ի մոդելների ցանկում, իսկ մշակողները կարող են այն կանչել api.vega.chat-ի հետ համատեղելի API-ի միջոցով։