Mistral Large 4 „Le Chonk“: ტრილიონი პარამეტრი

Mistral AI-მ გამოაქვეყნა Mistral Large 4-ის წონები — ეს მისი პირველი ტრილიონპარამეტრიანი მოდელია. შიდა მეტსახელად Le Chonk წოდებული მოდელი ექსპერტთა გრანულარული ნარევია: სულ 1.05 ტრილიონი პარამეტრი აქვს, თითო ტოკენზე კი დაახლოებით 49–52 მილიარდი აქტიურდება. მას აქვს 1-მილიონტოკენიანი კონტექსტური ფანჯარა და გამოსახულებების მიღების შესაძლებლობა. ერთი და იგივე ჩეკპოინტი გამოდგება როგორც სწრაფი ჩატისთვის, ისე ხანგრძლივი აგენტური გაშვებებისთვის; რეჟიმი იცვლება მსჯელობის ინტენსივობის პარამეტრით, რომელსაც დაბალი, საშუალო და მაღალი დონეები აქვს. მოდელი ნულიდან გაწვრთნეს Mistral-ის ევროპის საკუთარ მონაცემთა ცენტრებში განთავსებულ 3,800 NVIDIA Grace Blackwell GPU-ზე. ის უკვე ხელმისაწვდომია vega.chat-ის მოდელების სიაში და api.vega.chat-ის მეშვეობით.
ორი გამოშვება, ერთი თვის ინტერვალით
Mistral-ის მოდელების რეესტრში Large 4-ის ორი ვერსიაა მითითებული: 2026 წლის 6 ოქტომბრის საჯარო წინასწარი ვერსია, რომელსაც ახლა „შეწყვეტილი“ სტატუსი აქვს, და 2026 წლის 29 ოქტომბრის საბოლოო ჩეკპოინტი, რომელიც აქტიური გამოშვებაა. Hugging Face-ზე განთავსებული ღია წონები 29 ოქტომბრის ვერსიას შეესაბამება, რომელიც დამატებითი RL-გაწვრთნით გაუმჯობესდა. წინასწარი ვერსიის პერიოდში გამოქვეყნებული მაჩვენებლები, მათ შორის API-ის თავდაპირველი ფასები, უკვე შეწყვეტილ ჩეკპოინტს ეხება და არა საბოლოო გამოშვებას. ოფიციალურ დოკუმენტაციის გვერდზეც კი ჯერ კიდევ 6 ოქტომბრის თარიღი და „საჯარო წინასწარი ვერსიის“ აღნიშვნაა.
წინა ფლაგმანი, Mistral Large 3, 2025 წლის დეკემბერში გამოვიდა Mistral 3-ის ოჯახის ნაწილად. ამ ზომის ფლაგმანებს შორის ათთვიანი ინტერვალი სწრაფი ტემპია.
არქიტექტურა: 675B-დან ერთ ტრილიონამდე
| Mistral Large 3 | Mistral Large 4 | |
|---|---|---|
| პარამეტრების სრული რაოდენობა | 675B | 1.05T |
| აქტიური პარამეტრები თითო ტოკენზე | 41B | ~49B (52B ემბედინგებისა და გამოსატანი შრეების ჩათვლით) |
| არქიტექტურა | გრანულარული MoE | გრანულარული MoE |
| ხედვის ენკოდერი | 2.5B | 1.6B, Pixtral-ის სტილის |
| კონტექსტური ფანჯარა | 256k | 1M ტოკენი |
| მსჯელობა | არ აქვს | დაბალი / საშუალო / მაღალი, ნაგულისხმევად — მაღალი |
| საწვრთნელი კლასტერი | 3,000 NVIDIA H200 | 3,800 NVIDIA Grace Blackwell |
| ლიცენზია | Apache 2.0 | Mistral Ecosystem Open-Weight License |
vLLM-ის გუნდის გამოშვების დღის მიმოხილვის მიხედვით, მოდელის ძირითადი ნაწილი 72 MoE შრისგან შედგება, რომლებშიც 128 მარშრუტიზებული ექსპერტია (top-4), ამას კი ერთი გაზიარებული ექსპერტი ემატება; დამალული ზომა 6,144-ია. ყურადღების მექანიზმი MLA-ა, რომელსაც იშვიათი DSA ინდექსერი ავსებს: ის თითო მოთხოვნაზე 2,048 საუკეთესო გასაღებს არჩევს და ამ გზით მილიონტოკენიანი კონტექსტის დამუშავება მართვადი რჩება. Pixtral-ის სტილის ენკოდერი სხვადასხვა ზომისა და ასპექტის თანაფარდობის გამოსახულებებს იღებს, თითო მოთხოვნაზე კი რამდენიმე გამოსახულების მიღებაც შეუძლია. ოფიციალური ჩეკპოინტები FP8-სა და NVFP4 ფორმატებში გამოდის; ორივე FP8 latent KV cache-ს იყენებს. ჩაშენებული DSpark drafter სამ მოცურავე ფანჯრის MLA შრეზე speculative decoding-ს ასრულებს, თითო ნაბიჯზე დაახლოებით 2.9 ტოკენს იღებს და TP8-ზე გამტარუნარიანობას თითქმის ორჯერ ზრდის.
იშვიათი აქტივაცია ამ მოდელს შენიღბულ პატარა მოდელად არ აქცევს. თითო ტოკენზე მხოლოდ ~49B პარამეტრი აქტიურდება, მაგრამ 1.05T წონისა და KV cache-ის შესანახად მაინც სერიოზული, რამდენიმე GPU-იანი კვანძია საჭირო.
ბენჩმარკები: შთამბეჭდავი პრეტენზიები, არაერთგვაროვანი შედეგები
Mistral-ის მიერ საბოლოო ჩეკპოინტისთვის გამოქვეყნებული მაჩვენებლები ქაღალდზე შთამბეჭდავია:
| ბენჩმარკი | შედეგი | შენიშვნა |
|---|---|---|
| FrontierCode 2.0 | 19.7%, პირველი ადგილი | Cognition-ის დახურული, კოდირების სრულციკლიანი შეფასება |
| AA Coding Agent Index | 48% | დაახლოებით GLM-5.3-ის დონე, თითო დავალებაზე 47%-ით ნაკლები ტოკენით |
| Terminal-Bench 4.0 | 41% | წინასწარ ვერსიასთან შედარებით +13 პუნქტი, ლიდერობს ღია წონების მოდელებს შორის |
| Cyber Index | 51% | პოულობს, იმეორებს და ასწორებს მოწყვლადობებს |
| მავნე კიბერშეტევასთან დაკავშირებულ მოთხოვნებზე უარი | 96.6% | Mistral-ის მიხედვით, ღია მოდელებს შორის ყველაზე მაღალი |
| B3 Agent Security | 97.1% | წინასწარი ვერსიის 93.3%-დან გაუმჯობესება |
| Finch (ფინანსები, ცხრილები) | 73.3% | ღია წონების მოდელებს შორის მეორე, Kimi K3-ის შემდეგ |
| BrowseComp | 84.5% | GLM-5.3-სა და DeepSeek Flash 4.1-ზე მაღალი |
| Surge Code (ადამიანების ბრმა შეფასება) | სჯობნის GLM-5.3-ს, Kimi K3-სა და DeepSeek V4.1 Flash-ს | მხოლოდ Claude Opus 5.5 ჩამორჩება |
დამოუკიდებელმა ლაბორატორიამ Vals AI-მ იგივე ღია ჩეკპოინტი გაზომა და განსხვავებული შედეგები მიიღო: Terminal-Bench 4.0-ზე 26.26% — Mistral-ის 41%-თან შედარებით; Vibe Code Bench-ზე 81.56%; ფინანსური აგენტების შეფასებაში 61.72%; ხოლო Vals Index-ზე 56.42%, რაც მოდელს 30-დან მე-17 ადგილზე აყენებს. იდენტურად დასახელებულ ბენჩმარკზე 15-პუნქტიანი სხვაობა, როგორც წესი, ნიშნავს, რომ გაშვებებში განსხვავდებოდა ტესტირების გარემო, ხელსაწყოები, ტოკენების ბიუჯეტი და შეჩერების კრიტერიუმები. მოდელების შედარებისას კონფიგურაციებიც შეადარეთ.
MindStudio-ს პრაქტიკული ტესტი დამატებით შენიშვნას გვთავაზობს. აგენტური კოდირების რვა დავალებაში მოდელმა 80-დან 42 ქულა მიიღო: ლოკალურმა Gemma 2B fine-tune-მა 10-დან 10 ქულა აიღო, სამლიფტიანი სიმულაციამ კი — 9.5, თუმცა ორ დავალებაში ნული მიიღო, რადგან მოდელმა სვლა დაასრულა ისე, რომ ფაილი არც შეუქმნია და პასუხიც არ დაუბრუნებია. სუსტი წერტილი საიმედოობაა: ამ გაშვებებში მოდელი რაიმეს შექმნამდე ჩერდებოდა; მას ჯერ კიდევ შეუძლია თავდაჯერებული შეჯამება დააბრუნოს მაშინაც კი, როცა მის უკან არსებული არტეფაქტი დაზიანებულია ან საერთოდ არ არსებობს.
ფასი
საბოლოო გამოშვების API-ის ფასი მილიონ შეყვანილ ტოკენზე $0.70-ია, მილიონ გამოტანილ ტოკენზე კი — $2.10; ქეშირებული შეყვანის ფასი $0.07-ია. Large 3-თან შედარებით, ქეშის გარეშე თითო ტოკენი 40%-ით ძვირია, თუმცა წინასწარი ვერსიის $1.36-იან შეყვანისა და $4.18-იან გამოტანის ფასებზე ბევრად იაფია.
| Large 3 | Large 4 | |
|---|---|---|
| შეყვანა 1M ტოკენზე | $0.50 | $0.70 |
| ქეშირებული შეყვანა | ~90%-იანი ფასდაკლება | $0.07 |
| გამოტანა 1M ტოკენზე | $1.50 | $2.10 |
Mistral-ის საპასუხო არგუმენტი ეფექტიანობაა: თუ მოდელი აგენტურ დავალებებს კონკურენტებთან შედარებით 30–47%-ით ნაკლები ტოკენით ასრულებს, დასრულებული დავალების ღირებულება უფრო მნიშვნელოვანია, ვიდრე მილიონ ტოკენზე ფასი. დასკვნის გამოტანამდე ღირს ამის საკუთარ დატვირთვაზე გაზომვა.
ლიცენზიის ვარსკვლავით მონიშნული პირობა
Large 4 ვრცელდება Mistral Ecosystem Open-Weight License-ით, რომელიც MIT-ის შეცვლილი ვერსიაა. გამოყენება, მოდიფიცირება, fine-tuning, გავრცელება და კომერციალიზაცია დაშვებულია ერთი პირობით: კომპანიას, რომელიც Model-as-a-Service ბიზნესს აწარმოებს და მესამე მხარეებს შეყვანაზე თუ პარამეტრებზე მნიშვნელოვანი კონტროლით ინფერენსის ან შემდგომი გაწვრთნის შესაძლებლობას აძლევს, Mistral-ისგან ცალკე კომერციული ლიცენზია სჭირდება. შიდა გამოყენება და Mistral-ის საკუთარი პროდუქტებით სარგებლობა ამ პირობისგან თავისუფალია. Large 3-ის Apache 2.0 ლიცენზიას ასეთი პუნქტი არ აქვს, ამიტომ ჰოსტინგის მომწოდებლებისთვის ის იურიდიულად უფრო მარტივი არჩევანია.
დანერგვის შენიშვნები
vLLM-მა გამოშვების დღესვე მხარდაჭერა დაამატა და საინჟინრო სამუშაოების ვრცელი სია წარმოადგინა. NVFP4 ოთხ Blackwell GPU-ზე მუშაობს (ან TP8 რეჟიმში — რვაზე). Decode context parallelism ლატენტურ KV cache-ს რანკებს შორის ანაწილებს და TP8-ზე KV-ის ტევადობას დაახლოებით 7.9-ჯერ ზრდის; HiSparse კი KV-ს ჰოსტის მეხსიერებაში ათავსებს და GB300 კვანძის KV ტევადობას 1.97M-დან 8.77M–11.25M ტოკენამდე ზრდის. მხარდაჭერილია SGLang, Transformers და Docker Model Runner-იც, ხოლო Microsoft Foundry ორგანიზაციებს, რომლებსაც მოდელის საკუთარ ინფრასტრუქტურაზე გაშვება სურთ, Azure-ზე პირად დანერგვას სთავაზობს.
ეკოსისტემაში ერთი ინტეგრაციის ხაფანგიც აღმოჩნდა: Vercel AI SDK-ის Mistral პროვაიდერი Large 4-ისთვის reasoning_effort პარამეტრს ჩუმად აგდებდა, რადგან მოდელის ID მყარად გაწერილ დაშვების სიაში არ იყო. შედეგად, მოთხოვნები მსჯელობის რეჟიმის გარეშე იგზავნებოდა. ხარვეზი გამოსწორებულია და რეგრესიული ტესტებიც დაემატა. ზოგადი გაკვეთილი ასეთია: გადაამოწმეთ, ნამდვილად აღწევს თუ არა მსჯელობისა და ხელსაწყოების პარამეტრები მოდელამდე — ის, რომ „SDK Mistral-ს უჭერს მხარს“, ამაზე არაფერს ამბობს.
უსაფრთხოება და ღია კითხვები
Mistral-მა ამ გამოშვებაში უსაფრთხოებას უჩვეულოდ დიდი ყურადღება დაუთმო: მავნე კიბერთხოვნებზე უარის 96.6%-იანი მაჩვენებელი, B3 Agent Security Benchmark-ზე თავდასხმებისადმი 97.1%-იანი მდგრადობა და პენტესტინგისა და red-teaming-ისთვის განკუთვნილი სპეციალიზებული კიბერვერსია, რომელიც Orange Cyberdefense-ის მსგავს პარტნიორებს მკაცრი კონტრაქტებით გადაეცათ. კომპანია პირდაპირაც აღნიშნავს, რომ ცოცხალი ტრაფიკის მონიტორინგმა რეალურ თავდასხმებში გამოყენების პოტენციალი აჩვენა, ამიტომ დამცავი მექანიზმები მუდმივად ვითარდება. ტექნიკურ დოკუმენტაციაში ნათქვამია, რომ მოდელი შეუმცდარობისთვის არ შექმნილა და ვალიდაციისა და ადამიანის ზედამხედველობის გარეშე კრიტიკული გადაწყვეტილებებისთვის არ არის განკუთვნილი. როგორც MindStudio-ს შედეგები აჩვენებს, ერთსა და იმავე მოდელში უსაფრთხოების ძლიერი მაჩვენებლები და დაუსრულებელი აგენტური დავალებები თანაარსებობს.
Large 3 თუ Large 4
აირჩიეთ Large 4, თუ გჭირდებათ 1M-ტოკენიანი კონტექსტი, მსჯელობის რეჟიმები ან აგენტურ კოდირებასა და კიბერდავალებებში ღია წონების მოდელებს შორის საუკეთესო შედეგები და თუ თქვენს დანერგვას ტრილიონპარამეტრიანი ჩეკპოინტის გაშვება შეუძლია. დარჩით Large 3-ზე, თუ ტოკენის ფასი ან ლიცენზიის სიმარტივე უფრო მნიშვნელოვანია: Apache 2.0 MaaS-ის პირობას არ შეიცავს, ქეშის გარეშე ტოკენი 40%-ით იაფია, ხოლო მოდელის ბარათი NVFP4 ფორმატში A100-ზე ან H100-ზე ერთ კვანძში დანერგვას აღწერს. Large 3-საც აქვს ცნობილი სისუსტეები, მათ შორის ხარისხის ვარდნა NVFP4-ში 64k კონტექსტის გადაჭარბებისას და ინსტრუმენტებთან უფრო მერყევი მუშაობა დამოუკიდებელ ტესტებში.
რომელიც არ უნდა აირჩიოთ, 29 ოქტომბრის ჩეკპოინტზე თქვენს რეალურ დავალებებთან ერთად საპილოტე ტესტი ჩაატარეთ, შეამოწმეთ, სრულდება თუ არა ხელსაწყოების გამოძახება და იქმნება თუ არა არტეფაქტები, და თითოეულ დაფიქსირებულ მაჩვენებელთან ერთად მიუთითეთ ვერსია და sampling-ის კონფიგურაცია. Mistral-ის რეკომენდებული პარამეტრებია temperature 1.0 და top_p 0.95.
Mistral Large 4 უკვე ხელმისაწვდომია vega.chat-ის მოდელების სიაში, ხოლო დეველოპერებს მისი გამოძახება api.vega.chat-ის თავსებადი API-ით შეუძლიათ.