Mistral Large 4 : 1 000 milliards, poids ouverts

Mistral AI a publié les poids de Mistral Large 4, son premier modèle de mille milliards de paramètres. Surnommé Le Chonk en interne, il s’agit d’un système à mélange granulaire d’experts, avec 1 050 milliards de paramètres au total, environ 49 à 52 milliards actifs par token, une fenêtre de contexte d’un million de tokens et la prise en charge des images en entrée. Un seul checkpoint gère aussi bien les questions rapides en conversation que les longues tâches agentiques, selon un réglage de l’effort de raisonnement proposant les niveaux faible, moyen et élevé. Le modèle a été entraîné de zéro sur 3 800 GPU NVIDIA Grace Blackwell dans les propres centres de données de Mistral en Europe. Il est déjà disponible dans le sélecteur de modèles de vega.chat et via api.vega.chat.

Deux versions publiées à un mois d’intervalle

Le registre de modèles de Mistral répertorie deux versions de Large 4 : un aperçu public du 6 octobre 2026, désormais marqué comme retiré, et le checkpoint final du 29 octobre 2026, qui est la version active. Les poids ouverts sur Hugging Face correspondent à la version du 29 octobre, améliorée grâce à un entraînement RL supplémentaire. Les chiffres cités pendant la période d’aperçu, notamment les tarifs API initiaux, décrivent le checkpoint retiré et non la version disponible. Même la page de documentation officielle affiche toujours la date du 6 octobre et la mention Public Preview.

Le précédent modèle phare, Mistral Large 3, est arrivé en décembre 2025 dans le cadre de la famille Mistral 3. Dix mois entre deux modèles phares, c’est une cadence rapide pour un modèle de cette taille.

Architecture : de 675 milliards à mille milliards

	Mistral Large 3	Mistral Large 4
Paramètres au total	675 Md	1 050 Md
Actifs par token	41 Md	~49 Md (52 Md avec les embeddings et les couches de sortie)
Architecture	MoE granulaire	MoE granulaire
Encodeur de vision	2,5 Md	1,6 Md, de type Pixtral
Fenêtre de contexte	256k	1M tokens
Raisonnement	aucun	faible / moyen / élevé, élevé par défaut
Cluster d’entraînement	3 000 NVIDIA H200	3 800 NVIDIA Grace Blackwell
Licence	Apache 2.0	Mistral Ecosystem Open-Weight License

D’après le compte rendu de lancement de l’équipe vLLM, le tronc comporte 72 couches MoE avec 128 experts routés (top-4), auxquels s’ajoute un expert partagé, et une taille cachée de 6 144. L’attention repose sur MLA, avec un indexeur DSA clairsemé qui sélectionne les 2 048 clés les plus pertinentes par requête, ce qui contribue à rendre le contexte d’un million de tokens exploitable. L’encodeur de type Pixtral accepte des images de tailles et de rapports d’aspect différents, plusieurs par requête. Les checkpoints officiels sont fournis en FP8 et NVFP4, tous deux avec un cache KV latent FP8. Un système DSpark intégré effectue du décodage spéculatif sur trois couches MLA à fenêtre glissante, accepte environ 2,9 tokens par étape et offre un gain de débit proche de 2x en TP8.

L’activation clairsemée ne transforme pas ce modèle en petit modèle déguisé. Seuls ~49 Md de paramètres sont activés par token, mais stocker 1 050 Md de poids, en plus du cache KV, nécessite tout de même un nœud multi-GPU conséquent.

Benchmarks : des résultats annoncés solides, mais contrastés

Les chiffres annoncés par Mistral pour le checkpoint final semblent solides sur le papier :

Benchmark	Résultat	Remarque
FrontierCode 2.0	19,7 %, première place	Évaluation de codage de bout en bout fermée de Cognition
AA Coding Agent Index	48 %	Niveau proche de GLM-5.3, avec 47 % de tokens en moins par tâche
Terminal-Bench 4.0	41 %	+13 points par rapport à l’aperçu, en tête des modèles à poids ouverts
Cyber Index	51 %	Détecte, reproduit et corrige des vulnérabilités
Refus des requêtes cyber malveillantes	96,6 %	Le meilleur résultat parmi les modèles ouverts, selon Mistral
B3 Agent Security	97,1 %	En hausse par rapport aux 93,3 % de l’aperçu
Finch (finance, tableaux)	73,3 %	Deuxième parmi les modèles à poids ouverts, après Kimi K3
BrowseComp	84,5 %	Devant GLM-5.3 et DeepSeek Flash 4.1
Surge Code (préférences humaines à l’aveugle)	Devant GLM-5.3, Kimi K3, DeepSeek V4.1 Flash	Derrière Claude Opus 5.5 seulement

Le laboratoire indépendant Vals AI a évalué le même checkpoint ouvert et obtenu des résultats différents : 26,26 % sur Terminal-Bench 4.0, contre 41 % pour Mistral, 81,56 % sur Vibe Code Bench, 61,72 % sur une évaluation d’agent financier et un Vals Index de 56,42 %, plaçant le modèle au 17e rang sur 30. Un écart de 15 points sur un benchmark au nom identique signifie généralement que le harnais, les outils, le budget de tokens et les critères d’arrêt différaient d’un test à l’autre. Pour comparer des modèles, comparez leurs configurations.

Un test pratique réalisé par MindStudio apporte une réserve concrète. Sur huit tâches de codage agentique, le modèle a obtenu 42 points sur 80 : un fine-tuning local de Gemma 2B a récolté 10 sur 10 et une simulation à trois ascenseurs, 9,5, mais deux tâches ont obtenu zéro parce que le modèle a terminé son tour sans créer le fichier ni fournir de réponse. Le point faible est la fiabilité : lors de ces essais, le modèle s’est arrêté avant de produire quoi que ce soit. Il peut aussi fournir un résumé assuré alors que le résultat sous-jacent est défectueux ou absent.

Tarification

Les tarifs de l’API pour la version finale sont de 0,70 $ par million de tokens en entrée et de 2,10 $ par million en sortie, avec les tokens d’entrée mis en cache à 0,07 $. Le coût par token non mis en cache est 40 % supérieur à celui de Large 3, mais reste nettement inférieur aux tarifs de l’aperçu : 1,36 $ en entrée et 4,18 $ en sortie.

	Large 3	Large 4
Entrée par million de tokens	0,50 $	0,70 $
Entrée mise en cache	~90 % de réduction	0,07 $
Sortie par million de tokens	1,50 $	2,10 $

L’argument avancé par Mistral est celui de l’efficacité : si le modèle termine les tâches agentiques avec 30 à 47 % de tokens en moins que ses concurrents, le coût par tâche achevée compte davantage que le coût par million de tokens. Il vaut la peine de mesurer cela sur votre propre charge de travail avant de tirer des conclusions dans un sens ou dans l’autre.

L’astérisque de la licence

Large 4 est proposé sous la Mistral Ecosystem Open-Weight License, une licence MIT modifiée. L’utilisation, la modification, le fine-tuning, la distribution et la commercialisation sont autorisés, à une condition : toute entreprise exploitant une activité de Model-as-a-Service, où des tiers bénéficient d’un accès à l’inférence ou au post-entraînement avec un contrôle significatif sur les entrées et les paramètres, doit obtenir une licence commerciale distincte auprès de Mistral. L’utilisation interne et l’utilisation via les propres produits de Mistral sont exemptées. La licence Apache 2.0 de Large 3 ne comporte pas cette clause, ce qui en fait l’option la plus simple juridiquement pour les fournisseurs d’hébergement.

Notes sur le déploiement

vLLM a assuré la prise en charge dès le jour du lancement, avec une liste conséquente de travaux d’ingénierie. NVFP4 fonctionne sur quatre GPU Blackwell (ou en TP8 sur huit). Le parallélisme de contexte au décodage répartit le cache KV latent entre les rangs, pour une capacité KV environ 7,9x supérieure en TP8. HiSparse déporte le cache KV vers la mémoire hôte, faisant passer la capacité KV d’un nœud GB300 de 1,97M à 8,77M–11,25M tokens. SGLang, Transformers et Docker Model Runner sont également pris en charge. Microsoft Foundry propose aussi des déploiements Azure privés pour les organisations qui souhaitent héberger le modèle sur leur propre infrastructure.

Un piège d’intégration relevé dans l’écosystème : le fournisseur Mistral du Vercel AI SDK supprimait silencieusement le paramètre reasoning_effort pour Large 4, car l’identifiant du modèle ne figurait pas dans une liste d’autorisation codée en dur. Les requêtes partaient donc sans aucun raisonnement. Le bug a été corrigé, avec des tests de régression. La leçon vaut plus largement : vérifiez que les paramètres de raisonnement et d’outils parviennent bien au modèle, car « le SDK prend en charge Mistral » ne garantit rien à ce sujet.

Sécurité : des réserves à garder à l’esprit

Mistral a accordé une place inhabituelle à la sécurité dans cette version : un taux de refus de 96,6 % pour les requêtes cyber malveillantes, une résistance aux attaques de 97,1 % sur le benchmark B3 Agent Security et une variante cyber spécialisée pour les tests d’intrusion et le red teaming, confiée à des partenaires comme Orange Cyberdefense sous des contrats stricts. L’entreprise indique aussi sans détour que la surveillance du trafic réel a révélé un potentiel d’amélioration en cas d’attaques réelles, et que les garde-fous continuent donc d’évoluer. La documentation technique précise que le modèle n’est pas infaillible et qu’il n’est pas destiné aux décisions critiques sans validation ni supervision humaine. Comme le montrent les résultats de MindStudio, d’excellentes métriques de sécurité et des tâches agentiques inachevées peuvent coexister dans un même modèle.

Large 3 ou Large 4

Choisissez Large 4 si vous avez besoin du contexte d’un million de tokens, des modes de raisonnement ou des meilleurs résultats parmi les modèles à poids ouverts sur les tâches de codage agentique et de cybersécurité, et si votre déploiement peut gérer un checkpoint de mille milliards de paramètres. Restez sur Large 3 si le prix par token ou la simplicité de la licence compte davantage : Apache 2.0 n’impose aucune clause MaaS, le coût des tokens non mis en cache est 40 % inférieur et la fiche du modèle documente un déploiement sur un seul nœud A100 ou H100 en NVFP4. Large 3 a ses propres faiblesses connues, notamment une baisse de qualité en NVFP4 au-delà de 64k de contexte et un appel d’outils moins fiable lors de tests indépendants.

Quel que soit votre choix, effectuez un essai pilote avec le checkpoint du 29 octobre et vos tâches réelles, vérifiez que les appels d’outils sont bien exécutés et que les résultats sont réellement écrits, puis consignez la version et la configuration d’échantillonnage à côté de chaque chiffre relevé. Les réglages recommandés par Mistral sont une température de 1.0 et un top_p de 0.95.

Mistral Large 4 est disponible dans la liste de modèles de vega.chat, et les développeurs peuvent l’appeler via l’API compatible api.vega.chat.