Présentation du modèle

Mistral Large 4 (ML4), surnommé « Le Chonk », est le dernier LLM de Mistral AI SAS. Il comporte 1 trillion de paramètres au total, dont 52 milliards de paramètres actifs, ce qui le place parmi les plus grands modèles multimodaux disponibles en open‑weight. La version preview a été rendue publique il y a trois semaines, puis les poids ont été ouverts, permettant à toute organisation de le déployer en interne.

Entraînement et infrastructure

Le modèle a été entraîné sur 3 800 GPU Nvidia Grace Blackwell dans les data‑centers européens de Mistral. Cette architecture GPU, optimisée pour le calcul en virgule flottante 64 bits, a permis de réaliser trois semaines supplémentaires de reinforcement learning et de tests clients après la phase preview. Le contrôle total de l’infrastructure a donné à Mistral la possibilité d’ajuster le code du modèle aux spécificités matérielles, réduisant ainsi les goulots d’étranglement liés à la bande passante et à la latence d’accès mémoire.

Performances et efficacité

Sur le benchmark Terminal‑Bench 4.0, dédié à l’évaluation des agents de codage en terminal, ML4 a progressé de 28 % à 41 %, atteignant le même score que le modèle chinois GLM‑5.3, considéré comme l’un des meilleurs agents de codage. En termes de consommation de tokens, ML4 utilise 47 % moins de tokens par tâche en moyenne, ce qui se traduit par une réduction du coût d’inférence et une meilleure adéquation avec des environnements à budget limité. Le modèle propose trois modes de raisonnement – bas, moyen et haut – permettant d’ajuster la profondeur de traitement sans modifier les prompts, ce qui optimise l’utilisation des tokens selon la complexité de la tâche.

Implications de l’ouverture des poids

L’ouverture des poids offre aux entreprises la possibilité de déployer le modèle sur leurs propres serveurs, derrière leurs pare‑feux, et de traiter des données sensibles sans passer par le cloud public. Cette souveraineté technique contraste avec la prolifération de modèles ultra‑larges développés en Chine, comme les familles GLM et Kimi, et répond à la volonté de Mistral de fournir une alternative « Western‑developed » aux acteurs dominants. Le coût de développement, estimé à environ 6 milliards de dollars levés en trois ans, montre que l’accès à une telle capacité reste limité aux acteurs disposant de financements importants, d’où l’importance stratégique de la mise à disposition des poids pour élargir l’écosystème.