Présentation du modèle

Kimi K3.1 Pro est le premier modèle de la série K3.1, publié en open‑weight par MoonshotAI. Il compte environ 3 trillions de paramètres et propose une fenêtre de contexte de 1 million de tokens, ce qui le place parmi les plus grands agents multimodaux disponibles. Le modèle a été post‑entraîné à partir de Kimi K3 grâce à un apprentissage par renforcement conjoint sur plusieurs centaines de domaines, incluant le code, la création 3D, la recherche financière et la véracité factuelle.

Architecture et attention sparse

Par rapport à Kimi K3, la couche d’attention pleine a été remplacée par les couches Gated DeepSeek Sparse Attention (Gated DSA). Cette variante introduit une sélection dynamique des tokens pertinents, réduisant la complexité quadratique de l’attention classique et permettant ainsi de gérer efficacement le contexte de 1 M tokens. Le mécanisme « gated » conserve un contrôle fin sur le flux d’information, limitant les risques de dilution de contexte tout en conservant la capacité de raisonnement profond.

Performances sur les benchmarks

Les évaluations internes utilisent le paramétrage maximal (temperature = 1.0, top‑p = 0.95) et le harness Claude Code. Kimi K3.1 Pro apparaît en tête de plusieurs tableaux de bord, notamment Terminal‑Bench 4.0, SWE‑Marathon v1.1, ProgramBench et DeepSWE v1.1, où il surpasse les modèles concurrents tels que DeepSeek‑V4.1‑Flash‑1017 et GLM‑5.3. Les scores rapportés proviennent des blogs de modèles ou des leaderboards officiels, sans comparaison directe des métriques d’Elo ou de pass‑rate entre les suites de tests.

Limites et perspectives

Bien que les résultats soient prometteurs, la plupart des évaluations restent internes et reposent sur des jeux de données propriétaires. L’absence de publication détaillée des scores numériques empêche une analyse fine de la marge de progression. De plus, l’utilisation exclusive de Claude Code comme juge peut introduire un biais vers les modèles optimisés pour ce harness. Les futures itérations devront publier des métriques complètes et ouvrir davantage les protocoles d’évaluation afin de valider la robustesse du modèle dans des environnements hors‑sandbox.