Mistral publie sur Hugging Face « Large 4 », son modèle à poids ouverts de mille milliards de paramètres

Mistral a publié Large 4 — surnommé « Le Chonk » — en le rendant disponible gratuitement en téléchargement sur Hugging Face. Ce modèle de mille milliards de paramètres a été entraîné sur le propre cluster de calcul de 10 mégawatts de Mistral, en France.

Selon l'évaluateur indépendant Artificial Analysis, Large 4 devance de peu tous les autres modèles à poids ouverts sur son Coding Agent Index, qui mesure la capacité des agents d'IA à mener à bien des tâches complètes d'ingénierie logicielle. Sur Terminal-Bench 4.0, un autre test d'agents de code, Large 4 est à égalité avec le GLM-5.3 chinois, jusque-là considéré comme le meilleur modèle ouvert au monde.

Selon Mistral, un apprentissage par renforcement supplémentaire — une méthode d'entraînement dans laquelle le modèle reçoit un retour sur ses tentatives et apprend à privilégier ce qui fonctionne — a fait passer son score sur Terminal-Bench 4.0 de 28 % à 41 % depuis la publication d'une version préliminaire le 6 octobre. Large 4 utilise également 47 % de jetons (tokens) en moins par tâche que GLM-5.3.

Les modèles propriétaires restent globalement en tête : Mythos 5.1, d'Anthropic, a obtenu 60,9 % sur ce même benchmark.

Pierre Stock, vice-président science de Mistral, a qualifié cette publication de tournant pour l'IA européenne, soulignant que le modèle avait été développé sur l'infrastructure propre de Mistral — « une fraction de ce qu'utilisent tous les concurrents ». Il a estimé que les modèles à poids ouverts offrent aux entreprises de la finance, de la santé et de l'industrie une garantie contre une éventuelle perte d'accès aux systèmes fermés.

Cette crainte s'est concrétisée en juin, lorsqu'une directive américaine de contrôle des exportations a forcé Anthropic à suspendre l'accès à deux de ses modèles pendant près de trois semaines. Une fois les poids d'un modèle rendus publics, a précisé M. Stock, l'accès ne peut plus être coupé de cette manière.