Contexte et objectifs
CERN et Mistral ont signé un statement of intent pour créer un partenariat stratégique centré sur les modèles de fondation destinés à la découverte scientifique. L’accord cible d’abord la physique des hautes énergies, mais il prévoit d’étendre les méthodes d’IA à d’autres disciplines scientifiques européennes.
CERN possède environ un exaoctet de données expérimentales issues du LHC, soit un million de téraoctets. Avec le lancement du High‑Luminosity LHC (HL‑LHC) prévu vers 2030, le nombre de collisions devrait augmenter d’un facteur dix, ce qui multipliera la charge de traitement et les exigences de précision.
Architecture du modèle et données d’entraînement
Le projet vise à créer un « Large Physics Model », premier modèle de fondation dédié à la physique des collisionneurs. Il sera entraîné sur des milliards de collisions proton‑proton simulées, générées par les chaînes de Monte‑Carlo de CERN. Le modèle devra couvrir l’ensemble de la chaîne de reconstruction : transformation des signaux du détecteur, identification des particules, détection d’anomalies et évaluation de conceptions futures de détecteurs.
Mistral apporte son expertise dans l’entraînement de modèles à grande échelle et dans la diffusion de modèles à poids ouvert. La combinaison des capacités de calcul de CERN – clusters de calcul haute performance et infrastructure de stockage – avec les pipelines d’optimisation de Mistral permet d’envisager un entraînement sur plusieurs milliers de GPU pendant plusieurs semaines.
Enjeux techniques et limites
Le volume de données simulées impose des exigences d’I/O et de bande passante qui dépassent les configurations classiques de data‑center. La synchronisation des jeux de données entre les sites CERN et les installations de Mistral nécessite des protocoles de transfert à haut débit et une gestion fine des métadonnées. De plus, la différence entre données simulées et données réelles introduit un risque de décalage de domaine, qui doit être quantifié par des jeux de validation croisée.
Sur le plan algorithmique, le modèle doit concilier plusieurs tâches sans perte de performance, ce qui implique l’utilisation de techniques de multitâche et de fine‑tuning progressif. La transparence du modèle, indispensable pour la validation scientifique, reste un défi : les chercheurs devront développer des outils d’interprétabilité adaptés aux sorties du modèle de physique. Enfin, le coût énergétique du calcul à l’échelle exaflop représente une contrainte opérationnelle que le partenariat devra surveiller.