Présentation

Inception Labs commercialise Mercury 3, un modèle de langage basé sur la diffusion capable de générer plus de 1 068 tokens par seconde sur GPU NVIDIA. Le modèle propose un contexte de 1 million de tokens, contre 260 000 pour la version Mercury 2.5, et un tarif de 0,20 $ / Mio d'entrée et 0,70 $ / Mio de sortie, avec une remise de 50 % à son lancement. Mercury 3 se positionne comme le LLM diffusion le plus performant à ce jour, surpassant les modèles autoregressifs de pointe comme GPT‑6 Luna et Claude Haiku 5.5 sur plusieurs benchmarks.

Architecture diffusion et mise à l’échelle

Le cœur de Mercury 3 repose sur une architecture de diffusion, où le texte est généré en itérant sur un processus de débruitage similaire à celui utilisé en génération d'images. Inception affirme que les lois d'échelle observées pour les modèles autoregressifs s'appliquent également aux modèles diffusion : le nombre total de paramètres a été multiplié de plus de 40 fois par rapport à Mercury 1, entraînant une hausse de trois fois de la performance sur les benchmarks standards. Cette croissance paramétrique permet de conserver une latence basse malgré l'augmentation de la capacité, grâce à une optimisation du nombre d'itérations de diffusion et à une parallélisation efficace sur les GPU.

Performances et cas d’usage

Dans des scénarios réels, Mercury 3 a été testé sur 50 tâches de navigation Mind2Web, où il a complété 50 % des missions, nettement au‑delà de GPT‑6.1‑Sol, tout en utilisant le même volume de tokens et le même nombre d'étapes d'agent. Le temps médian de génération est de 0,9 s, ce qui conduit à un temps de réponse end‑to‑end moyen de 2,2 s dans les tests d'API Sense d'Octen AI. Des partenaires early‑access ont intégré Mercury 3 dans des agents de navigation web, des tuteurs interactifs, des agents de recherche en temps réel et des systèmes de support client, profitant de la combinaison vitesse‑qualité. Par exemple, le service de support de Lorikeet signale que Mercury 3 offre une latence inférieure tout en améliorant les scores d'évaluation, crucial pour les environnements réglementés où chaque réponse doit être exacte.

Limites et perspectives

Malgré ses performances, Mercury 3 reste limité par la dépendance aux GPU NVIDIA pour atteindre le débit annoncé, ce qui peut restreindre son déploiement sur des infrastructures non compatibles. De plus, le modèle ne fournit pas de détails publics sur le nombre exact de paramètres ni sur les jeux de données d'entraînement, ce qui complique l'évaluation de sa robustesse face aux biais ou aux vulnérabilités de sécurité. Enfin, le modèle est facturé à l'usage, et même avec la remise initiale, les coûts peuvent devenir significatifs à grande échelle, surtout pour les applications nécessitant des millions de tokens en sortie. Les futures itérations devront donc concilier davantage d'efficacité énergétique, de transparence et de flexibilité d'exécution pour consolider la diffusion comme alternative viable aux architectures autoregressives.