Présentation de Nemotron 3 Embed

NVIDIA Nemotron 3 Embed est une collection de modèles d'intégration ouverts et commerciaux conçus pour améliorer la qualité de récupération tout en offrant aux développeurs des options de déploiement pratiques pour la récupération à grande échelle.

Architecture et fonctionnement

La collection comprend trois modèles ouverts qui atteignent l'état de l'art de la récupération sur la courbe d'efficacité, menés par un modèle 8B qui se classe en tête du classement RTEB et des variantes 1B efficaces conçues pour le déploiement à grande échelle.

Modèle 8B : 78,5% sur RTEB et 75,5% sur MMTEB Retrieval

Les modèles Nemotron 3 Embed sont évalués selon trois dimensions : la qualité de récupération, l'efficacité agente en aval et les compromis de déploiement.

Évaluation et performances

Les résultats montrent que les modèles Nemotron 3 Embed améliorent la frontière de récupération agente, avec le modèle 8B offrant la plus haute précision de récupération moyenne et le coût de token en aval estimé le plus bas.

Nemotron-3-Embed-1B-NVFP4 : 2x plus de débit que BF16 pour la récupération à haut débit

Implications et limites

Les modèles Nemotron 3 Embed sont conçus pour être performants à l'échelle de l'entreprise, avec une prise en charge native de NVFP4 sur les architectures Blackwell d'NVIDIA pour une récupération efficace.

Les résultats démontrent l'efficacité des modèles Nemotron 3 Embed dans les scénarios de récupération à grande échelle, avec une précision de récupération élevée et un coût de token en aval réduit.