Présentation de Nemotron
La construction d'agents IA est un défi, car le monde réel ne se comporte pas comme un benchmark. Un agent qui ne peut pas récupérer d'un appel d'API cassé ou d'un workflow qu'il n'a jamais vu n'est pas vraiment un agent. C'est un problème de données : traces d'ingénierie logicielle, échecs d'utilisation d'outils, raisonnement multi-étapes, récupération, sécurité, simulation d'utilisateur, exécution de workflow et interaction finale avec le monde physique. C'est là que vivent les produits de données ouverts de NVIDIA Nemotron.
Importance des données ouvertes
NVIDIA a récemment souligné comment les modèles ouverts stimulent la recherche en IA et apparaissent dans des conférences comme l'ICML, avec près de 145 articles citant les modèles et les ensembles de données Nemotron. Les données synthétiques jouent un rôle important dans cet écosystème. Les poids ouverts sont importants, mais pour les agents, les poids ne sont qu'une partie de l'histoire. La reproductibilité dépend également des ensembles de données, des choix de curation, des recettes d'entraînement et des méthodes d'évaluation derrière le modèle.
Fonctionnement de Nemotron
Nemotron propose des produits de données ouverts pour aider à résoudre ces problèmes. Le Nemotron Post-Training v3 Prompt Atlas est une carte visuelle interactive qui permet d'explorer les données post-entraînement de Nemotron. Les développeurs peuvent utiliser cette carte pour comprendre comment les modèles se comportent et pourquoi. Les données synthétiques sont générées à l'aide de l'outil NeMo Data Designer de NVIDIA, qui permet de créer des données synthétiques de haute qualité.
Implications et limites
Les données synthétiques ne sont pas une solution miracle, mais elles peuvent aider à réduire les risques et à améliorer la qualité des données. Cependant, il est important de documenter ce qui a été généré, ce qui a été fondé, ce qui a été examiné et ce que les données sont censées tester. La qualité des données signifie différentes choses dans différents contextes. Les données de raisonnement nécessitent des problèmes plus difficiles et des traces plus propres. Les données de persona nécessitent une fidélité de distribution et un examen local. Les flux de travail agents nécessitent une diversité de tâches, une couverture de défaillance et des chemins de récupération.
