NVIDIA Kumo Relational dépasse les modèles supervisés sur données relationnelles

Présentation

NVIDIA Kumo Relational est un modèle de fondation pré‑entraîné dédié aux bases de données relationnelles. Il accepte une Predictive Query Language (PQL) qui décrit la cible à prédire (churn, fraude, demande, etc.) et, en une seule passe avant, génère une prédiction sans entraînement supplémentaire, sans ingénierie de caractéristiques et sans aplatir les tables.

Architecture et mécanismes

Le modèle traite chaque table indépendamment grâce à une alternance d'attention colonne (relations entre valeurs d’une même colonne) et d'attention ligne (relations entre attributs d’une même ligne). Les embeddings de lignes sont ensuite propagés via une attention de graphe qui exploite les clés primaires et étrangères, permettant de relier, par exemple, un utilisateur à son historique de commandes. Un module d'attention inter‑exemples combine jusqu’à 10 000 sous‑graphes historiques fournis comme contexte, assurant un apprentissage en‑situ (in‑context learning) sans mise à jour des poids. Cette conception évite le coût quadratique d’une attention cellulaire et rend le système capable de gérer des bases contenant plus de 500 milliards de lignes.

Performances et comparaison

Sur 41 tâches réparties sur 15 bases de données, Kumo Relational surpasse les modèles profonds supervisés et les pipelines XGBoost optimisés par des experts. Sur le benchmark RelBench V1, il améliore l’AUROC moyen de près de 4 points par rapport aux arbres de gradient. Sur le benchmark d’entreprise SAP SALT, il obtient un gain de 7 points de MRR en mode zéro‑shot et de 13 points après fine‑tuning, dépassant de 8 % les ensembles AutoGluon. Ces écarts démontrent que le modèle extrait des signaux relationnels que les approches tabulaires traditionnelles perdent lors de l’agrégation manuelle.

Limites et perspectives

Le pré‑entraînement repose entièrement sur des données synthétiques générées à l’aide de l’approche PluRel (ICML 2026). Bien que cette méthode reproduise la diversité des schémas réels, elle ne garantit pas la couverture de toutes les particularités métier (contraintes d’intégrité, distributions de valeurs rares). De plus, la dépendance à un contexte de 10 000 exemples impose une latence proportionnelle à la taille du sous‑graphe extrait, ce qui peut limiter les cas d’usage en temps réel très stricts. Enfin, l’absence de mécanismes explicites de conformité aux réglementations (ex. GDPR) requiert une couche supplémentaire de gouvernance lorsqu’on exploite le modèle sur des données sensibles.