Présentation de Scale‑In

Scale‑In constitue le nouveau pilier de l’infrastructure réseau d’IA de Nvidia, annoncé en août 2026. Le dispositif vise à assurer un accès sécurisé, un déplacement de données haute performance et une isolation des locataires dans les usines d’IA où de multiples agents exécutent des tâches simultanément. Selon Gilad Shainer, vice‑président senior du networking chez Nvidia, la prolifération d’agents nécessite une surveillance hors bande et une confinement strict afin d’éviter tout comportement indésirable au niveau de la mémoire ou du stockage.

Architecture et composants matériels

Le cœur de Scale‑In repose sur le DPU Nvidia BlueField‑4, quatrième génération de l’unité de traitement de données, couplé à la connectivité Ethernet Spectrum‑X. BlueField‑4 intègre des moteurs de sécurité en silicium capables de collecter en temps réel des télémétries provenant de la mémoire, du stockage, des GPU et des CPU. Cette collecte « out‑of‑band » permet de décorréler la surveillance du flux de travail des agents, garantissant ainsi que les agents ne peuvent pas altérer les données de monitoring. Le réseau Spectrum‑X assure une bande passante suffisante pour le déplacement de gros volumes de données tout en maintenant la latence requise par les charges d’inférence.

Logiciel et mécanismes de sécurité

Sur le plan logiciel, Scale‑In s’appuie sur la plateforme Nvidia DOCA, qui expose des API permettant de créer des services cloud‑natifs accélérés par le DPU et les SuperNIC. DOCA fonctionne comme le CUDA pour les GPU, mais cible les fonctions de sécurité, de stockage et de mise en réseau du DPU. Parallèlement, Nvidia a publié l’Open Agent Safety Platform, combinant OpenShell et Nvidia Sentry. OpenShell agit comme un runtime open‑source qui gouverne l’exécution, l’accès et le routage d’inférence des agents, tandis que Sentry, exécuté sur BlueField‑4 via DOCA, surveille continuellement le comportement des agents et peut mettre en quarantaine ceux qui dépassent leurs limites logicielles. En octobre, Nvidia a présenté l’OpenShell Reference Architecture, intégrant l’infrastructure Vera Rubin, les CPU Vera et le même BlueField‑4, renforçant la chaîne de confiance du bout‑en‑bout.

Implications et limites

Scale‑In offre une visibilité complète sur les activités des agents, ce qui réduit le risque de compromission interne et facilite la conformité aux exigences de confidentialité. Toutefois, la solution dépend fortement du DPU BlueField‑4 ; les environnements dépourvus de ce matériel ne peuvent pas exploiter les moteurs de sécurité en silicium. De plus, la complexité de la pile logicielle (DOCA, OpenShell, Sentry) impose une courbe d’apprentissage pour les équipes d’exploitation, et aucune métrique publique n’a encore été fournie quant à l’impact sur la latence d’inférence ou la consommation énergétique. Ces points restent à surveiller lors des déploiements à grande échelle.