Contexte économique des tokens
Les premiers projets d’IA en entreprise ont rapidement généré des factures de tokens supérieures aux prévisions. Selon Brad Maltz, senior director of AI solutions chez Dell, les dépenses atteignent 10 000 à 20 000 $ par personne et par mois dans les laboratoires de pointe et chez les hyperscalers. Cette hausse provient du modèle de facturation à l’usage des grands modèles de langage, où chaque requête consomme un nombre de tokens proportionnel à la taille du texte traité.
Outre le coût direct, les organisations doivent gérer la souveraineté des données, le risque de fuite de propriété intellectuelle et les exigences de gouvernance. Ces contraintes poussent les décideurs à rechercher des alternatives qui permettent de garder les données « on‑prem » ou dans des environnements isolés, afin de réduire les dépendances aux services cloud publics.
Architecture du AI Factory de Dell
Dell positionne son AI Factory comme une couche logicielle au‑dessus du matériel. Le concept repose sur une pile complète : serveurs GPU, stockage, outils open‑source, modèles à poids ouvert et processus opérationnels. L’accent est mis sur la capacité à exécuter des modèles open‑weight comme le Nemotron de Nvidia dans des déploiements souverains, c’est‑à‑dire déconnectés du cloud public et placés à proximité des jeux de données de l’entreprise.
Pour valider cet écosystème, Dell a lancé le AI Ecosystem Program. Environ 60 partenaires sont en cours d’évaluation ou déjà approuvés. Chaque nouveau partenaire ajoute la capacité de résoudre entre 10 et 30 problèmes clients supplémentaires, ce qui élargit la gamme de cas d’usage supportés sans augmenter la facture token.
Implications pour les entreprises et limites
Le passage d’une approche purement matérielle à une AI Factory complète permet aux entreprises de contrôler le flux de tokens en internalisant le modèle. En exécutant les modèles localement, les organisations limitent les appels aux API externes, ce qui réduit directement les coûts de token et renforce la souveraineté des données. Cependant, la disponibilité de modèles open‑weight diversifiés reste un facteur déterminant : Maltz note que la variété actuelle doit encore couvrir l’ensemble des besoins industriels.
Enfin, la mise en place d’une infrastructure souveraine implique des investissements en compétences et en gestion d’opérations. Les équipes doivent assurer la mise à jour des modèles, la sécurisation des environnements GPU et la conformité aux politiques internes. Sans ces garde‑fous, les économies de token peuvent être compensées par des risques opérationnels.