Le CFO de Dell Technologies, David Kennedy, décrit une évolution du pilotage financier de l’intelligence artificielle dans les services financiers. Les entreprises passent d’une phase d’expérimentation à une production à grande échelle, où la consommation de tokens devient un poste budgétaire comparable aux licences logicielles classiques.
Contexte financier et IA en entreprise
Selon Kennedy, le dernier trimestre de Dell a été fortement tiré par les serveurs dédiés à l’IA, ce qui montre que la demande dépasse désormais le seul besoin en GPU pour inclure serveurs classiques et solutions de stockage. Dell recense 6 500 usines d’IA chez ses clients, un indicateur de la diffusion du modèle d’exploitation à l’échelle.
Méthodologie de budgétisation des tokens
Les CFOs créent désormais une ligne budgétaire spécifique pour le déploiement de tokens. Cette pratique consiste à suivre chaque token consommé comme un coût variable, puis à le convertir en charge fixe grâce à l’utilisation de modèles open‑weight déployés en interne. Kennedy précise que « le vrai moteur de valeur reste la vitesse et la productivité », ce qui oriente la décision d’allouer davantage de ressources financières à la rapidité d’exécution.
Architecture et placement des modèles
Le placement des modèles influence directement le profil de coût. Les flux de travail financiers récurrents peuvent être exécutés sur des modèles open‑weight hébergés sur site, ce qui transforme les dépenses de token en dépenses d’infrastructure prévisibles. Cette approche contraste avec l’utilisation exclusive de services cloud où chaque appel génère un coût token variable. Dell a élargi son partenariat avec Nvidia via l’AI Factory, offrant aux clients des outils pour migrer les charges de travail des prototypes vers des environnements de production.
Impacts opérationnels et limites
Le suivi précis des tokens permet de mesurer l’efficacité des modèles et d’ajuster les paramètres d’inférence pour réduire le nombre de tokens nécessaires. Toutefois, la stratégie repose sur la disponibilité de modèles open‑weight adaptés aux exigences de conformité et de confidentialité propres aux services financiers. L’absence de données publiques détaillées sur les tarifs token‑par‑token empêche une comparaison fine entre les solutions on‑premise et cloud, ce qui constitue une zone d’incertitude pour les décideurs.