Dell met en avant l’infrastructure hybride pour réduire les coûts d’inférence IA

Contexte économique

Les dépenses d’inférence IA dépassent désormais celles de l’entraînement, ce qui pousse les dirigeants à réévaluer où exécuter leurs modèles. Dell signale que les coûts de tokenisation explosent, notamment chez les directeurs financiers qui constatent une hausse rapide des factures d’inférence. Cette pression financière s’accompagne d’une inflation des prix des composants, avec une offre de mémoire prévue en hausse de 20 % l’an prochain contre une demande estimée à +200 %.

Tokenomics et répartition des modèles

Selon Kyle Dufresne, vice‑président senior des ventes chez Dell, les trois derniers mois ont vu 80 % des tokens générés par des modèles de pointe, alors que trois mois plus tard, 80 % des tokens mondiaux proviennent de modèles ouverts. Cette inversion s’explique par le coût des tokens : les modèles ouverts offrent un tarif inférieur, incitant les entreprises à privilégier la rentabilité sur la performance maximale.

Infrastructure hybride et edge

Dufresne décrit une migration progressive des charges d’inférence vers le « far edge », c’est‑à‑dire les points où les données sont créées – postes de travail, serveurs de bord et centres de données locaux. Dell positionne son AI Factory, adopté par plus de 6 500 entreprises, comme un cadre permettant d’exécuter les modèles sur l’infrastructure que le client contrôle, qu’il s’agisse de cloud public, de data‑center privé ou d’appareils en périphérie. Cette flexibilité vise à réduire les frais de tokenisation en limitant les déplacements de données et en exploitant la proximité du calcul.

Gestion de l’approvisionnement mémoire

Face à la pénurie anticipée, Dell propose une planification collaborative, orientant les clients vers des composants disponibles et partageant des prévisions de hausse des prix. Certains clients bénéficient d’un coût du capital inférieur à l’inflation des composants, ce qui les incite à acquérir du matériel en amont. Cette stratégie permet de lisser les dépenses d’investissement et d’atténuer l’impact de la hausse de 20 % de l’offre mémoire prévue.