Contexte et méthodologie
Le tableau comparatif provient d’une collecte automatisée des prix à la demande des GPU Nvidia H100 sur les principaux fournisseurs cloud (AWS, Azure, RunPod). Les tarifs sont normalisés en dollars par GPU et par heure, puis agrégés par modèle et capacité mémoire afin d’éviter les mélanges entre variantes. La comparaison se limite aux prix affichés, excluant les offres réservées, les instances spot et les régions multiples ; ainsi, les écarts observés reflètent les listes publiques d’AWS us‑east‑1 et d’Azure eastus.
Différences de modèles et d’interconnect
Le terme « H100 » recouvre trois produits distincts : le SXM 80 GB, le PCIe 80 GB et le NVL 94 GB. Chaque variante possède un coût propre, ce qui justifie le regroupement par (modèle, mémoire) dans l’analyse. En outre, Azure propose le même A100 PCIe 80 GB sous trois configurations : 1, 2 ou 4 GPU par VM, facturées respectivement à 3,67 $, 4,78 $ et 4,78 $ par GPU‑heure. Cette granularité montre que le prix le plus bas d’un fournisseur n’est pas toujours comparable à celui d’un autre, car les interconnexions diffèrent.
Le facteur d’interconnectivité est crucial : la série ND d’Azure intègre un InfiniBand Quantum‑2 de 400 Gbps par GPU, compatible GPU Direct RDMA, indispensable pour l’entraînement multi‑noeuds. Cette bande passante supplémentaire explique pourquoi le même H100 sur ND coûte 6,98 $/h, alors que le SKU NC, dépourvu d’InfiniBand, est facturé moins cher.
Analyse des écarts de prix
Le rapport indique un facteur de 4,57 entre le tarif le plus bas et le plus élevé pour le même GPU. Sur une base mensuelle (720 h), cela représente 1 964 $ contre 8 972 $, soit une différence de 7 008 $. La variation provient principalement de trois leviers : la présence d’InfiniBand, le niveau de SLA (hyperscaler vs tiers) et les services d’entreprise (conformité, capacité engagée). RunPod Community, qui ne propose pas d’InfiniBand ni de SLA datacenter, propose le tarif le plus bas, mais sacrifie la garantie de disponibilité et la compatibilité avec les charges de travail distribuées.
Lambda Cloud est exclu du calcul principal car ses tarifs affichés sont prévus pour le 16 novembre 2026 et nécessitent une authentification. Les prix publiés aujourd’hui sont donc séparés du tableau principal.
Implications pour les utilisateurs
Pour les travaux de fine‑tuning sur un seul nœud, choisir le fournisseur le moins cher minimise les coûts sans impacter les performances, car l’InfiniBand reste inutilisé. En revanche, pour un entraînement à grande échelle (ex. 64 nœuds), le manque d’interconnect haute vitesse rend les offres bon marché inadaptées, imposant un recours aux services hyperscaler plus onéreux. Les développeurs doivent donc aligner leurs besoins en bande passante, SLA et conformité avec le modèle de GPU choisi, plutôt que de se focaliser uniquement sur le prix affiché.
python3 collect.py # ~1 GB AWS index, slow
python3 compute.py
