Contexte de la pénurie mondiale de DRAM
Depuis le début de l’année 2024, la production de puces DRAM montre une capacité inférieure à la demande globale. Les deux principaux fabricants, Samsung et SK Hynix, ont indiqué que leurs lignes de fabrication fonctionnent à près de leur capacité maximale, mais que les réserves de silicium et les contraintes logistiques limitent l’augmentation du volume annuel. Cette situation crée un déséquilibre où chaque gigaoctet supplémentaire de RAM devient un bien rare, ce qui se traduit par une hausse des prix des ordinateurs portables, des smartphones et des serveurs.
Stratégie d’allocation d’OpenAI et accords fournisseurs
Lors d’une interview, Sam Altman a rappelé que OpenAI a signé des contrats à long terme avec Samsung et SK Hynix, réservant une part importante de la production de DRAM pour les prochains années. Ces accords permettent à OpenAI de sécuriser les quantités nécessaires à son projet interne nommé Stargate, qui repose sur des modèles de grande taille nécessitant plusieurs téraoctets de mémoire vive en simultané. En réservant les puces, OpenAI influence directement le volume disponible pour les utilisateurs finaux, ce qui explique l’augmentation du coût des appareils grand public.
Altman souligne que la plupart des postes de travail utilisent la RAM à un taux moyen d’environ 5 % de leur capacité, alors que les serveurs cloud peuvent atteindre des taux d’utilisation supérieurs à 80 % grâce à la mutualisation des charges de travail. Cette différence d’efficacité justifie, selon lui, la concentration de la DRAM dans les centres de données plutôt que dans les ordinateurs individuels.
Conséquences pour l’inférence locale
Le modèle économique décrit par Altman contredit l’hypothèse selon laquelle l’open source rendrait l’inférence locale viable. Même si les modèles open source sont accessibles, leur exécution nécessite une quantité de RAM qui, dans le contexte actuel, resterait largement sous‑utilisée sur un poste de travail. Les appareils comme le Surface RTX Spark Dev Box ou le MacBook Pro à écran tactile offrent des capacités de calcul avancées, mais leurs modules DRAM restent limités à quelques dizaines de gigaoctets, insuffisants pour des modèles de plusieurs centaines de milliards de paramètres.
En centralisant la mémoire, les fournisseurs de cloud peuvent appliquer des techniques de partitionnement dynamique, de mise en cache et de compression qui augmentent la densité d’exécution. Cela réduit le besoin de duplication de données et diminue la consommation énergétique globale, car les serveurs sont optimisés pour fonctionner à pleine charge pendant de courtes périodes, puis passent en mode basse consommation.
Limites et perspectives
La stratégie de concentration de la DRAM comporte toutefois des risques. Une défaillance d’un centre de données ou une interruption de la chaîne d’approvisionnement pourrait affecter plusieurs services simultanément. De plus, la dépendance à quelques fournisseurs augmente la vulnérabilité aux variations de prix et aux politiques commerciales. Aucun chiffre précis n’est fourni sur la part exacte de la production réservée à OpenAI, ce qui rend difficile d’évaluer l’impact réel sur le marché grand public.
À moyen terme, l’évolution des technologies de mémoire, comme la mémoire persistante (PMEM) ou les architectures à bande passante élevée, pourrait atténuer la pression sur la DRAM classique. En attendant, la logique d’allocation décrite par Altman reste la solution la plus efficace pour exploiter une ressource limitée dans un environnement où la demande de calcul intensif continue de croître.
