Contexte du marché de la mémoire
Depuis le début de l’année 2024, la demande de DRAM a explosé sous l’effet combiné des grands modèles de langage et des services d’inférence en ligne. OpenAI, Google et d’autres acteurs de l’IA ont acheté des quantités massives de puces, ce qui a réduit les stocks disponibles pour les fabricants de smartphones, de consoles et de PC. Selon les propos d’Altman, les prix du DRAM auraient augmenté de cinq à sept fois par rapport à la période pré‑IA, un facteur qui se répercute sur le coût final des appareils grand public.
Cette tension s’explique aussi par la capacité de production limitée des fonderies de semi‑conducteurs. Les lignes de fabrication de DDR5, la norme dominante, ne peuvent pas être élargies rapidement sans investissements de plusieurs milliards de dollars. Le résultat est un goulet d’approvisionnement qui rend chaque module de RAM plus cher et plus rare, accentuant la dépendance des data centers aux fournisseurs comme Samsung, SK Hynix et Micron.
Arguments d’Altman et contraintes techniques
Sam Altman a déclaré que « tout le monde devrait pouvoir acheter beaucoup de RAM pour son ordinateur ». Il justifie cette affirmation en rappelant que la chaîne d’approvisionnement n’a pas été développée à la hauteur de la demande actuelle. Dans ses interventions, il cite des contraintes opérationnelles : assemblage de racks, capacité des data centers et même des composants aléatoires qui peuvent retarder les déploiements. Ces facteurs illustrent que la simple augmentation du stock de puces ne suffit pas ; il faut également des infrastructures physiques capables de les intégrer.
Altman propose de « partager cette mémoire » afin d’optimiser l’utilisation du stock limité. L’idée repose sur le fait que les modules de RAM installés dans les serveurs sont souvent sous‑utilisés, surtout en dehors des pics de charge. En mutualisant l’accès via des plateformes cloud, on pourrait atteindre un taux d’occupation proche de 100 %, réduisant ainsi le besoin d’acheter davantage de puces.
Implications pour l’inférence locale et la chaîne d’approvisionnement
Le débat sur l’inférence à domicile oppose deux exigences : la latence minimale pour les applications utilisateur et la pression supplémentaire sur le marché de la RAM. Si chaque utilisateur équipe son PC d’une grande capacité de mémoire, la demande globale pourrait se stabiliser, mais cela nécessite une production supplémentaire qui n’est pas prévue à court terme. De plus, la dissipation thermique et la consommation énergétique d’un module DDR5 de 64 Go dépassent les spécifications de la plupart des cartes mères grand public, imposant des redesigns matériels.
En revanche, le modèle de partage proposé par Altman implique une architecture logicielle capable de migrer dynamiquement des modèles d’IA entre les nœuds du cloud. Cela requiert des protocoles de synchronisation à faible latence et des mécanismes de sécurité pour éviter les fuites de données sensibles. Si ces exigences sont satisfaites, la pression sur le marché de la RAM pourrait diminuer, mais le coût de mise en place de telles solutions reste élevé et dépend de l’adoption par les fournisseurs de cloud.