Présentation du problème

Les prix de la mémoire ont doublé, les Macs et les iPads ont augmenté de prix, et les iPhones devraient suivre. Ed Zitron, auteur du bulletin d'information Where's Your Ed At et animateur du podcast Better Offline, a passé des années à argumenter que le déploiement qui entraîne ces coûts ne sera jamais rentable.

Le fonctionnement des modèles de langage

Les modèles de langage à grande échelle (LLM) ont des coûts qui contrent à peu près tous les modèles de vente de logiciels. Les consommateurs et les entreprises ont été formés à payer une redevance mensuelle pour un service, mais les LLM consomment des jetons à un taux par million, indépendamment du fait que la réponse souhaitée soit obtenue ou non.

LLMs burn tokens at a per-million rate regardless of whether or not you get the response you want

Cela signifie que les économies de base sont cassées. Si les entreprises comme Anthropic et OpenAI croyaient que les clients paieraient le coût réel des jetons IA, elles n'auraient pas besoin de donner 20 à 40 fois la quantité de jetons aux abonnés.

Implications et limites

Les services IA ne sont pas très utiles ou différenciés. Les outils d'IA génèrent du code, mais cela ralentit les utilisateurs et remplit les bases de code de déchets. Les centres de données IA sont très coûteux à construire et prennent 18 à 36 mois, ce qui signifie que quiconque les construit devra lever des dettes et ne sera payé qu'une fois qu'un client emménagera... mais il n'y a pas vraiment de clients pour les centres de données IA en dehors d'Anthropic et OpenAI.

Les conséquences de l'éclatement de la bulle IA seront graves. Les fonds de crédit privés, qui financent les centres de données, subiront de lourdes pertes. Les entreprises comme Oracle, qui ont misé sur les centres de données IA, seront touchées de plein fouet. Les consommateurs, qui paient déjà plus cher pour le matériel, subiront les conséquences de la spéculation sur les centres de données IA.