Présentation du problème
Adam Mosseri, directeur d'Instagram, a récemment déclaré que Meta pourrait devoir limiter les budgets de jetons IA pour ses employés dans un avenir proche, peut-être dans un ou deux ans. Cette décision serait nécessaire en raison du coût élevé du traitement des requêtes et des réponses IA, qui pourrait atteindre des milliards de dollars en 2026.
Contexte technique
Le coût du traitement des requêtes et des réponses IA est devenu un sujet de préoccupation pour de nombreuses entreprises, notamment Meta, qui a déjà fermé un tableau de bord de dépenses de jetons IA après que les coûts aient dépassé les prévisions. D'autres entreprises, comme Uber et Microsoft, ont également été confrontées à des problèmes similaires et ont dû revoir leur approche en matière d'expérimentation IA.
Fonctionnement des budgets de jetons IA
Adam Mosseri a expliqué que les budgets de jetons IA devraient être gérés de la même manière que les autres ressources, comme la paie ou les dépenses d'exploitation (OpEx). Il a noté que les budgets de jetons IA devraient être proportionnels à la confiance que l'entreprise a dans la capacité de ses employés à utiliser ces budgets de manière efficace. Pour l'instant, Meta n'a pas de limite de budget de jetons IA pour ses employés, mais Adam Mosseri pense que l'utilisation de ces limites pourrait être bénéfique à l'avenir.
Implications et limites
La mise en place de limites de budget de jetons IA pourrait avoir des implications importantes pour les entreprises qui utilisent l'IA. En effet, cela pourrait les obliger à revoir leur approche en matière d'expérimentation IA et à trouver des moyens de réduire les coûts. Adam Mosseri a noté que les coûts de jetons IA devraient diminuer à l'avenir, à mesure que les fabricants de modèles IA engageront une guerre des prix pour attirer les utilisateurs. Pour l'instant, Meta a réussi à réduire ses coûts de jetons IA en fermant les « choses idiotes » qu'elle faisait, comme le tableau de bord de dépenses de jetons IA.
