Introduction

Hosted.ai, une plateforme logicielle et un marché qui augmente l'efficacité des infrastructures de processeurs graphiques, a annoncé avoir levé 19 millions de dollars pour exécuter plusieurs charges de travail sur les mêmes processeurs graphiques simultanément.

Contexte Technique

La plateforme de Hosted.ai permet de mutualiser les charges de travail d'intelligence artificielle sur les ressources de processeurs graphiques, ce qui permet aux opérateurs de cloud, appelés « neoclouds », d'atteindre jusqu'à cinq fois la production sur les infrastructures existantes. Les frameworks de processeurs graphiques sont toujours loués à la carte, au serveur ou au rack, mais de nombreux clients n'ont besoin que d'une petite fraction de la capacité disponible.

Le PDG de Hosted.ai, Ditlev Bredahl, a déclaré que « l'infrastructure de processeurs graphiques qui alimente l'IA aujourd'hui est incroyablement gaspilleuse ». Les clients sont obligés de louer des processeurs graphiques comme une ressource statique, car c'est la seule façon dont les opérateurs peuvent les vendre, et les charges de travail d'IA laissent environ 60% de ces processeurs graphiques inactifs en moyenne.

Analyse et Implications

Hosted.ai vise également à permettre aux clients de diversifier les fournisseurs qu'ils peuvent atteindre sur le marché, qui est dominé par seulement quelques grands fournisseurs de cloud aux États-Unis. Les entreprises européennes et les organisations du secteur public qui cherchent à maintenir la souveraineté des données ou l'efficacité régionale auraient une meilleure alternative à un coût inférieur.

La plateforme de Hosted.ai permet aux développeurs d'accéder au système avec un tarif basé sur la consommation, et non en louant des serveurs. Cela entraîne des coûts significativement plus bas pour les développeurs et les entreprises. Hosted.ai entre dans un paysage en maturation des marchés de processeurs graphiques à la demande, y compris Together Computer Inc., Runpod Inc. et Vast.ai Inc.

Perspective

Hosted.ai croit que cela est un avantage pour tous, car cela optimisera l'infrastructure et attirera plus de clients pour utiliser cette capacité de processeurs graphiques inutilisée. La société a levé 19 millions de dollars dans une ronde de financement menée par Creandum, avec une participation supplémentaire de People Ventures et Repeat VC.