Présentation de la technologie

Les fournisseurs d'infrastructure d'IA pour les entreprises se tournent vers la multitenance associée à la protection des données en amont pour convertir la capacité de calcul GPU inutilisée en services sécurisés et mesurés par jeton que les entreprises adopteront à grande échelle.

Un partenariat entre Protopia AI Inc. et Rafay Systems Inc. vise à élargir le marché adressable pour l'infrastructure d'IA d'entreprise en associant la livraison de jetons multitenants avec la protection des données en amont, selon Eiman Ebrahimi, PDG de Protopia AI.

Fonctionnement de la multitenance

La technologie de Protopia ajoute une couche d'isolement des données qui maintient le contexte privé de chaque entreprise sur du matériel partagé, a noté Haseeb Budhani, co-fondateur et PDG de Rafay Systems.

La technologie Stained Glass de Protopia transforme les invites et le contexte à partir du texte brut avant qu'ils n'atteignent un modèle, créant ainsi une couche de confidentialité pour les inférences.

Stained Glass transforme les données de leur représentation brute en une représentation stochastique qui peut être consommée par le modèle cible sans avoir besoin de revenir à la forme d'origine.

Implications économiques et sécuritaires

Les opérateurs ne peuvent tirer parti de la multitenance qu'à des degrés élevés, souligne Budhani, ce qui signifie que les fournisseurs peuvent transformer la gouvernance en un facteur de revenu plutôt qu'en un coût.

En emballant la sécurité avec la consommation, les fournisseurs peuvent offrir des services plus sécurisés et rentables, ce qui peut conduire à des marges plus élevées pour les fournisseurs et à des coûts plus bas pour les clients.

Contexte technique et marché

Le marché des services de calcul GPU est prévu pour atteindre 7,36 milliards de dollars en 2026, et la technologie de Rafay, Token Factory, permet aux opérateurs de livrer un accès mesuré et sans serveur aux modèles open source sans dédier des GPU à chaque client.

Cela signifie que les opérateurs peuvent monétiser chaque seconde de leur infrastructure, tandis que les entreprises bénéficient d'un meilleur prix en raison du partage holistique de l'infrastructure, plutôt que d'une répartition basée sur le temps.