Présentation du nouveau service

Akamai Technologies a annoncé l’extension de son AI Cloud avec deux composantes fondamentales : Akamai Inference et Akamai Agent Sandbox. Ces services sont proposés comme des environnements gérés où les entreprises peuvent déployer et exécuter des charges de travail d’intelligence artificielle depuis les data‑centers d’Akamai jusqu’aux plus de 4 350 points de présence en périphérie. L’objectif déclaré est de répondre à une demande croissante d’infrastructure flexible capable d’intégrer des modèles d’IA avec des sources de données internes ou tierces tout en respectant des protocoles de gouvernance stricts.

Architecture et options matérielles

Le nouveau portefeuille matériel inclut des clusters Nvidia Blackwell Ultra, notamment les GPU RTX PRO 6000 Blackwell Server Edition. Chaque nœud regroupe huit GPU et offre jusqu’à 2,3 téraoctets de mémoire HBM3e, ce qui permet de supporter des raisonnements à long contexte. Akamai prévoit également d’ajouter la prochaine génération de GPU Vera Rubin au cours de l’année suivante, élargissant ainsi la palette d’accélérateurs disponibles pour les charges de travail d’inférence.

Gestion des modèles et des données

Akamai Inference expose des API compatibles OpenAI, donnant accès à douze modèles à poids ouvert dont les tailles varient de 8 milliards à 2,8 trillions de paramètres. Parmi les modèles cités figurent le Nemotron 3 Ultra de Nvidia, le gpt‑oss‑120b d’OpenAI et le Gemma 4 de Google. En complément, des modèles d’« embedding » sont proposés pour les pipelines de génération augmentée par récupération, facilitant le couplage des modèles avec les services de bases de données gérées par Akamai afin d’ancrer les réponses dans les données d’entreprise.

Sécurité et exécution des agents

Akamai Agent Sandbox fournit un espace d’exécution isolé basé sur le framework open‑source Spin et le runtime WebAssembly. Les agents IA s’exécutent dans des fonctions Akamai, chaque sandbox permettant de contrôler finement les ressources allouées (CPU, mémoire), les API système accessibles et les flux réseau sortants. Cette isolation vise à empêcher les agents autonomes de dépasser les limites de sécurité définies par l’organisation, un besoin accentué par la montée en puissance des agents capables de coder ou de modifier des systèmes logiciels.