Contexte et enjeux
Red Hat positionne son offre Kubernetes autour des agents d’intelligence artificielle capables d’exécuter des commandes, d’appeler des outils externes et d’interagir avec des systèmes d’entreprise. Cette capacité crée un double besoin : automatiser des processus tout en garantissant des frontières de sécurité exploitables. L’entreprise a présenté ces avancées lors de KubeCon + CloudNativeCon NA, en soulignant que les agents autonomes requièrent une isolation stricte et une gestion fine des ressources pour éviter des actions non autorisées.
OpenShell : sandboxing et contrôle d’accès
OpenShell, développé par Nvidia et intégré par Red Hat, fournit un runtime qui place chaque agent dans un environnement isolé. Le mécanisme combine sandboxing au niveau du conteneur, politiques conscientes du processus et restrictions réseau et d’identifiants. Red Hat indique que la solution s’appuie sur les conteneurs sandboxés d’OpenShift, ajoutant une couche d’isolation au sein d’une frontière de machine virtuelle. Cette approche en « couches superposées » limite les dégâts potentiels, même si l’agent n’est pas fiable. Le CTO de Red Hat, Chris Wright, insiste sur le principe du moindre privilège : un agent ne doit jamais disposer d’un accès en lecture‑écriture lorsqu’une simple lecture suffit.
llm-d 1.0 : orchestration de l’inférence
Le projet llm-d, désormais hébergé par la CNCF, a atteint la version 1.0 le 20 octobre. Cette version introduit le routage sensible à la session, la planification à priorité de tour, des contrôles QoS multi‑locataires et la haute disponibilité. Ces fonctions visent à garder le contexte de conversation proche du cache, à prioriser les requêtes latence‑sensibles et à réduire les interruptions lors de la maintenance. Brian Stevens, vice‑président senior IA chez Red Hat, explique que l’architecture permet de mettre à l’échelle indépendamment le pré‑traitement des entrées et la génération de tokens, optimisant ainsi l’utilisation des accélérateurs GPU.
Perspectives et limites
Outre le sandboxing, la gouvernance des agents implique la gestion d’identités, d’autorisations sur les données et d’audit vérifiable, comme le souligne Paul Nashawaty duCUBE Research. Les solutions concurrentes (ScaleOps Labs, Vultr, Broadcom/VMware) offrent des optimisations GPU et des déploiements privés, mais aucune ne combine à ce jour isolation stricte et orchestration d’inférence native Kubernetes comme le fait la pile Red Hat. Le principal défi reste la visibilité en temps réel sur les actions générées par les agents et la validation de leur conformité aux politiques, un domaine où les outils de monitoring restent embryonnaires.
