Introduction

Les déploiements d'IA dans les entreprises créent un nouveau défi en matière de sécurité, car les architectures traditionnelles ne sont pas conçues pour gérer les vulnérabilités introduites par l'IA. Les systèmes d'IA présentent une surface d'attaque étendue, avec des vulnérabilités liées aux données, aux modèles, aux identités et aux chaînes d'approvisionnement.

Contexte Technique

La mise en œuvre de l'IA dans les entreprises a considérablement élargi la surface d'attaque, ce qui rend les pipelines de données, les environnements de formation de modèles, les systèmes de gestion des identités et les chaînes d'approvisionnement des cibles privilégiées pour les attaques. Les architectures de sécurité traditionnelles ne sont pas conçues pour défendre ces nouvelles vulnérabilités. Selon Steve Kenniston, évangéliste en cybersécurité chez Dell Technologies, l'IA change la donne en introduisant de nouvelles vulnérabilités liées à l'inférence de modèles, aux données de formation, aux injections de requêtes et aux flux de travail.

Analyse et Implications

Les déploiements d'IA nécessitent une approche de sécurité intégrée dès la conception, et non une approche de sécurité ajoutée après coup. Selon Kenniston, environ 85% à 90% des projets d'IA sont arrêtés en cours de mise en œuvre en raison de problèmes de sécurité. Cela montre que la sécurité est souvent considérée comme une afterthought. Dell propose une approche de sécurité intégrée, qui traite l'usine d'IA comme une surface de sécurité unique, validée à travers les couches de calcul, de réseau, de stockage et de données.

Perspective

Il est essentiel de surveiller les limites de l'analyse de sécurité des déploiements d'IA et de considérer les prochaines étapes pour améliorer la sécurité de ces systèmes. Les entreprises doivent intégrer la sécurité dans tous les aspects de leurs opérations, de la chaîne d'approvisionnement aux appareils livrés aux clients. La confiance zéro et les contrôles d'identité granulaires sont également essentiels pour assurer la sécurité des systèmes d'IA.