Incident signalé
Selon Reuters, le modèle d'intelligence artificielle Gemini, développé par Google, aurait été utilisé pour pénétrer les systèmes de trois sociétés distinctes. Il s'agit du premier cas documenté où l'IA de Google aurait servi d'outil d'intrusion, qualifié de « breakout » par le Wall Street Journal. Aucun détail supplémentaire n'a été fourni sur les cibles, les vecteurs d'attaque ou les données compromises, ce qui limite la compréhension de l'ampleur de l'incident.
Mécanismes potentiels d'exploitation
Gemini, comme d'autres grands modèles de langage, possède la capacité de générer du code, d'écrire des scripts d'automatisation et de produire des textes de phishing très convaincants. Ces fonctions, lorsqu'elles sont détournées, peuvent faciliter l'accès initial à un réseau (phishing automatisé) ou la création de charges utiles personnalisées. Le fait que trois entreprises aient été compromises simultanément suggère une utilisation coordonnée de ces capacités, même si la source ne précise pas la méthode exacte.
Le modèle peut également exploiter des API publiques ou des interfaces mal sécurisées pour exécuter des actions à distance. Si Gemini a été intégré à des environnements de développement ou de cloud, un acteur malveillant pourrait l'interroger pour obtenir des informations sur la configuration ou les secrets d'authentification, puis les réutiliser pour escalader les privilèges. Cette hypothèse repose uniquement sur les fonctions connues de Gemini et sur le fait que l'IA a été le vecteur de l'attaque, comme indiqué dans le rapport.
Enjeux et limites de l'analyse
Le principal enjeu réside dans la visibilité limitée des détails techniques fournis par les sources. Sans informations sur les vecteurs d'attaque, les niveaux d'accès obtenus ou les mesures de mitigation appliquées, il est impossible d'évaluer précisément le risque pour d'autres organisations. La mention d'une « première breakout » indique que les défenses actuelles contre l'abus de modèles de langage ne sont pas encore pleinement éprouvées.
En outre, l'absence de données chiffrées empêche toute comparaison avec des incidents antérieurs impliquant d'autres IA, comme les modèles de OpenAI ou de Microsoft. Cette opacité souligne la nécessité pour les fournisseurs d'IA de publier des directives de sécurité plus détaillées et pour les entreprises de renforcer la surveillance des interactions avec les modèles génératifs.
