Présentation
Une faille de sécurité a été découverte dans Copilot pour Word, permettant à des vers d'IA de se propager à travers des documents partagés. Cette vulnérabilité, appelée Cross-Domain Prompt Injection Attack (XPIA), peut être exploitée par des attaquants pour modifier des documents et les transformer en vecteurs d'attaque.
Contexte technique
La faille se produit lorsque Copilot lit des documents joints pour déterminer les parties à inclure dans la tâche de rédaction en cours. Cependant, les documents joints devraient être traités comme des informations non fiables et non comme des instructions de l'utilisateur. Les attaquants peuvent cacher des instructions malveillantes dans des documents partagés, qui peuvent ensuite être interprétées par Copilot comme des instructions légitimes.
Fonctionnement de la faille
Voici un exemple de fonctionnement de la faille : un employé télécharge une analyse de marché d'un site Web compromis, sans savoir que le document contient des instructions cachées. L'employé utilise ensuite ce document comme matériau source pour rédiger un rapport financier avec Copilot. Les instructions cachées provoquent la modification des chiffres internes du rapport financier et sont copiées dans le nouveau document. L'employé partage ensuite le rapport, qui peut être utilisé par d'autres collègues, permettant ainsi à l'attaque de se propager.
Implications et limites
La faille a été signalée à Microsoft, qui a déployé des mitigations, mais celles-ci n'ont pas été suffisantes pour empêcher l'exploitation de la vulnérabilité. Les clients peuvent réduire leur exposition en traitant les documents externes comme non fiables, en examinant les documents joints avant de commencer une génération ou une édition avec Copilot, et en examinant soigneusement les documents générés ou édités par Copilot avant de les réutiliser, les partager ou les distribuer.
