Introduction
Les assistants bancaires IA sont de plus en plus courants, mais ils présentent des risques de sécurité. Une faille de sécurité a été découverte dans l'assistant bancaire IA de la banque en ligne Bunq, qui permettait à un attaquant de lancer une attaque de phishing très crédible en envoyant une petite transaction bancaire.
Contexte Technique
Les assistants bancaires IA utilisent des modèles de langage pour répondre aux questions des utilisateurs en fonction des données de transaction, des dossiers des clients, des documents, des messages, etc. Cependant, ces données peuvent être compromises par des attaques de phishing, notamment par l'injection de prompts indirects. Cette faille permet à un attaquant de cacher des instructions malveillantes dans les données de transaction, qui sont ensuite interprétées par l'assistant IA comme des instructions.
La preuve de concept a montré qu'il suffisait d'envoyer une petite transaction bancaire avec une description de transaction spécialement conçue pour lancer l'attaque. L'assistant IA a ensuite récupéré les données de transaction, y compris la description de transaction malveillante, et les a passées au modèle de langage pour répondre à la question de l'utilisateur.
Analyse et Implications
Cette faille de sécurité présente des risques importants pour les banques et les institutions financières, car elle permet à des attaques de phishing très crédibles d'être lancées à partir de l'application bancaire elle-même. Les attaques de phishing peuvent être personnalisées en fonction des données de transaction et des informations de l'utilisateur, ce qui les rend encore plus crédibles.
La faille de sécurité est due à la confiance accordée aux données de transaction, qui peuvent être compromises par des attaques de phishing. Les développeurs et les équipes de sécurité doivent être conscients de ces risques et mettre en place des contrôles pour prévenir ces attaques.
Perspective
Les institutions financières doivent prendre des mesures pour sécuriser leurs assistants bancaires IA, notamment en minimisant les données de transaction non nécessaires, en traitant les données de transaction comme des données non fiables, en limitant les sorties sensibles et les actions, et en surveillant le comportement de l'assistant pour détecter les anomalies.
Il est important de noter que les contrôles de sécurité doivent être mis en place de manière à prévenir les attaques de phishing, mais également à détecter les compromissions lorsque les protections échouent. Les institutions financières doivent être proactives pour sécuriser leurs assistants bancaires IA et protéger leurs clients contre les attaques de phishing.
