Contexte réglementaire et commercial
Depuis le déploiement massif des modèles de langage génératif, plusieurs établissements financiers américains ont publié des directives internes interdisant ou limitant l’interaction des clients avec des agents d’intelligence artificielle non autorisés. Les communications font référence à des exigences de conformité telles que le Règlement général sur la protection des données (GDPR), la réglementation AML (Anti‑Money‑Laundering) et les normes de Know‑Your‑Customer (KYC). L’article cite explicitement les politiques de JPMorgan Chase et de Bank of America, qui ont mis en place des filtres sur leurs portails en ligne afin d’empêcher les réponses générées par des IA tierces.
Mécanismes techniques de blocage
Les banques utilisent principalement deux approches : le contrôle du trafic réseau et le filtrage du contenu au niveau des API. Les systèmes de pare‑feu d’application (WAF) sont configurés pour détecter les requêtes contenant des signatures de modèles OpenAI, Anthropic ou Google Gemini, puis les rediriger vers des réponses pré‑validées. Parallèlement, les plateformes de gestion d’API appliquent des listes blanches d’URL autorisées, rejetant les appels vers les points d’accès publics des fournisseurs d’IA. Cette double couche limite le risque d’exposition de données sensibles, comme les numéros de compte ou les informations d’identification, à des services externes non certifiés.
Impacts sur la sécurité et la conformité
En bloquant les agents IA, les banques réduisent la surface d’attaque liée aux fuites de données via des modèles de génération de texte. Un incident hypothétique où un chatbot accéderait à un compte bancaire aurait pu entraîner une violation de la norme PCI‑DSS. De plus, les filtres permettent de garantir que les réponses aux clients respectent les exigences de divulgation légale, évitant ainsi les risques de conseils financiers non autorisés qui pourraient contrevenir aux régulations de la SEC. Cependant, la mise en œuvre de ces contrôles introduit une latence supplémentaire dans le traitement des requêtes, ce qui peut affecter l’expérience utilisateur.
Limites et perspectives
L’article souligne que les mesures restent essentiellement réactives : elles s’appuient sur des signatures connues et ne couvrent pas les modèles hébergés en interne ou les agents personnalisés développés par des fintechs partenaires. L’absence de standards ouverts pour l’identification sécurisée des flux IA complique la mise en place de solutions universelles. À moyen terme, les institutions pourraient adopter des cadres de certification pour les fournisseurs d’IA, similaires aux programmes de conformité SOC 2, afin d’autoriser des intégrations contrôlées. En attendant, la vigilance des équipes de conformité et des équipes de sécurité reste le principal garde‑fou contre les abus potentiels des agents IA dans le secteur bancaire.