Présentation
Apate.ai, créée en 2024 à la suite de recherches menées à l'Université Macquarie, propose une flotte de milliers d'agents conversationnels capables de se faire passer pour des victimes potentielles. Ces agents répondent aux appels de phishing, traitent les messages suspects, ouvrent les liens de hameçonnage et s’inscrivent dans des groupes sociaux où les fraudeurs opèrent. Selon la société, la plateforme a déjà généré 2,5 million de conversations, ce qui représente 17 ans de temps perdu pour les escrocs.
Architecture et modèles
Les agents s’appuient à la fois sur des modèles de pointe (frontier models) fournis par les grands fournisseurs de cloud et sur des modèles internes finement ajustés. Le processus d’entraînement combine deux sources de données : les dialogues réels collectés par les agents et le corpus de recherche produit par le fondateur Dali Kaafar à l’Université Macquarie. Cette double approche permet d’optimiser la compréhension du langage naturel dans des contextes de fraude, notamment la reconnaissance d’accents, de langues et de styles d’écriture variés. Chaque agent fonctionne en mode « conversation », analyse les réponses du fraudeur en temps réel et extrait des indicateurs tels que numéros de compte bancaire, adresses de portefeuille crypto, URLs malveillantes ou marques usurpées.
Performances et résultats
Apate.ai revendique que ses agents dialoguent quotidiennement avec « des dizaines de milliers de fraudeurs ». Parmi les clients, la Commonwealth Bank of Australia a observé une baisse de 76 % des pertes publiques liées aux arnaques, tandis que TPG Telecom a redirigé près de 590 000 appels vers les agents. Un autre établissement bancaire australien a interrompu 22 campagnes d’escroquerie grâce aux renseignements fournis. Au niveau macro, le FBI a enregistré plus de 22 000 plaintes concernant des crimes liés à l’IA en 2025, engendrant 893 M$ de pertes, dont 632 M$ provenant d’arnaques d’investissement où les fraudeurs utilisent des voix et des avatars deepfake.
Enjeux et limites
Le modèle d’Apate soulève plusieurs questions. D’une part, la collecte massive de conversations avec des fraudeurs implique des risques de confidentialité : les agents doivent garantir que les données personnelles des victimes potentielles ne sont pas stockées ou exploitées. D’autre part, la dépendance à des modèles externes expose la solution à des variations de coût et de disponibilité du service cloud. Sur le plan technique, la capacité à maintenir la pertinence des réponses face à l’évolution rapide des techniques de phishing requiert un ré‑entraînement fréquent, ce qui augmente la charge de calcul. Enfin, l’efficacité mesurée (ex. : 76 % de réduction des pertes) dépend fortement du contexte réglementaire et de la coopération des opérateurs télécoms, ce qui limite la généralisation du modèle à d’autres juridictions.
