Présentation
La fraude vocale par IA est devenue un problème majeur aux États-Unis, avec des pertes estimées à plus de 893 millions de dollars en 2025. Les victimes sont souvent des personnes âgées qui reçoivent des appels téléphoniques avec des voix synthétisées qui leur sont familières, comme celle de leurs enfants ou petits-enfants.
Le cas de Sharon Brightwell, une grand-mère de Floride, est exemplaire. Elle a reçu un appel d'une personne qui se faisait passer pour sa fille, April, et qui lui demandait de l'argent pour payer une caution. La voix de la fille avait été synthétisée à partir d'un fragment d'audio et était indiscernable de la voix réelle d'April.
Contexte technique
Les systèmes de clonage vocal par IA nécessitent seulement trois secondes d'audio pour produire une voix synthétique qui est, pour les besoins pratiques, indiscernable de l'original. Les outils pour réaliser cela sont bon marché, abondants et presque entièrement non réglementés.
Les entreprises comme Descript, ElevenLabs, Lovo, PlayHT, Resemble AI et Speechify offrent des produits de clonage vocal qui peuvent être utilisés pour commettre des fraudes. Certaines de ces entreprises ont mis en place des mesures de sécurité, comme des politiques d'utilisation interdite et des classificateurs de parole pour identifier les audio générés par leur système.
ElevenLabs a mis en place un programme de sécurité multicolore, comprenant une politique d'utilisation interdite, un classificateur de parole publique et des mesures de traçabilité.Implications et limites
La fraude vocale par IA est un problème qui nécessite une attention immédiate. Les pertes estimées sont importantes et les victimes sont souvent des personnes vulnérables. Les entreprises qui offrent des produits de clonage vocal doivent prendre des mesures pour prévenir les fraudes et les abus.
Les régulateurs et les forces de l'ordre doivent également prendre des mesures pour lutter contre ce type de fraude. Cela peut inclure la mise en place de réglementations pour les entreprises de clonage vocal et la sensibilisation du public aux risques de la fraude vocale par IA.
