Introduction
La plateforme d'IA Clarifai a supprimé 3 millions de photos fournies par OkCupid pour entraîner son système de reconnaissance faciale. Cette action fait suite à une enquête menée par la Federal Trade Commission (FTC) qui a révélé que ces données avaient été partagées sans le consentement des utilisateurs.
Contexte Technique
En 2014, Clarifai a demandé à OkCupid de partager des données pour entraîner son modèle d'IA. OkCupid a fourni des photos téléchargées par les utilisateurs, ainsi que des données démographiques et de localisation. Cependant, cette pratique est interdite par les politiques de confidentialité d'OkCupid.
Les emails échangés entre les dirigeants de Clarifai et d'OkCupid ont révélé que les données ont été collectées sans autorisation. Le fondateur de Clarifai, Matthew Zeiler, a écrit : « Nous collectons des données maintenant et nous venons de réaliser que OKCupid doit avoir une énorme quantité de données incroyables pour cela ».
Analyse et Implications
L'enquête de la FTC a débuté en 2019, après la publication d'un article du New York Times sur l'utilisation par Clarifai de photos d'OkCupid pour développer un outil d'IA capable d'estimer l'âge, le sexe et la race d'une personne à partir de son visage. Le règlement de l'affaire a abouti à l'interdiction pour OkCupid et Match Group de représenter de manière trompeuse la nature de leur collecte et de leur partage de données.
Perspective
Il est essentiel de surveiller les pratiques de collecte et de partage de données des entreprises, en particulier dans le domaine de l'IA et de la reconnaissance faciale. Les utilisateurs doivent être informés et consentir explicitement à la collecte et à l'utilisation de leurs données. Les entreprises doivent respecter les politiques de confidentialité et les réglementations en vigueur pour éviter les abus et les conséquences juridiques.
