Contexte et objectif du projet
Dans le cadre du Center for Technological Responsibility, Reimagination and Redesign de l'Université de Brown, la senior Cunyan Ma a développé une carte interactive qui relie les entreprises technologiques aux travailleurs de données répartis dans le monde. La carte, accessible librement en ligne, compile plusieurs bases de données publiques, les propres relevés de Ma et des articles de presse décrivant les conditions de travail. L’objectif déclaré est de rendre visible ce que l’étudiante qualifie d’« AI colonialism », c’est‑à‑dire la dépendance des modèles d’intelligence artificielle à une main‑d’œuvre à bas salaire, souvent située dans le Sud global.
Fonctionnement du travail de données
Les modèles d’apprentissage automatique nécessitent des ensembles d’entraînement annotés par des humains. Les tâches recensées comprennent l’étiquetage d’objets dans des images, la classification de parties de discours, la transcription de discours long, l’évaluation de réponses de chatbots et la délimitation de tumeurs dans des scans médicaux. Une partie du travail implique la modération de contenus sensibles : les annotateurs doivent visionner ou lire des images et textes potentiellement traumatisants pour permettre aux systèmes de filtrer ces éléments. Ces activités, bien que techniques, restent manuelles et répétitives, et sont généralement externalisées à des prestataires situés dans des pays à faible coût de main‑d’œuvre.
Analyse technique et implications
Du point de vue de la chaîne d’approvisionnement de l’IA, la carte expose une couche souvent ignorée : la génération de données d’entraînement. Sans ces annotations, les algorithmes ne peuvent pas optimiser leurs fonctions de perte, ce qui affecte directement la précision et la robustesse des modèles. La dépendance à une main‑d’œuvre externalisée crée un goulet d’échelle ; la disponibilité de travailleurs bon marché conditionne la rapidité de mise à jour des jeux de données. En outre, la présence d’opérateurs exposés à des contenus violents soulève des risques psychologiques, un facteur rarement intégré aux métriques de performance des modèles.
Limites du recensement et perspectives
La cartographie repose sur des sources publiques et des auto‑déclarations ; elle ne prétend pas couvrir l’ensemble du réseau de sous‑traitance. Certaines plateformes de crowdsourcing ne publient pas leurs flux de travail, ce qui crée des zones d’ombre. De plus, les données de rémunération restent souvent imprécises, rendant difficile une comparaison quantitative entre régions. Malgré ces lacunes, l’outil fournit une base exploitable pour les chercheurs en éthique de l’IA et les décideurs qui souhaitent intégrer la dimension humaine dans l’évaluation des systèmes d’apprentissage automatique. Une amélioration future pourrait inclure des enquêtes directes auprès des travailleurs et l’ajout de métriques de bien‑être au tableau de bord de la chaîne d’approvisionnement.
