Présentation du contexte
En janvier, des officiers du Département de la sécurité intérieure (dhs) ont tué au moins deux personnes. J'ai appris que Google vend ses services Cloud aux agences pertinentes au sein du dhs. J'ai considéré cela comme étant incorrect, car les agents fédéraux ne devraient pas être en mesure de tuer des citoyens dans la rue.
Contexte technique
J'ai découvert que Google fournissait des services Cloud à des agences comme l'ice (Immigration and Customs Enforcement) via des tiers comme ITC Federal. De plus, Google a supprimé des applications qui avertissaient de l'activité de l'ice. J'ai également constaté que Google avait volontairement remis les informations d'un compte d'un étudiant manifestant à l'ice sans préavis, en violation de ses propres conditions de service.
Implications et limites
J'ai tenté de convaincre les dirigeants de Google, notamment Jeff Dean, de ne pas signer un contrat d'IA militaire controversé avec le Pentagone. Malgré mes efforts, Google a signé un contrat qui permettait l'utilisation de son IA pour les robots tueurs ou la surveillance de masse sans restrictions. J'ai quitté Google DeepMind, car je ne pouvais plus travailler pour une entreprise qui ne respectait pas ses principes éthiques.
Analyse scientifique
Il est important de noter que les entreprises technologiques comme Google ont une responsabilité importante dans la manière dont elles utilisent leur technologie. Les contrats signés avec des agences gouvernementales peuvent avoir des implications significatives sur la vie des citoyens. Dans ce cas, le contrat signé par Google avec le Pentagone soulève des inquiétudes quant à l'utilisation potentielle de l'IA pour des fins militaires ou de surveillance. Il est essentiel que les entreprises technologiques prennent en compte les implications éthiques de leurs actions et prennent des décisions qui respectent les droits et la dignité des citoyens.
