Introduction

Le département de l'Efficiency du Gouvernement (DOGE) a annulé plus de 100 millions de dollars en subventions de manière inconstitutionnelle, selon une décision de justice rendue récemment. Le juge Colleen McMahon a déclaré que le processus utilisé par DOGE pour éliminer les subventions, qui impliquait l'utilisation de ChatGPT pour déterminer si une subvention était liée à la diversité, à l'équité et à l'inclusion (DEI), était à la fois stupide et illégal.

Contexte Technique

DOGE a utilisé ChatGPT pour analyser les descriptions de subventions et déterminer si elles étaient liées à la DEI. Les employés de DOGE ont soumis des prompts standardisés à ChatGPT, tels que « Est-ce que la suivante relate à la DEI ? » et ont utilisé les réponses pour éliminer les subventions. Cependant, le juge McMahon a déclaré que cette approche était erronée, car elle se basait sur des caractéristiques protégées telles que la race, l'origine nationale, la religion et la sexualité.

Les employés de DOGE ont également utilisé des « codes de détection » pour identifier les subventions qui correspondaient à des caractéristiques protégées, tels que « BIPOC », « minorités », « autochtones » et « LGBTQ ». Le juge McMahon a déclaré que cette approche était inconstitutionnelle, car elle se basait sur des classifications explicites basées sur des caractéristiques protégées.

Analyse et Implications

La décision du juge McMahon a des implications importantes pour les subventions fédérales et la manière dont elles sont attribuées. Elle souligne l'importance de garantir que les processus de sélection des subventions soient justes, équitables et non discriminatoires. La décision met également en évidence les risques liés à l'utilisation de l'IA pour prendre des décisions importantes, en particulier lorsque les algorithmes utilisés ne sont pas transparents ou ne sont pas conçus pour éviter les préjugés.

La décision du juge McMahon a également des implications pour la sécurité et la confidentialité des données, car elle souligne l'importance de garantir que les données utilisées pour prendre des décisions importantes soient exactes et non biaisées. Elle met également en évidence la nécessité de surveiller l'utilisation de l'IA dans les processus de prise de décision pour garantir qu'elle soit utilisée de manière responsable et éthique.

Perspective

La décision du juge McMahon est un rappel important de l'importance de garantir que les processus de sélection des subventions soient justes, équitables et non discriminatoires. Elle souligne la nécessité de surveiller l'utilisation de l'IA dans les processus de prise de décision pour garantir qu'elle soit utilisée de manière responsable et éthique. Il est essentiel de continuer à surveiller les développements dans ce domaine pour garantir que les subventions fédérales soient attribuées de manière à promouvoir la diversité, l'équité et l'inclusion.