Contexte et portée de l’accord
Microsoft a signé un accord contractuel avec l’American Federation of Teachers (AFT) et son affilié new‑yorkais, l’United Federation of Teachers (UFT). L’entente comprend dix principes que les districts scolaires peuvent ajouter à leurs contrats dès novembre, sans renégocier l’ensemble de l’accord. Elle intervient après les interdictions d’un an imposées par New York City et Los Angeles sur les outils d’IA destinés aux élèves, mesures destinées à donner le temps d’établir des garde‑fous.
Le même texte mentionne un fonds de formation de 23 millions de dollars, financé conjointement par Anthropic, Microsoft et OpenAI, destiné à préparer les enseignants à l’usage responsable de l’IA. Cette dimension financière montre que l’accord ne se limite pas à la contrainte juridique, mais s’accompagne d’un investissement pédagogique.
Principes techniques de protection des données
Le premier principe impose à Microsoft de ne jamais entraîner ses modèles sur les données d’élèves ou d’enseignants. En pratique, cela requiert la mise en place de balises de classification dès l’ingestion, la segmentation des flux de données dans des environnements isolés et la génération de journaux d’audit vérifiables. Sans ces mécanismes, toute donnée pourrait être réinjectée dans les pipelines de formation, violant l’engagement contractuel.
Le deuxième principe limite la quantité de données collectées. Microsoft doit donc réduire les télémétries et les logs de diagnostic aux seules informations strictement nécessaires au fonctionnement du service. Cette approche de minimisation s’aligne sur les exigences de la FERPA et du COPPA, qui imposent un consentement explicite pour chaque catégorie de donnée sensible.
Le troisième principe oblige la divulgation claire aux familles du fonctionnement des outils IA. Concrètement, cela implique la rédaction de notices en langage non technique, l’ajout d’interfaces d’information dans les portails éducatifs et la mise à disposition de FAQ détaillant les types de données traitées, les finalités et les durées de conservation.
Le quatrième principe interdit les « AI companions », c’est‑à‑dire les agents conversationnels autonomes destinés aux élèves. Cette interdiction exclut l’usage de produits comme Copilot for Education dans des contextes où l’interaction est purement étudiante, contraignant Microsoft à désactiver ou à reconfigurer les modèles de dialogue pour ces environnements.
Le cinquième principe impose une révision humaine pour toute décision qualifiée de « high‑risk », par exemple l’attribution de notes, la sélection de parcours d’apprentissage ou la détection de comportements à risque. Le workflow doit intégrer une étape de validation par un enseignant ou un administrateur avant que le résultat généré par l’IA ne soit appliqué, augmentant la latence mais garantissant la responsabilité humaine.
Implications pour les services d’IA de Microsoft
Ces engagements contraignent les équipes Azure OpenAI à séparer les charges de travail éducatives des flux de données de production. Les modèles déployés dans les écoles devront être entraînés sur des jeux de données publics ou synthétiques, ce qui peut limiter l’amélioration continue basée sur le feedback réel des utilisateurs. Microsoft devra également fournir des outils de conformité capables de prouver, à la demande d’un district, que aucune donnée scolaire n’a été réutilisée pour l’entraînement.
Sur le plan juridique, la possibilité d’appliquer contractuellement les principes crée un cadre de recours clair en cas de violation. Cependant, la mise en œuvre technique de l’audit et de la traçabilité représente un coût opérationnel non négligeable, surtout pour les petites districts qui manquent de ressources informatiques internes. Enfin, la restriction des AI companions et la revue humaine des décisions à haut risque peuvent réduire l’efficacité perçue des solutions IA, poussant les établissements à réévaluer le rapport coût‑bénéfice de l’adoption de ces technologies.
