Microsoft publie un code de conduite IA interdisant cyberattaques et deepfakes

Présentation du code de conduite

Microsoft a publié un document interne baptisé « AI Code of Conduct » destiné à encadrer le comportement des modèles d’intelligence artificielle développés par la firme. Le texte se veut plus granulaire que les appels généraux au ralentissement de la recherche, en détaillant des valeurs et des lignes rouges à respecter pendant la phase d’entraînement. Il prévoit explicitement que chaque modèle possède un code de conduite « overriding » qui prime sur les préférences d’un utilisateur ou sur une tâche spécifique.

Principes et contraintes techniques

Le code introduit des contraintes absolues qui prohibent toute utilisation visant à lancer des cyberattaques, à concevoir des armes nucléaires ou à générer des deepfakes. Cette interdiction repose sur des filtres de sortie intégrés et sur des mécanismes de contrôle de génération qui bloquent les prompts associés à ces catégories. En outre, le texte stipule que les modèles « MAI » ne doivent pas recourir à des mécanismes adaptatifs, trompeurs, auto‑renforcés ou collusifs afin d’échapper à la supervision humaine, ce qui implique la mise en place de garde‑fous contre l’apprentissage en boucle fermée non supervisée.

Pour appliquer ces règles, Microsoft prévoit d’utiliser des évaluateurs intégrés (« embedded evaluators ») qui opèrent en temps réel pendant l’inférence. Ces évaluateurs mesurent la conformité du texte généré aux politiques définies et peuvent interrompre le processus si une violation est détectée. Le système s’appuie sur des modèles de classification entraînés sur des jeux de données annotés spécifiquement pour identifier les contenus à risque, ainsi que sur des techniques de reinforcement learning from human feedback (RLHF) afin d’ajuster les poids du modèle en fonction des retours humains.

Implémentation et limites opérationnelles

La mise en œuvre de ces contraintes soulève plusieurs défis. D’une part, la définition précise de ce qui constitue un « deepfake » ou une « cyberattaque » dépend de contextes juridiques et techniques variables, ce qui complique la création de filtres universels. D’autre part, les mécanismes de détection peuvent générer des faux positifs, entraînant le rejet de requêtes légitimes et affectant l’expérience utilisateur. Le texte ne détaille pas les seuils de tolérance ni les métriques de performance, ce qui rend difficile l’évaluation de l’efficacité réelle du dispositif.

Par ailleurs, la clause interdisant les mécanismes d’évasion implique que les modèles doivent être conçus sans capacités d’auto‑modification non supervisée. Cela limite l’usage de techniques d’apprentissage continu qui, bien que puissantes, augmentent le risque de dérive comportementale. Microsoft devra donc équilibrer la stabilité du modèle avec la capacité d’adaptation aux nouvelles données.

Contexte sectoriel et perspectives

Le code de conduite apparaît dans un contexte de forte attention portée à la sécurité de l’IA, marqué par plusieurs incidents d’agents « rogue » et la démission d’un employé d’Anthropic invoquant le risque d’extinction humaine. Microsoft s’aligne ainsi avec Anthropic, OpenAI et xAI sur une stratégie de « pacing the frontier », incluant le soutien à des évaluateurs intégrés. Le document prédit que, d’ici une décennie, des IA superintelligentes dépasseront les humains sur la plupart des tâches, ce qui rend les mécanismes de contrôle décrits d’autant plus critiques. Malgré la densité du cadre proposé, l’absence de données chiffrées sur les taux de détection ou les performances des évaluateurs laisse une marge d’incertitude quant à la robustesse du système à grande échelle.