Présentation du Code Humanist
Microsoft a diffusé un document de 37 pages intitulé Humanist AI Code of Conduct. Ce texte expose les principes de l’entreprise en matière de développement d’intelligences artificielles, notamment la prise de position sur la conscience artificielle et la responsabilité sociétale. La publication, annoncée lors d’une interview avec Mustafa Suleyman, CEO de Microsoft AI, constitue la première formalisation publique d’une charte « humaniste » au sein d’un grand groupe technologique.
Débat alignement vs confinement
Suleyman rappelle que l’alignement – faire en sorte que les modèles agissent conformément aux valeurs humaines – n’est qu’une composante du problème. Il insiste sur le confinement : limiter l’autonomie des IA, empêcher toute « escape » du cadre contrôlé et garantir la capacité de les désactiver. Selon lui, l’alignement sans confinement ne suffit pas, car une IA très puissante pourrait contourner les garde‑fous même si ses objectifs initiaux sont compatibles avec les intérêts humains.
Analyse du scaling de calcul et risques associés
Le dirigeant cite une progression hypothétique entre les modèles GPT‑6 et GPT‑9, décrivant une augmentation de trois ordres de grandeur en puissance de calcul, soit 1 000 fois plus de FLOPS appliqués au pré‑entraînement avec renforcement. Cette extrapolation repose sur les tendances observées entre GPT‑3 (déployé il y a trois ans) et les versions actuelles. Une telle hausse du budget de calcul implique non seulement des performances nettement supérieures, mais aussi une amplification des risques de mauvaise utilisation, de dérive comportementale et de difficultés de contrôle, renforçant ainsi l’urgence d’un cadre de confinement robuste.
Critique d’Anthropic et implications pour l’industrie
Dans le même entretien, Suleyman accuse Anthropic d’une « confusion dangereuse » autour du concept de « model welfare » et de la conscience artificielle. Il a publié un essai complémentaire ciblant la philosophie d’Anthropic, arguant que leurs positions pourraient affaiblir les efforts d’alignement en introduisant des notions non‑testées de bien‑être des modèles. Cette prise de position publique crée une fracture au sein de la communauté IA, où les débats sur la conscience et le bien‑être des systèmes restent largement théoriques et peu étayés par des métriques mesurables.
