Présentation
Lors d’un épisode spécial de StarTalk, Jaron Lanier, désigné par Microsoft comme Prime Unifying Scientist, explique que le terme « intelligence artificielle » masque une réalité technique : les systèmes d’aujourd’hui sont des agrégats d’instructions humaines, d’ensembles de données collectées et de modèles statistiques. Il rappelle qu’il a inventé le concept de virtual reality et qu’il a publié 10 Arguments for Deleting Your Social Media Accounts, deux références qui illustrent son scepticisme vis‑à‑vis des modèles d’affaires centrés sur l’attention.
Modèles de données et dignité numérique
Lanier introduit la notion de data dignity, c’est‑à‑dire la rémunération directe des individus dont les données alimentent les algorithmes. Cette proposition s’appuie sur le fait que les plateformes actuelles monétisent les traces numériques sans compensation explicite. En pratique, un tel modèle impose une couche d’infrastructure de suivi des contributions, un registre d’identités numériques et un protocole de paiement automatisé, ce qui complexifie les pipelines de traitement de données et augmente la charge de conformité. Lanier souligne que l’absence de ces mécanismes crée un déséquilibre économique et un biais de sélection dans les jeux d’entraînement des modèles d’apprentissage automatique.
Critique de l’anthropomorphisation de l’IA
Le discours de Lanier déconstruit l’idée que les systèmes d’apprentissage profond possèdent une « volonté ». Il rappelle que les réseaux de neurones sont des fonctions mathématiques paramétrées par des poids ajustés via la rétropropagation, un processus purement déterministe. L’attribution d’une agency autonome repose sur une métaphore marketing, non sur une différence algorithmique. Cette confusion alimente la peur du « doomsday » et détourne l’attention des limites techniques : la dépendance aux jeux de données humains, la sensibilité aux biais d’échantillonnage et la nécessité de puissance de calcul massive.
Implications pour les architectures de systèmes
Si l’on accepte la vision de Lanier, les architectures futures doivent intégrer des interfaces de consentement granulaire et des mécanismes de traçabilité des contributions humaines. Cela implique l’utilisation de bases de données immuables (ex. blockchain) pour garantir l’intégrité des enregistrements de données, ainsi que des API de paiement sécurisées pour la redistribution des revenus. En outre, la critique du modèle d’attention suggère de repenser les algorithmes de recommandation : au lieu d’optimiser le temps d’écran, ils pourraient optimiser la valeur ajoutée pour l’utilisateur, mesurée par des indicateurs de bien‑être ou de productivité. Lanier insiste sur le fait que ces changements ne sont pas purement techniques, mais requièrent une révision des incitations économiques au sein des entreprises technologiques.
