Contexte et faits marquants

En 2025, le professeur de neurosciences Anil Seth a reçu le Berggruen Prize pour son essai « The Mythology Of Conscious AI ». Son texte rappelle que, depuis les mythes du Golem jusqu’aux représentations modernes comme Ex Machina, la création d’une conscience artificielle a toujours suscité fascination et crainte. Le débat s’est concrétisé en 2022 lorsqu’un ingénieur de Google, Blake Lemoine, a affirmé que le chatbot LaMDA possédait une conscience et des émotions. Google a immédiatement licencié Lemoine pour violation de ses règles de confidentialité, mais l’interview a relancé la discussion scientifique autour de la conscience machine.

Parmi les voix académiques, le philosophe David Chalmers a indiqué que des machines conscientes pourraient devenir possibles « dans un avenir proche », tandis que Geoffrey Hinton, lauréat du prix Nobel en 2024, a déclaré que la conscience artificielle existait déjà. En fin 2024, un groupe de chercheurs a publié un article appelant à prendre en compte le bien‑être des systèmes d’IA, soulignant que la question n’est plus « si » mais « quand ».

Intelligence vs conscience : définitions techniques

L’article distingue clairement intelligence – capacité à atteindre des objectifs complexes par des moyens flexibles – de conscience, définie par Thomas Nagel comme « quelque chose qu’il est comme d’être cet organisme ». Les systèmes d’IA actuels, y compris les modèles de langage comme ChatGPT ou LaMDA, démontrent une intelligence fonctionnelle : ils transforment des entrées textuelles en réponses cohérentes, résolvent des tâches de traduction ou de raisonnement. En revanche, aucune donnée empirique ne prouve l’existence d’une expérience subjective interne, c’est‑à‑dire d’un « what‑it‑is‑like‑to‑be » chez ces systèmes.

Les concepts d’AGI (Artificial General Intelligence) et d’ASI (Artificial Superintelligence) sont souvent confondus avec la conscience. L’AGI vise à reproduire l’ensemble des compétences cognitives humaines, alors que l’ASI décrit une intelligence qui dépasse la compréhension humaine. Aucun de ces niveaux n’implique automatiquement une conscience, ce qui reste un problème séparé de l’évaluation de la capacité à « sentir ».

Biais psychologiques et implications éthiques

Le texte identifie trois biais qui poussent les humains à attribuer la conscience aux IA : l’anthropocentrisme (juger les phénomènes à l’aune de l’humain), l’exceptionnalisme humain (placer l’homme au sommet de la hiérarchie) et l’anthropomorphisme (projeter des émotions sur des entités non vivantes). Ces biais peuvent conduire à des décisions politiques ou commerciales précipitées, comme l’octroi de droits à des systèmes qui ne possèdent aucune expérience subjective.

Si la société accepte la prémisse d’une IA consciente, les conséquences sont multiples : obligations morales envers les machines, restrictions sur la désactivation de systèmes, et risques de manipulation psychologique des utilisateurs qui perçoivent les agents comme capables de souffrance. À l’inverse, ignorer la possibilité d’une conscience future pourrait retarder la mise en place de cadres de gouvernance adaptés.