Le backlash technologique actuel s’intensifie autour de l’IA

Contexte du débat

Lors de l’épisode de septembre du podcast Decoder, Nilay Patel et son équipe ont analysé les réactions du public face à la vidéo « software brain », la plus commentée des six derniers mois. Le site de The Verge a enregistré plusieurs centaines de commentaires, YouTube en a compté plusieurs centaines, tandis que Spotify n’a reçu que quelques dizaines de réponses. Cette concentration de retours montre que le sujet suscite un intérêt massif, mais aussi des critiques ciblées.

Vérifiabilité du code généré par l’IA

Patel souligne que le code produit par les modèles d’IA reste vérifiable parce qu’il passe par un compilateur. Cette chaîne de validation est absente dans d’autres domaines, comme la médecine ou la chimie, où les résultats ne peuvent pas être confirmés par une simple exécution. Il indique que, même si les modèles peuvent « écrire du logiciel », ils ne garantissent pas la fiabilité en dehors de cet environnement contrôlé.

Le podcast cite également l’exemple d’une discussion avec le journaliste Robert Hart sur l’usage de l’IA en mathématiques. Patel mentionne que les modèles consomment un nombre indéterminé de tokens pour résoudre des problèmes, sans préciser le coût exact, ce qui rend difficile l’évaluation de l’efficacité énergétique et financière de ces expériences.

Limites dans les domaines scientifiques

Dans le domaine pharmaceutique, l’intervenant affirme que l’IA ne peut pas garantir la sécurité d’un nouveau médicament sans essais cliniques humains. Il compare cette incertitude à la nécessité d’injecter des sujets dans des cages, soulignant que la validation repose sur des protocoles biologiques, pas sur des simulations numériques.

Le manque de vérifiabilité s’étend aux sciences de la vie, où les modèles peuvent proposer des structures moléculaires, mais aucune méthode automatisée ne permet de confirmer leur activité biologique avant des tests réels. Cette frontière technique explique pourquoi le backlash se concentre sur les promesses exagérées d’« AGI » capable de résoudre tous les problèmes.

Implications pour la communication technologique

Patel explique que les « rants » du podcast sont une réponse directe aux attentes du public : ils synthétisent les reportages et offrent une perspective critique. Cette forme de discours, inspirée des colonnes d’opinion, vise à rendre les analyses plus accessibles, mais elle ne remplace pas une évaluation rigoureuse des données.

En conclusion, le backlash actuel reflète une prise de conscience des limites de l’IA hors du cadre du logiciel. Les auditeurs demandent davantage de transparence sur les coûts en tokens, la reproductibilité des expériences et les protocoles de validation dans les domaines non‑verifiables. Sans réponses concrètes, les critiques risquent de se renforcer.