Contexte et affirmation
Alex Ewerlöf, ingénieur titulaire de deux diplômes en matériel et systèmes, publie le 26 septembre 2026 une mise en garde : la production de code par les grands modèles de langage (LLM) ne constitue pas une solution globale. Il rappelle que, dans les environnements de production, les exigences non fonctionnelles (NFR) – fiabilité, sécurité, scalabilité – représentent la majeure partie du coût opérationnel, bien plus que la simple implémentation fonctionnelle.
Limites techniques des LLMs
Le texte souligne que les LLM sont intrinsèquement stochastiques et probabilistes. Leur capacité à raisonner logiquement diminue dès que la fenêtre de contexte s’élargit, ce qui entraîne une perte de précision sur les tâches complexes. Pour compenser, les développeurs doivent encapsuler le modèle dans un « harness », exécuter des tests automatisés et parfois appliquer des techniques de chaîne de pensée (CoT). L’auteur indique que ces surcouches créent un point de rendement décroissant : des modèles plus coûteux n’apportent pas toujours un gain proportionnel de productivité, illustrant une courbe en S avec un plateau de rendement.
Impact sur la maintenance et la responsabilité
En listant les secteurs à faible tolérance de risque – santé, finance, automobile, défense, centrales électriques, aviation, fabrication – Ewerlöf montre que la simple génération de code ne suffit pas. Une erreur dans ces domaines peut entraîner des pertes financières, des dommages humains ou des sanctions légales. Il argue que l’IA ne peut être tenue responsable, car elle ne subit ni peine ni sanction, et que la responsabilité revient aux équipes humaines qui intègrent ces outils. Cette dissociation entre production rapide et obligation de fiabilité crée un fossé que les organisations doivent combler par des processus de revue et de validation.
Exemple concret : Claude Code
L’auteur cite le service Claude Code d’Anthropic comme illustration d’une promesse non tenue. Selon le post, l’installeur CLI de Claude Code supprime silencieusement son exécutable après l’installation, facture un usage supplémentaire malgré la capacité du plan, et renvoie des erreurs de limitation de taux erronées. Ces dysfonctionnements, observés en production, renforcent l’idée que la dépendance exclusive à un LLM sans supervision humaine introduit des risques opérationnels tangibles.
