Définition et critères d'un outil

Rich Hickey commence par distinguer le terme outil d’une notion plus vague de « utilité ». Il s’appuie sur la définition classique : « un dispositif ou implément tenu à la main, utilisé pour accomplir une fonction précise ». Deux attributs sont soulignés – contrôle et rétroaction sensorielle – comme essentiels à la manipulation d’un outil. La capacité à diriger l’action, à ressentir la résistance et à ajuster continuellement le geste constitue, selon lui, le cœur de l’expérience de l’artisan.

Ces critères sont illustrés par des exemples concrets : un marteau, une scie ou même la poche avant d’une chemise, qui bien que pratiques, ne remplissent pas les conditions d’un outil parce qu’ils ne sont pas manipulés avec intention et feedback. Cette distinction sert de cadre d’analyse pour les systèmes d’intelligence artificielle.

Caractéristiques des LLM comparées aux outils

Hickey décrit les grands modèles de langage (LLM) comme automatisations plutôt que comme des outils. Il note que les LLM fonctionnent « en autonomie avec peu ou pas de contrôle humain direct », ce qui contraste avec le besoin d’une direction continue propre aux outils. L’auteur insiste sur l’absence de manipulation active : l’utilisateur formule une requête, le modèle répond, puis le cycle se répète sans intervention physique ou sensorielle.

Il mentionne également que les LLM manquent de prévisibilité, de déterminisme et de fonction bornée, des propriétés que l’on attend d’un bon outil. Cette observation repose sur le texte source qui qualifie les LLM de « non déterministes » et « non fiables » dans le sens où ils ne garantissent pas un résultat identique pour une même entrée.

Conséquences pour les développeurs et les praticiens

Selon Hickey, l’usage d’une LLM équivaut à déléguer la tâche à une « machine capricieuse », ce qui empêche l’acquisition de compétences fondamentales. Il cite la perte d’apprentissage de la rédaction, de la formulation d’arguments et de la capacité à détecter les biais comme des effets directs de l’abdication du contrôle. Cette critique repose sur le passage où il énumère ce que l’on « manque » en s’appuyant sur une LLM pour résumer ou écrire du code.

En pratique, le texte met en garde contre la tendance à qualifier une LLM de « simple outil » pour justifier son usage. L’auteur affirme que cette rhétorique masque les différences structurelles entre automatisation et outil, et que la confusion peut conduire à des pratiques de développement où la compréhension du problème est remplacée par la recherche de prompts qui « fonctionnent ».

Limites de l’argumentation

Le texte de Hickey ne fournit pas de métriques, de versions de modèles ou de benchmarks quantitatifs. L’analyse repose donc exclusivement sur des descriptions qualitatives et philosophiques. Cette absence de données chiffrées limite la possibilité de mesurer objectivement l’écart entre les propriétés d’un outil et celles d’une LLM, mais elle reflète la nature argumentative de l’essai.