Contexte actuel de la complexité logicielle

La récente résolution de l’hypothèse de Riemann à l’aide de 17 millions de lignes de code assisté par IA montre que les systèmes peuvent dépasser la capacité de compréhension humaine. Malgré la certification de la preuve, aucun chercheur ne saisit le fonctionnement interne du programme, illustrant une dissociation croissante entre théorie et implémentation.

Cette dissociation se reflète dans les incidents de sécurité récurrents (vulnérabilités découvertes dans Java, PHP, Linux) que l’auteur projette comme une accélération du « pain » sécuritaire vers 2027. La dépendance sociétale aux logiciels rend chaque défaut potentiellement critique, d’où l’apparition de scénarios absurdes comme des réfrigérateurs de supermarché nécessitant l’intervention d’un agent de type James Bond.

Spécifications formelles comme levier d’ingénierie

Le texte propose de définir formellement chaque couche matérielle et logicielle afin de générer du code à partir de spécifications vérifiées par machine. Cette approche implique la reconstruction des piles d’OS et même la ré‑ingénierie des jeux d’instructions, afin d’éliminer les interfaces héritées qui fragmentent la chaîne de responsabilité.

Les unikernels couplés à une discipline libOS sont cités comme un moyen de réduire le nombre d’interfaces : le code est lié à la compilation, les services partagent une mémoire interconnectée, et chaque composant peut être spécifié de façon isolée. Une fois la spécification validée, les correctifs peuvent être re‑générés automatiquement, limitant le délai de réponse humain aux incidents.

Diversité logicielle comme contre‑mesure

Le texte met en garde contre la monoculture logicielle, où un seul bug peut affecter des millions d’hôtes. Il suggère d’introduire une diversité génétique en générant plusieurs implémentations conformes à la même spécification, rendant l’infection simultanée improbable.

Cette stratégie s’appuie sur le principe de Postel – « être libéral en réception, strict en émission » – mais l’étend aux modèles d’IA qui produisent le code. Ainsi, même si une implémentation échoue, les variantes restantes continuent de fonctionner, limitant l’impact d’une spécification incomplète.

Implications sociotechniques et recherche nécessaire

Le passage d’un modèle de révision humaine à un modèle d’IA‑assistance bouleverse les contrats sociaux des communautés open source, qui reposent sur la confiance et la revue de code. La décision finale sur le contenu des spécifications restera humaine, mais la validation sera automatisée.

Le texte souligne le besoin de nouvelles recherches en débogage de systèmes hétérogènes, en simplification de code maintenu par des agents autonomes et en gestion de la responsabilité lorsqu’aucun nœud ne partage exactement le même binaire. Ces axes de recherche sont essentiels pour que l’ingénierie logicielle puisse rattraper la complexité croissante introduite par les modèles de génération massive.