Contexte et objectifs
Action State Group Inc. propose une suite d’outils open source afin que les entreprises puissent vérifier de façon indépendante les actions réalisées par des agents d’intelligence artificielle. Le besoin provient du fait que les systèmes automatisés commencent à acheter, vendre et déléguer du travail au‑delà des frontières corporatives, créant un problème de confiance lorsqu’une partie ne peut se fier uniquement aux déclarations de l’autre.
Le portefeuille comprend trois composants : EvidenceBook, qui conserve des historiques de transactions inviolables ; Terms Packs, qui évaluent le comportement des agents selon des critères réglementaires ou métier ; et Countersign, un service de vérification indépendant. La première version inclut un pack dédié aux obligations imposées par le AI Act de l’Union européenne.
Architecture et mécanismes
Les outils s’appuient sur le format ouvert Agent Action Capsules, lequel encode chaque événement sous forme de registre signé cryptographiquement. Des points de contrôle (cryptographic checkpoints) sont insérés à intervalles définis ; un témoin public gratuit atteste de l’existence d’un checkpoint à un instant donné, rendant toute modification ultérieure détectable.
EvidenceBook génère pour chaque participant un historique de transaction signé. L’acheteur consigne la demande et le paiement, le fournisseur consigne ce qu’il a accepté et livré. La comparaison de ces enregistrements permet d’identifier accords, conflits ou lacunes sans recourir à une autorité centrale. Les deux parties n’ont pas besoin d’installer le logiciel pour bénéficier du service ; une implémentation compatible suffit à échanger les preuves, et la vérification peut s’effectuer hors‑ligne, sans frais.
Countersign analyse les propriétés cryptographiques et structurelles d’un bundle d’évidence, signe ses conclusions et les inscrit dans un journal de transparence propre. Il ne certifie pas que les résultats revendiqués se sont réellement produits, ni que le bundle est complet. Terms Packs définissent les critères d’évaluation (par exemple conformité au AI Act) et produisent un rapport indiquant les exigences satisfaites, manquées ou non évaluables.
Analyse des limites et perspectives
Le principal point faible réside dans le fait que la préservation d’un enregistrement ne garantit pas son exactitude. EvidenceBook peut confirmer que les événements consignés ont eu lieu, mais il ne peut pas prouver que l’accord sous‑jacent a été respecté. De même, Countersign ne fournit qu’une attestation de conformité technique, sans validation juridique.
Le modèle repose fortement sur la relecture humaine. Les équipes GRC (governance, risk, compliance) sont encouragées à examiner périodiquement des échantillons pour comparer les jugements humains et automatisés, assurant ainsi une couche de contrôle supplémentaire.
Des intégrations précoces, comme Mesh‑LLM (réseau d’inférence distribué) et le projet open source Project Nanda, démontrent l’applicabilité du format aux échanges entre nœuds d’inférence ou agents autonomes. L’usage d’Agent Action Capsules dans ces contextes permet de détecter d’éventuelles altérations de revendications sur les modèles ou configurations.
Le code d’EvidenceBook est publié sous licence Apache 2.0, et les spécifications s’appuient sur des standards IETF existants, bien que les documents restent à ce jour des Internet‑Drafts non adoptés comme RFC. Action State prévoit de placer les spécifications sous gouvernance neutre afin de favoriser l’adoption industrielle et d’introduire éventuellement une tarification pour les Countersigns lorsque des parties tierces accepteront leurs attestations.
