Anthropic développe FlashProve pour prouver l’identité des modèles IA

Principe de FlashProve

Anthropic a annoncé le projet FlashProve, un système open source destiné à attester cryptographiquement qu’une sortie provient d’un modèle d’intelligence artificielle précis. Le concept, qualifié de « provable inference », repose sur une preuve mathématique qui lie le texte généré à l’empreinte du modèle déclaré. Cette approche s’inspire des signatures électroniques utilisées dans les courriels, où le destinataire peut vérifier l’expéditeur réel. FlashProve vise ainsi à éliminer les incertitudes lorsqu’un utilisateur reçoit une réponse et veut s’assurer qu’elle émane bien du modèle attendu.

Mécanisme de l’empreinte cryptographique

Le fonctionnement nécessite que chaque laboratoire publie une « fingerprint » publique pour chaque version de modèle mise à disposition. Cette empreinte est calculée à partir de paramètres qui ne révèlent pas les poids internes, préservant ainsi le secret commercial du modèle. Lorsqu’une sortie est générée, le système joint à celle‑ci une preuve dérivée de l’empreinte, permettant à un vérificateur – même sur un appareil local – de confirmer la correspondance sans accéder aux poids. La spécification technique détaillée et le code d’exemple sont disponibles sur GitHub sous licence open source.

Scénarios d’usage et limites actuelles

FlashProve pourrait empêcher deux types de fraudes : un fournisseur qui remplacerait clandestinement un modèle coûteux par un modèle moins performant pour réduire ses dépenses, ou un acteur qui gonflerait les performances en substituant un modèle supérieur à la place du modèle annoncé. De même, des tiers pourraient justifier l’utilisation d’un modèle de pointe – par exemple, un développeur affirmant qu’une analyse de vulnérabilité a été réalisée par un modèle de cybersécurité avancé – et fournir une preuve vérifiable. Cependant, Anthropic précise que le projet reste à l’état de recherche intermédiaire : aucune implémentation en production n’est prévue, ni chez Anthropic ni chez d’autres laboratoires. L’absence de déploiement limite pour l’instant l’évaluation de la charge computationnelle réelle et de la résistance aux attaques de type « model‑impersonation » orchestrées par les propres fournisseurs.