Présentation d'asago

Red Hat a annoncé la création d'asago, un projet open-source visant à automatiser la gouvernance de l'intelligence artificielle (IA) en transformant les politiques de gouvernance en contrôles opérationnels déployables avec les systèmes d'IA.

Fonctionnement d'asago

Asago, qui signifie AI Safety and Governance Orchestration, vise à connecter les équipes de conformité, les data scientists et les administrateurs d'infrastructure. Le projet utilise une plateforme standardisée et un flux de travail en quatre étapes pour interpréter les politiques de gouvernance, évaluer les risques, recommander des mesures de sécurité et produire des configurations de déploiement tout en préservant une traçabilité des audits.

Architecture et déploiement

Asago utilisera des frameworks et des normes tels que le National Institute of Standards and Technology’s AI Risk Management Framework, le Open Worldwide Application Security Project’s Top 10 pour les applications de modèle de langage à grande échelle et le règlement AI de l'Union européenne. Le projet générera et exécutera des tests de sécurité personnalisés en fonction des risques d'une utilisation spécifique, recommandera des mesures d'atténuation et enregistrera la justification de ces mesures.

Implications et limites

Asago vise à remplacer l'interprétation manuelle des politiques et les scripts personnalisés qui ralentissent les déploiements et introduisent des erreurs. Le projet permettra aux auditeurs de retracer un contrôle de production actif jusqu'à une clause de politique spécifique, un test et des preuves à l'appui. Les développeurs, les chercheurs et les entreprises peuvent participer au projet via son référentiel GitHub et son site web.

Apache License 2.0

Le logiciel asago sera publié sous la licence Apache License 2.0 et est conçu pour fonctionner sur plusieurs clouds et infrastructures sur site.