Introduction
L'agence de sécurité nationale (NSA) utilise apparemment Mythos Preview, le modèle récemment annoncé par Anthropic, selon un rapport d'Axios. Cette nouvelle survient quelques semaines après que le département de la Défense, l'agence parente de la NSA, ait qualifié Anthropic de risque pour la chaîne d'approvisionnement en raison du refus de la société de donner un accès sans restriction aux fonctionnalités complètes de son modèle aux responsables du Pentagone.
Contexte Technique
Anthropic a annoncé Mythos comme un modèle de pointe conçu pour les tâches de cybersécurité, mais a affirmé que le modèle était trop capable d'attaques cybernétiques offensives pour être rendu public. Par conséquent, la société de IA a limité l'accès à Mythos à environ 40 organisations, dont seulement une douzaine ont été nommées publiquement. Le modèle est principalement utilisé pour analyser les environnements à la recherche de vulnérabilités exploitables.
Analyse et Implications
L'utilisation par la NSA de Mythos soulève des questions sur les implications de sécurité et les risques potentiels liés à l'utilisation de modèles de IA avancés pour des fins de cybersécurité. Le Pentagone est actuellement en désaccord avec Anthropic, arguant que ses outils peuvent menacer la sécurité nationale, notamment en raison de leur potentiel d'utilisation dans des armes autonomes et la surveillance de masse.
Perspective
Il est important de surveiller l'évolution de la relation entre Anthropic et les agences gouvernementales, ainsi que les prochaines étapes dans le développement et l'utilisation de modèles de IA avancés pour la cybersécurité. Les limites et les risques potentiels de ces technologies doivent être soigneusement évalués pour garantir leur utilisation responsable et sécurisée.
