Introduction
Anthropic a lancé Project Glasswing, un programme de recherche en sécurité basé sur un nouveau modèle d'IA appelé Claude Mythos Preview. Ce modèle a la capacité de découvrir et d'exploiter des vulnérabilités de sécurité en temps réel, ce qui pourrait potentiellement déstabiliser l'infrastructure numérique mondiale.
Contexte Technique
Mythos Preview est un modèle d'IA qui peut traiter un contexte de 1 million de tokens et produire une sortie de 128 000 tokens. Il est disponible uniquement aux participants du programme Glasswing, qui sont des entreprises de sécurité, des fournisseurs de cloud et des opérateurs d'infrastructures critiques. Le coût d'utilisation de Mythos est élevé, avec un prix de 25 $ par million de tokens d'entrée et 125 $ par million de tokens de sortie.
Le modèle a été testé contre des vulnérabilités de sécurité réelles et non divulguées, et il a pu les découvrir. Cela a conduit Anthropic à affirmer que la libération de ce modèle sans précautions pourrait être dangereuse.
Analyse et Implications
La décision d'Anthropic de restreindre l'accès à Mythos a été justifiée par des préoccupations de sécurité. Cependant, certains critiques estiment que cette décision pourrait également être motivée par des considérations économiques, telles que le coût élevé de l'exécution du modèle.
Le programme Glasswing a été créé pour donner aux défenseurs un avantage avant que les capacités offensives ne deviennent largement accessibles. Cependant, certains estiment que ce programme pourrait également être utilisé pour promouvoir l'image d'Anthropic en tant qu'entreprise responsable.
Perspective
Il est difficile de déterminer avec certitude si la décision d'Anthropic de restreindre l'accès à Mythos est motivée par des préoccupations de sécurité ou des considérations économiques. Cependant, il est clair que le modèle a le potentiel de déstabiliser l'infrastructure numérique mondiale si il n'est pas utilisé de manière responsable.
Il est important de surveiller les développements futurs autour de Mythos et de suivre les discussions sur la régulation de l'utilisation de l'IA dans le domaine de la sécurité. Les entreprises et les gouvernements doivent travailler ensemble pour établir des normes et des réglementations pour l'utilisation de l'IA de manière responsable et sécurisée.
