Introduction
Anthropic PBC étend son programme de cybersécurité Project Glasswing à 150 nouvelles organisations. Ce programme permet aux organisations de tester leurs défenses de cybersécurité en utilisant le modèle Claude Mythos Preview.
Contexte Technique
Le modèle Claude Mythos Preview est capable de détecter les vulnérabilités logicielles et de trouver des moyens de les exploiter. Il peut également enchaîner plusieurs vulnérabilités, ce qui constitue un défi pour les modèles de langage grand public.
Anthropic a déjà constaté que les participants à Project Glasswing avaient découvert plus de 23 000 vulnérabilités, dont plus d'un quart étaient considérées comme graves ou critiques. Le modèle a également prouvé son efficacité pour écrire des correctifs de cybersécurité et pour scanner le nouveau code en quête de points faibles avant sa mise en production.
Analyse et Implications
L'expansion de Project Glasswing soulève des questions sur la sécurité et les risques potentiels liés à l'utilisation de modèles de langage avancés pour la cybersécurité. Certains observateurs de l'industrie estiment que la stratégie de déploiement progressive d'Anthropic ne suffit pas à atténuer les risques de cybersécurité.
La société prévoit de renforcer ses efforts pour utiliser Claude Mythos Preview pour corriger les vulnérabilités dans les projets open source et de partager les meilleures pratiques pour partager les vulnérabilités avec les responsables de ces projets.
Perspective
À l'avenir, Anthropic prévoit d'accroître significativement le nombre de participants à son programme de cybersécurité et de développer des normes industrielles et des ressources techniques pour répondre aux risques de cybersécurité posés par les modèles de langage avancés.
Il est essentiel de surveiller l'évolution de Project Glasswing et de ses implications pour la cybersécurité, ainsi que les efforts d'Anthropic pour développer des normes et des ressources pour atténuer les risques liés aux modèles de langage avancés.
