Introduction
Aujourd'hui, nous annonçons le Projet Glasswing, une nouvelle initiative qui rassemble Amazon Web Services, Anthropic, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, la Linux Foundation, Microsoft, NVIDIA et Palo Alto Networks pour sécuriser les logiciels les plus critiques du monde.
Nous avons créé le Projet Glasswing en raison des capacités que nous avons observées dans un nouveau modèle de frontière formé par Anthropic, que nous croyons capable de révolutionner la cybersécurité. Claude Mythos Preview est un modèle de frontière généraliste non publié qui révèle un fait alarmant : les modèles d'IA ont atteint un niveau de capacité de codage où ils peuvent surpasser tous les humains, sauf les plus compétents, pour trouver et exploiter les vulnérabilités des logiciels.
Contexte Technique
Mythos Preview a déjà trouvé des milliers de vulnérabilités de haute gravité, notamment dans chaque système d'exploitation et navigateur Web majeur. Étant donné le rythme du progrès de l'IA, il ne faudra pas longtemps avant que de telles capacités se généralisent, potentiellement au-delà des acteurs qui s'engagent à les déployer de manière sûre.
Le Projet Glasswing est une tentative urgente pour mettre ces capacités au service de la défense. Les partenaires de lancement utiliseront Mythos Preview dans le cadre de leur travail de sécurité défensive ; Anthropic partagera ce que nous apprenons afin que l'ensemble de l'industrie puisse en bénéficier.
Analyse et Implications
Les conséquences des cyberattaques pour les réseaux d'entreprises, les systèmes de santé, les infrastructures énergétiques, les hubs de transport et la sécurité de l'information des agences gouvernementales à travers le monde sont déjà graves.
Les modèles d'IA les plus récents sont devenus de plus en plus efficaces pour lire et raisonner sur le code, en particulier pour repérer les vulnérabilités et trouver des moyens de les exploiter. Claude Mythos Preview démontre un bond dans ces compétences cybernétiques - les vulnérabilités qu'il a repérées ont dans certains cas survécu à des décennies d'examen humain et à des millions de tests de sécurité automatisés.
Perspective
Le Projet Glasswing est un point de départ. Aucune organisation ne peut résoudre ces problèmes de cybersécurité seule : les développeurs d'IA de pointe, les autres sociétés de logiciels, les chercheurs en sécurité, les mainteneurs de logiciels open-source et les gouvernements du monde entier ont tous des rôles essentiels à jouer.
Pour que les défenseurs prennent l'avantage, nous devons agir maintenant. Le travail de défense de l'infrastructure cybernétique du monde pourrait prendre des années ; les capacités d'IA de pointe devraient avancer substantiellement au cours des quelques prochains mois.
