Anthropic lance Project Glasswing pour renforcer la sécurité logicielle

Introduction

Anthropic PBC a annoncé le lancement de Project Glasswing, une initiative de cybersécurité qui utilise le puissant modèle Mythos pour renforcer la sécurité logicielle. Le modèle, appelé Claude Mythos, sera mis à disposition d'un petit groupe de partenaires et de chercheurs en cybersécurité pour aider à sécuriser les logiciels du monde entier.

Contexte Technique

Claude Mythos est un modèle de pointe qui excelle dans la détection de vulnérabilités dans les logiciels propriétaires et open-source. Bien que Mythos n'ait pas été initialement conçu pour des fins de sécurité, il a été constaté qu'il était très efficace pour identifier les vulnérabilités dans les logiciels. Le modèle a été testé ces dernières semaines et a permis d'identifier des milliers de vulnérabilités sur des sites Web et des applications, y compris tous les principaux systèmes d'exploitation et navigateurs Web utilisés aujourd'hui.

Anthropic a décidé de ne pas rendre Mythos public en raison de sa puissance et des risques potentiels qu'il pourrait poser. Le modèle est capable de développer des exploits sophistiqués pour les vulnérabilités qu'il découvre, ce qui pourrait permettre aux attaquants de profiter de ces vulnérabilités.

Analyse et Implications

Project Glasswing rassemble plus de 40 partenaires, dont des entreprises telles qu'Amazon, Apple, Microsoft et Cisco, qui utiliseront le modèle pour des travaux de sécurité défensive. Les partenaires partageront leurs connaissances avec la communauté technologique pour que tout le monde puisse en bénéficier et développer des logiciels plus sécurisés.

Anthropic a alloué 100 millions de dollars en crédits d'utilisation pour le projet, afin que les partenaires n'aient pas à payer les frais d'API pour leurs tests et recherches de sécurité. L'entreprise est également en discussion avec des responsables du gouvernement américain pour leur donner accès à Mythos.

Perspective

L'objectif ultime d'Anthropic est de rendre les modèles de type Mythos accessibles au public, mais pour cela, il faudra développer des garanties de cybersécurité pour détecter et bloquer les sorties les plus dangereuses du modèle. Si cela peut être réalisé, Mythos pourrait être très utile pour les développeurs de logiciels, car il peut résoudre un grand nombre de problèmes de codage avec une grande précision.