Introduction
Anthropic a récemment annoncé qu'il limitait la sortie de son nouveau modèle, appelé Mythos, en raison de sa capacité à trouver des failles de sécurité dans les logiciels utilisés par les utilisateurs du monde entier.
Contexte Technique
Anthropic partage Mythos avec un groupe de grandes entreprises et d'organisations qui exploitent des infrastructures en ligne critiques, comme Amazon Web Services et JPMorgan Chase. Cette approche vise à permettre à ces grandes entreprises de devancer les acteurs malveillants qui pourraient utiliser des modèles de langage avancés pour pénétrer des logiciels sécurisés.
Le modèle Mythos est capable d'exploiter des vulnérabilités de manière plus efficace que son prédécesseur, Opus. Cependant, il n'est pas clair que Mythos soit réellement le modèle de sécurité ultime. Aisle, une startup de cybersécurité basée sur l'IA, a déclaré qu'elle pouvait reproduire une grande partie de ce que Anthropic affirme que Mythos a accompli en utilisant des modèles de poids ouvert plus petits.
Analyse et Implications
La limitation de la sortie de Mythos pourrait également être motivée par des préoccupations liées à la distillation, une technique qui permet d'utiliser des modèles de frontière pour former de nouveaux modèles de langage à moindre coût. Cette approche pourrait créer un cercle vertueux pour les contrats d'entreprise, tout en rendant plus difficile pour les concurrents de copier leurs modèles.
David Crawshaw, un ingénieur logiciel et PDG de la startup exe.dev, suggère que cette approche est en réalité un « marketing de couverture » pour le fait que les modèles de pointe sont maintenant réservés aux accords d'entreprise et ne sont plus disponibles pour les petits laboratoires pour la distillation.
Perspective
Il est difficile de déterminer si Mythos ou tout nouveau modèle représente réellement une menace pour la sécurité d'Internet. Une mise en œuvre prudente de la technologie est une approche responsable. Cependant, il est clair que la course entre les laboratoires de frontière qui développent les modèles les plus grands et les plus capables, et les entreprises qui comptent sur plusieurs modèles et les modèles de langage open source, va se poursuivre.
