Introduction

Le modèle d'intelligence artificielle (IA) Claude Mythos d'Anthropic PBC est devenu la solution la plus discutée sans être encore pleinement publiée. Les informations sur ce modèle, capable d'analyser des logiciels à grande échelle, de trouver des bugs dans des écosystèmes de logiciels robustes et d'identifier des vulnérabilités, sont étroitement contrôlées par Anthropic.

Contexte Technique

Le chef du renseignement sur les menaces d'Anthropic, Jacob Klein, a présenté une brève description des capacités du modèle lors de la conférence SANS Cybersecurity Summit. Il a souligné que le modèle est très efficace pour trouver des vulnérabilités et les relier pour créer une faille d'exploitation. Les attaques liées à l'IA se multiplient, notamment avec la compromission de Context.ai, un outil tiers utilisé par un employé de Vercel Inc., ce qui a permis aux hackers de voler des informations d'identification client.

Analyse et Implications

Les capacités de l'IA augmentent la surface d'attaque disponible pour les attaquants. Les événements tels que la compromission de Vercel et la discussion autour de Mythos ont conduit à une réunion à la Maison Blanche entre le secrétaire au Trésor et le PDG d'Anthropic. Les grandes banques renforcent leurs défenses contre une augmentation des cyberattaques. L'utilisation de l'IA par les acteurs malveillants pour construire des outils d'exploitation est de plus en plus répandue, avec des exemples tels que l'utilisation de Claude par un acteur solitaire pour construire une attaque de rançongiciel.

Perspective

La communauté de la cybersécurité doit faire face au dilemme de la confiance dans l'IA. Des voix éminentes, comme Bruce Schneier, mettent en garde contre le manque d'intégrité de l'IA et les motivations des États-nations, qui pourraient entraîner des conséquences plus dangereuses. La réglementation gouvernementale et la transparence sont nécessaires pour garantir l'intégrité de l'IA. Les défis de sécurité liés à l'IA seront une priorité majeure pour les professionnels de la sécurité dans les années à venir.