Présentation du contexte
Les modèles open-weights, notamment ceux provenant de Chine, sont au centre d'une discussion intense ces derniers jours. Des rapports suggèrent que certains responsables américains envisagent d'interdire l'utilisation de ces modèles par les entreprises américaines. En réponse, de nombreuses entreprises technologiques ont signé une lettre de soutien aux modèles open-weights.
Contexte technique
Dario Amodei, PDG d'Anthropic, a clarifié la position de l'entreprise sur les modèles open-weights. Selon lui, ces modèles qui ne présentent pas de capacités dangereuses constituent un bien public, car ils ne coûtent rien d'autre que les ressources de calcul nécessaires pour les exécuter et fournissent une valeur aux entreprises, aux développeurs et aux chercheurs.
Implications et limites
Amodei a exprimé ses préoccupations concernant la sécurité nationale, notamment le risque que les gouvernements autoritaires, comme la Chine, construisent des modèles d'IA plus puissants que ceux développés par les États-Unis et les utilisent pour atteindre une supériorité militaire permanente ou réprimer leur population. Il a également souligné le risque que les modèles d'IA puissants soient utilisés pour des attaques cybernétiques ou biologiques et présentent des problèmes d'alignement graves.
Propositions pour l'avenir
Pour répondre à ces préoccupations, Amodei a proposé trois mesures : ne pas vendre de puces ou d'équipements de fabrication de puces à la Chine, lutter contre les opérations de distillation à grande échelle et mettre en place des tests de sécurité obligatoires pour tous les modèles d'IA suffisamment capables. Ces mesures visent à prévenir les menaces potentielles liées aux modèles open-weights sans interdire leur utilisation.
