Présentation du contexte

Dario Amodei, fondateur et PDG d'Anthropic, a répondu aux murmures dans l'industrie selon lesquels son entreprise soutiendrait les efforts du gouvernement américain pour interdire les modèles d'IA ouverts chinois, ou possiblement les modèles d'IA ouverts en général. Amodei a déclaré que son entreprise n'a jamais plaidé en faveur d'une interdiction des modèles d'IA ouverts.

Architecture et fonctionnement des modèles d'IA ouverts

Les modèles d'IA ouverts sont considérés comme un bien public, car ils ne coûtent rien d'autre que le coût de calcul nécessaire pour les exécuter, et ils fournissent une valeur aux entreprises, aux développeurs et aux chercheurs. Cependant, Amodei a exprimé ses craintes concernant les gouvernements autoritaires qui pourraient construire des modèles d'IA plus puissants que ceux des États-Unis pour atteindre une supériorité militaire permanente et/ou utiliser l'IA pour réprimer leur propre peuple.

Implications et limites des modèles d'IA ouverts

Amodei a également exprimé ses craintes concernant les attaques biologiques qui pourraient être facilitées par l'IA, et non seulement les attaques de cybersécurité. Il a noté que les modèles d'IA ouverts sont plus dangereux dans ces scénarios, car il est difficile d'appliquer des garde-fous ou de surveiller leur utilisation. Cependant, les défenseurs de l'open source argumentent que l'accès à des modèles puissants ouverts non contrôlés par une seule entité aide les défenseurs à se protéger.

Analyse scientifique et solutions proposées

Amodei a proposé des mesures pour contrer la Chine, notamment en restreignant son accès aux puces puissantes et en appelant à une répression formelle de la distillation. Il a également exprimé son soutien à la création d'une organisation de test de sécurité des modèles, notamment si le monde entier, y compris la Chine, acceptait de s'y soumettre. Cette approche pourrait permettre une coopération limitée pour prévenir les armes biologiques basées sur l'IA, ce qui est dans l'intérêt de la Chine également.

Exemple de code pour la distillation : 
   # Code pour la distillation
   model = ...
   prompts = ...
   pour chaque prompt dans les prompts :
       # Entraîner le modèle avec le prompt
       model.train(prompt)

En conclusion, les modèles d'IA ouverts posent des défis et des risques, mais ils offrent également des opportunités pour les entreprises, les développeurs et les chercheurs. Il est essentiel de trouver un équilibre entre la sécurité et l'innovation pour garantir que les modèles d'IA ouverts soient utilisés de manière responsable et sécurisée.