Garry Tan incite les labs IA américains à distiller modèles de pointe

Contexte et enjeux

Lors d’une interview accordée à CNBC, le co‑fondateur de Y Combinator, Garry Tan, a déclaré qu’il ne souhaitait aucune intervention réglementaire sur la distillation pratiquée par les laboratoires d’intelligence artificielle. Il propose que les labs américains à poids ouvert utilisent les mêmes techniques que les acteurs chinois, afin de créer un ensemble d’alternatives aux modèles propriétaires. Cette proposition intervient après le rapport d’Anthropic, qui accuse des laboratoires chinois d’« illicit distillation attacks », c’est‑à‑dire de copier des modèles de pointe en usurpant des identités et en employant des identifiants volés.

Mécanisme de distillation

La distillation consiste à interroger intensivement un modèle « source » avec des prompts variés, puis à recueillir ses réponses pour entraîner un modèle « cible ». Le processus extrait les capacités de raisonnement et les connaissances encodées dans le modèle source sans accéder à son code interne. Cette méthode est reconnue comme légitime lorsqu’elle repose sur un accès autorisé aux API, mais elle devient problématique lorsqu’elle s’appuie sur des identifiants frauduleux ou sur des données protégées par le droit d’auteur. Les laboratoires américains souhaiteraient reproduire ce schéma de façon transparente, sans recourir à des moyens illicites.

Déclarations et positions des acteurs

Anthropic a publié son deuxième rapport détaillant les pratiques suspectes de certains laboratoires chinois, soulignant que ces derniers « vacuumed up » de larges volumes de données publiques et privées sans consentement. Dario Amodei, PDG d’Anthropic, a appelé les régulateurs américains à intervenir contre la distillation non autorisée. En revanche, Garry Tan argue que les restrictions imposées par les fournisseurs de modèles fermés limitent la liberté des utilisateurs et que l’accès à une intelligence entraînée sur des données publiques devrait être considéré comme un bien commun. Il précise qu’il ne préconise pas l’usage de credentials volés, mais simplement la possibilité d’accéder légalement aux modèles pour les distiller.

Implications pour la régulation et la concurrence

Si les laboratoires à poids ouvert adoptent la distillation à grande échelle, ils pourraient générer des modèles compétitifs sans dépendre d’un seul fournisseur propriétaire. Tan met en garde contre un scénario de monopole où une unique entreprise contrôlerait les meilleures capacités d’IA, les financements et les talents, créant ainsi un « nightmare scenario ». Cependant, l’absence de cadre juridique clair expose les acteurs à des risques de litiges liés aux droits d’auteur et à la sécurité des données. Une régulation trop stricte risquerait d’étouffer l’innovation, tandis qu’une absence totale pourrait favoriser des pratiques de copie non éthiques. Le débat souligne la nécessité d’un équilibre entre ouverture technologique et protection juridique pour éviter la concentration du pouvoir IA.