Des chercheurs en IA réclament de nouveaux outils pour ralentir le développement de modèles automatisés

Présentation du problème

Un groupe de chercheurs en intelligence artificielle (IA) a publié une lettre ouverte appelant à une nouvelle approche pour réguler les initiatives de développement de modèles IA automatisés. Les 1 134 signataires de la lettre travaillent pour des entreprises qui développent des modèles IA de pointe, notamment Anthropic PBC, OpenAI Group PBC, Google LLC et Meta Platforms Inc.

Contexte technique

Les signataires de la lettre sont préoccupés par les risques de sécurité potentiels liés aux progrès dans le domaine de l'automatisation du développement de modèles IA. Ils estiment qu'il est difficile de prédire exactement comment ces progrès accéléreront le développement de l'IA, mais qu'il existe un risque réel que les capacités de développement progressent rapidement au-delà de leur capacité à comprendre ou à contrôler les systèmes résultants.

Les chercheurs citent l'exemple d'OpenAI, qui a révélé en avril que son modèle de langage GPT-5.5 avait aidé à optimiser le cluster de cartes graphiques Nvidia Corp. sur lequel il s'exécute, avec une augmentation de la vitesse de génération de jetons de plus de 20 %. De même, Anthropic a divulgué qu'il utilise son modèle Claude pour accélérer ses recherches sur la sécurité de l'IA.

Implications et limites

Les signataires de la lettre demandent au gouvernement américain de soutenir un effort international pour développer les outils techniques et de gouvernance nécessaires pour ralentir délibérément le développement de l'IA automatisée. Ils estiment que les outils nécessaires pour mettre en œuvre un ralentissement de la recherche sont actuellement indisponibles.

Le CEO de Google DeepMind, Demis Hassabis, a également proposé la création d'un organisme de normalisation qui développerait des benchmarks de risques pour l'IA et les utiliserait pour évaluer les nouveaux modèles de langage avant leur large diffusion.

Exemple de code

# Exemple de code pour l'optimisation du modèle de langage GPT-5.5
# Utilisation de la bibliothèque Transformers pour charger le modèle
from transformers import GPT2Tokenizer, GPT2Model

# Chargement du modèle et du tokenizer
tokenizer = GPT2Tokenizer.from_pretrained('gpt2')
model = GPT2Model.from_pretrained('gpt2')

# Exemple d'utilisation du modèle pour générer du texte
input_ids = tokenizer.encode('Exemple de texte', return_tensors='pt')
output = model(input_ids)