OpenAI restreint l’accès à GPT‑Rosalind‑6 pour la recherche biologique

Contexte et objectifs

GPT‑Rosalind‑6 est présenté comme un modèle de raisonnement de pointe dédié aux domaines de la biologie, de la découverte de médicaments et de la médecine translationnelle. Le service, nommé GPT‑Rosalind‑6 Research, n’est proposé qu’aux scientifiques qualifiés, aux instituts de recherche, aux entreprises et aux partenaires gouvernementaux. Cette limitation d’accès vise à encadrer les usages potentiellement sensibles, notamment les requêtes à double usage biologique, tout en maintenant la capacité du modèle à soutenir la recherche légitime.

Architecture et poids partagés

Le modèle utilise exactement les mêmes poids que le modèle phare GPT‑6 Astra. Cette réutilisation de la base de paramètres permet de capitaliser sur les évaluations de performance et de sécurité déjà réalisées pour GPT‑6 Astra, tout en adaptant les filtres de sortie aux exigences du domaine biologique. Le partage de poids implique que les capacités de raisonnement général du modèle restent inchangées, mais que les couches de filtrage sont ajustées pour différencier les requêtes autorisées des demandes de weaponisation biologique.

Mécanismes de sécurité et gouvernance

OpenAI impose un accès « trusted », c’est‑à‑dire que chaque demande d’accès est soumise à une revue détaillée des usages prévus, des contrôles de sécurité et des pratiques de gouvernance du demandeur. Le modèle refuse davantage les requêtes liées à la weaponisation biologique, mais accepte un nombre plus important de requêtes à double usage, sous condition de supervision. Les sauvegardes de déploiement incluent des contrôles d’audit, la surveillance des interactions et la possibilité de révoquer l’accès en cas de non‑conformité.

Évaluation des capacités et limites

Dans le cadre du Preparedness Framework, le lancement de GPT‑Rosalind‑6 est classé « High capability » pour les domaines biologique et chimique, sans atteindre le seuil « Critical ». En cybersécurité, le modèle est considéré comme « Critical », reflétant le risque potentiel d’exploitation des connaissances biologiques. Les évaluations d’auto‑amélioration IA le placent en dessous du niveau « High ». L’addendum compare également les performances avec GPT‑Rosalind‑5.5, soulignant que les améliorations de capacité ne sont pas accompagnées d’une réduction proportionnelle des refus sur les sujets de sécurité, ce qui justifie le maintien de contrôles stricts.