Présentation du modèle Sol
OpenAI a annoncé le lancement de son dernier modèle avancé de langage, Sol, pour un accès public large. Sol est considéré comme étant au moins équivalent au modèle Fable d'Anthropic, dont les capacités ont suffisamment inquiété la Maison Blanche pour qu'il soit brièvement interdit d'accès public.
Le processus de validation de ces modèles pour leur sortie publique reste flou. Mina Narayanan, analyste de recherche senior au Centre pour la sécurité et la technologie émergente de Georgetown, a déclaré : « Frankly, I don’t have visibility into those exact processes, so yes, I don’t feel like I have enough information to say whether they’re adequate or not ». Les détails sur les discussions entre les entreprises et le gouvernement sont rares, ce qui soulève des questions sur la transparence et la sécurité de ces modèles.
Contexte technique et réglementaire
Le gouvernement américain a publié un ordre exécutif établissant une feuille de route pour l'évaluation des modèles de pointe, mais les détails spécifiques sont encore à définir. Le département du Commerce seems prendre la lead, mais six agences du cabinet doivent déterminer un processus final d'ici début août. L'absence de clarté sur les modèles nécessitant une surveillance gouvernementale et sur l'agence responsable de ces évaluations ajoute à l'incertitude.
Les entreprises comme OpenAI et Anthropic ont développé des classifieurs pour détecter les tentatives d'accès non autorisé et mis en place des stratégies défensives pour prévenir les jailbreaks futurs. Cependant, les experts estiment que ces mesures ne sont peut-être pas suffisantes pour garantir la sécurité et la responsabilité de ces modèles.
Implications et limites
La communauté scientifique et les experts dans le domaine de l'IA soulignent la nécessité d'une approche plus transparente et collaborative pour évaluer la sécurité et les implications de ces modèles. Andy Konwinski, scientifique informatique et co-fondateur de Databricks, Perplexity et du Laude Institute, plaide pour une « open commons » où les chercheurs, les responsables gouvernementaux et les entreprises privées travaillent ensemble pour établir des normes de sécurité.
Le manque de transparence et de réglementation claire dans le développement et la sortie de ces modèles soulève des inquiétudes quant à la responsabilité et à la sécurité de l'industrie de l'IA. Les experts estiment que des organisations de vérification tierces, agréées par le gouvernement, pourraient évaluer l'approche de la sécurité des laboratoires de pointe et aider à établir des normes plus solides.
Conclusion et perspectives
Le lancement du modèle Sol d'OpenAI et les questions entourant sa validation soulignent la nécessité d'une approche plus transparente et responsable dans le développement et la réglementation de l'IA. Les experts et la communauté scientifique doivent travailler ensemble pour établir des normes de sécurité et de responsabilité claires, garantissant que ces technologies puissantes soient utilisées pour le bénéfice de tous, tout en minimisant les risques potentiels.
