Présentation de l'Open Secure AI Alliance
L'Open Secure AI Alliance (OSAA) est un groupe industriel créé par Nvidia, qui compte déjà plus de 120 entreprises membres. Ce groupe a développé un groupe de travail appelé Shared AI Findings Exchange (SAFE), qui présente des propositions pour commentaires ouverts. La Linux Foundation, membre du groupe, gère ces propositions.
Objectifs et fonctionnement de l'OSAA
Les propositions de l'OSAA couvrent des domaines tels que la façon de signaler de manière confidentielle les incidents de cybersécurité liés à l'IA, d'alerter les parties concernées et de réaliser une analyse sans blâme pour que tous puissent en tirer des leçons. Les membres de l'OSAA contribuent également à cataloguer les parties de leur technologie open source qui pourraient être utiles.
Contributions des membres et implications
Nvidia propose une famille de modèles ouverts, ainsi qu'un outil de scan de vulnérabilités de modèles de langage appelé Garak. Okta travaille sur la technologie d'identité des agents, tandis que Red Hat se concentre sur la gouvernance des agents. Amazon a contribué un outil de construction d'agents ouverts appelé Strands Agents et un langage d'autorisation appelé Cedar. D'autres entreprises comme Adobe, Cisco, Intel, Microsoft et Visa font également partie du groupe.
Implications et limites
L'OSAA compte déjà de nombreux membres importants, mais il y a des absences notables, comme Anthropic, OpenAI et Google. Cependant, OpenAI et Google ont signé la lettre ouverte originale qui a donné naissance à ce groupe, et ils ont tous deux publié des modèles de poids ouverts. L'action rapide de ce groupe semble être bénéfique pour l'écosystème américain d'IA ouverte.
