Présentation de l'entreprise Arcee
Arcee, un laboratoire d'IA open source basé aux États-Unis, considère que les modèles d'IA chinois ne sont pas intrinsèquement dangereux. Selon Lucas Atkins, le CTO d'Arcee, ces modèles ne représentent pas une menace plus grande que tout autre logiciel open source utilisé par les entreprises.
Architecture et fonctionnement des modèles d'IA
Les modèles d'IA open weight, tels que Moonshot AI’s Kimi K3 ou Alibaba’s Qwen, offrent une inférence à un coût de jeton fractionné par rapport aux modèles à source fermée des grands laboratoires américains. Les entreprises peuvent exécuter ces modèles dans leurs propres centres de données, mais certaines craignent qu'ils puissent être utilisés comme un vecteur pour les hackers chinois.
Cependant, Atkins explique que les modèles d'IA ne sont pas codés avec des intentions malveillantes et qu'il n'y a pas de moyen pour un acteur malveillant d'accéder à un modèle une fois qu'il est exécuté dans l'environnement d'une entreprise. Les modèles open weight ne sont pas entièrement open source, mais le code source est souvent visible et examinable, notamment lorsqu'il est téléchargé à partir de sites comme Hugging Face.
Implications et limites de l'utilisation des modèles d'IA
Les grandes organisations devraient soumettre les modèles d'IA à des tests de sécurité et à des inspections avant de les utiliser. Elles peuvent également optimiser et comprendre les modèles avant de les utiliser pour générer du code. Atkins considère que la possibilité qu'un modèle d'IA génère du code malveillant est théoriquement possible, mais cela nécessiterait des prouesses acrobatiques pour y parvenir.
Les entreprises sont également en train de développer des applications d'IA qui peuvent utiliser plusieurs modèles, ce qui signifie qu'elles ne seront pas verrouillées dans l'utilisation de modèles chinois à l'avenir. Arcee bénéficie également de l'existence de modèles d'IA chinois, car elle peut apprendre de leurs réalisations et les utiliser pour améliorer ses propres modèles.
Atkins : "Je pense que la conversation devrait porter sur la façon de favoriser un bon écosystème ouvert aux États-Unis, plutôt que de chercher à interdire les modèles chinois."Conclusion et analyse scientifique
En fin de compte, la compétition avec les modèles d'IA chinois devrait se faire en créant des modèles américains meilleurs et plus performants. Arcee estime que les modèles d'IA chinois ne sont pas intrinsèquement dangereux et que les entreprises devraient se concentrer sur la création d'un écosystème ouvert et sécurisé pour l'utilisation de l'IA.
