Présentation
Les modèles de langage (LLM) sont de plus en plus puissants et seront déployés à grande échelle dans les prochaines années. Cependant, il n'y a pas encore de vision claire sur la façon dont les professionnels de la connaissance et les personnes ordinaires pourront les utiliser pour améliorer leur productivité et leur sécurité.
Contexte technique
Les LLM actuels sont limités par leur capacité à apprendre et à s'adapter aux besoins individuels des utilisateurs. Les techniques de programmation de prompt et d'apprentissage en contexte ne sont pas suffisantes pour créer des assistants personnalisés efficaces. Il est nécessaire de développer de nouvelles approches pour créer des « anges gardiens » qui puissent émuler les valeurs et les préférences des utilisateurs.
Fonctionnement des anges gardiens
Les anges gardiens seront créés en combinant des techniques d'apprentissage en ligne, d'évaluation dynamique et d'augmentation de données. Ils seront conçus pour apprendre les préférences et les valeurs des utilisateurs et les amplifier, plutôt que de les remplacer. Les anges gardiens seront également dotés de capacités de sécurité pour protéger les utilisateurs contre les attaques de phishing et les menaces de sécurité.
Implications et limites
Les anges gardiens ne sont pas une solution miracle pour résoudre les problèmes de sécurité et de productivité. Ils nécessitent une approche de défense en profondeur, avec des utilisateurs informés et des mécanismes de sécurité robustes. Les anges gardiens peuvent aider les utilisateurs à éviter les attaques de phishing et les menaces de sécurité, mais ils ne peuvent pas les remplacer. Il est important de développer une vision claire de la façon dont les LLM peuvent être utilisés pour améliorer la productivité et la sécurité, et de créer des solutions qui soient adaptées aux besoins individuels des utilisateurs.
