Introduction
Avec l'avènement de l'intelligence artificielle (IA) au cœur des organisations, nous assistons à un déplacement de la valeur de l'information vers l'acquisition de l'intelligence, qui est bien plus importante. Cependant, qu'arrive-t-il aux données des organisations lorsqu'elles adoptent l'IA ?
Contexte Technique
Les annonces récentes de grands fournisseurs de technologies de l'information ont suscité des inquiétudes. Par exemple, ServiceNow Inc. a lancé Context Engine, un produit qui agrège les données des clients dans une couche unifiée et les met à jour en temps réel. Cependant, les clients qui souhaitent utiliser leurs propres agents IA en dehors de l'écosystème ServiceNow pourraient encourir des frais de consommation pour une utilisation supérieure à leur niveau choisi.
La question n'est pas seulement de coût, mais de contrôle. Vos données, qui représentent vos connaissances institutionnelles et votre intelligence accumulée, risquent de devenir un actif appartenant à quelqu'un d'autre lorsqu'elles sont placées au centre d'un écosystème de fournisseur.
Analyse et Implications
Pour exploiter pleinement les données et les transformer en intelligence actionnable, il faut du contexte. Et ce contexte doit être ingénierisé. L'ingénierie du contexte est la discipline qui consiste à structurer, à curer et à gouverner les informations sur lesquelles opère un modèle IA. Sans une ingénierie du contexte délibérée, même un modèle LLM (Large Language Model) puissant peut produire des sorties erronées en se basant sur des informations obsolètes, incomplètes ou simplement fausses.
Il est essentiel de valider et de vérifier les sorties IA avant qu'elles ne deviennent partie intégrante de la base de connaissances organisationnelle. Cette étape est souvent négligée, et elle pourrait être l'erreur la plus conséquente de la vague actuelle d'adoption de l'IA.
Perspective
Les organisations qui parviennent à maintenir le contrôle de leurs données et à les utiliser de manière efficace pour alimenter leur IA seront celles qui construiront des systèmes IA plus précis et plus fiables avec le temps. Celles qui ne le font pas risquent de devoir gérer une contamination de plus en plus importante, qu'elles ne pourront pas facilement auditer en raison de l'erreur originale enfouie sous des couches d'inférences en aval.
Il est crucial que les organisations prennent des décisions éclairées concernant l'architecture et les plateformes IA qu'elles souhaitent adopter, en gardant à l'esprit l'importance de maintenir le contrôle de leurs données.
