Contexte de l'incident

Lors d'une visite à l'EMFCamp, l'auteur a contacté le service client d'Ocado via le formulaire de feedback standard pour signaler un problème de calendrier malformé. La première réponse, signée « Lulu », était rédigée dans un style très formel, incluait un tiret cadratin (em‑dash) et ne faisait aucune référence au diagnostic technique fourni. L'auteur a alors attribué cette réponse à un système d'intelligence artificielle, en raison de son ton générique et de son manque d'engagement réel.

Après avoir laissé un avis négatif (1 ★) dans le questionnaire de satisfaction, il a reçu une seconde réponse, plus « humaine », qui mentionnait explicitement le commentaire sur l'IA et présentait des excuses personnalisées. Cette alternance de réponses met en lumière l'usage d'un pipeline d'IA pour le triage initial des tickets.

Fonctionnement technique probable

Les entreprises de e‑commerce intègrent souvent des modèles de traitement du langage naturel (NLP) capables de classer les tickets, d'extraire les entités clés (ex. : « calendar file », « malformed ») et de générer des réponses à partir de modèles de texte pré‑définis. Le premier message de Lulu correspond à un template automatisé : il insère le nom du client, un remerciement générique et une promesse de transmission au service technique, sans analyser le contenu détaillé. Le second message, plus personnalisé, indique qu'un filtre de détection (probablement basé sur le score NPS ou la présence de mots comme « AI‑generated ») a déclenché une escalade vers un opérateur humain qui a ajouté des éléments contextuels.

Ce type de chaîne se compose généralement de trois étapes : (1) ingestion du texte via une API REST, (2) analyse sémantique (sentiment, classification) à l'aide d'un modèle de type BERT ou GPT, et (3) génération de la réponse via un modèle de langage fine‑tuned sur des scripts de service client. L'absence de références précises dans la première réponse suggère que le modèle n'a pas reçu le texte complet du ticket, ou que le seuil de confiance était trop bas pour activer une rédaction plus détaillée.

Implications et limites

Sur le plan opérationnel, l'automatisation réduit le temps de première prise en charge et permet de résumer rapidement des messages longs, ce qui allège la charge des agents. Cependant, l'expérience décrite montre plusieurs risques : perception de manque d'empathie, dégradation de la confiance client et possibilité de réponses inappropriées lorsqu'un modèle ne comprend pas les spécificités techniques (ex. : format de fichier iCal). Le recours à un ton trop formel et à des caractères typographiques rares (em‑dash) peut trahir l'origine automatisée, comme le souligne l'auteur.

Le texte ne fournit aucune donnée quantitative sur le volume de tickets traités par IA, ni sur le taux d'escalade vers des humains. Cette absence limite l'évaluation précise de l'efficacité du système et empêche de mesurer l'impact réel sur les indicateurs de satisfaction (NPS, taux de résolution au premier contact). En l'absence de transparence, les organisations doivent publier des métriques de performance et offrir aux utilisateurs la possibilité de demander explicitement une prise en charge humaine.