Telli recrute des ingénieurs pour développer une IA de service client contextuelle

Présentation de Telli

Telli, startup issue du Y Combinator (promotion F24), se positionne sur l’automatisation des interactions client grâce à l’intelligence artificielle. L’entreprise affirme vouloir remplacer les chatbots à mémoire courte, les formulaires redondants et les tickets anonymes par des agents capables de comprendre, agir et s’améliorer en temps réel, quel que soit le volume, la langue ou le canal utilisé.

Architecture technique envisagée

Le texte ne fournit pas de schéma détaillé, mais les exigences décrites suggèrent une pile composée de modèles de langage de grande taille (LLM) couplés à des modules de récupération d’information (RAG) pour conserver le contexte d’une conversation au-delà de quelques tours. Un tel système nécessite généralement :

- Un moteur d’inférence capable de servir plusieurs milliers de requêtes simultanées, souvent déployé sur des GPU ou des accélérateurs spécialisés.
- Un stockage persistant des historiques d’interaction, typiquement une base de données orientée documents (ex. MongoDB) ou un data‑lake cloud, afin de réinjecter les faits pertinents dans le prompt du LLM.
- Un orchestrateur de flux (ex. Kafka, RabbitMQ) qui synchronise les canaux (voix, texte, messagerie) et assure la cohérence des états.

Le fait que Telli mentionne « any language » implique l’utilisation de modèles multilingues (ex. mT5, XLM‑R) ou de pipelines de traduction en chaîne. L’accès « any channel » suppose des connecteurs API pour les plateformes de messagerie (WhatsApp, Slack, email) et possiblement des interfaces téléphoniques via SIP.

Enjeux et limites

Sans données chiffrées, on ne peut pas mesurer la latence ou le taux d’erreur de la solution. Néanmoins, les défis techniques sont bien identifiés :

- Gestion du contexte : les LLM classiques perdent la mémoire après quelques centaines de tokens. La mise en place d’une mémoire externe (vector store, embeddings) est indispensable pour éviter les réponses incohérentes.
- Scalabilité : le coût d’inférence augmente linéairement avec le nombre d’utilisateurs actifs. Des stratégies de quantification ou de distillation de modèle sont souvent utilisées pour réduire la charge.
- Confidentialité des données : les conversations client contiennent des informations sensibles. Le respect du RGPD impose un chiffrement au repos et en transit, ainsi que des mécanismes d’anonymisation avant le traitement par le modèle.
- Qualité multilingue : les performances varient fortement selon la langue. Un entraînement supplémentaire sur des corpus spécifiques peut être requis pour atteindre une précision comparable à l’anglais.

Le texte ne précise pas les métriques de performance (BLEU, ROUGE, taux de résolution), ce qui limite l’évaluation objective du produit.

Opportunités de recrutement

Telli recherche des ingénieurs et des designers capables de travailler sur les couches décrites ci‑dessus. Les profils attendus incluent des spécialistes en NLP, en infrastructure cloud (AWS, GCP), en DevOps (CI/CD, Kubernetes) et en UX design orienté conversation. L’offre mentionne un accès illimité aux outils d’IA et un environnement où les décisions sont prises rapidement, ce qui indique une culture de prototypage accéléré et de tests A/B continus.