Resect AI lève 25 M€ pour réduire les hallucinations des modèles IA

Contexte et enjeux

Resect AI, startup de recherche en IA basée à Seattle, a annoncé une levée de 25 millions de dollars destinée à créer une couche d’accountability capable de capturer et réduire les hallucinations des modèles de langage en temps réel. Les hallucinations, ou confabulations, surviennent lorsqu’un modèle génère une réponse factuellement fausse tout en affichant une forte confiance. Cette situation découle du principe fondamental des LLM : ils prédissent des motifs à partir de données d’entraînement plutôt que de « se souvenir », ce qui les pousse à « deviner » en présence de lacunes ou d’information manquante. De plus, de nombreux modèles sont optimisés pour paraître utiles, évitant les réponses du type « I don’t know », ce qui amplifie le risque de réponses erronées dans des contextes d’entreprise où la confiance est cruciale.

Architecture de la solution NeuroWave

Resect développe une suite d’outils baptisée NeuroWave Product Suite, décrite comme un « polygraphe pour réseaux neuronaux ». La suite s’intègre directement dans l’architecture du modèle afin d’intercepter les comportements anormaux avant qu’une hallucination ne soit émise. Le mécanisme repose sur une visibilité interne : des capteurs logiciels observent les activations du réseau, détectent les patterns associés à des réponses incertaines et déclenchent un module correctif qui réoriente la génération. Cette approche nécessite une connaissance fine des logits et des scores de confiance, ainsi qu’une capacité à injecter des contraintes de véracité sans interrompre le flux de génération. Resect affirme que ces outils fonctionnent aussi bien avec leurs propres modèles qu’avec des modèles ouverts comme DeepSeek, Qwen et Llama, indiquant une compatibilité au niveau de l’API d’inférence.

Évaluation des modèles et performances

Sur HuggingFace, Resect propose deux modèles basés sur l’architecture Qwen3 : un vérificateur de faits de 0,6 milliard de paramètres nommé Veritas et un modèle plus volumineux de 8 milliards de paramètres. Les deux modèles sont qualifiés de « non‑thinking », c’est‑à‑dire dépourvus de couche de chaîne de pensée, ce qui simplifie l’intervention du correcteur NeuroWave. Leur performance a été mesurée sur le benchmark LLM‑AggreFact. Le modèle 0,6 B a atteint une moyenne de 72,3 %, soit une amélioration de 7,4 points par rapport à la version de référence Qwen3. Cette progression indique que le processus d’entraînement renforcé et la supervision comportementale introduits par Resect permettent de réduire les taux d’erreur factuelle, même sur un modèle de taille modeste.

Limites et perspectives

Malgré ces résultats, plusieurs incertitudes subsistent. Le dépôt GitHub annoncé reste vide, limitant la vérifiabilité indépendante du code de détection et de correction. Le benchmark utilisé, LLM‑AggreFact, ne couvre qu’un sous‑ensemble de tâches factuelles et ne teste pas la robustesse face à des prompts adversaires ou à des domaines spécialisés. De plus, l’absence de chaîne de pensée peut restreindre la capacité du modèle à raisonner sur des problèmes complexes, ce qui pourrait rendre la correction « surgicale » moins efficace dans des scénarios nécessitant un raisonnement multi‑étapes. Enfin, l’intégration de NeuroWave dans des pipelines d’entreprise implique des exigences de latence et de scalabilité qui n’ont pas été détaillées. La levée de fonds de 25 M$ devrait permettre d’accélérer le développement de ces aspects, mais la validation à grande échelle reste à démontrer.