Présentation du défi

Pour enseigner les mathématiques et la lecture aux enfants âgés de 4 à 9 ans, il faut intégrer la pédagogie dans l’ingénierie. Un enfant ne peut pas attendre une réponse lente, ne peut pas lire une interface de chat et ne peut pas ignorer les erreurs d’un modèle. Nous voulons partager les enseignements qui ont façonné nos décisions architecturales pour construire un tuteur IA en temps réel.

Architecture et fonctionnement

Un délai de 2 secondes dans une conversation peut sembler différent pour un enfant qu’un adulte. Deux secondes suffisent pour que l’attention d’un enfant se disperse et que l’apprentissage s’arrête. Les bons enseignants gèrent cela sans pause, en reconnaissant immédiatement l’enfant, même s’ils retiennent la réponse pour laisser l’enfant travailler. L’enseignement consiste à adapter la bonne approche au moment présent, et la plupart des approches ne sont pas des réponses.

Nous avons rejeté la boucle d’agent standard, car elle présente un problème de latence. Les modèles de pointe prennent 2-3 secondes pour produire leur premier jeton, puis décodent à environ 30 jetons par seconde. Nos actions moyennes nécessitent quelques dizaines de jetons. En ajoutant la latence aller-retour et la lecture audio, une boucle standard signifie 3-4 secondes de temps mort entre chaque phrase ou changement à l’écran.

Modèle de pointe : 2-3 secondes pour le premier jeton, 30 jetons/seconde

Implications et limites

Nous avons construit un harnais personnalisé pour équilibrer le suivi des instructions, la latence et un espace d’action flexible. Le modèle diffuse plusieurs actions dans une seule réponse. Un interpréteur analyse et exécute chaque action tandis que le modèle génère les actions suivantes. L’enfant n’a pas à attendre la première action, qui est disponible en environ 30 jetons.

Cela nous permet de changer les actions disponibles en fonction de la situation. Par exemple, lorsque une question est affichée à l’écran, l’agent reçoit des instructions et des options pour la construction plutôt que la réponse. Nous pouvons également valider chaque action sans impact de latence sur le chemin heureux. Seule une action invalide nous oblige à interrompre et à régénérer, sinon l’exécution ne s’arrête pas.

Enseignements et perspectives

Les cadres d’agent sont conçus pour les travaux en arrière-plan, où le compromis entre vitesse et réflexion est facile. L’apprentissage en temps réel se situe à l’extrême opposé. Enseigner à la vitesse de la conversation signifie que nous devons maîtriser la boucle nous-mêmes. Un bon tuteur prédit ce que l’enfant fera ensuite. Un enseignant réfléchit à ce que l’élève vient de faire et anticipe ce qu’il fera ensuite.

Modèle de pointe : latence de 2-3 secondes pour le premier jeton