Underdog déploie un modèle vocal de 32 Mo fonctionnant hors ligne

Présentation du modèle Woof

Underdog a mis à disposition un modèle de synthèse vocale nommé Woof, limité à 32 Mo et contenant 31 millions de paramètres. Le modèle s’intègre dans un jeu de démonstration accessible via le navigateur : l’utilisateur peut saisir du texte sur une machine à écrire virtuelle et entendre la lecture instantanée, ou faire tourner un tuner pour générer des tonalités musicales. Toutes les opérations s’exécutent localement, sans appel à un serveur distant, ce qui élimine la dépendance aux fournisseurs de cloud.

Architecture et contraintes techniques

Le poids de 32 Mo résulte d’une quantisation agressive des poids et d’une réduction du vocabulaire phonétique. Cette approche permet de charger le réseau de neurones en mémoire vive d’un smartphone ou d’un ordinateur portable sans dépasser les limites de stockage typiques des applications web. Le modèle fonctionne grâce à WebAssembly et à l’API Web Audio, deux technologies standardisées qui offrent un accès direct au processeur et aux capacités audio du navigateur. La contrainte principale réside dans la capacité de calcul : avec 31 M paramètres, le temps d’inférence reste compatible avec les processeurs mobiles, mais la latence augmente dès que le dispositif ne supporte pas les extensions SIMD.

Implications pour l’informatique en périphérie

En proposant un modèle qui s’exécute entièrement sur l’appareil, Underdog répond à la demande croissante d’assistants vocaux privés. Le modèle ne transmet aucune donnée à un serveur, ce qui réduit les risques de fuite d’informations personnelles. Cette architecture s’inscrit dans la lignée du modèle Bark, lancé quelques semaines plus tôt, qui occupe 167 Mo et assure la transcription audio‑texte. Les deux modèles illustrent une stratégie de « edge AI » où la taille du fichier est directement corrélée à la capacité d’exécution hors ligne. Underdog cite également un modèle de 27 milliards de paramètres capable de tourner sur des ordinateurs portables, montrant que la frontière entre modèles de grande taille et exécution locale se déplace progressivement.

Limites et perspectives

Malgré son faible encombrement, le modèle Woof ne prétend pas remplacer les systèmes de synthèse vocale de plusieurs centaines de mégaoctets qui offrent une qualité de parole plus naturelle et une plus grande diversité d’accents. La réduction du nombre de paramètres entraîne une perte de nuance dans la prosodie et limite la prise en charge de langues complexes. De plus, la démonstration repose sur un environnement de navigateur moderne ; les appareils plus anciens ou les navigateurs sans support WebAssembly ne pourront pas exploiter le modèle. Néanmoins, la mise à disposition du code source et du jeu de données ouvre la voie à des optimisations communautaires, notamment via le pruning ou le knowledge distillation, qui pourraient réduire davantage la taille tout en conservant la qualité perçue.