Présentation du modèle
Rumble-2-Flash est un modèle de reconnaissance vocale open source publié sous licence Apache 2.0. Il compte 0,5 milliard de paramètres et supporte plus de 40 langues grâce à une détection automatique. Le modèle s’intègre directement dans les bibliothèques 🤗 Transformers et vLLM sans code supplémentaire, ce qui le rend exploitable sur n’importe quel matériel compatible PyTorch.
Architecture et méthode de distillation
Le modèle repose sur l’architecture Qwen3‑ASR, initialement conçue pour le traitement multimodal. Pour réduire la taille, les auteurs ont appliqué une distillation « on‑policy » : le modèle enseignant transcrit l’audio, puis fournit, token par token, la probabilité attendue que le modèle étudiant doit reproduire. Cette boucle de rétroaction élimine le besoin d’utiliser les transcriptions du professeur comme cible. Le processus a été rendu possible malgré des vocabulaires différents grâce à la technique GOLD, qui fusionne les tokens incompatibles et compare les probabilités triées pour les tokens exclusifs.
uv pip install torch transformers accelerate
from transformers import AutoProcessor, AutoModelForMultimodalLM
model_id = "Reson8/Rumble-2-Flash"
processor = AutoProcessor.from_pretrained(model_id)
model = AutoModelForMultimodalLM.from_pretrained(model_id, device_map="auto")
inputs = processor.apply_transcription_request(
audio="https://hf.co/datasets/hf-internal-testing/dummy-audio-samples/resolve/main/bcn_weather.mp3",
language="English",
).to(model.device, dtype=model.dtype)
output = model.generate(**inputs, max_new_tokens=512)
generated = output[:, inputs["input_ids"].shape[-1]:]
print(processor.decode(generated, return_format="transcription_only")[0])
Performances et comparaison
Sur le benchmark multilingue de l’Open ASR Leaderboard, Rumble-2-Flash atteint un taux d’erreur moyen de 6,96 % sur dix langues (chinois, allemand, français, italien, espagnol, portugais, hindi, néerlandais, anglais). Ce résultat dépasse celui du modèle Meta omniASR‑LLM 7 B, quinze fois plus gros, et reste inférieur à Whisper large‑v3. En anglais seul, le modèle enregistre 6,6 % WER. Sur le jeu de données de centre d’appels d’AppTek (302 h, 14 accents anglais), il atteint 7,86 % WER, comparable à NVIDIA Nemotron 3.5 Transcribe (30 B) qui obtient 7,78 % WER, et nettement meilleur que Qwen3‑ASR 0,6 B (8,7 %).
En termes de vitesse, le débit dépasse 7 000 RTFx sur des lots remplis, ce qui correspond à la transcription d’une heure d’audio en environ 0,5 s. Cette rapidité provient du petit nombre de paramètres combiné à une exécution entièrement vectorisée sur GPU.
Déploiement et utilisations
Le modèle est disponible sur le Hub Hugging Face sous l’identifiant Reson8/Rumble-2-Flash et peut être invoqué via l’API Hugging Face. Son absence de dépendances personnalisées facilite l’intégration dans des pipelines existants de traitement du langage naturel ou de services de centre d’appels. Les options de sortie incluent la conversion des nombres en chiffres ou en mots, la gestion des remplissages, la répétition verbatim et le forçage de langue, offrant ainsi une flexibilité adaptée aux exigences de transcription automatisée.