Contexte de l'événement

Le 31 janvier, de 8 h à 20 h, une équipe de plus de 40 volontaires basée à Quilicura a exploité la plateforme Quili AI pour répondre à plus de 25 000 invites. Cette activité s’est déroulée sur une période de 12 heures, soit une moyenne de 2 083 requêtes par heure. Le volume d’interactions indique une charge soutenue qui nécessite une architecture capable de gérer des pics de trafic sans perte de latence.

Architecture et mise à l'échelle

Pour soutenir 25 000 prompts en 12 h, le système doit assurer un débit d’environ 0,58 requête par seconde. En pratique, les serveurs d’inférence sont souvent provisionnés en clusters de GPU ou d’instances CPU spécialisées, avec un équilibrage de charge dynamique. Chaque session de chat a duré en moyenne 11 minutes 4 secondes, ce qui implique que le nombre de sessions simultanées a pu atteindre plusieurs dizaines, voire une centaine, selon le taux de rotation des utilisateurs. La gestion de la mémoire cache pour les modèles de langage, ainsi que le streaming des réponses, sont des facteurs critiques pour éviter les goulots d’étranglement.

Portée géographique et impact mesuré

Le projet a impliqué des participants provenant de plus de 68 pays, ce qui montre une capacité de diffusion internationale. L’affirmation selon laquelle l’initiative aurait touché plus d’un milliard de personnes repose probablement sur des métriques d’exposition (impressions, partages sur les réseaux) plutôt que sur des interactions directes. Cette différence entre portée potentielle et utilisation effective doit être prise en compte lors de l’évaluation de l’impact réel.

Analyse des limites et perspectives

Les données publiées ne précisent pas le taux d’erreur du modèle, la latence moyenne par réponse, ni la consommation énergétique des serveurs. Sans ces indicateurs, il est difficile d’estimer la robustesse du service sous des charges supérieures. De plus, la déclaration d’un milliard de personnes atteintes en une journée soulève des questions de vérifiabilité : les outils d’analyse d’audience doivent être transparents pour éviter les surestimations. Enfin, la dépendance à une équipe locale de 40 personnes suggère que la scalabilité future dépendra d’une automatisation accrue et d’une optimisation du pipeline de traitement des prompts.