Présentation de CollectivIQ
La startup CollectivIQ Inc., basée à Boston, se concentre sur la maîtrise des coûts liés à l'intelligence artificielle (IA) avec une plateforme conçue pour donner aux entreprises un contrôle sur l'utilisation des modèles d'IA.
Fonctionnement de la plateforme
La plateforme, qualifiée de « plateforme de consensus IA », permet aux administrateurs d'attribuer aux employés l'accès à différentes classes de modèles d'IA en fonction de leurs rôles, départements, besoins commerciaux et budgets. Les administrateurs peuvent également imposer des restrictions de dépenses à l'échelle de l'entreprise et des limites de coûts et de jetons quotidiens pour les travailleurs individuels.
Les fonctionnalités de la plateforme visent à résoudre un problème croissant pour les entreprises qui déploient l'IA générative des petites expériences à une utilisation plus large en production. Les modèles de raisonnement, les processus en arrière-plan et les agents autonomes peuvent consommer des jetons sans que les employés ou les gestionnaires n'aient une vue claire des dépenses qui en résultent.
Avantages et limites
CollectivIQ affirme que ses nouveaux contrôles exposent l'utilisation à la fois au niveau de l'employé et de l'entreprise et permettent aux administrateurs de restreindre les travaux en arrière-plan et les agents. La plateforme se différencie des services d'IA d'entreprise construits autour d'un seul fournisseur de modèles. Elle se connecte à des modèles provenant de fournisseurs tels que OpenAI LLC, Google LLC, Anthropic PBC, XAI LLC, et d'autres.
Les utilisateurs peuvent interroger plusieurs modèles et recevoir une réponse synthétisée qui identifie les domaines d'accord et de désaccord. Le PDG de CollectivIQ, John Davie, a déclaré que la plateforme a été développée après qu'il a rencontré les compromis entre coûts et capacités liés à la mise à disposition de l'IA à grande échelle.
Exemple de code pour l'utilisation de la plateforme :
// Connexion à la plateforme
const platform = new CollectivIQ();
// Interrogation d'un modèle
const response = platform.queryModel("Quelle est la capitale de la France ?");
// Affichage de la réponse
console.log(response);
Implications et limites
La plateforme utilise ce que CollectivIQ appelle des étapes d'arbitre et de juge pour comparer les réponses des modèles. Si la plupart des modèles s'accordent sur une statistique ou un point de données, le système peut ignorer une réponse aberrante tout en montrant à l'utilisateur où les modèles diffèrent. Un mode « argue » plus récent envoie les modèles dans un tour de défis des réponses les uns des autres.
Les utilisateurs peuvent voir les réponses de modèles individuels et prendre leurs propres jugements. La société positionne ces comparaisons comme une protection contre les hallucinations et la dépendance à l'égard d'un seul fournisseur d'IA. CollectivIQ a environ 25 comptes d'entreprise représentant des centaines d'utilisateurs et prévoit un lancement public plus large en août.
