Présentation de Pangram
Pangram, une startup new-yorkaise spécialisée dans la détection d'IA, a levé 9 millions de dollars pour développer ses outils de détection de contenu généré par IA. Cette levée de fonds intervient alors que la startup lance son nouveau modèle de détection de texte, Pangram 4, et son modèle de détection d'images, Pangram Image.
Fonctionnement de la technologie
Le modèle de détection de texte de Pangram est entraîné sur des dizaines de millions de documents humains connus. La startup a créé un « miroir synthétique » pour chaque document, en répliquant le sujet, la longueur et le ton de voix, mais en le rédigeant avec un modèle de langage avancé. Le modèle apprend ainsi les différences stylistiques et les choix que l'IA fait de manière cohérente, lui permettant de détecter avec une grande confiance ce qui est généré par IA.
Exemple de code : Pangram utilise un modèle de machine learning pour détecter le contenu généré par IAImplications et limites
La détection d'IA par Pangram n'est pas seulement une question de savoir si un texte a été entièrement rédigé par IA, mais également de distinguer les niveaux d'assistance IA. Le fondateur de Pangram, Max Spero, estime que l'assistance IA peut être acceptable, à condition que l'auteur divulgue son utilisation de l'IA. Les tests ont montré que le modèle de détection de texte de Pangram est très impressionnant, mais pas parfait, avec une précision de plus de 99 % pour détecter les écrits assistés par IA et les contenus mixtes humains-IA.
Utilisation et intégration
Les utilisateurs peuvent accéder à Pangram via un abonnement mensuel de 20 dollars sur le web ou en téléchargeant l'extension Chrome, qui étiquette automatiquement les publications en temps réel sur les plateformes telles que X, LinkedIn, Substack, Reddit et Medium. Pangram propose également sa technologie via API, avec des clients tels que Substack, Quora, des écoles et des universités, des éditeurs et des agences, ainsi que des recruteurs.
