OpenAI mise sur les familles

Présentation

OpenAI élargit son focus au-delà des utilisateurs individuels pour inclure les familles, en embauchant un responsable produit dédié pour construire des expériences pour les familles, les aidants et les adultes âgés sur ses produits.

Contexte technique

ChatGPT a lancé l'IA générative dans le mainstream il y a plus de trois ans. Selon les estimations de Sensor Tower, la part des utilisateurs de ChatGPT âgés de 35 ans et plus est passée à 31 % au deuxième trimestre, contre 26 % l'année précédente. La part des utilisateurs âgés de 18 à 24 ans a baissé à 29 %, contre 34 % l'année précédente.

Fonctionnement et sécurité

Le responsable produit sera chargé de développer des expériences pour les familles, en tenant compte de la confiance et de la sécurité. Stephen Balkam, PDG de l'Institut de sécurité en ligne pour les familles, estime que les entreprises d'IA devraient concevoir des produits différemment pour les utilisateurs plus jeunes, avec des contrôles de contenu plus solides, des expériences adaptées à l'âge, une surveillance parentale et des rappels pour informer les utilisateurs qu'ils interagissent avec une IA et non avec un humain.

Implications et limites

OpenAI a introduit des mesures de sécurité, notamment des contrôles parentaux pour les comptes d'adolescents, le routage des conversations sensibles vers des modèles de raisonnement conçus pour mieux gérer les signes de détresse, et une fonctionnalité « Contact de confiance » facultative qui peut alerter un membre de la famille ou un aidant en cas de préjudice potentiel auto-infligé. L'entreprise vise à explorer le rôle de l'IA dans l'apprentissage, le coaching et l'engagement des jeunes.

Exemple de code pour les contrôles parentaux :
   // Code pour activer les contrôles parentaux
   parentalControls = true;
   // Code pour configurer les paramètres de sécurité
   securitySettings = {
       sensitiveContent: false,
       ageRestrictions: true
   };
   

Les entreprises d'IA ont l'opportunité d'éviter les erreurs commises par les plateformes de médias sociaux, qui ont traité les enfants comme des adultes avant d'ajouter des garanties plus solides sous la pression du public et de la réglementation.