ChatGPT pour ados — OpenAI donne aux parents des limites, pas un accès aux chats

ChatGPT se comporte désormais différemment pour les adolescents. OpenAI a lancé ChatGPT for Teens le 18 août, et le système est automatique : les utilisateurs âgés de treize à dix-sept ans obtiennent une version du produit déjà configurée avec des limites plus strictes que le paramètre par défaut des adultes. Aucune action n’est requise de la part de l’adolescent, et aucune adhésion parentale n’est nécessaire. La fonctionnalité a commencé à être déployée à l’échelle mondiale cette semaine-là et devrait terminer son déploiement de deux semaines sur tous les marchés.

Les contrôles parentaux, accessibles via un compte familial, sont plus réfléchis que ceux de la plupart des plateformes. Un parent peut définir des heures de calme — des plages horaires spécifiques de la journée pendant lesquelles ChatGPT est inaccessible pour le compte adolescent — et désactiver indépendamment le mode vocal, la génération d’images ou la fonction de mémoire persistante qui permet à ChatGPT de se souvenir des détails d’une conversation à l’autre. Chacune de ces options est un interrupteur distinct. Il existe également une option pour refuser que OpenAI utilise les conversations de l’adolescent pour entraîner les futurs modèles, une fonctionnalité qui n’est pas activée par défaut sur les comptes standards.

Ce que les parents ne peuvent pas faire, c’est lire ce que leur enfant a tapé dans ChatGPT. Il s’agit d’une décision de conception délibérée, et non d’une lacune dans l’implémentation. La position d’OpenAI est que les adolescents qui soupçonnent que leurs conversations pourraient être partagées avec leurs parents n’utiliseront tout simplement pas le produit pour les choses pour lesquelles ils ont réellement besoin d’aide — et un adolescent qui ne peut pas poser une question sensible à une IA, sans jugement, perd la partie la plus utile de la technologie. Les contrôles donnent aux parents des outils pour fixer des limites de temps et de mode ; le contenu des conversations reste privé.

Le modèle lui-même comporte des restrictions intégrées qui s’appliquent indépendamment des paramètres parentaux. ChatGPT for Teens traite de manière plus stricte les sujets liés à l’automutilation, aux troubles alimentaires et à la violence. Le modèle est entraîné à rediriger plutôt qu’à engager sur ces sujets, et les mêmes restrictions s’appliquent dans Study Mode — une nouvelle fonctionnalité qui transforme les réponses en quiz et questions d’entraînement plutôt qu’en réponses directes. Study Mode est conçu pour soutenir les devoirs sans les remplacer, exigeant que l’adolescent retrouve l’information plutôt que de simplement la copier.

La question de la vérification de l’âge est là où les limites du système deviennent apparentes. OpenAI utilise un modèle de prédiction de l’âge, et non une vérification formelle d’identité, pour classer les utilisateurs comme adolescents. Les adolescents qui ont fourni une fausse date de naissance lors de leur première inscription — une astuce courante sur les plateformes restreintes par âge — ne seront probablement pas reclassifiés. Le déploiement vise les nouveaux comptes et les comptes avec des dates de naissance correctement enregistrées. OpenAI n’a pas divulgué la proportion de sa base d’utilisateurs existante qui se situe dans la tranche des 13 à 17 ans, mais les chercheurs ont constamment constaté que ce groupe est important et utilise les outils d’IA de manière disproportionnée à des fins académiques.

La logique de conception plus large mérite qu’on s’y attarde. OpenAI essaie de tenir deux choses à la fois : une architecture de sécurité suffisante pour satisfaire les parents et les régulateurs, et une vie privée suffisante pour être réellement utile aux adolescents. Les heures de calme et les restrictions thématiques répondent au premier point ; le refus de partager les historiques de discussion répond au second. Que cet équilibre soit correct est une question sur laquelle des personnes raisonnables peuvent être en désaccord. Ce qui est remarquable, c’est qu’OpenAI a rendu le compromis explicite — ils ont choisi l’utilité des adolescents plutôt que la surveillance parentale, et ils l’ont dit.

ChatGPT for Teens est désormais disponible sur toutes les plateformes. Le déploiement mondial de deux semaines a commencé le 18 août.

Étiquettes: intelligence artificielle, OpenAI, chatgpt, ChatGPT for Teens, contrôle parental, sécurité numérique adolescents