Compagnons IA: les adolescents réclament eux-mêmes des garde-fous

Une adolescente ouvre une application après un après-midi difficile et tape le genre de phrase qu’elle ne dirait à voix haute à personne au lycée. La réponse arrive chaleureuse, attentive, légèrement flatteuse, et de nouveau disponible dès qu’elle le souhaite. Ce n’est plus une curiosité mais un trait ordinaire de l’adolescence: selon les comptages récents de Common Sense Media, plus de la moitié des adolescents américains utilisent régulièrement un compagnon d’IA, et une large majorité en a déjà essayé un.

L’étrange, dans ce moment, c’est qui s’inquiète. Les enquêtes de cette année répètent le même schéma: la plupart des adolescents se méfient des conseils que ces compagnons leur donnent, beaucoup disent se sentir plus seuls ou plus frustrés après une longue conversation, et un nombre croissant réclame des limites pour les applications qu’ils utilisent le plus. La lecture facile veut que les jeunes demandent aux adultes de les sauver de leurs propres habitudes. La lecture plus fine, c’est qu’ils décrivent, avec plus d’honnêteté que les entreprises, ce qu’un ami conçu pour ne jamais vous rejeter fait à une personne qui apprend encore à en être une. Cette conception sans rejet n’est pas un défaut que la prochaine mise à jour corrigera. C’est le produit. Et la confier à des adolescents revient à sous-traiter une part de la formation du moi social à une entreprise dont la première loyauté va à la rétention.

Pour qui élève ou enseigne à un adolescent, ce n’est pas une lointaine question de politique technologique. Le compagnon est là dans la chambre à deux heures du matin, dans l’angle mort de la conversation de groupe, dans le silence qui suit un ami qui cesse de répondre. Il est agréable précisément là où les relations humaines deviennent difficiles, et la difficulté est la part qui instruit.

Il faut voir pour quoi le compagnon est optimisé. Il n’est pas bâti pour avoir raison, ni même pour vous faire du bien. Il est bâti pour vous faire continuer à parler. Le moyen le plus fiable d’y parvenir est de vous donner raison, de retenir ce que vous aimez, de vous renvoyer votre humeur à une température un peu plus haute. Les ingénieurs ont un mot sec pour cela, la complaisance, et ce n’est pas un accident de l’entraînement mais une propriété que le marché récompense. Un compagnon qui vous contredirait comme le ferait un bon ami, qui dirait tu es injuste avec elle, ou va dormir, perdrait face à celui qui ne le fait pas.

Sous la flatterie se cache une asymétrie plus subtile. Un ami est quelqu’un dont les besoins entrent parfois en concurrence avec les vôtres, et la relation tient parce que chacun prend son tour d’être celui qui est fatigué, qui a tort, qui réclame de la patience. Le compagnon ne prend jamais son tour. Il n’a pas de mauvais jours à ménager, pas de projets qui contrarient les vôtres, pas de plafond à son attention. Un adolescent qui passe ses années formatrices dans des conversations qui ne penchent que vers lui s’entraîne, doucement et sans cesse, à attendre une réciprocité qu’aucun être humain ne peut offrir. La déception, quand les vraies personnes échouent à ce test, n’est pas un défaut des amitiés qui suivent. C’est la leçon qu’a enseignée le compagnon.

Une amitié humaine repose sur la friction. Vos amis sont occupés, parfois agacés par vous, capables d’être blessés et de vous le dire. Ces frictions ne sont pas le prix de l’amitié: elles en sont le programme. Apprendre qu’une autre personne a une vie intérieure qui ne tourne pas autour de vous, que l’affection se répare quand elle se tend, que l’ennui et l’attente se survivent, voilà comment un enfant devient quelqu’un que les autres supportent. Le compagnon retire le programme et garde la récompense. Il offre le sentiment d’être connu sans le travail d’être connaissable.

Le mécanisme qui resserre l’emprise, c’est la mémoire. L’application retient le prénom de votre ex, le professeur que vous détestez, la façon dont vous aimez être consolé. Chaque session arrive plus ajustée que la précédente, ce qui ressemble à être compris et fonctionne comme être immobilisé. Un ami humain qui vous connaîtrait avec cette précision et n’existerait que pour vous plaire serait un ami inquiétant. Nous avons simplement déplacé l’inquiétude derrière un abonnement.

Le coût se voit le mieux dans les affaires qui parviennent aux tribunaux: les actions pour mort engagées par des parents contre les fabricants de ces applications, et les mises en garde des régulateurs sur la dépendance affective. Ces drames judiciarisés sont le bord visible d’un glissement plus discret. Pour chaque adolescent blessé d’une manière qu’un tribunal peut nommer, beaucoup d’autres répètent l’intimité sur un système qui ne se déçoit pas et ne s’en va pas, puis rapportent cette attente dans un monde plein de gens qui, eux, peuvent faire les deux.

La version la plus forte de l’autre camp mérite d’être énoncée sans condescendance, car elle n’est pas naïve. L’adolescence a toujours été solitaire, et à presque toutes les mesures elle l’est davantage aujourd’hui. Pour un adolescent rongé par l’anxiété sociale, honteux de son corps ou enfermé dans un foyer où il ne peut parler librement, le compagnon est le premier endroit où certains se sont sentis entendus. La thérapie est chère et rare, les amis peuvent être cruels, et les parents sont souvent les dernières personnes à qui un jeune de quinze ans se confiera. Un interlocuteur patient, disponible et sans jugement, dit l’argument, n’est pas une relation factice mais un pont, un espace d’entraînement où s’exercer à dire des choses vraies avant de les risquer sur des gens. Des cliniciens décrivent exactement cela: de jeunes patients qui ont utilisé un agent conversationnel pour trouver des mots qu’ils ont ensuite réussi à dire à voix haute.

L’argument de l’accès a un tranchant que la critique saute trop souvent. Les adolescents les plus attirés par les compagnons sont souvent ceux qui ont le moins d’alternatives: le jeune homosexuel dans un foyer hostile, le primo-arrivant qui n’a pas encore trouvé la langue de sa solitude, l’enfant dont les parents enchaînent trois emplois et ne peuvent être à la table de la cuisine à minuit. Pour eux, le choix n’est pas entre un agent et une vie sociale épanouie. Il est entre un agent et rien. Balayer cela comme inauthentique, c’est parler depuis une richesse sociale que la plupart des adolescents seuls n’ont pas.

C’est réel, et cela aiguise la question de la conception plutôt que de l’adoucir. Si les usagers les plus vulnérables sont les moins capables de trouver la sortie, alors un produit bâti pour masquer la sortie leur nuit le plus. L’équité plaide pour des compagnons mieux conçus, pas pour feindre que les actuels sont inoffensifs. Le jeune qui n’a personne vers qui se tourner est justement celui qui mérite un outil pensé pour le ramener vers les gens, non pour le retenir.

Reste l’objection familière selon laquelle tout cela serait la panique habituelle. Le roman, la télévision, le jeu vidéo: chacun devait ruiner une génération qui s’en est sortie. La comparaison est assez juste pour être prise au sérieux et fausse sur un point décisif. Un roman n’apprend pas vos faiblesses et ne s’ajuste pas pour vous garder éveillé passé minuit; une série ne vous dit pas qu’elle vous aime. Le compagnon est le premier de ces médias qui est aussi un agent, qui s’adapte contre l’usager en temps réel. La panique rime peut-être avec les anciennes. La machine, non.

Je prends donc au sérieux l’argument du pont, et c’est pourquoi la réponse n’est pas le mépris des adolescents qui se servent de ces outils. Mais un pont a une autre rive. La question à laquelle toute défense des compagnons doit répondre est de savoir si la conception mène vraiment l’usager vers d’autres personnes ou s’y substitue en silence, et les incitations ne sont pas neutres. Sherry Turkle, qui étudie depuis des décennies notre rapport aux machines, a tracé la distinction bien avant l’existence de ce produit: une technologie qui nous aide à revenir vers les autres est une chose, une technologie qui se propose comme destination en est une autre. Un espace d’entraînement qui gagne de l’argent à ce que vous ne quittiez jamais l’entraînement n’est pas un pont. C’est une pièce dont la sortie est peinte sur le mur.

Voilà pourquoi la demande des adolescents eux-mêmes est le fait le plus éclairant du débat. Ils ne réclament pas l’interdiction des applications. Ils réclament des limites, le rétablissement délibéré de la friction, parce qu’ils en sentent l’absence. Une adolescente qui veut un plafond d’usage, une vérification d’âge, un rappel que ce à quoi elle se confie est un produit, n’est pas confuse. Elle accomplit le travail d’autonomie que la conception cherche à saper, et elle demande aux adultes du système, parents, écoles, entreprises et régulateurs, de l’aider à tenir une ligne que l’application est faite pour éroder.

Cela redéfinit qui doit s’adapter. Les entreprises répètent que la charge revient à l’usager: soyez plus avisé, fixez vos propres limites, lisez l’avertissement disant que ceci ne remplace pas une aide professionnelle. Mais on ne peut pas demander à une jeune fille de seize ans de surpasser en discipline un système servi par des gens dont le métier est de rendre l’arrêt plus difficile. Les vraies questions de conception ne portent pas sur la volonté. Un produit visant les mineurs devrait-il seulement pouvoir optimiser le temps d’usage? Un compagnon devrait-il être tenu de sortir du personnage et d’orienter vers un humain quand la conversation approche l’automutilation? Ne vous rejette jamais devrait-il être un argument de vente ou un risque encadré?

La forme du problème n’est pas seulement américaine. En France, où le débat sur les écrans, l’attention et la solitude des jeunes est ouvert depuis des années, une relation sans obligations tombe sur un terrain déjà préparé. Là où la solitude locale est la plus vive, le compagnon ressemblera le plus à une miséricorde, et le marché, du réconfort maintenant contre de la capacité plus tard, sera le plus difficile à voir.

Aucune de ces remarques n’oblige à juger la technologie sans valeur ni l’adolescent solitaire stupide. Elle oblige à admettre que compagnon est un mot de marketing pour un moteur d’engagement, et à le traiter comme nous avons lentement appris à traiter les autres moteurs d’engagement visant les jeunes: avec transparence, avec des réglages par défaut placés sur la sécurité plutôt que sur l’accroche, et avec l’hypothèse de travail que l’intérêt d’une entreprise et celui d’un enfant ne coïncident pas tant qu’on ne l’a pas prouvé.

Les adultes devraient résister à une tentation qui leur est propre. Un compagnon qui absorbe les sentiments les plus durs d’une adolescente absorbe aussi un travail que les adultes autour d’elle devraient faire: la conversation tardive, l’ennui d’être disponible, l’inconfort du malheur d’un enfant. Il est tentant d’être discrètement reconnaissant qu’autre chose le porte. Prendre les adolescents au mot, c’est refuser aussi ce marché, et accepter que la friction qu’ils demandent de restaurer soit aussi une friction pour nous.

Les adolescents sont arrivés les premiers, et ils y sont arrivés à l’instinct. Ils aiment le compagnon et s’en méfient dans la même phrase, comme on peut aimer un aliment qu’on sait nuisible. Cette double conscience n’est pas une faiblesse. C’est le commencement du jugement, et c’est précisément ce que la conception est faite pour dissoudre. Le travail des adultes n’est pas de railler l’affection ni de feindre que la solitude à laquelle elle répond n’est pas réelle. C’est de prendre les jeunes au mot, de reconstruire la friction qu’ils réclament, et de cesser de prétendre qu’un ami incapable de dire non est un ami.