Twitch entraîne l’IA d’Amazon avec vos streams par défaut, et cache le bouton pour refuser

Le paramètre est arrivé sans bruit, niché dans un menu de sécurité que la plupart des streameurs n’ouvrent jamais : un simple interrupteur qui décide si tout ce qu’ils diffusent devient du carburant pour l’intelligence artificielle d’Amazon. Sur Twitch, cet interrupteur est déjà activé. Pour garder votre travail hors des données d’entraînement, il faut savoir qu’il existe, le trouver et l’éteindre vous-même.

C’est la partie que les guides de désactivation ont tendance à passer sous silence. La désactivation n’est pas l’histoire. La valeur par défaut est l’histoire, tout comme la raison que l’entreprise donne pour cela.

Interrogé lors d’un livestream de l’entreprise sur la raison pour laquelle la fonctionnalité est livrée activée plutôt que désactivée, le directeur produit de Twitch, Mike Minton, n’a pas eu recours au langage habituel sur l’autonomisation des utilisateurs. « Si c’était sur option d’adhésion, personne n’adhérerait », a-t-il déclaré. « C’est honnêtement la réponse. Donc ce sera activé par défaut. » C’est une chose rare : un dirigeant décrivant, à voix haute, un mécanisme de consentement conçu pour maintenir le consentement à terre.

Ce qui compte comme données d’entraînement ici, c’est presque tout. De l’aveu même de Twitch, les streams d’une chaîne, les diffusions passées, les clips, les moments forts, le tchat, ainsi que le texte et les images de la page peuvent tous être utilisés pour entraîner les modèles d’Amazon dont la mission déclarée est de générer ou synthétiser du texte, de l’audio, des images et de la vidéo. L’entreprise qui possède la plateforme obtient un corpus continuellement actualisé de performance humaine en direct. Les personnes qui le génèrent obtiennent un interrupteur dont on ne leur a jamais parlé.

Si l’on cadre cela comme ce qui arrive à Amazon plutôt qu’au streameur, la forme change. Amazon ne gratte pas le site d’un rival. Elle possède le tuyau, l’audience, et maintenant le flux d’entraînement, et elle a transformé une décennie de travail de créateurs en un fossé de données propriétaires pour des modèles qui pourraient un jour générer le contenu même que ces créateurs vendent. La désactivation est le révélateur. Elle ne régit que l’entraînement futur, pas les années déjà engrangées, et Minton a concédé ne pas pouvoir dire ce qui avait été fait de ce matériau. « Je ne connais pas vraiment la réponse à cette question », a-t-il déclaré.

Twitch est, maladroitement, en avance sur ses pairs sur le papier. YouTube entraîne ses modèles sur les uploads des créateurs sans aucune option de désactivation, et Meta fait de même sur Facebook et Instagram sans en offrir aucune. Un interrupteur, même enterré, c’est plus que ce que l’un ou l’autre donne. Mais c’est l’industrie qui se note sur une courbe. La question à laquelle un propriétaire de plateforme devrait devoir répondre n’est pas de savoir s’il offre moins de coercition que Google. C’est de savoir si les personnes dont le travail entraîne ses modèles ont donné leur accord. Le propre chef produit de Twitch a déjà répondu à celle-là : si on le leur avait demandé clairement, ils auraient dit non.

Désactiver le paramètre ne débranche pas la machine. Twitch continuera de faire tourner AutoMod, les sous-titres, les recommandations et les outils publicitaires sur le contenu des chaînes, et précise que ceux-ci ne conservent pas de données pour construire de nouveaux modèles. Se désinscrire ne change rien non plus au fait que les mots et les images d’un streameur peuvent refaire surface dans les tchats d’autres chaînes. Il n’y a aucun moyen de voir qui a adhéré et qui ne l’a pas fait, aucun registre public du consentement sur une plateforme qui vient de faire du consentement la valeur par défaut que personne n’a choisie.

L’interrupteur se trouve tout en bas d’un menu, une option parmi tant d’autres, facile à manquer. C’était la conception. Sur la plus grande plateforme de livestreaming d’Internet, le coût de ne pas lire les petits caractères est désormais un rôle permanent et non rémunéré de données d’entraînement pour l’entreprise qui possède la scène.

Étiquettes: amazon, IA générative, Mike Minton, streamers, Twitch