IA

Wells Fargo fera payer à ses clients les erreurs de leurs agents d’IA

Susan Hill
Ajoutez-nous sur Google

Wells Fargo réécrit le contrat qui encadre son application et son site Internet : désormais, tout ce qu’un agent d’IA extérieur fait dans le compte d’un client est considéré comme un acte du client lui-même. La banque affirme qu’elle exécutera les instructions d’un agent sans les vérifier, qu’elle ne surveillera pas ce qu’il fait et qu’elle imputera ses erreurs au client. « Votre utilisation de tout agent d’IA se fait À VOS PROPRES RISQUES », prévoient les nouvelles conditions, en majuscules.

Pour quiconque a confié un mot de passe bancaire à un robot d’achat ou à un assistant budgétaire, cela change la donne : en cas d’erreur du logiciel, ce n’est plus la banque qui paie. Un double paiement, une commande passée dix fois ou un virement déclenché par une page web piégée incomberait au titulaire du compte, et non à la banque, sauf si la loi en dispose autrement. Personne n’a rien à signer : les clients qui continuent d’utiliser la banque en ligne après le changement sont réputés l’avoir accepté. « Les consommateurs autorisent des objectifs, pas chaque clic », a déclaré à Wired Kacy Kim, professeure de marketing à l’université Bryant, qui étudie le comportement des consommateurs.

La définition est large. Wells Fargo qualifie d’« agent d’IA » tout logiciel qui entreprend une « action autonome, semi-autonome ou non autonome » pour le compte d’une personne, ce qui va bien au-delà des chatbots vendus comme assistants personnels. Le client supporte le coût d’un agent qui comprend mal des consignes, fait des choses que personne n’a demandées, agit à partir d’« entrées manipulées » ou dépasse l’autorité qui lui a été confiée. Les agents utilisés par des personnes que le client autorise à accéder au compte relèvent des mêmes règles, et aucun mineur de moins de 18 ans ne peut en connecter un.

Désactiver un agent incombe lui aussi au client. Selon les conditions, les clients doivent révoquer eux-mêmes son accès, conserver la preuve qu’ils l’ont fait et la remettre si la banque la demande. Tant qu’ils n’ont pas prévenu Wells Fargo, ils restent responsables de tout ce que fait l’agent. Cela suit la logique de la réglementation américaine sur les virements électroniques, la Regulation E, qui considère comme autorisés les virements effectués par une personne à qui l’on a donné sa carte ou ses identifiants, jusqu’à ce que l’on demande à la banque de les arrêter.

Wells Fargo laisse malgré tout entrer les agents, ce qui la place du côté permissif d’un secteur qui ferme la porte. JPMorgan Chase a modifié ses conditions pour interdire les agents tiers qui se connectent avec les identifiants d’un client, Bank of America a averti ses clients de ne pas partager leurs identifiants avec des agents, et Citibank et PNC ont ajouté leurs propres mises en garde, selon Wired. Morgan Stanley a bloqué les agents tiers sur ses plateformes, a rapporté Axios. Wells Fargo s’est réservé le droit de couper les connexions qu’empruntent les agents ou de bloquer purement et simplement tout agent.

La résistance dépasse le cadre bancaire. Amazon a empêché l’agent Muse de Meta d’effectuer des achats sur sa boutique, et United Airlines a indiqué que les robots personnels ne pourraient pas acheter de billets d’avion pour les voyageurs. American Express fait figure de rare exception dans le récit de Wired : la société a déclaré que certaines erreurs d’agent, comme la commande d’un trop grand nombre d’exemplaires d’un article, pourraient à l’avenir donner lieu à un remboursement si l’acheteur ne parvient pas à récupérer son argent auprès du commerçant.

Il est difficile de savoir dans quelle mesure ce nouveau texte changera les choses en pratique. Ses clauses renvoient à plusieurs reprises à « la loi ou la réglementation », et aucun tribunal ne s’est prononcé sur la question de savoir qui supporte la perte lorsqu’un agent activé par un client fait quelque chose que celui-ci n’avait jamais voulu. Le public concerné est par ailleurs restreint. « Toutes nos données montrent que la plupart des gens ne savent même pas ce que sont les agents, et encore moins les utilisent », a déclaré à Wired Sucharita Kodali, analyste chez Forrester. Et les banques ne sont pas hostiles aux agents en tant que tels. « Elles verrouillent la porte aux agents extérieurs et construisent les leurs », a souligné Luca Cian, professeur à l’université de Virginie qui étudie la psychologie du consommateur et l’IA. L’assistant d’IA générative de Wells Fargo a, lui, déjà traité plus d’un milliard d’interactions.

Les nouvelles conditions ne concernent que les clients des services bancaires en ligne et mobiles de Wells Fargo aux États-Unis, et toutes les banques citées jusqu’ici sont américaines. Dans l’Union européenne, les règles sur les paiements poussent déjà les applications qui consultent ou déplacent de l’argent vers des connexions agréées fournies par la banque plutôt que vers un mot de passe partagé, ce qui laisse moins de place aux agents qui se connectent à la place du client.

Le contrat actualisé de Wells Fargo entre en vigueur le mardi 24 novembre et s’applique à toute personne qui continue d’utiliser le site ou l’application de la banque après cette date. L’interdiction des agents fonctionnant avec des identifiants, décidée par JPMorgan, est intervenue fin octobre, le jour même où Bank of America a envoyé son avertissement. Wells Fargo s’est également réservé la possibilité d’obliger ses clients à enregistrer leurs agents auprès de la banque, ce qui lui donnerait une liste des robots qu’elle dit ne pas surveiller.

Étiquettes: , , , , ,

Ajoutez-nous sur Google

Discussion

Il y a 0 commentaire.