Vous connaissez cette situation : votre compte est suspendu, votre demande de remboursement est refusée ou vous êtes toujours facturé pour un abonnement annulé.
Vous vous rendez donc sur le site web de l'entreprise pour obtenir de l'aide et vous tombez sur un chatbot. Son menu ne correspond pas à votre situation. Impossible de parler à un conseiller. Finalement, vous abandonnez.
Depuis début 2023, les Australiens ont déposé 1 780 plaintes auprès du médiateur du secteur des télécommunications concernant des détaillants en ligne, des places de marché, des moteurs de recherche et des plateformes de médias sociaux. En 2025, ce nombre de plaintes a augmenté de 20 % par rapport à l’année précédente.
Les problèmes d'accès aux comptes étaient les plus fréquents, suivis des litiges concernant les frais. Plus de sept cas sur dix impliquaient seulement cinq entreprises : Meta, Google, Microsoft, Apple et Hubbl.
Malheureusement, toutes les plaintes concernant les services en ligne adressées au médiateur des télécommunications ne relèvent pas de sa compétence. Aucun mécanisme de médiation existant ne peut rendre de décision contraignante à leur sujet.
Nous avons besoin d'un système de règlement des différends capable de traiter ces plaintes, et il existe des précédents en la matière.
Les problèmes numériques coûtent cher à l'économie
Le Centre de recherche sur les politiques de consommation a constaté que quatre Australiens sur cinq ont rencontré un problème avec un service numérique au cours de l'année écoulée, et que les problèmes non résolus représentent un coût estimé à 497 millions de dollars par an. Deux tiers des personnes ayant déposé une plainte se sont déclarées insatisfaites.
Le mécontentement était le plus élevé concernant les remboursements auxquels les gens estimaient avoir droit (84%), suivi par l'absence de moyen de contacter une personne pouvant les aider (83 %).
Le centre indique que lorsque des personnes se plaignent auprès d'entreprises et de plateformes en ligne, beaucoup doivent faire face à des portails de service client virtuels et à des chatbots d'IA inutiles, qui ne fournissent aucune explication ou qui offrent des conseils inexacts.
Qui peut traiter ces plaintes ?
Le dispositif gouvernemental de prévention des escroqueries offre un modèle. Il exige que les banques, les opérateurs de télécommunications et les plateformes numériques mondiales adhèrent à un système externe de règlement des litiges géré par l' Autorité australienne des plaintes financières avant le 1er septembre.
Toutefois, ce dispositif se limite aux escroqueries et ne couvre pas les problèmes de compte ou de plateforme décrits ci-dessus.
En vertu du règlement européen sur les services numériques, les plateformes doivent disposer d'une procédure de traitement des réclamations adéquate, et les décisions ne peuvent être prises par des machines seules. Un personnel qualifié doit superviser ces décisions. Si la plateforme commet une erreur, les utilisateurs peuvent saisir un organisme indépendant agréé par le gouvernement, qui doit statuer dans un délai de 90 jours.
Par exemple, un organisme de règlement des litiges, Appeals Centre Europe, a statué sur 1 500 litiges et a annulé plus des trois quarts des décisions initiales des plateformes.
L'IA pourrait peut-être faire partie de la solution
Tout système de résolution des litiges applicable aux plateformes en ligne serait confronté à un nombre considérable de cas présentant des problèmes similaires. C'est là que les chatbots et l'IA pourraient apporter une solution.
Le Tribunal de résolution des conflits civils de la Colombie-Britannique guide les citoyens à travers un explorateur de solutions, un chatbot basé sur des règles qui pose des questions prédéfinies et renvoie des informations personnalisées en fonction de règles établies, avant toute intervention humaine.
Dans une étude que mes collègues et moi avons publiée dans le UNSW Law Journal, nous avons comparé les chatbots basés sur des règles avec les chatbots d'IA générative pour voir comment ils peuvent aider les personnes ayant des réclamations de faible valeur.
La capacité de l'IA générative à fournir des réponses personnalisées et ciblées est véritablement séduisante.
Mais l'IA générative aussi est sujette à des hallucinations, inventant avec assurance des règles et des cas juridiques qui n'existent pas. Même lorsqu'elle ne fabrique pas de source, elle peut produire des conseils très convaincants, mais tout simplement erronés.
Ce risque pèse le plus lourdement sur les personnes que ces systèmes sont censés aider. Un consommateur qui n'a pas les moyens de se payer un avocat est aussi celui qui est le moins à même de remarquer qu'une IA a inventé la loi. Et l'erreur est invisible : si on vous dit à tort que vous n'avez aucun recours, vous abandonnez tout simplement, et personne ne s'en aperçoit. Aucun retour d'information n'atteint le système qui a produit l'erreur.
Obtenir le bon design
La Commission de réforme du droit de l'État de Victoria énonce des principes judicieux dans son rapport sur l'IA dans les tribunaux victoriens, notamment une recommandation claire : l'IA ne doit pas prendre la décision finale. C'est à une personne qu'il revient de trancher.
Avant qu'un nouveau système de résolution intègre des outils d'IA, il doit décider quels outils seront utilisés, pour quelles fonctions et quelles garanties permettront de réduire les risques potentiels.
Les chatbots dans lesquels les gens sont bloqués aujourd'hui ne sont pas défectueux. Ils fonctionnent exactement comme prévu – pour les entreprises en ligne qui les ont créés.
L'Australie a rarement l'occasion de concevoir un système de résolution des litiges à partir de zéro, et elle en met actuellement un en place dans le cadre de son dispositif de prévention des escroqueries.
La question de savoir si la technologie finira par servir les consommateurs ou par les entraver n'est pas une question d'IA. Il s'agit de savoir à qui le système est destiné et s'il existe toujours, au final, quelqu'un vers qui se tourner.
Vivi Tan, maître de conférences en droit à l'université RMIT.
Cet article est republié de The Conversation sous licence Creative Commons. Lire l' article original.
