Conosci bene la sensazione. Il tuo account è sospeso, la tua richiesta di rimborso viene rifiutata oppure ti viene ancora addebitato un abbonamento annullato.
Quindi vai sul sito web dell'azienda per chiedere aiuto e trovi un chatbot. Offre un menu che non include la tua situazione. Non c'è alcuna opzione per parlare con una persona. Alla fine ti arrendi.
Dall'inizio del 2023, gli australiani hanno presentato 1.780 reclami al difensore civico del settore delle telecomunicazioni riguardanti rivenditori online, marketplace, motori di ricerca e piattaforme di social media. Nel 2025, i reclami sono aumentati del 20% rispetto all'anno precedente.
I problemi di accesso all'account sono stati il problema più comune, seguiti dalle controversie relative ad addebiti e commissioni. Oltre sette casi su dieci riguardavano solo cinque aziende: Meta, Google, Microsoft, Apple e Hubbl.
Purtroppo, tutti i reclami relativi ai servizi online presentati al difensore civico del settore delle telecomunicazioni esulano dalla sua giurisdizione. Nessun organismo di mediazione esistente può emettere una decisione vincolante al riguardo.
Abbiamo bisogno di un sistema di risoluzione delle controversie in grado di gestire questi reclami, e ci sono già dei precedenti in tal senso.
I problemi digitali costano all'economia
il Consumer Policy Research Centre, quattro australiani su cinque hanno avuto problemi con un servizio digitale nell'ultimo anno e i problemi irrisolti hanno un costo stimato di 497 milioni di dollari all'anno. Due terzi di coloro che hanno presentato un reclamo si sono dichiarati insoddisfatti.
Il livello di insoddisfazione più elevato riguardava i rimborsi che le persone ritenevano di meritare (84%), seguito dall'impossibilità di contattare qualcuno che potesse aiutarle (83%).
Il centro afferma che, quando le persone si lamentano con aziende e piattaforme online, molte si trovano a dover interagire con portali di assistenza clienti virtuali e chatbot basati sull'intelligenza artificiale che si rivelano inutili, non forniscono spiegazioni o offrono consigli inaccurati.
Chi può occuparsi di questi reclami?
Il quadro normativo governativo per la prevenzione delle frodi offre un modello. Richiede a banche, compagnie telefoniche e piattaforme digitali globali di aderire a un sistema esterno di risoluzione delle controversie gestito dall'Autorità australiana per i reclami finanziari (Australian Financial Complaints Authority) entro il 1° settembre.
Tuttavia, questo schema è limitato alle truffe e non coprirà i tipi di problemi relativi all'account o alla piattaforma descritti sopra.
Ai sensi del Regolamento europeo sui servizi digitali (DSA), le piattaforme devono disporre di una procedura di reclamo adeguata e le decisioni non possono essere prese esclusivamente da sistemi automatizzati. Tali decisioni devono essere supervisionate da personale qualificato. Se la piattaforma commette comunque un errore, gli utenti possono sottoporre la controversia a un organismo indipendente certificato dal governo, il quale deve pronunciarsi entro 90 giorni.
Ad esempio, un organismo di risoluzione delle controversie, l'Appeals Centre Europe, si è pronunciato su 1.500 controversie e ha ribaltato oltre tre quarti delle decisioni originarie delle piattaforme.
Forse l'intelligenza artificiale potrebbe essere parte della soluzione
Qualsiasi sistema di risoluzione delle controversie che si applichi alle piattaforme online si troverebbe ad affrontare un numero enorme di casi con problematiche simili. È qui che i chatbot e l'intelligenza artificiale potrebbero effettivamente diventare parte della soluzione.
Il Tribunale per la Risoluzione delle Controversie Civili della Columbia Britannica guida le persone attraverso un Esploratore di Soluzioni, un chatbot basato su regole che pone domande predefinite e restituisce informazioni personalizzate in base a regole prestabilite, prima che qualsiasi decisore umano intervenga.
In una ricerca che io e i miei colleghi abbiamo pubblicato sull'UNSW Law Journal, abbiamo confrontato i chatbot basati su regole con i chatbot basati sull'intelligenza artificiale generativa per capire come possono aiutare le persone con richieste di risarcimento di piccolo importo.
La capacità dell'intelligenza artificiale generativa di fornire risposte personalizzate e mirate è davvero allettante.
Ma l'intelligenza artificiale generativa ha anche la tendenza ad allucinare, inventando con sicurezza norme e casi legali inesistenti. Anche quando non si tratta di una fonte inventata, può produrre consigli estremamente convincenti che sono semplicemente errati.
Questo rischio ricade soprattutto sulle persone che questi sistemi dovrebbero aiutare. Un consumatore che non può permettersi un avvocato è anche la persona meno in grado di accorgersi quando un'intelligenza artificiale si è inventata la legge. E l'errore è invisibile: se ti viene detto erroneamente che non hai diritto a un risarcimento, semplicemente te ne vai e nessuno lo scopre mai. Nessun feedback arriva al sistema che ha prodotto l'errore.
Avere un design corretto
La Commissione per la riforma del diritto dello Stato di Victoria, nel suo rapporto sull'intelligenza artificiale nei tribunali del Victoria , espone principi sensati , tra cui una chiara raccomandazione: l'IA non deve prendere la decisione finale. La decisione finale spetta a una persona.
Prima che un nuovo schema di risoluzione integri strumenti di intelligenza artificiale, deve decidere quali strumenti utilizzare, per quali funzioni e quali misure di sicurezza ridurranno i potenziali rischi.
I chatbot in cui le persone sono intrappolate oggi non sono guasti. Funzionano esattamente come sono stati progettati, per le aziende online che li hanno creati.
L'Australia raramente ha l'opportunità di progettare un sistema di risoluzione delle controversie da zero, e lo sta facendo ora nell'ambito del suo quadro di prevenzione delle frodi.
Il fatto che la tecnologia finisca per servire i consumatori o per ostacolarli non è una questione di intelligenza artificiale. È una questione di a chi è destinato il sistema e se, alla fine, ci sia sempre qualcuno a cui rivolgersi.
Vivi Tan, docente di diritto presso la RMIT University.
Questo articolo è stato ripubblicato da The Conversation con licenza Creative Commons. Leggi l' articolo originale.
