Du kjenner følelsen. Kontoen din er suspendert, refusjonsforespørselen din er avvist, eller du blir fortsatt belastet for et kansellert abonnement.
Så du går til selskapets nettside for å få hjelp, og finner en chatbot. Den tilbyr en meny som ikke inkluderer din situasjon. Det er ikke noe alternativ å snakke med en person. Til slutt gir du opp.
Siden starten av 2023 har australiere sendt inn 1780 klager om nettbutikker, markedsplasser, søkemotorer og sosiale medieplattformer til ombudsmannen for telekommunikasjonsbransjen. I 2025 var klagene opp 20 % fra året før.
Problemer med kontotilgang var det vanligste problemet, etterfulgt av tvister om gebyrer og avgifter. Mer enn sju av ti involverte bare fem selskaper: Meta, Google, Microsoft, Apple og Hubbl.
Dessverre faller alle klagene om nettjenester som sendes til telekombransjeombudsmannen utenfor dens jurisdiksjon. Ingen eksisterende ombudsordninger kan ta en bindende avgjørelse om dem.
Vi trenger et tvisteløsningssystem som kan håndtere disse klagene, og det finnes presedenser for dette.
Digitale problemer koster økonomien
Forbrukerpolitisk forskningssenter fant at fire av fem australiere hadde hatt et problem med en digital tjeneste i løpet av det siste året, og at uløste problemer kostet anslagsvis 497 millioner dollar årlig. To av tre som klaget var misfornøyde.
Misnøyen var høyest over refusjoner folk mente de hadde rett til (84 %), etterfulgt av at de ikke hadde noen måte å kontakte noen som kunne hjelpe (83 %).
Senteret sier at når folk klaget til nettbaserte bedrifter og plattformer, måtte mange forholde seg til virtuelle kundeserviceportaler og AI-chatboter som er lite nyttige, ikke gir noen forklaring eller tilbyr unøyaktige råd.
Hvem kan håndtere disse klagene?
Regjeringens rammeverk for forebygging av svindel tilbyr en modell. Det krever at banker, teleselskaper og globale digitale plattformer blir med i en ekstern tvisteløsningsordning drevet av Australian Financial Complaints Authority innen 1. september.
Denne ordningen er imidlertid begrenset til svindel og vil ikke dekke den typen konto- eller plattformproblemer som er beskrevet ovenfor.
I henhold til Europas lov om digitale tjenestermå plattformer ha en skikkelig klageprosess, og avgjørelser kan ikke tas av maskiner alene. Kvalifisert personale må føre tilsyn med dem. Hvis plattformen fortsatt gjør feil, kan brukerne bringe tvisten inn for et uavhengig organ som er sertifisert av myndighetene, som må avgjøre innen 90 dager.
For eksempel har ett tvisteløsningsorgan, Appeals Centre Europe, avgjort 1500 tvister og omgjort mer enn tre fjerdedeler av plattformenes opprinnelige avgjørelser.
Kanskje AI kan være en del av løsningen
Enhver tvisteløsningsordning som dekker nettplattformer ville støte på et stort antall saker med lignende problemer. Det er her chatboter og AI faktisk kan bli en del av løsningen.
British Columbias Civil Resolution Tribunal veileder folk gjennom en interaktiv løsningsutforsker, en regelbasert chatbot som stiller faste spørsmål og returnerer skreddersydd informasjon basert på faste regler, før noen menneskelig beslutningstaker blir involvert.
I forskning som kollegene mine og jeg publiserte i UNSW Law Journal, sammenlignet vi regelbaserte chatboter med generative AI-chatboter for å se hvordan de kan hjelpe folk med små krav.
Generativ AIs evne til å gi personlige og målrettede svar er genuint attraktiv.
Men generativ AI hallusinerer, og finner selvsikkert opp juridiske regler og saker som ikke eksisterer. Selv når den ikke fabrikerer en kilde, kan den produsere svært overbevisende råd som rett og slett er feil.
Den risikoen rammer hardest de menneskene disse systemene er ment å hjelpe. En forbruker som ikke har råd til en advokat er også den personen som er minst rustet til å legge merke til når en AI har diktet opp loven. Og feilen er usynlig: Hvis du feilaktig får beskjed om at du ikke har noe krav, går du bare din vei, og ingen finner det noen gang ut. Ingen tilbakemelding når systemet som forårsaket feilen.
Å få designet riktig
Victorian Law Reform Commission legger frem fornuftige prinsipper i sin rapport om KI i Victorias domstoler, inkludert en klar anbefaling om at KI ikke skal ta den endelige avgjørelsen. En person må bestemme utfallet.
Før en ny krisehåndteringsordning integrerer AI-verktøy, må den bestemme hvilke verktøy som skal brukes, til hvilke funksjoner og hvilke sikkerhetstiltak som vil redusere potensielle risikoer.
Chatbotene folk sitter fast i i dag er ikke ødelagte. De fungerer akkurat som de er designet for – for nettselskapene som bygde dem.
Australia får sjelden utforme en tvisteløsningsordning fra bunnen av, og de bygger en nå som en del av sitt rammeverk for forebygging av svindel.
Hvorvidt teknologien ender opp med å tjene forbrukerne eller hindre dem i å gjøre det, er ikke et spørsmål om AI. Det er et spørsmål om hvem systemet er designet for, og om det alltid, til syvende og sist, finnes noen å henvende seg til.
Vivi Tan, foreleser i jus, RMIT University
Denne artikkelen er publisert på nytt fra The Conversation under en Creative Commons-lisens. Les den opprinnelige artikkelen.
