Sie kennen das Gefühl. Ihr Konto ist gesperrt, Ihr Rückerstattungsantrag wurde abgelehnt oder Ihnen werden weiterhin Gebühren für ein gekündigtes Abonnement berechnet.
Sie suchen also auf der Website des Unternehmens Hilfe und finden dort einen Chatbot. Dessen Menü beinhaltet Ihre Situation nicht. Es gibt keine Möglichkeit, mit einem Mitarbeiter zu sprechen. Schließlich geben Sie auf.
Seit Anfang 2023 haben Australier 1.780 Beschwerden über Online-Händler, Marktplätze, Suchmaschinen und Social-Media-Plattformen beim Ombudsmann der Telekommunikationsbranche eingereicht. Im Jahr 2025 stieg die Zahl der Beschwerden um 20 % gegenüber dem Vorjahr.
Probleme beim Kontozugriff waren das häufigste Problem, gefolgt von Streitigkeiten über Gebühren und Entgelte. Mehr als sieben von zehn Fällen betrafen nur fünf Unternehmen: Meta, Google, Microsoft, Apple und Hubbl.
Leider fallen alle Beschwerden über Online-Dienste, die beim Ombudsmann der Telekommunikationsbranche eingehen, nicht in dessen Zuständigkeit. Kein bestehendes Ombudsorgan kann in diesen Fällen eine verbindliche Entscheidung treffen.
Wir brauchen ein Streitbeilegungssystem, das mit diesen Beschwerden umgehen kann, und es gibt bereits Präzedenzfälle dafür.
Digitale Probleme kosten die Wirtschaft
Das Consumer Policy Research Centre stellte fest, dass vier von fünf Australiern im vergangenen Jahr Probleme mit einem digitalen Dienst hatten und dass ungelöste Probleme schätzungsweise 497 Millionen Dollar jährlich kosten. Zwei von drei Beschwerdeführern waren unzufrieden.
Die größte Unzufriedenheit herrschte bei Rückerstattungen, auf die die Leute ihrer Meinung nach Anspruch hatten (84%), gefolgt von der Tatsache, dass es keine Möglichkeit gab, jemanden zu kontaktieren, der helfen konnte (83%).
Das Zentrum berichtet, dass viele Menschen, die sich bei Online-Unternehmen und -Plattformen beschwerten, mit virtuellen Kundendienstportalen und KI-Chatbots zu tun hatten, die nicht hilfreich waren, keine Erklärungen lieferten oder ungenaue Ratschläge gaben.
Wer kann diese Beschwerden bearbeiten?
Der von der Regierung entwickelte Rahmen zur Betrugsprävention bietet ein Vorbild. Er verpflichtet Banken, Telekommunikationsunternehmen und globale digitale Plattformen , bis zum 1. September einem externen Streitbeilegungsverfahren der australischen Finanzbeschwerdebehörde beizutreten
Dieses System beschränkt sich jedoch auf Betrugsfälle und deckt nicht die oben beschriebenen Konto- oder Plattformprobleme ab.
Gemäß dem europäischen Gesetz über digitale Dienste (DSG) müssen Plattformen über ein ordnungsgemäßes Beschwerdeverfahren verfügen, und Entscheidungen dürfen nicht automatisiert getroffen werden. Qualifiziertes Personal muss die Entscheidung überwachen. Sollte die Plattform dennoch einen Fehler begehen, können Nutzer den Streitfall einer unabhängigen, von der Regierung zertifizierten Stelle vorlegen, die innerhalb von 90 Tagen entscheiden muss.
Eine Streitbeilegungsstelle, das Appeals Centre Europe, hat beispielsweise über 1.500 Streitigkeiten entschieden und mehr als drei Viertel der ursprünglichen Entscheidungen der Plattformen aufgehoben.
Vielleicht könnte KI Teil der Lösung sein
Jedes Streitbeilegungsverfahren für Online-Plattformen würde mit einer Vielzahl von Fällen ähnlicher Probleme konfrontiert sein. Hier könnten Chatbots und KI tatsächlich Teil der Lösung werden.
Das Civil Resolution Tribunal von British Columbia leitet die Nutzer durch einen interaktiven Solution Explorer, einen regelbasierten Chatbot, der festgelegte Fragen stellt und auf der Grundlage festgelegter Regeln maßgeschneiderte Informationen zurückgibt, bevor ein menschlicher Entscheidungsträger eingeschaltet wird.
In einer Studie, die meine Kollegen und ich im UNSW Law Journal, verglichen wir regelbasierte Chatbots mit generativen KI-Chatbots, um zu sehen, wie sie Menschen mit geringfügigen Forderungen helfen können.
Die Fähigkeit generativer KI, personalisierte und zielgerichtete Antworten zu liefern, ist wirklich attraktiv.
Doch generative KI halluziniert auch und erfindet mit Überzeugung Rechtsregeln und Fälle, die gar nicht existieren. Selbst wenn sie keine Quelle erfindet, kann sie äußerst überzeugende, aber schlichtweg falsche Ratschläge geben.
Dieses Risiko trifft diejenigen am härtesten, denen diese Systeme eigentlich helfen sollen. Ein Verbraucher, der sich keinen Anwalt leisten kann, ist auch am wenigsten in der Lage zu bemerken, wenn eine KI das Gesetz verfälscht hat. Und der Fehler ist unsichtbar: Wird einem fälschlicherweise mitgeteilt, dass man keinen Anspruch hat, geht man einfach weg, und niemand erfährt davon. Das System, das den Fehler verursacht hat, erhält keinerlei Rückmeldung.
Das Design richtig gestalten
Die viktorianische Kommission für Rechtsreform legt in ihrem Bericht über KI in den Gerichten Victorias, darunter die klare Empfehlung, dass KI nicht die endgültige Entscheidung treffen darf. Das Ergebnis muss von einer Person bestimmt werden.
Bevor ein neues Resolutionssystem KI-Tools integriert, muss entschieden werden, welche Tools für welche Funktionen eingesetzt werden und welche Schutzmaßnahmen potenzielle Risiken minimieren.
Die Chatbots, in denen die Leute heute feststecken, sind nicht kaputt. Sie funktionieren genau so, wie sie konzipiert wurden – für die Online-Unternehmen, die sie entwickelt haben.
Australien hat selten die Gelegenheit, ein Streitbeilegungssystem von Grund auf neu zu entwickeln, und baut derzeit eines im Rahmen seines Betrugspräventionskonzepts auf.
Ob Technologie den Verbrauchern letztendlich dient oder sie blockiert, ist keine Frage der KI. Es ist eine Frage der Zielgruppe des Systems und ob es am Ende immer jemanden gibt, an den man sich wenden kann.
Vivi Tan, Dozentin für Rechtswissenschaften an der RMIT University.
Dieser Artikel wurde mit freundlicher Genehmigung von The Conversation unter einer Creative-Commons-Lizenz erneut veröffentlicht. Lesen Sie den Originalartikel.
