Letztes Jahr besuchte ich eine Podiumsdiskussion zum Thema generative KI im Bildungsbereich. In einem denkwürdigen Moment fragte ein Referent: „Was soll der ganze Wirbel? Generative KI ist wie ein Taschenrechner. Es ist nur ein Werkzeug.“
Diese Analogie wird immer häufiger herangezogen. OpenAI-Chef Sam Altman selbst bezeichnete ChatGPT als „ einen Taschenrechner für Wörter “ und verglich die Kommentare zu der neuen Technologie mit den Reaktionen auf die Einführung des Taschenrechners.
Die Leute sagten: „Wir müssen das verbieten, weil die Leute dann einfach bei ihren Hausaufgaben schummeln werden. Wenn die Leute keine Sinusfunktion mehr von Hand berechnen müssen, […] dann ist der Mathematikunterricht am Ende.“
Generative KI-Systeme sind jedoch keine Taschenrechner. Sie wie Taschenrechner zu behandeln, verschleiert ihr Wesen, ihre Funktionsweise und ihren Anwendungsbereich. Diese einfache Analogie vereinfacht eine kontroverse Technologie und ignoriert fünf entscheidende Unterschiede zu Technologien der Vergangenheit.
1. Taschenrechner halluzinieren nicht und überreden nicht
Taschenrechner berechnen Funktionen anhand klar definierter Eingaben. Man gibt 888 ÷ 8 ein und erhält ein richtiges Ergebnis: 111.
Dieses Ergebnis ist begrenzt und unveränderlich. Taschenrechner können nichts ableiten, erraten, halluzinieren oder überreden.
Sie fügen der Antwort keine falschen oder unerwünschten Elemente hinzu. Sie erfinden keine Rechtsfälle und fordern niemanden auf zu sterben .
2. Taschenrechner werfen keine grundlegenden ethischen Dilemmata auf
Taschenrechner werfen keine grundlegenden ethischen Dilemmata auf.
Die Entwicklung von ChatGPT erforderte beispielsweise, dass Arbeiter in Kenia
Nach der Finanzkrise in Venezuela sah ein Unternehmen für KI-gestützte Datenkennzeichnung die Chance, sich mit ausbeuterischen Beschäftigungsmodellen . Taschenrechner hatten das auch nicht nötig.
Für Taschenrechner mussten keine riesigen neuen Kraftwerke gebaut werden, und sie mit den Menschen um Wasser konkurrieren, wie es KI-Rechenzentren in einigen der trockensten Regionen der Welt .
Für Taschenrechner war keine neue Infrastruktur . Die Taschenrechnerindustrie erlebte keinen so massiven Bergbauboom wie den derzeitigen, der den rücksichtslosen Kupfer- und Lithiumabbau im chilenischen Atacameño
3. Taschenrechner untergraben nicht die Autonomie
Taschenrechner hatten nie das Potenzial, zu einer Art „ Autovervollständigung fürs Leben “ zu werden. Sie boten nie an, alle Entscheidungen für einen zu treffen, von der Essenswahl über die Reiseplanung bis hin zum richtigen Zeitpunkt für den Kuss beim Date.
Taschenrechner stellten unsere Fähigkeit zum kritischen Denken nicht in Frage. Generative KI hingegen schwächt nachweislich das selbstständige Denken und verstärkt die kognitive Auslagerung . Langfristig birgt die Abhängigkeit von diesen Systemen die Gefahr, dass die Macht über alltägliche Entscheidungen in die Hände intransparenter Konzernsysteme gelangt.
4. Taschenrechner weisen keine sozialen oder sprachlichen Verzerrungen auf
Taschenrechner bilden die Hierarchien der menschlichen Sprache und Kultur nicht ab. Generative KI hingegen wird mit Daten trainiert, die jahrhundertelange ungleiche Machtverhältnisse widerspiegeln, und ihre Ergebnisse spiegeln diese Ungleichheiten wider.
Sprachmodelle erben und verstärken das Prestige dominanter Sprachformen, während weniger privilegierte Formen an den Rand gedrängt oder ausgelöscht werden.
Tools wie ChatGPT können zwar das gängige Englisch andere Varianten des Englischen werden regelmäßig umformuliert, falsch bezeichnet oder gelöscht .
Zwar Projekte , die versuchen, den Ausschluss von Minderheitenstimmen aus der technologischen Entwicklung zu verhindern, doch die Voreingenommenheit generativer KI gegenüber dem Mainstream-Englisch ist besorgniserregend ausgeprägt.
5. Taschenrechner sind keine „Alleskönner“
Anders als Taschenrechner operieren Sprachmodelle nicht innerhalb eines eng begrenzten Bereichs wie der Mathematik. Vielmehr haben sie das Potenzial, sich mit allem zu verflechten: Wahrnehmung, Kognition, Affekt und Interaktion.
Sprachmodelle können „Agenten“, „Begleiter“, „Influencer“, „Therapeuten“ und „Freunde“ sein. Dies ist ein wesentlicher Unterschied zwischen generativer KI und Taschenrechnern.
Inhalte unserer Partner
Während Taschenrechner bei Rechenaufgaben helfen, kann generative KI sowohl transaktionale als auch interaktive Funktionen übernehmen. So kann ein Chatbot Ihnen in einer einzigen Sitzung beim Überarbeiten Ihres Romans helfen, Code für eine neue App schreiben und ein detailliertes psychologisches Profil einer Person erstellen, die Sie mögen.
Kritisch bleiben
Der Vergleich mit dem Taschenrechner lässt Sprachmodelle und sogenannte „Copiloten“, „Tutoren“ und „Agenten“ harmlos erscheinen. Er legitimiert eine unkritische Übernahme und suggeriert, dass Technologie alle gesellschaftlichen Herausforderungen lösen kann.
Es eignet sich auch perfekt für Plattformen, die generative KI-Systeme entwickeln und vertreiben. Ein neutrales Tool benötigt keine Rechenschaftspflicht, keine Audits, keine gemeinsame Steuerung.
Wie wir gesehen haben, ist generative KI jedoch nicht mit einem Taschenrechner vergleichbar. Sie verarbeitet nicht einfach nur Zahlen oder erzeugt begrenzte Ergebnisse.
Um zu verstehen, was generative KI wirklich ist, bedarf es rigorosen kritischen Denkens. Eines, das uns befähigt, die Konsequenzen von überstürztem Handeln und dem damit verbundenen Risiko . Eines, das uns hilft zu entscheiden, ob das Risiko den Preis wert ist.
Celeste Rodriguez Louro , außerordentliche Professorin, Lehrstuhlinhaberin für Linguistik und Leiterin des Sprachlabors an der University of Western Australia.
Dieser Artikel wurde mit freundlicher Genehmigung von The Conversation unter einer Creative-Commons-Lizenz erneut veröffentlicht. Lesen Sie den Originalartikel .
