Letztes Jahr nahm ich an einer Podiumsdiskussion zum Thema generative KI im Bildungswesen teil. Ein denkwürdiger Moment war die Frage eines Vortragenden: „Was ist denn so besonders daran? Generative KI ist wie ein Taschenrechner. Sie ist einfach nur ein Werkzeug.“
Dieser Vergleich wird immer häufiger verwendet. OpenAI-Geschäftsführer Sam Altman selbst bezeichnete ChatGPT als „ einen Taschenrechner für Wörter “ und verglich die Kommentare zur neuen Technologie mit den Reaktionen auf die Einführung des Taschenrechners.
Die Leute sagten: „Wir müssen diese Dinge verbieten, weil die Leute sonst bei ihren Hausaufgaben schummeln. Wenn die Leute nicht mehr von Hand eine Sinusfunktion berechnen müssen […], dann ist der Mathematikunterricht vorbei.“
Generative KI-Systeme sind jedoch keine Rechner. Sie wie Rechner zu behandeln, verschleiert, was sie sind, was sie tun und wem sie dienen. Diese einfache Analogie vereinfacht eine umstrittene Technologie und ignoriert fünf entscheidende Unterschiede zu Technologien der Vergangenheit.
1. Taschenrechner halluzinieren oder überzeugen nicht
Taschenrechner berechnen Funktionen aus klar definierten Eingaben. Sie geben 888 ÷ 8 ein und erhalten eine richtige Antwort: 111.
Dieses Ergebnis ist begrenzt und unveränderlich. Rechner können nicht schlussfolgern, raten, halluzinieren oder überzeugen.
Sie fügen der Antwort keine falschen oder unerwünschten Elemente hinzu. Sie erfinden keine Rechtsfälle und sagen den Leuten nicht: „ Bitte stirb .“
2. Taschenrechner stellen keine grundlegenden ethischen Dilemmata dar
Taschenrechner werfen keine grundlegenden ethischen Dilemmata auf.
Bei der Entwicklung von ChatGPT mussten beispielsweise Arbeiter in Kenia
Nach der Finanzkrise in Venezuela sah ein KI-Datenlabeling-Unternehmen eine Chance, mit ausbeuterischen Beschäftigungsmodellen . Auch das konnten Taschenrechner nicht gebrauchen.
Für die Rechner wäre weder der Bau riesiger neuer Kraftwerke müssten sie mit den Menschen um Wasser konkurrieren, wie es KI-Rechenzentren in einigen der trockensten Teile der Welt .
von Taschenrechnern war keine neue Infrastruktur . Die Taschenrechnerindustrie erlebte keinen großen Bergbauboom, wie ihn derzeit die gierige Kupfer- und Lithiumgewinnung in den Atacameños in Chile antreibt.
3. Taschenrechner untergraben nicht die Autonomie
Taschenrechner hatten nicht das Potenzial, eine „ Autovervollständigung fürs Leben “ zu werden. Sie boten nie an, alle Entscheidungen für Sie zu treffen, von der Frage, was Sie essen und wohin Sie reisen, bis hin zum Zeitpunkt des Kusses mit Ihrem Date.
Taschenrechner haben unsere Fähigkeit zum kritischen Denken nicht in Frage gestellt. Generative KI hingegen untergräbt nachweislich das unabhängige Denken und erhöht die kognitive Entlastung . Die Abhängigkeit von diesen Systemen birgt mit der Zeit die Gefahr, dass die Macht, alltägliche Entscheidungen zu treffen, in die Hände undurchsichtiger Unternehmenssysteme fällt.
4. Taschenrechner haben keine sozialen und sprachlichen Vorurteile
Taschenrechner bilden die Hierarchien menschlicher Sprache und Kultur nicht nach. Generative KI hingegen wird mit Daten trainiert, die Jahrhunderte ungleicher Machtverhältnisse widerspiegeln, und ihre Ergebnisse spiegeln diese Ungleichheiten wider.
Sprachmodelle übernehmen und verstärken das Prestige dominanter Sprachformen, während sie weniger privilegierte Formen an den Rand drängen oder auslöschen.
Tools wie ChatGPT verarbeiten zwar das gängige Englisch andere Weltenglische routinemäßig um, beschriften sie falsch oder löschen sie .
Zwar Projekte , die sich mit der Ausgrenzung von Minderheiten aus der technologischen Entwicklung befassen, doch die Vorliebe der generativen KI für Mainstream-Englisch ist besorgniserregend ausgeprägt.
5. Taschenrechner sind keine „Alleskönner“
Anders als Taschenrechner operieren Sprachmodelle nicht in einem engen Bereich wie der Mathematik. Stattdessen haben sie das Potenzial, sich in alles einzumischen: Wahrnehmung, Kognition, Affekt und Interaktion.
Sprachmodelle können „Agenten“, „Begleiter“, „Influencer“, „Therapeuten“ und „Freunde“ sein. Dies ist ein wesentlicher Unterschied zwischen generativer KI und Taschenrechnern.
Inhalte unserer Partner
Während Taschenrechner beim Rechnen helfen, kann generative KI sowohl transaktionale als auch interaktive Funktionen übernehmen. Ein Chatbot kann Ihnen in einer Sitzung dabei helfen, Ihren Roman zu bearbeiten, Code für eine neue App zu schreiben und ein detailliertes psychologisches Profil einer Person zu erstellen, die Ihnen sympathisch erscheint.
Kritisch bleiben
Die Analogie zum Taschenrechner lässt Sprachmodelle und sogenannte „Copiloten“, „Tutoren“ und „Agenten“ harmlos erscheinen. Sie erlaubt eine unkritische Übernahme und suggeriert, dass Technologie alle Herausforderungen lösen kann, vor denen wir als Gesellschaft stehen.
Es eignet sich auch perfekt für Plattformen, die generative KI-Systeme erstellen und vertreiben. Ein neutrales Tool benötigt keine Rechenschaftspflicht, keine Audits und keine gemeinsame Governance.
Doch wie wir gesehen haben, ist generative KI nicht wie ein Taschenrechner. Sie verarbeitet nicht einfach nur Zahlen oder erzeugt begrenzte Ergebnisse.
Um zu verstehen, was generative KI wirklich ist, ist rigoroses kritisches Denken erforderlich. Es erfordert die Art von Denken, die uns in die Lage versetzt, uns den Konsequenzen von „ schnellem Handeln und Zerbrechen von Dingen “ zu stellen. Es erfordert die Art von Denken, die uns dabei hilft zu entscheiden, ob die Zerstörung die Kosten wert ist.
Celeste Rodriguez Louro , außerordentliche Professorin, Lehrstuhlinhaberin für Linguistik und Leiterin des Sprachlabors, University of Western Australia.
Dieser Artikel wurde unter einer Creative Commons-Lizenz The Conversation Originalartikel .
