Wenn Sie mit einem großen Sprachmodell (LLM) interagieren – einem der Systeme hinter Chatbots wie ChatGPT und Claude –, kann es sich so anfühlen, als stünden Sie in Kontakt mit einem anderen bewussten Geist. Aber ist das wirklich so?
Einige prominente Wissenschaftler, wie Geoff Hinton und Richard Dawkins, behaupten das. Die meisten Experten bleiben jedoch skeptisch und argumentieren, dass die beeindruckenden kognitiven Fähigkeiten von Menschen mit LLMs ohne Bewusstsein.
Letzte Woche meldeten sich Forscher von Anthropic, dem Unternehmen hinter Claude, mit einer interessanten Erkenntnis. Sie behaupten, Claude verfüge über normalerweise unsichtbare Informationsrepräsentationen, die sein internes Denken und seine verbalen Äußerungen steuern.
Hier wird es interessant. Die Forscher argumentieren, dass dieser Befund im Rahmen einer einflussreichen Bewusstseinstheorie, der sogenannten globalen Arbeitsraumtheorie, verstanden werden kann.
Was ist die Theorie des globalen Arbeitsbereichs?
Diese Theorie, die 1998 erstmals von dem Psychologen Bernard Baars vorgeschlagen und von dem Neurowissenschaftler Stanislas Dehaene und seinen Mitarbeitern weiterentwickelt wurde , besagt, dass Bewusstsein die Aktivität eines „globalen Arbeitsbereichs“ beinhaltet. Dieser fungiert als eine Art Verarbeitungszentrum im Geist oder Gehirn, das Informationen integriert und weiterleitet und sie so für logisches Denken, Verhaltenskontrolle und Sprache nutzbar macht.
In einem aufwendig gestalteten Video, das die Arbeit erläutert, stellt Anthropic den Inhalt von Claudes „globalem Arbeitsbereich“ als Segelschiffe dar, die auf einem riesigen Meer unbewusster mentaler Aktivität treiben.
Wie sollten wir auf diese Entwicklungen reagieren? Liefern sie Beweise für künstliches Bewusstsein? Wenn ja, wie stichhaltig sind diese Beweise?
Was ist ein globaler Arbeitsbereich?
Wir können mit der Frage beginnen, ob Claude tatsächlich über einen „globalen Arbeitsbereich“ verfügt. Dies ist nicht einfach, da die Theorie keine formale Definition eines globalen Arbeitsbereichs liefert.
Der Begriff wird nur informell charakterisiert. Die (typischerweise implizite) Annahme ist, dass jeder Computerarbeitsbereich, der dem eines Menschen „ähnlich genug“ ist, als „globaler Arbeitsbereich“ gelten kann. Aber wie ähnlich muss „ähnlich genug“ sein?
Claudes Arbeitsplatz mag zwar vieles mit unserem gemeinsam haben, aber es scheinen doch Unterschiede zu bestehen.
Der Arbeitsbereich des Gehirns wird beispielsweise durch wiederkehrende Schleifen aufrechterhalten – Signale durchlaufen im Laufe der Zeit immer wieder dieselben Schaltkreise. Im Gegensatz dazu entwickelt sich Claudes Arbeitsbereich durch einen einzigen Durchlauf durch das Netzwerk.
Ein damit zusammenhängender Unterschied betrifft die Art und Weise, wie Repräsentationen in einen Arbeitsbereich gelangen. Befürworter der Theorie des globalen Arbeitsbereichs argumentieren seit Langem, dass beim Menschen ein Prozess namens „Zündung“ stattfindet, bei dem ein nichtlinearer Prozess neuronale Repräsentationen verstärkt und aufrechterhält, wodurch diese in den Arbeitsbereich gelangen können. Soweit wir wissen, findet im Fall von Claude nichts Vergleichbares statt.
Spielen diese Unterschiede eine Rolle? Die Antwort ist unklar. Die Theorie des globalen Arbeitsbereichs basiert auf Daten, die an erwachsenen Menschen erhoben wurden. Es gibt Fragen darüber, wie weit dieses Konzept erweitert werden kann – oder sollte.
Setzt ein globaler Arbeitsbereich Bewusstsein voraus?
Nehmen wir aber an, Claude besäße einen globalen Arbeitsbereich. Um herauszufinden, ob dies ein Beweis dafür wäre, dass Claude bewusst ist, müssen wir den Status der Theorie des globalen Arbeitsbereichs als Ursache für Bewusstsein betrachten.
Es ist zweifellos eine der einflussreichsten Bewusstseinstheorien, aber unter Experten ist sie keineswegs unumstritten. (In einer geradezu extremen Untertreibung bemerkt Anthropics Arbeit, dass „das globale Arbeitsraummodell nicht allgemein anerkannt ist“.)
Viele Bewusstseinsforscher argumentieren, dass allein die Recheneigenschaften für Bewusstsein ausreichen. Selbst unter denen, die Bewusstsein als inhärent rechnerisch betrachten, ist die Theorie des globalen Arbeitsraums nur eine von vielen Möglichkeiten.
„Bewusster Zugang“ und subjektive Erfahrung
Darüber hinaus gibt es Zweifel daran, ob die Theorie des globalen Arbeitsraums überhaupt eine Bewusstseinstheorie im relevanten Sinne darstellt.
In einer einflussreichen Arbeit über künstliches Bewusstsein entwickeln der Neurowissenschaftler Dehaene und seine Mitarbeiter die Theorie als Erklärung für das, was sie „bewussten Zugriff“ nennen – die Verfügbarkeit von Informationen zum Abruf, die willentliche Kontrolle des Verhaltens und die verbale Berichterstattung. Entscheidend ist, dass sie die Frage offenlassen, ob die Theorie des globalen Arbeitsraums als Erklärung der subjektiven oder erfahrungsbezogenen Komponenten des Bewusstseins zu verstehen ist.
Wenn die Theorie des globalen Arbeitsraums jedoch lediglich eine Theorie des „bewussten Zugriffs“ ist, verliert sie in der Debatte um künstliches Bewusstsein deutlich an Bedeutung. Wenn wir fragen, ob Claude bewusst ist, wollen wir nicht wissen, ob er „bewussten Zugriff“ hat, sondern ob es subjektiv betrachtet überhaupt etwas gibt, das es ausmacht, Claude zu sein. Die Theorie des globalen Arbeitsraums beantwortet diese Frage nicht, wenn wir sie nur als Beschreibung des „bewussten Zugriffs“ verstehen.
Ist künstliches Bewusstsein also Realität geworden?
Selbst unter Berücksichtigung dieser Komplikationen sind die Ergebnisse von Anthropic zweifellos bemerkenswert. Die Theorie des globalen Arbeitsraums kann als Theorie subjektiver Erfahrung verstanden werden, und Claude könnte tatsächlich so etwas wie einen „globalen Arbeitsraum“ besitzen.
Nichts davon beweist, dass künstliches Bewusstsein Realität geworden ist. Es ist aber durchaus berechtigt anzunehmen, dass diese Erkenntnisse die Debatte um künstliches Bewusstsein zumindest geringfügig beeinflussen.
Wenn das stimmt, ist es rätselhaft, warum Anthropic diesen Entwicklungen so optimistisch gegenübersteht. Wie Anthropic selbst einräumt, wäre die Erschaffung künstlichen Bewusstseins ein folgenreiches Ereignis mit weitreichenden sozialen, ethischen, politischen und rechtlichen Konsequenzen.
Wenn Chatbots ein Bewusstsein besitzen, müssten wir ihre Interessen ernst nehmen. Es wäre nicht länger zulässig, sie wie bloße Maschinen zu behandeln; stattdessen müssten wir ihr Wohlbefinden berücksichtigen.
Sollte das überhaupt jemand versuchen?
Anthropic bemerkt , dass „es an der Zeit ist, darüber nachzudenken, ob wir bewusste Maschinen bauen sollten“.
Ich stimme zu, dass wir diese Diskussion führen müssen, aber wir sollten auch die Arbeit an potenziell bewussten Maschinen vorerst einstellen. Wenn es Anthropic ernst meinte, würde das Unternehmen die Arbeit sicherlich ruhen lassen, anstatt den Versuch, eine bewusste KI zu entwickeln, weiter voranzutreiben.
Ein Moratorium für die KI-Forschung , die möglicherweise zu bewusster KI führen könnte, wäre natürlich alles andere als einfach. Es gibt Fragen zum Umfang der betroffenen Forschung und dazu, wer das Moratorium durchsetzen würde. Doch wenn wir jetzt nicht handeln, könnte es zu spät sein.
Tim Bayne, Professor für Philosophie an der Monash University.
Dieser Artikel wurde mit freundlicher Genehmigung von The Conversation unter einer Creative-Commons-Lizenz erneut veröffentlicht. Lesen Sie den Originalartikel.
