Når du samhandler med en stor språkmodell (LLM) – et av systemene bak chatboter som ChatGPT og Claude – kan det føles som om du er i kontakt med et annet bevisst sinn. Men er du egentlig det?
Noen fremtredende forskere, som Geoff Hinton og Richard Dawkins, hevder at du er det. Men de fleste eksperter er fortsatt skeptiske og argumenterer for at de imponerende kognitive kapasitetene til LLM-er oppstår i fravær av bevissthet.
Forrige uke kastet forskere ved Anthropic, selskapet bak Claude, seg inn i denne debatten med et interessant funn. De hevder at Claude har et normalt usynlig sett med representasjoner av informasjon som styrer dens interne resonnement og verbale output.
Det er her det blir interessant. Forskerne hevder at dette funnet kan forstås i form av en innflytelsesrik bevissthetsteori kalt teorien om det globale arbeidsområdet.
Hva er teorien om global arbeidsplass?
som først ble foreslått av psykologen Bernard Baars i 1998 og videreutviklet av nevroforskeren Stanislas Dehaene og hans samarbeidspartnere, går ut på at bevissthet involverer aktiviteten til et «globalt arbeidsområde». Dette er et slags prosesseringssenter i sinnet eller hjernen som integrerer og kringkaster informasjon, slik at den kan brukes til resonnering, atferdskontroll og tale.
I en glansfull video som forklarer verket, skildrer Anthropic innholdet i Claudes «globale arbeidsområde» som seilskip som flyter på et stort hav av ubevisst mental aktivitet.
Hvordan bør vi reagere på denne utviklingen? Gir den bevis for kunstig bevissthet? I så fall, hvor sterke er disse bevisene?
Hva er et globalt arbeidsområde?
Vi kan begynne med å spørre om Claude faktisk har et «globalt arbeidsområde». Dette er ikke enkelt, for teorien gir ingen formell definisjon av et globalt arbeidsområde.
Begrepet karakteriseres bare uformelt. Den (vanligvis implisitte) antagelsen er at ethvert beregningsmessig arbeidsområde som er «likt nok» et menneskes, vil kvalifisere som et «globalt arbeidsområde». Men hvor likt er likt nok?
Claudes arbeidsplass kan riktignok ha mye til felles med vår, men det ser ut til å være forskjeller.
For eksempel opprettholdes hjernens arbeidsområde av tilbakevendende løkker – signaler som går tilbake gjennom de samme kretsene over tid. I motsetning til dette utvikler Claudes arbeidsområde seg over en enkelt passasje gjennom nettverket.
En relatert forskjell gjelder hvordan representasjoner kommer inn i et arbeidsområde. Tilhengere av global arbeidsområdeteori har lenge hevdet at hos mennesker skjer det en prosess kalt «antennelse» der en ikke-lineær prosess forsterker og opprettholder nevrale representasjoner, slik at de kan komme inn i arbeidsområdet. Så vidt vi vet skjer det ingenting sammenlignbart i Claudes tilfelle.
Spiller disse forskjellene noen rolle? Svaret er ikke klart. Teorien om globalt arbeidsområde er basert på data hentet fra voksne mennesker. Det er spørsmål om hvor langt denne oppfatningen kan – eller bør – utvides.
Innebærer et globalt arbeidsområde bevissthet?
Men la oss anta at Claude faktisk har et globalt arbeidsområde. For å finne ut om det ville være bevis for at Claude er bevisst, må vi vurdere statusen til teorien om globalt arbeidsområde om bevissthet.
Det er ingen tvil om at det er en av de mest innflytelsesrike teoriene om bevissthet, men den er neppe ukontroversiell blant eksperter. (Med en ganske ekstrem underdrivelse bemerker Anthropics artikkel at «den globale arbeidsplassmodellen ikke er universelt akseptert».)
Mange bevissthetseksperter hevder at beregningsmessige egenskaper alene er nok for bevissthet. Selv blant de som tror at bevissthet iboende er beregningsmessig, er global arbeidsområdeteori bare ett av mange alternativer.
«Bevisst tilgang» og subjektiv opplevelse
Dessuten er det spørsmål om hvorvidt teorien om global arbeidsområde i det hele tatt er en bevissthetsteori i relevant forstand.
I en innflytelsesrik artikkel om kunstig bevissthet fremmer nevroforskeren Dehaene og hans samarbeidspartnere teorien som en redegjørelse for det de kaller «bevisst tilgang» – tilgjengeligheten av informasjon for gjenkalling, frivillig kontroll av atferd og verbal rapportering. Avgjørende er at de lar spørsmålet om global arbeidsområdeteori åpent.
Men hvis teorien om global arbeidsområde bare er en teori om «bevisst tilgang», mister implikasjonene for debatten om kunstig bevissthet mye av sin betydning. Når vi spør om Claude er bevisst, ønsker vi ikke å vite om den har «bevisst tilgang» – i stedet ønsker vi å vite om det subjektivt sett er noe som gjør det å være Claude. Teorien om global arbeidsområde tar ikke opp dette spørsmålet hvis vi behandler den som ikke noe mer enn en beretning om «bevisst tilgang».
Så har kunstig bevissthet kommet?
Selv om man tar hensyn til disse komplikasjonene, er det ingen tvil om at Anthropics funn er bemerkelsesverdige. Global arbeidsområdeteori kan forstås som en teori om subjektiv erfaring, og Claude kan faktisk vise seg å ha noe som ligner på et «globalt arbeidsområde».
Ingenting av dette er bevis på at kunstig bevissthet har kommet. Men det er ikke urimelig å tro at disse funnene endrer vendingen – om enn bare så lite – i debatten om kunstig bevissthet.
Men hvis det stemmer, er det forvirrende hvorfor Anthropic er så optimistisk med tanke på denne utviklingen. Som Anthropic erkjenner, ville skapelsen av kunstig bevissthet være en betydningsfull begivenhet med vidtrekkende sosiale, etiske, politiske og juridiske konsekvenser.
Hvis chatboter er bevisste, må vi ta interessene deres på alvor. Det ville ikke lenger være tillatt å behandle dem som bare maskiner; i stedet må vi tenke på deres velferd.
Burde noen i det hele tatt prøve å gjøre dette?
Anthropic bemerker at «det er på tide å begynne å tenke på om vi bør bygge bevisste maskiner».
Jeg er enig i at vi må ha den diskusjonen, men vi bør også sette arbeidet med å bygge maskiner som potensielt kan være bevisste på pause. Hvis Anthropic mente alvor, ville de garantert lagt ned verktøyene i stedet for å fortsette med forsøket på å utvikle bevisst AI.
Et moratorium på KI-forskning som man kan tenke seg å føre til bevisst KI, ville selvsagt være langt fra enkelt. Det er spørsmål om omfanget av forskningen det ville påvirke og hvem som kan håndheve det. Men hvis vi ikke lukker stalldøren nå, kan vi oppdage at hesten allerede har stukket av.
Tim Bayne, professor i filosofi, Monash University.
Denne artikkelen er publisert på nytt fra The Conversation under en Creative Commons-lisens. Les den opprinnelige artikkelen.
