Quando interagisci con un modello linguistico esteso (LLM), uno dei sistemi alla base di chatbot come ChatGPT e Claude, puoi avere la sensazione di essere in contatto con un'altra mente cosciente. Ma è davvero così?
Alcuni scienziati di spicco, come Geoff Hinton e Richard Dawkins, affermano che tu lo sia. Ma la maggior parte degli esperti rimane scettica, sostenendo che le impressionanti capacità cognitive dei LLM si manifestano in assenza di coscienza.
La scorsa settimana i ricercatori di Anthropic, l'azienda che ha creato Claude, sono intervenuti in questo dibattito con una scoperta interessante. Sostengono che Claude possieda un insieme di rappresentazioni di informazioni normalmente invisibili che guidano il suo ragionamento interno e la sua produzione verbale.
È qui che la cosa si fa interessante. I ricercatori sostengono che questa scoperta può essere interpretata alla luce di un'influente teoria della coscienza chiamata teoria dello spazio di lavoro globale.
Che cos'è la teoria dello spazio di lavoro globale?
Proposta per la prima volta dallo psicologo Bernard Baars nel 1998 e ulteriormente sviluppata dal neuroscienziato Stanislas Dehaene e dai suoi collaboratori, questa teoria sostiene che la coscienza implichi l'attività di uno "spazio di lavoro globale". Si tratta di una sorta di centro di elaborazione nella mente o nel cervello che integra e diffonde le informazioni, consentendone l'utilizzo per il ragionamento, il controllo del comportamento e il linguaggio.
In un video patinato che illustra l'opera, Anthropic raffigura il contenuto dello "spazio di lavoro globale" di Claude come velieri che galleggiano su un vasto mare di attività mentale inconscia.
Come dovremmo reagire a questi sviluppi? Forniscono prove dell'esistenza di una coscienza artificiale? Se sì, quanto sono solide queste prove?
Che cos'è uno spazio di lavoro globale?
Possiamo iniziare chiedendoci se Claude abbia effettivamente uno "spazio di lavoro globale". La questione non è semplice, poiché la teoria non fornisce una definizione formale di spazio di lavoro globale.
Il concetto viene definito solo in modo informale. L'assunto (tipicamente implicito) è che qualsiasi spazio di lavoro computazionale "sufficientemente simile" a quello di un essere umano possa essere considerato uno "spazio di lavoro globale". Ma quanto simile deve essere "sufficientemente simile"?
Lo spazio di lavoro di Claude potrebbe avere molto in comune con il nostro, ma sembrano esserci anche delle differenze.
Ad esempio, lo spazio di lavoro del cervello è mantenuto da cicli ricorrenti: segnali che ritornano negli stessi circuiti nel corso del tempo. Al contrario, lo spazio di lavoro di Claude si evolve con un singolo passaggio attraverso la rete.
Una differenza correlata riguarda il modo in cui le rappresentazioni entrano in uno spazio di lavoro. I sostenitori della teoria dello spazio di lavoro globale sostengono da tempo che negli esseri umani si verifica un processo chiamato "accensione", in cui un processo non lineare amplifica e sostiene le rappresentazioni neurali, consentendo loro di entrare nello spazio di lavoro. Per quanto ne sappiamo, nulla di paragonabile accade nel caso di Claude.
Queste differenze sono importanti? La risposta non è chiara. La teoria globale dello spazio di lavoro si basa su dati raccolti su esseri umani adulti. Ci si interroga su quanto tale concetto possa essere – o debba essere – esteso.
Uno spazio di lavoro globale implica consapevolezza?
Ma supponiamo che Claude abbia uno spazio di lavoro globale. Per capire se ciò costituirebbe una prova della coscienza di Claude, dobbiamo considerare lo stato attuale della teoria dello spazio di lavoro globale della coscienza.
Non c'è dubbio che sia una delle più influenti , ma non è affatto priva di controversie tra gli esperti. (Con un eufemismo piuttosto estremo, l'articolo di Anthropic osserva che "il modello dello spazio di lavoro globale non è universalmente accettato").
Molti esperti di coscienza sostengono che le sole proprietà computazionali siano sufficienti per la coscienza. Anche tra coloro che ritengono che la coscienza sia intrinsecamente computazionale, la teoria dello spazio di lavoro globale è solo una delle tante opzioni.
'Accesso consapevole' ed esperienza soggettiva
Inoltre, sorgono dubbi sul fatto che la teoria dello spazio di lavoro globale sia effettivamente una teoria della coscienza nel senso rilevante del termine.
In un influente articolo sulla coscienza artificiale, il neuroscienziato Dehaene e i suoi collaboratori propongono la teoria come una spiegazione di ciò che definiscono "accesso cosciente": la disponibilità di informazioni da richiamare, il controllo volontario del comportamento e la comunicazione verbale. Aspetto cruciale, lasciano aperta la questione se la teoria dello spazio di lavoro globale debba essere intesa come una spiegazione delle componenti soggettive o esperienziali della coscienza.
Ma se la teoria dello spazio di lavoro globale è solo una teoria dell'"accesso cosciente", allora le sue implicazioni per il dibattito sulla coscienza artificiale perdono gran parte della loro importanza. Quando ci chiediamo se Claude sia cosciente, non vogliamo sapere se abbia "accesso cosciente", bensì se esista qualcosa, soggettivamente parlando, che significhi essere Claude. La teoria dello spazio di lavoro globale non risponde a questa domanda se la consideriamo semplicemente una descrizione dell'"accesso cosciente".
Siamo dunque giunti alla coscienza artificiale?
Anche tenendo conto di queste complicazioni, non c'è dubbio che le scoperte di Anthropic siano degne di nota. La teoria dello spazio di lavoro globale può essere intesa come una teoria dell'esperienza soggettiva, e Claude potrebbe effettivamente avere qualcosa di simile a uno "spazio di lavoro globale".
Niente di tutto ciò dimostra che la coscienza artificiale sia ormai una realtà. Tuttavia, non è irragionevole pensare che questi risultati modifichino – seppur minimamente – il dibattito sulla coscienza artificiale.
Ma se così fosse, risulterebbe sconcertante l'ottimismo di Anthropic riguardo a questi sviluppi. Come la stessa Anthropic riconosce, la creazione di una coscienza artificiale rappresenterebbe un evento epocale con ampie ripercussioni sociali, etiche, politiche e legali.
Se i chatbot fossero coscienti, dovremmo prendere sul serio i loro interessi. Non sarebbe più lecito trattarli come semplici macchine; dovremmo invece preoccuparci del loro benessere.
Qualcuno dovrebbe davvero tentare di fare una cosa del genere?
Anthropic osserva che "è ora di iniziare a pensare se dovremmo costruire macchine senzienti".
Sono d'accordo sul fatto che dobbiamo affrontare questo argomento, ma dovremmo anche sospendere lo sviluppo di macchine potenzialmente coscienti. Se Anthropic fosse seria, sicuramente interromperebbe i lavori piuttosto che proseguire con il suo tentativo di sviluppare un'intelligenza artificiale cosciente.
Una moratoria sulla ricerca sull'IA che potrebbe portare allo sviluppo di un'IA cosciente sarebbe, ovviamente, tutt'altro che semplice. Ci si interroga sulla portata della ricerca che verrebbe colpita e su chi potrebbe farla rispettare. Ma se non chiudiamo la stalla ora, potremmo scoprire che i buoi sono già scappati.
Tim Bayne, professore di filosofia alla Monash University.
Questo articolo è stato ripubblicato da The Conversation con licenza Creative Commons. Leggi l' articolo originale.
