L'anno scorso ho partecipato a un panel sull'intelligenza artificiale generativa nell'istruzione. In un momento memorabile, uno dei relatori chiese: "Qual è il problema? L'intelligenza artificiale generativa è come una calcolatrice. È solo uno strumento"
L'analogia è sempre più diffusa. Lo stesso amministratore delegato di OpenAI, Sam Altman, ha definito ChatGPT "una calcolatrice per le parole" e ha paragonato i commenti sulla nuova tecnologia alle reazioni all'arrivo della calcolatrice.
La gente diceva: "Dobbiamo vietarli perché la gente continua a copiare durante i compiti. Se la gente non ha più bisogno di calcolare manualmente una funzione seno […] allora l'insegnamento della matematica è finito"
Tuttavia, i sistemi di intelligenza artificiale generativa non sono calcolatori. Trattarli come tali oscura cosa sono, cosa fanno e a chi servono. Questa banale analogia semplifica una tecnologia controversa e ignora cinque differenze cruciali rispetto alle tecnologie del passato.
1. Le calcolatrici non allucinano né persuadono
Le calcolatrici calcolano funzioni a partire da input chiaramente definiti. Digiti 888 ÷ 8 e ottieni una sola risposta corretta: 111.
Questo output è limitato e immutabile. I calcolatori non deducono, non fanno congetture, non hanno allucinazioni e non persuadono.
Non aggiungono elementi falsi o indesiderati alla risposta. Non inventano casi legali né dicono alla gente "per favore, muoia".
2. Le calcolatrici non pongono dilemmi etici fondamentali
Le calcolatrici non sollevano dilemmi etici fondamentali.
Per realizzare ChatGPT lavoratori in Kenya setacciare contenuti irrimediabilmente traumatici per uno o due dollari l'ora. Le calcolatrici non ne avevano bisogno.
Dopo la crisi finanziaria in Venezuela, un'azienda di etichettatura dati basata sull'intelligenza artificiale ha intravisto l'opportunità di accaparrarsi manodopera a basso costo con modelli di impiego basati sullo sfruttamento. Neanche i calcolatori ne avevano bisogno.
Per creare le calcolatrici non è stato necessario nuove e immense centrali elettriche costruire competere con gli esseri umani per l'acqua, come invece stanno facendo i centri dati per l'intelligenza artificiale in alcune delle zone più aride del mondo.
le calcolatrici non era necessaria di nuove infrastrutture . L'industria delle calcolatrici non ha subito un'enorme spinta mineraria come quella che attualmente sta alimentando l'estrazione rapace di rame e litio nelle terre degli Atacameños in Cile.
3. Le calcolatrici non compromettono l'autonomia
Le calcolatrici non avevano il potenziale per diventare una sorta di "completamento automatico per la vita". Non si sono mai offerte di prendere ogni decisione al posto tuo, da cosa mangiare e dove viaggiare a quando baciare la tua dolce metà.
Le calcolatrici non hanno mai messo alla prova la nostra capacità di pensare in modo critico. L'intelligenza artificiale generativa, tuttavia, ha dimostrato di erodere il ragionamento indipendente e di aumentare il "decentramento cognitivo". Col tempo, la dipendenza da questi sistemi rischia di affidare il potere decisionale quotidiano a sistemi aziendali opachi.
4. Le calcolatrici non hanno pregiudizi sociali e linguistici
I calcolatori non riproducono le gerarchie del linguaggio e della cultura umana. L'intelligenza artificiale generativa, tuttavia, è addestrata su dati che riflettono secoli di relazioni di potere ineguali, e i suoi risultati rispecchiano tali disuguaglianze.
I modelli linguistici ereditano e rafforzano il prestigio delle forme linguistiche dominanti, mentre emarginano o cancellano quelle meno privilegiate.
Strumenti come ChatGPT gestiscono l'inglese tradizionale, ma riformulano, etichettano male o cancellano regolarmente l'inglese di altri Paesi.
Sebbene progetti che tentano di affrontare l'esclusione delle voci minoritarie dallo sviluppo tecnologico, la propensione dell'intelligenza artificiale generativa per l'inglese standard è preoccupantemente pronunciata.
5. Le calcolatrici non sono "macchine tuttofare"
A differenza delle calcolatrici, i modelli linguistici non operano in un ambito ristretto come la matematica. Hanno invece il potenziale di interferire con tutto: percezione, cognizione, affettività e interazione.
I modelli linguistici possono essere "agenti", "compagni", "influencer", "terapeuti" e "fidanzati". Questa è una differenza fondamentale tra l'intelligenza artificiale generativa e i calcolatori.
Mentre le calcolatrici aiutano con l'aritmetica, l'intelligenza artificiale generativa può svolgere funzioni sia transazionali che interattive. In una sola seduta, un chatbot può aiutarti a modificare il tuo romanzo, scrivere il codice per una nuova app e fornire un profilo psicologico di qualcuno che pensi ti piaccia.
Rimanere critici
L'analogia con la calcolatrice fa sembrare innocui i modelli linguistici e i cosiddetti "copiloti", "tutor" e "agenti". Autorizza un'adozione acritica e suggerisce che la tecnologia può risolvere tutte le sfide che affrontiamo come società.
Si adatta perfettamente anche alle piattaforme che realizzano e distribuiscono sistemi di intelligenza artificiale generativa. Uno strumento neutrale non necessita di responsabilità, audit o governance condivisa.
Ma come abbiamo visto, l'intelligenza artificiale generativa non è come una calcolatrice. Non si limita a elaborare numeri o a produrre output definiti.
Comprendere cosa sia realmente l'IA generativa richiede un pensiero critico rigoroso. Quel tipo di pensiero che ci permette di affrontare le conseguenze del "muoversi velocemente e rompere le cose". Quel tipo di pensiero che ci aiuta a decidere se la rottura vale il prezzo.
Celeste Rodriguez Louro, Professoressa Associata, Cattedra di Linguistica e Direttrice del Laboratorio Linguistico, Università dell'Australia Occidentale.
Questo articolo è ripubblicato da The Conversation con licenza Creative Commons. Leggi l' articolo originale.
