I recenti avvertimenti dei leader americani nel campo dell'IA hanno creato l'impressione che il mondo stia solo iniziando ad affrontare i pericoli dell'intelligenza artificiale avanzata.
Dario Amodei, amministratore delegato dell'azienda tecnologica Anthropic, ha chiesto ai governi di intervenire per rallentare lo sviluppo di modelli di intelligenza artificiale.
La sua proposta parte dall'inserimento di valutatori indipendenti all'interno delle aziende di intelligenza artificiale, passa poi alla regolamentazione e si evolve verso un coordinamento, sostenuto dai governi, tra gli stati democratici.
In definitiva, l'obiettivo è raggiungere accordi globali con la Cina in merito alla sperimentazione dei sistemi di intelligenza artificiale, alle applicazioni pericolose di questa tecnologia e al ritmo di sviluppo dell'IA.
Eppure, in questa narrazione c'è una lacuna rappresentata dalla Cina. La superpotenza asiatica viene ritratta come l'ultimo, difficile partecipante di un sistema di governance che gli Stati Uniti e i loro alleati devono prima creare.
In realtà, la Cina ha già istituito un ampio sistema di regole, valutazione, registrazione, standard tecnici e supervisione governativa per l'IA. Ecco come il sistema di governance dell'IA in Cina si è sviluppato a tappe, parallelamente alla tecnologia stessa.
Le norme di Pechino del 2022 sui servizi di raccomandazione algoritmica si applicano alle tecnologie che selezionano, classificano, filtrano o raccomandano contenuti online agli utenti.
Queste normative obbligano le aziende che utilizzano algoritmi a esaminare il proprio funzionamento, a proteggere i dati personali degli utenti, a fornire agli utenti determinati strumenti di controllo e a introdurre misure di salvaguardia per lavoratori, consumatori, minori e anziani.
cinesi sulla sintesi profonda, in vigore da gennaio 2023, hanno esteso la regolamentazione a testi, immagini, audio e video sintetici (o generati dall'intelligenza artificiale). Le aziende che operano nel settore dell'IA devono autenticare gli utenti, proteggere i dati, conservare la documentazione pertinente, valutare i propri sistemi e identificare il materiale sintetico che potrebbe essere scambiato per contenuto autentico.
Le misure provvisorie per i servizi di intelligenza artificiale generativa sono state introdotte nell'agosto 2023.Queste hanno aggiunto norme per l'IA generativa rivolta al pubblico, in particolare per quella che può influenzare l'opinione pubblica o persuadere gli utenti in altri modi.
Le misure si applicano alla legalità e alla qualità dei dati di addestramento, alle informazioni personali degli utenti, alla proprietà intellettuale e alla discriminazione basata su caratteristiche protette. Le norme riguardano anche la trasparenza da parte delle aziende di intelligenza artificiale e l'accuratezza e l'affidabilità dei prodotti.
In base alle normative, le aziende devono affrontare i problemi riscontrati nei loro servizi. Tali servizi devono essere sottoposti a una valutazione della sicurezza per esaminarne i rischi e la conformità alla legislazione cinese. Le aziende devono inoltre fornire alle autorità cinesi informazioni sui propri algoritmi.
Questi meccanismi non sono identici ai valutatori indipendenti che verrebbero integrati nelle aziende di intelligenza artificiale, come proposto da Amodei. Tuttavia, svolgono alcune delle stesse funzioni.
Rischi di frontiera
L'ultimo pacchetto di misure di Pechino, denominato " Quadro di governance per la sicurezza dell'IA 3.0", è stato pubblicato nel settembre 2026. Esso definisce un approccio generale per identificare, classificare e gestire i rischi lungo tutto il ciclo di vita dei sistemi di intelligenza artificiale.
Basandosi sulle versioni precedenti, il framework affronta i rischi relativi ai modelli e ai dati dell'IA, le vulnerabilità dei modelli open source (quelli che possono essere liberamente modificati dagli utenti), gli effetti dell'IA sull'occupazione e sulla società e i sistemi sempre più autonomi.
Comprende un meccanismo specifico per la gestione dei rischi associati allo sviluppo rapido di agenti di intelligenza artificiale (sistemi che eseguono compiti in risposta alle istruzioni di un utente).
Il quadro di riferimento affronta alcuni degli stessi pericoli che stanno destando allarme nella Silicon Valley, tra cui i sistemi altamente autonomi, l'uso improprio delle tecnologie chimiche, biologiche e nucleari e la possibilità che gli esseri umani perdano il controllo dell'intelligenza artificiale avanzata. Propone valutazioni continue della sicurezza, salvaguardie basate sul rischio, il mantenimento del controllo da parte dell'uomo e meccanismi di intervento di emergenza.
Un'analisi indipendente condotta dal think tank statunitense Carnegie Endowment for International Peace ha descritto questo quadro normativo come il tentativo della Cina di "promuovere la sicurezza delle frontiere senza ricorrere a interventi normativi drastici".
Conseguenze giuridiche
Tutto ciò non significa che le norme cinesi sull'IA debbano essere trapiantate altrove. Le sue istituzioni, le tradizioni normative e le priorità tecnologiche sono diverse.
Molte funzioni che negli Stati Uniti vengono ora presentate come aspirazioni urgenti, tra cui la valutazione, la responsabilità delle aziende che si occupano di IA, la classificazione del rischio per i sistemi di IA, la presentazione di documenti normativi, gli standard tecnici e la supervisione governativa, sono già integrate nell'architettura di governance dell'altra superpotenza mondiale dell'IA.
Gli Stati Uniti sono liberi di concludere che un sistema guidato dal mercato serva al meglio i loro interessi economici e strategici. L'amministrazione Trump ha privilegiato un "minimamente oneroso" e ha cercato di limitare le regolamentazioni statali più stringenti.
Ma un modello guidato dal mercato non può significare privatizzare i profitti dell'IA esportandone i rischi. Le aziende statunitensi possono accaparrarsi i guadagni commerciali, mentre i governi di altri Paesi si ritrovano a dover indagare sugli incidenti di sicurezza, proteggere i sistemi pubblici e assorbire i costi più ingenti quando queste tecnologie falliscono. L'agente OpenAI che ha ottenuto l'accesso non autorizzato al servizio sanitario pubblico australiano dimostra come i rischi dell'IA vengano esportati.
Se Washington rifiuta controlli approfonditi prima del rilascio dei sistemi, gli Stati Uniti hanno bisogno di un quadro giuridico credibile per valutare chi è responsabile dei danni causati da tali modelli di intelligenza artificiale. In caso contrario, i Paesi che dipendono da sistemi di intelligenza artificiale stranieri si troveranno ad affrontare scelte sempre più difficili su quale tecnologia considerare affidabile e a quali condizioni.
La filosofia che ha sempre guidato la Silicon Valley è stata quella di "muoversi velocemente e rompere gli schemi". Un principio già di per sé discutibile per tecnologie profondamente radicate nella vita pubblica, ma insostenibile per aziende i cui stessi dirigenti ora avvertono che i loro prodotti potrebbero causare danni catastrofici.
Pechino ha già circondato il suo settore dell'IA con obblighi pubblici, supervisione normativa e un quadro di valutazione del rischio in continua evoluzione. Un dibattito globale che consideri tale governance come un obiettivo futuro dovrebbe quantomeno riconoscere che un Paese è già all'avanguardia.
Madeline Carr, professoressa di Politica globale e sicurezza informatica presso l'UCL
Questo articolo è stato ripubblicato da The Conversation con licenza Creative Commons. Leggi l' articolo originale.
