Nel fine settimana, l'amministratore delegato di Anthropic, Dario Amodei, ha chiesto alle aziende di intelligenza artificiale (IA), inclusa la sua, di rallentare il loro lavoro. Sam Altman ed Elon Musk, rispettivamente a capo delle aziende rivali OpenAI e xAI, si sono detti d'accordo.
Questa decisione riflette la preoccupazione diffusa nel settore dell'IA e, più in generale, riguardo ai pericoli dei sistemi nuovi e in rapida evoluzione. Recenti episodi di alto profilo, come l' attacco informatico di OpenAI a un'altra azienda e il dirottamento di un sito web pubblico, hanno dimostrato che i sistemi attuali possono superare i limiti di sicurezza, e che sistemi ancora più sofisticati sono in fase di sviluppo.
A complicare ulteriormente la sicurezza dell'IA contribuisce la tensione tra sicurezza e prestazioni. Le aziende saranno riluttanti a limitare le prestazioni dei loro modelli in nome della sicurezza, per timore di perdere terreno rispetto alla concorrenza. Anche il presidente degli Stati Uniti Donald Trump ha respinto le richieste di rallentamento, per paura di perdere terreno rispetto alla Cina.
Ciò significa che qualsiasi tentativo riuscito di "rallentare il ritmo di sviluppo delle capacità in modo che la prevenzione dei rischi abbia il tempo di stare al passo", come afferma Amodei, richiederà una significativa cooperazione tra aziende concorrenti e nazioni.
Minimizzazione del rischio
Le nuove tecnologie spesso comportano nuovi rischi e nuove preoccupazioni. Spesso, governi, ricercatori e aziende trovano il modo di gestire tali rischi.
Nel 1975, la conferenza di Asilomar sulle allora nuove tecnologie del DNA contribuì in modo significativo a garantire che la ricerca non superasse la nostra comprensione della sicurezza e dei rischi. Analogamente, negli anni '90, il governo statunitense tentò di raggiungere un consenso sulla limitazione della crittografia e della sicurezza informatica.
La situazione dell'IA presenta un'ulteriore complicazione: il settore è nel pieno di una corsa all'oro. I concorrenti scientifici potrebbero riuscire a controllarsi, ma i concorrenti commerciali raramente si trattengono.
Esistono chiari precedenti di fallimento dell'autoregolamentazione di fronte alla pressione competitiva. Nel disastro del Boeing 737 Max del 2018, ad esempio, la pressione per recuperare terreno rispetto alla rivale Airbus ha spinto Boeing a nascondere i limiti del Max, il che alla fine è costato vite umane.
Nella corsa all'intelligenza artificiale, la tensione competitiva è ancora maggiore. Anthropic e OpenAI si contendono il primato sul mercato prima di quotarsi in borsa, un'operazione che potrebbe fruttare decine o centinaia di miliardi di dollari.
A livello di stati nazionali, la posta in gioco è ancora più alta, con Stati Uniti e Cina che sperano entrambi di utilizzare la nuova tecnologia per ottenere un vantaggio geopolitico.
La politica di una pausa
La proposta di Amodei per rallentare lo sviluppo dell'IA si articola in tre fasi: integrare revisori di sicurezza indipendenti di terze parti, stabilire standard di sicurezza coordinati per il settore all'interno delle nazioni democratiche e, infine, raggiungere accordi globali. Ciò includerebbe limiti rigorosi all'esportazione di chip per l'IA verso aziende e paesi che non si impegnano a dare priorità alla sicurezza dell'IA.
Anthropic e OpenAI hanno già raggiunto un accordo per la prima fase di questo piano, nonostante la loro storia di cause legali, insulti pubblici e concorrenza sleale nella corsa al dominio del mercato.
Sebbene i recenti attacchi informatici di alto profilo possano averli costretti a cambiare rotta, le principali aziende di intelligenza artificiale potrebbero trarre vantaggio da una pausa o un rallentamento nello sviluppo. Innanzitutto, ciò potrebbe rimandare l'adozione di leggi restrittive come il "Ban Artificial Superintelligence Act". Inoltre, imponendo costosi standard di sicurezza e limitando le esportazioni di chip, si potrebbe impedire ai concorrenti più piccoli, in particolare alle aziende cinesi come DeepSeek e Alibaba, di recuperare terreno.
Una pausa darebbe inoltre ai laboratori di frontiera, già sovraccarichi di lavoro, la possibilità di riprendersi, riorganizzarsi e concentrarsi sui profitti piuttosto che sul progresso.
Questi laboratori di intelligenza artificiale hanno investito somme ingenti per realizzare i loro modelli attuali, un investimento che dovrà essere ripagato. Allo stesso tempo, i progressi stanno incontrando delle difficoltà, poiché reperire nuovi dati di addestramento di alta qualità diventa sempre più complicato, e la costruzione dell'imponente infrastruttura di data center necessaria a sostenere lo sviluppo rappresenta di per sé una sfida.
Una pausa di sicurezza coordinata potrebbe essere una comoda giustificazione pubblica per una fase di stallo nelle prestazioni dei modelli di intelligenza artificiale.
Cosa si può fare
Garantire la sicurezza dell'IA non sarà facile. La governance del software è notoriamente complessa, come hanno dimostrato i precedenti tentativi di regolamentare il software di crittografia
Tuttavia, a differenza di altri software, l'intelligenza artificiale dipende da hardware fisico relativamente scarso. Richiede chip di silicio avanzati e gli enormi data center necessari per alimentarli.
È qui che i governi hanno una reale leva. Qui hanno gli strumenti per monitorare e controllare lo sviluppo dell'IA, a patto che trovino la volontà legislativa.
Nel frattempo, aziende e governi possono adottare misure per ridurre al minimo la nostra esposizione ai danni derivanti dall'intelligenza artificiale. Ciò dovrebbe includere la garanzia che le infrastrutture critiche per la sicurezza, come le reti elettriche, gli approvvigionamenti idrici e i sistemi militari, non solo siano isolate dall'IA, ma potenzialmente anche completamente isolate da Internet.
Anche la questione della responsabilità è importante. Non possono essere solo gli utenti dei sistemi di intelligenza artificiale a rischiare conseguenze legali per atti compiuti con l'ausilio dell'IA, ma anche le persone responsabili della creazione di tali sistemi.
Fondamentalmente, il danno prodotto dall'IA – anche dai sistemi di IA "autonomi" – non è un astratto sottoprodotto tecnologico. È il risultato diretto delle decisioni prese sia da chi crea l'IA, sia da chi la utilizza.
Andrew Cullen, ricercatore senior presso la School of Computing and Information Systems dell'Università di Melbourne.
Questo articolo è stato ripubblicato da The Conversation con licenza Creative Commons. Leggi l' articolo originale.
