I løpet av helgen oppfordret Anthropics administrerende direktør Dario Amodei selskaper innen kunstig intelligens (KI), inkludert hans eget, til å senke arbeidet sitt. Sam Altman og Elon Musk, ledere for henholdsvis rivalene OpenAI og xAI, var enige.
Dette grepet gjenspeiler bekymring i hele AI-bransjen og mer generelt om farene ved nye, raskt forbedrede systemer. Nylige høyprofilerte hendelser, som OpenAI AI-agenter som hacker et annet selskap og kaprer et offentlig nettsted, har vist at nåværende systemer kan bryte ut av sikkerhetsgrenser – og enda mer kapable systemer er under utvikling.
Spenningen mellom sikkerhet og ytelse kompliserer AI-sikkerheten ytterligere. Bedrifter vil være motvillige til å begrense ytelsen til modellene sine i sikkerhetens navn av frykt for å tape terreng til konkurrentene. USAs president Donald Trump har også avvist oppfordringer om en nedbremsing, av frykt for å tape terreng til Kina.
Dette betyr at enhver vellykket innsats for å «øke tempoet i kapasitetsutviklingen slik at risikoforebygging får tid til å holde tritt», som Amodei uttrykker det, vil kreve betydelig samarbeid mellom rivaliserende selskaper – og nasjoner.
Risikominimering
Nye teknologier bringer ofte med seg nye risikoer og nye bekymringer. Ofte finner myndigheter, forskere og bedrifter måter å håndtere disse risikoene på.
I 1975 Asilomar-konferansen om den gang nye DNA-teknologier mye til å sikre at forskningen ikke kom i forkjøpet av vår forståelse av sikkerhet og risiko. På samme måte forsøkte den amerikanske regjeringen på 1990-tallet å bygge enighet om å begrense kryptografi og datasikkerhet.
KI-situasjonen har en ekstra vri: industrien er midt i et gullrush. Vitenskapelige rivaler klarer kanskje å beherske seg, men kommersielle rivaler holder sjelden tilbake.
Det finnes klare presedenser for at selvregulering har sviktet i møte med konkurransepress. I Boeing 737 Max-katastrofen i 2018, for eksempel, førte presset for å ta igjen rivalen Airbus til at Boeing skjulte begrensningene til Max, noe som til slutt kostet liv.
I kappløpet om kunstig intelligens er omfanget av konkurransespenningen enda større. Anthropic og OpenAI konkurrerer om å etablere markedsdominans før de satser på børsnoteringer som kan bringe inn titalls eller hundrevis av milliarder dollar.
Og på nasjonalstatsnivå er innsatsen høyere igjen, ettersom USA og Kina håper å bruke den nye teknologien til geopolitiske fordeler.
Pausens politikk
Amodeis forslag om en nedbremsing dreier seg om en tretrinnsplan: å integrere uavhengige tredjeparts sikkerhetsvurderere, etablere koordinerte sikkerhetsstandarder i bransjen i demokratiske nasjoner og til slutt sikre globale avtaler. Dette vil inkludere strenge begrensninger på eksport av AI-brikker til selskaper og land som ikke er enige om å prioritere AI-sikkerhet.
Anthropic og OpenAI har allerede blitt enige om den første fasen av denne planen, til tross for at de har saksøkt, offentlig fornærmet og underbudt hverandre i jakten på markedsdominans.
Selv om nylige profilerte hackingangrep kan ha tvunget dem til å ta av, kan de ledende AI-selskapene dra nytte av en utviklingspause eller nedbremsing. For det første kan det utsette streng lovgivning som den amerikanske senatoren Bernie Sanders' foreslåtte lov om å forby kunstig superintelligens. For det andre kan det, ved å skape dyre sikkerhetsstandarder og begrense eksport av brikker, hindre mindre konkurrenter – spesielt kinesiske selskaper som DeepSeek og Alibaba – i å ta igjen tapt.
En pause ville også gi de overbelastede grenselaboratoriene en sjanse til å hente seg inn igjen, komme seg og fokusere på profitt fremfor fremgang.
Disse AI-laboratoriene har brukt enorme summer på å produsere sine eksisterende modeller, noe som må betales tilbake. Samtidig stopper fremgangen opp ettersom det blir vanskeligere å finne nye opplæringsdata av høy kvalitet, og det å bygge den massive datasenterinfrastrukturen som trengs for å opprettholde utviklingen er en utfordring i seg selv.
En koordinert sikkerhetspause kan være en praktisk offentlig årsak til et platå i AI-modellens ytelse.
Hva kan gjøres
Det blir ikke lett å gjøre AI trygg. Styring av programvare er notorisk vanskelig, noe tidligere forsøk på å lovfeste krypteringsprogramvare har vist.
I motsetning til annen programvare er imidlertid AI avhengig av relativt knapp fysisk maskinvare. Den trenger avanserte silisiumbrikker og de enorme datasentrene som kreves for å drive dem.
Det er her myndighetene har reell innflytelse. Her har de måter å overvåke og kontrollere AI-utviklingen på, hvis de finner lovgivernes vilje.
I mellomtiden finnes det tiltak bedrifter og myndigheter kan ta for å minimere hvor utsatt vi alle er for AI-drevet skade. Dette bør inkludere å sørge for at kritisk sikkerhetsinfrastruktur – som strømnett, vannforsyning og militære systemer – ikke bare er isolert fra AI, men potensielt til og med fullstendig isolert fra internett.
Og spørsmålet om ansvar er også viktig. Det kan ikke bare være brukerne av KI-systemer som står overfor juridisk fare for handlinger assistert av KI, men også de som er ansvarlige for å lage KI-systemer.
Fundamentalt sett er ikke skade forårsaket av AI – selv av «autonome» AI-systemer – et abstrakt teknologisk biprodukt. Det er det direkte resultatet av beslutninger tatt av både de som lager AI og de som bruker den.
Andrew Cullen, seniorforsker, School of Computing and Information Systems, University of Melbourne.
Denne artikkelen er publisert på nytt fra The Conversation under en Creative Commons-lisens. Les den opprinnelige artikkelen.
