Nylige advarsler fra amerikanske AI-ledere har skapt inntrykk av at verden bare så vidt har begynt å konfrontere farene ved avansert kunstig intelligens.
Dario Amodei, administrerende direktør i teknologiselskapet Anthropic, har oppfordret myndighetene til å gripe inn for å bremse utviklingen av stadig kraftigere AI-modeller.
Forslaget hans begynner med uavhengige evaluerere innebygd i AI-selskaper, går videre til regulering og utvikler seg til myndighetsstøttet koordinering mellom demokratiske stater.
Til syvende og sist søker den globale avtaler med Kina om testing av AI-systemer, farlige anvendelser av teknologien og tempoet i AI-utviklingen.
Likevel finnes det et Kina-formet hull i denne fortellingen. Den asiatiske supermakten blir fremstilt som den vanskelige siste deltakeren i et styringssystem som USA og dets allierte først må skape.
Faktisk har Kina allerede etablert et omfattende system med AI-regler, vurdering, innlevering, tekniske standarder og myndighetstilsyn. Slik har Kinas AI-styringssystem utviklet seg i etapper sammen med selve teknologien.
Beijings regler fra 2022 om algoritmiske anbefalingstjenester gjelder for teknologier som velger, rangerer, filtrerer eller anbefaler nettinnhold til brukere.
De tvinger selskaper som bruker algoritmer til å undersøke hvordan de fungerer, beskytte brukernes personlige informasjon, gi brukerne visse kontroller og innføre sikkerhetstiltak for arbeidere, forbrukere, barn og eldre.
Kinas bestemmelser om dyp syntese, som trådte i kraft fra januar 2023, utvidet reguleringen til syntetisk (eller AI-generert) tekst, bilder, lyd og video. AI-selskaper må autentisere brukere, beskytte data, føre relevante registre, vurdere systemene sine og identifisere syntetisk materiale som kan forveksles med autentisk innhold.
De midlertidige tiltakene for generative kunstig intelligens-tjenester ble introdusert i august 2023.Disse la til regler for offentlig rettet generativ kunstig intelligens, spesielt de som kan påvirke opinionen eller overbevise om bruk på andre måter.
Tiltakene gjelder lovligheten og kvaliteten på opplæringsdata, brukernes personopplysninger, immaterielle rettigheter og diskriminering basert på beskyttede egenskaper. Reglene dekker også åpenhet fra AI-selskaper og nøyaktigheten og påliteligheten til produkter.
I henhold til reglene må selskaper ta tak i problemer som oppdages i tjenestene deres. Disse tjenestene må gjennomgå en sikkerhetsvurdering for å undersøke risikoene og samsvar med kinesisk lovgivning. Selskapene må også sende inn informasjon om algoritmene sine til kinesiske myndigheter.
Disse mekanismene er ikke identiske med de uavhengige evaluatorene som ville være innebygd i AI-selskaper, slik Amodei har foreslått. Men de utfører noen av de samme funksjonene.
Grenserisikoer
Beijings nyeste sett med tiltak kalles AI safety governance framework 3.0, publisert i september 2026. Det beskriver en bred tilnærming til å identifisere, gradere og håndtere risikoer gjennom hele livssyklusen til AI-systemer.
Rammeverket bygger på tidligere versjoner og dekker risikoer knyttet til AI-modeller og data, sårbarheter i modeller med åpen kildekode (de som kan endres fritt av brukere), AIs effekter på sysselsetting og samfunn og stadig mer autonome systemer.
Den inkluderer en dedikert mekanisme for å håndtere risikoer knyttet til raskt utviklende AI-agenter (systemer som utfører oppgaver som svar på instruksjoner fra en bruker).
Rammeverket tar for seg noen av de samme farene som nå skaper alarm i Silicon Valley, inkludert svært autonome systemer, misbruk av kjemiske, biologiske og nukleære teknologier, og muligheten for at mennesker mister kontrollen over avansert AI. Det foreslår kontinuerlige sikkerhetsevalueringer, risikobaserte sikkerhetstiltak, menneskers kontroll og mekanismer for nødintervensjon.
En uavhengig analyse fra den amerikanske tankesmien Carnegie Endowment for International Peace har beskrevet rammeverket som Kinas forsøk på å «fremme grensesikkerhet uten behov for tunge regulatoriske inngrep».
Juridiske konsekvenser
Ingenting av dette betyr at kinesiske AI-regler bør overføres til andre steder. Landets institusjoner, regulatoriske tradisjoner og teknologiske prioriteringer er annerledes.
Mange funksjoner som nå presenteres som presserende ambisjoner i USA, inkludert evaluering, ansvarlighet for AI-selskaper, risikoklassifisering for AI-systemer, innlevering av regulatoriske krav, tekniske standarder og myndighetstilsyn, er allerede innebygd i styringsarkitekturen til verdens andre AI-supermakt.
USA står fritt til å konkludere med at et markedsstyrt system best tjener deres økonomiske og strategiske interesser. Trump-administrasjonen har favorisert en «minimalt byrdefull» nasjonal tilnærming til AI og har forsøkt å begrense mer krevende regulering på delstatsnivå.
Men en markedsstyrt modell kan ikke bety å privatisere fordelene ved AI samtidig som man eksporterer risikoen. Amerikanske selskaper kan fange de kommersielle gevinstene, mens myndigheter andre steder må etterforske sikkerhetshendelser, beskytte offentlige systemer og absorbere de større kostnadene når disse teknologiene svikter. OpenAI-agenten som fikk uautorisert tilgang til Australias statlige helsevesen viser hvordan AI-risikoer eksporteres.
Hvis Washington avviser omfattende kontroller før systemer lanseres, trenger USA et troverdig juridisk regime for å vurdere hvem som er ansvarlig for skade forårsaket av disse AI-modellene. Ellers vil land som er avhengige av utenlandske AI-systemer stå overfor stadig vanskeligere valg om hvilken teknologi de skal stole på, og på hvilke vilkår.
Silicon Valleys styringsetos har lenge vært å «handle raskt og ødelegge ting». Det var alltid et tvilsomt prinsipp for teknologier som er dypt vevd inn i det offentlige liv. Det er uholdbart for selskaper hvis egne ledere nå advarer om at produktene deres kan forårsake katastrofal skade.
Beijing har allerede omgitt sin AI-sektor med offentlige forpliktelser, regulatorisk tilsyn og et utviklende rammeverk for risikovurdering. En global debatt som behandler slik styring som en fremtidig ambisjon, bør i det minste anerkjenne at ett land allerede ligger i forkant av utviklingen.
Madeline Carr, professor i global politikk og cybersikkerhet, UCL.
Denne artikkelen er publisert på nytt fra The Conversation under en Creative Commons-lisens. Les den opprinnelige artikkelen.
