I fjor deltok jeg på et panel om generativ KI i utdanning. I et minneverdig øyeblikk spurte en presentatør: «Hva er greia? Generativ KI er som en kalkulator. Det er bare et verktøy.»
Analogien blir stadig mer vanlig. OpenAI-sjef Sam Altman har selv omtalt ChatGPT som « en kalkulator for ord » og sammenlignet kommentarer om den nye teknologien med reaksjoner på kalkulatorens ankomst.
Folk sa: «Vi må forby disse, for folk kommer bare til å jukse i leksene sine. Hvis folk ikke trenger å beregne en sinusfunksjon for hånd igjen […], da er matematikkutdanningen over.»
Generative AI-systemer er imidlertid ikke kalkulatorer. Å behandle dem som kalkulatorer tilslører hva de er, hva de gjør og hvem de tjener. Denne enkle analogien forenkler en kontroversiell teknologi og ignorerer fem avgjørende forskjeller fra teknologier fra fortiden.
1. Kalkulatorer verken hallusinerer eller overtaler
Kalkulatorer beregner funksjoner fra klart definerte inndata. Du skriver inn 888 ÷ 8 og får ett riktig svar: 111.
Denne utdataen er begrenset og uforanderlig. Kalkulatorer verken utleder, gjetter, hallusinerer eller overtaler.
De legger ikke til falske eller uønskede elementer i svaret. De dikter ikke opp rettssaker eller ber folk om å « vær så snill å dø ».
2. Kalkulatorer stiller ikke overfor grunnleggende etiske dilemmaer
Kalkulatorer reiser ikke grunnleggende etiske dilemmaer.
Å lage ChatGPT innebar arbeidere i Kenya måtte sile gjennom irreversibelt traumatiserende innhold for en dollar eller to i timen. Kalkulatorer trengte ikke det.
Etter finanskrisen i Venezuela så et selskap innen AI-datamerking en mulighet til å skaffe seg billig arbeidskraft med utnyttende ansettelsesmodeller . Kalkulatorer trengte heller ikke det.
Kalkulatorer krevde ikke bygging av enorme nye kraftverk konkurranse med mennesker om vann slik AI-datasentre gjør i noen av de tørreste delene av verden .
Kalkulatorer trengte ikke ny infrastruktur for å bli bygget. Kalkulatorindustrien opplevde ikke en enorm gruvedrift som den som for tiden driver den rovgrådige kobber- og litiumutvinningen slik som i Atacameños i Chile.
3. Kalkulatorer undergraver ikke autonomi
Kalkulatorer hadde ikke potensialet til å bli en « autofullføring for livet ». De tilbød seg aldri å ta alle avgjørelser for deg, fra hva du skulle spise og hvor du skulle reise til når du skulle kysse daten din.
Kalkulatorer utfordret ikke vår evne til kritisk tenkning. Generativ AI har imidlertid vist seg å svekke uavhengig resonnering og øke « kognitiv avlastning ». Over tid risikerer avhengighet av disse systemene å legge makten til å ta hverdagsbeslutninger i hendene på ugjennomsiktige bedriftssystemer.
4. Kalkulatorer har ikke sosial og språklig skjevhet
Kalkulatorer gjengir ikke hierarkiene i menneskelig språk og kultur. Generativ AI er imidlertid trent på data som gjenspeiler århundrer med ulik maktforhold, og resultatene speiler disse ulikhetene.
Språkmodeller arver og forsterker prestisjen til dominerende språklige former, samtidig som de setter mindre privilegerte former til side eller visker ut.
Verktøy som ChatGPT håndterer vanlig engelsk , men omformulerer, feilmerker eller sletter rutinemessig engelsk fra andre verdensdeler .
Selv om prosjekter som forsøker å takle ekskluderingen av minoritetsstemmer fra teknologisk utvikling, er generativ AIs skjevhet for mainstream engelsk bekymringsverdig uttalt.
5. Kalkulatorer er ikke «alt-maskiner»
I motsetning til kalkulatorer opererer ikke språkmodeller innenfor et snevert domene som matematikk. I stedet har de potensialet til å vikle seg inn i alt: persepsjon, kognisjon, affekt og interaksjon.
Språkmodeller kan være «agenter», «følgesvenner», «influensere», «terapeuter» og «kjærester». Dette er en viktig forskjell mellom generativ AI og kalkulatorer.
Innhold fra våre partnere
Mens kalkulatorer hjelper med aritmetikk, kan generativ AI utføre både transaksjonelle og interaksjonelle funksjoner. I én omgang kan en chatbot hjelpe deg med å redigere romanen din, skrive kode for en ny app og gi en detaljert psykologisk profil av noen du tror du liker.
Å forbli kritisk
Kalkulatoranalogien får språkmodeller og såkalte «copiloter», «veiledere» og «agenter» til å høres harmløse ut. Den gir tillatelse til ukritisk adopsjon og antyder at teknologi kan løse alle utfordringene vi står overfor som samfunn.
Det passer også perfekt til plattformene som lager og distribuerer generative AI-systemer. Et nøytralt verktøy trenger ingen ansvarlighet, ingen revisjoner, ingen delt styring.
Men som vi har sett, er ikke generativ AI som en kalkulator. Den bare bearbeider ikke tall eller produserer avgrensede resultater.
Å forstå hva generativ AI egentlig er krever grundig kritisk tenkning. Den typen som utruster oss til å konfrontere konsekvensene av å « bevege oss raskt og ødelegge ting ». Den typen som kan hjelpe oss med å avgjøre om ødeleggelsen er verdt prisen.
Celeste Rodriguez Louro , førsteamanuensis, leder for lingvistikk og direktør for språklaboratoriet, University of Western Australia.
Denne artikkelen er publisert på nytt fra The Conversation under en Creative Commons-lisens. Les den opprinnelige artikkelen .
