Jeg skrev nylig et enkelt spørsmål i Google-søk: Hvor mye skjermtid er for mye for tenåringer? I stedet for å presentere lenker, slik Google hadde gjort i mange år, ga de meg et AI-generert svar. Den kunstige intelligensen nevnte et tall, og kompliserte deretter svaret, og bemerket at kvaliteten og balansen i tiden kunne bety mer enn antall timer, og at «for mye» tid kunne avhenge av tenåringens søvn, trening, skolekrav og humør.
Jeg prøvde et nytt søk: Bør jeg ta en daglig aspirin? Denne gangen presenterte AI-svaret meg medisinsk informasjon, advarte om risikoer og tilbød mer skreddersydd veiledning hvis jeg oppga alder og sykehistorie.
Dette var gode svar. Det som interesserte meg var at det var forskjellige typer svar.
Debatten om AI-svar har fokusert på nøyaktighet: Fikk systemet riktig svar? Det er viktig, men nøyaktighet er bare én test. Hver type svar krever at en bruker vurderer noe forskjellig.
Jeg synes det er nyttig å sortere AI-svar i en «svartypografi» av fire hovedtyper: faktabaserte, fortolkende, konstruktive og strategiske. En faktabasert påstand kan ofte kontrolleres mot en kilde. En tolkning kan være nøyaktig og fortsatt gjenspeile valg om hvilke bevis som er viktige. En konstruksjon kan være godt begrunnet og fortsatt være feil for personen som mottar den. Et vakkert skrevet strategisk dokument er kanskje ikke sant. Likevel presenterer AI alle fire typene svar i omtrent samme flytende, autoritative form; forskjellene er lette å overse.
Jeg er universitetsbibliotekar og bibliotekdekan ved University of Virginia, og leder nasjonale tiltak for å utvikle KI-kompetanse for bibliotekansatte, og jeg er en bred konsulent innen KI-kompetanse. Jeg foreslo først typografien i Journal of Academic Librarianship.
De fire kategoriene er ikke lufttette bokser. Et svar fra en AI-agent kan gjenspeile flere typer. Når det er sagt, beskriver jeg hver type svar nedenfor, og tilbyr veiledning for å avgjøre om et svar er klart til bruk eller trenger mer undersøkelse.
Hvilket svar gir Google deg?
Et faktabasert svar fremsetter en påstand som i prinsippet kan kontrolleres mot bevis. Når ble University of Virginia grunnlagt? Hva er det kjemiske symbolet for gull?
For å avgjøre om et faktabasert svar er robust nok til at du kan bruke det, bør du bekrefte påstanden mot en passende kilde. Hvis svaret siterer en kilde, bør du følge den lenken i stedet for å bare behandle selve svaret som bevis.
Et tolkende svar er bygget på bevis, men det finnes ikke én ting man kan konkludere med. Hvor mye skjermtid er for mye for en tenåring? Øker fjernarbeid produktiviteten? Svaret avhenger av hvilke bevis som er inkludert, hva som utelates og hvordan uenighet forstås.
Googles første svar på spørsmålet mitt om skjermtid indikerte at to timer var en grense for tenåringer. Deretter bemerket de at pediatrisk veiledning legger mer vekt på kvaliteten og konteksten for skjermbruk enn på enkle timer. American Academy of Pediatrics sier at det ikke finnes noen eksakt anbefalt mengde for tenåringer og legger vekt på typen skjermbruk og hvilke aktiviteter den kan fortrenge. Et spørsmål som så tallmessig ut, viste seg å kreve tolkning.
For å vurdere tolkningssvar, gjør mer enn å sjekke fakta. Spør deg selv hvilke bevis systemet vektla, hva det utelot og om det finnes en annen forsvarlig tolkning. Et nyttig oppfølgingsspørsmål å presentere for søkemotoren er: «Hva er det sterkeste beviset for en annen konklusjon?»
Konstruktive svar gis heller enn oppdages. Be AI om å utarbeide et følgebrev, skrive en lovtale, foreslå en leksjonsplan eller omorganisere et avsnitt – det finnes ikke ett riktig resultat.
Du kan bedømme responsen ved å vurdere formål, publikum og stemme. En lovtale kan være grammatisk perfekt og fortsatt høres ikke helt ut som personen som fremfører den, eller den kan falle flatt på familiemedlemmer som hører den. Den kan heller ikke fange den avdøde personen godt. Tenk på denne typen effekter mens du leser.
Strategiske spørsmål spør om hva man skal gjøre. Bør jeg ta en daglig aspirin? Bør jeg kjøpe huset? Svarene kombinerer informasjon med vurderinger av mål, risikoer, avveininger og personlige omstendigheter.
Mitt aspirinsøk viser hvorfor kontekst er viktig. Google advarte om risikoer, ba meg konsultere en lege og tilbød mer skreddersydd informasjon hvis jeg oppga alder, kardiovaskulær historie og blødningsrisiko. Denne advarselen samsvarer med retningslinjene fra US Preventive Services Task Force. Den sier at beslutningen om å starte lavdose aspirin for å forebygge hjerteinfarkt og hjerneslag bør individualiseres og veie kardiovaskulær fordel mot blødningsrisiko.
For strategiske svar, spør hva systemet trenger å vite før rådene med rimelighet kan gjelde for deg individuelt. Vurder hva som står på spill, alternativene og om en kvalifisert person bør involveres. For aspirinspørsmålet vil en nyttig oppfølging være: «Hvilke detaljer om min alder, sykehistorie eller blødningsrisiko kan endre dette rådet? Hva bør jeg diskutere med legen min før jeg bestemmer meg?» Den endelige vurderingen forblir din fordi du er den personen som må leve med resultatet.
Det første spørsmålet etter et svar
Spørsmålene mine startet som vanlige Google-søk. Jeg åpnet ikke en chatbot. De AI-genererte svarene kom bare, og lenker ble lagt til.
Svarene var nyttige. Google la til kontekst, anerkjente komplikasjoner og tilbød skreddersydd veiledning hvis jeg oppga tilleggsinformasjon. Innenfor hvert svar kunne imidlertid svartypen endre seg. Å rapportere hva en medisinsk retningslinje sier er forskjellig fra å avgjøre hvordan den gjelder for en bestemt person. Et flytende svar kan veksle mellom disse svartypene uten en merkbar endring i stemmen.
Som bruker bør du prøve å forstå hva slags intellektuelt arbeid AI-agenten gjorde for å få et svar du mottok. Vurder om tolkningen er overbevisende eller om rådene passer til dine omstendigheter.
Før du spør om et AI-svar er riktig, still et mer grunnleggende spørsmål: Hva slags svar er dette? Typen vil fortelle deg hva du skal gjøre videre.
Leo S. Lo, dekan, University of Virginia
Denne artikkelen er publisert på nytt fra The Conversation under en Creative Commons-lisens. Les den opprinnelige artikkelen.
