Hvis Big Tech har viljen, viser forskning at selvregulering kan fungere

Regjeringer og observatører over hele verden har gjentatte ganger reiste bekymringer om monopolmakten til store teknologiselskaper og rollen selskapene spiller i spredning av feilinformasjon. Som svar har store teknologiselskaper forsøkt å foregripe reguleringer ved å regulerer seg selvMed Facebooks kunngjøring om at dets Tilsynsrådet vil ta en avgjørelse om hvorvidt tidligere president Donald Trump kan få tilbake tilgang til kontoen sin etter at selskapet suspenderte den, har dette og andre profilerte tiltak fra teknologiselskaper for å håndtere feilinformasjon gjenopplivet debatten om hvordan ansvarlig selvregulering fra teknologiselskaper bør se ut. Forskning viser tre viktige måter selvregulering på sosiale medier kan fungere på: nedprioritere engasjement, merke feilinformasjon og bekrefte nøyaktigheten av crowdsourcing.

Nedprioriter engasjement

Sosiale medieplattformer er bygget for konstant interaksjon, og Selskapene designer algoritmene som velger hvilke innlegg folk ser for å holde brukerne engasjerte. Studier viser Løgn sprer seg raskere enn sannheten på sosiale medier, ofte fordi folk finner nyheter som vekker følelser for å være mer engasjerende, noe som gjør det mer sannsynlig at de vil lese, reagere på og dele slike nyheter. Denne effekten forsterkes gjennom algoritmiske anbefalinger. Mitt eget arbeid viser at folk ser på YouTube-videoer om diabetes oftere når videoene er mindre informative. De fleste store teknologiplattformer også fungere uten portvakter eller filtre som styrer tradisjonelle kilder til nyheter og informasjon. Deres enorme mengder av finkornede og detaljerte demografiske data gi dem muligheten til å «Mikromål» et lite antall brukereDette, kombinert med algoritmisk forsterkning av innhold som er utformet for å øke engasjementet, kan ha en rekke negative konsekvenser for samfunnet, inkludert digital velgerundertrykkelse, målretting av minoriteter for desinformasjon og diskriminerende annonsemålrettingÅ nedprioritere engasjement i innholdsanbefalinger bør redusere ««kaninhullseffekten» av sosiale medier, der folk ser på innlegg etter innlegg, video etter video. Den algoritmisk design av Big Tech-plattformer prioriterer nytt og mikromålrettet innhold, noe som fremmer en nesten ukontrollert spredning av feilinformasjon. Apples administrerende direktør Tim Cook oppsummerte nylig problemet«I en tid med utbredt desinformasjon og konspirasjonsteorier som er presset ned av algoritmer, kan vi ikke lenger lukke øynene for en teknologiteori som sier at all engasjement er god engasjement – ​​jo lenger, jo bedre – og alt med mål om å samle inn så mye data som mulig.»

Feilinformasjon fra etiketten

Teknologiselskapene kan ta i bruk et system for innholdsmerking for å identifisere om en nyhetsartikkel er verifisert eller ikke. Under valget annonserte Twitter en politikk for samfunnsintegritet der tweets merket som omstridte eller villedende ikke ville være anbefalt av algoritmene deresForskning viser at merking fungerer. Studier tyder på at å merke innlegg fra statskontrollerte medier, som for eksempel fra den russiske mediekanalen RT, kunne dempe effektene av feilinformasjon. I et eksperiment ansatte forskere anonyme midlertidige arbeidere å merke troverdige innleggInnleggene ble deretter vist på Facebook med etiketter kommentert av crowdsource-arbeiderne. I det eksperimentet klarte crowdsource-arbeidere fra hele det politiske spekteret å skille mellom vanlige kilder og hyperpartisan- eller falske nyhetskilder, noe som tyder på at folkemengder ofte gjør en god jobb med å skille mellom ekte og falske nyheter. Eksperimentene også viser at personer med en viss eksponering for nyhetskilder kan generelt skille mellom ekte og falske nyheter. Andre eksperimenter fant ut at det å gi en påminnelse om nøyaktigheten av et innlegg økte sannsynligheten for at deltakerne delte nøyaktige innlegg oftere enn unøyaktige innlegg. I mitt eget arbeid har jeg studert hvordan kombinasjoner av menneskelige annotatorer, eller innholdsmoderatorer, og algoritmer for kunstig intelligens – det som kalles human-in-the-loop-intelligens – kan brukes til å klassifisere helserelaterte videoer på YouTubeSelv om det ikke er mulig å la helsepersonell se hver eneste YouTube-video om diabetes, er det mulig å ha en «menneskelig» klassifiseringsmetode. For eksempel rekrutterte kollegene mine og jeg fageksperter for å gi tilbakemelding til AI-algoritmer, noe som resulterer i bedre vurderinger av innholdet i innlegg og videoer. Teknologiselskaper har allerede tatt i bruk slike tilnærminger. Facebook bruker en kombinasjon av faktasjekkere og likhetsdeteksjonsalgoritmer å screene feilinformasjon relatert til COVID-19. Algoritmene oppdage duplikasjoner og lukke kopier av villedende innlegg.

Samfunnsbasert håndheving

Twitter annonserte nylig at de er lanserer et fellesskapsforum, Birdwatch, for å bekjempe feilinformasjon. Selv om Twitter ikke har gitt detaljer om hvordan dette vil bli implementert, vil en publikumsbasert verifiseringsmekanisme legge til opp stemmer eller ned stemmer til trending innlegg og bruk av nyhetsfeedalgoritmer for å nedgradere innhold fra upålitelige kilder kan bidra til å redusere feilinformasjon. Grunnideen ligner på Wikipedias system for innholdsbidrag, der frivillige klassifiserer om trending innlegg er ekte eller falske. Utfordringen er å hindre folk i å stemme opp interessant og fengende, men ubekreftet innhold, spesielt når det finnes bevisste forsøk på å manipulere stemmegivningenFolk kan manipulere systemene gjennom koordinert handling, som i den siste tiden GameStop-episode med masse aksjerEt annet problem er hvordan man kan motivere folk til frivillig å delta i et samarbeid, som for eksempel folkefinansiert oppdagelse av falske nyheter. Slike tiltak er imidlertid avhengige av frivillige annotere nøyaktigheten av nyhetsartikler, i likhet med Wikipedia, og krever også deltakelse fra tredjeparts faktasjekkingsorganisasjoner som kan brukes til å oppdage om en nyhetsartikkel er misvisende. Imidlertid trenger en Wikipedia-lignende modell robuste mekanismer av samfunnsstyring for å sikre at individuelle frivillige følger konsistente retningslinjer når de autentiserer og faktasjekker innlegg. Wikipedia oppdaterte nylig sine fellesskapsstandarder spesifikt å stanse spredningen av feilinformasjonOm de store teknologiselskapene frivillig vil tillate at retningslinjene for innholdsmoderering gjennomgås på en så transparent måte, er en annen sakFå våre beste historier om vitenskap, helse og teknologi. Registrer deg for The Conversations vitenskapsnyhetsbrev.]

Big Techs ansvar

Til syvende og sist kan sosiale medieselskaper bruke en kombinasjon av å nedprioritere engasjement, samarbeide med nyhetsorganisasjoner, og AI og folkefinansiert oppdagelse av feilinformasjon. Disse tilnærmingene vil sannsynligvis ikke fungere isolert og må utformes for å fungere sammen. Koordinerte handlinger tilrettelagt av sosiale medier kan forstyrre samfunnet, fra finansmarkedene til politikkTeknologiplattformene spiller en usedvanlig stor rolle i å forme opinionen, noe som betyr at de har en ansvar overfor offentligheten å styre seg selv effektivt. Kravene om statlig regulering av Big Tech øker over hele verden, inkludert i USA, hvor en fersk Gallup-undersøkelse viste forverrede holdninger til teknologiselskaper og større støtte til statlig regulering. Tysklands nye lover om innholdsmoderering legge større ansvar på teknologiselskaper for innholdet som deles på plattformene deres. En rekke regelverk i Europa med sikte på å redusere ansvarsbeskyttelsen som disse plattformene nyter godt av, og foreslåtte reguleringer i USA som tar sikte på å omstrukturere internettlovgivningen vil føre til større gransking av teknologiselskapenes retningslinjer for innholdsmoderering. En eller annen form for statlig regulering er sannsynlig i USA. Big Tech har fortsatt en mulighet til å delta i ansvarlig selvregulering – før selskapene blir tvunget til å handle av lovgivere. Anjana Susarla, Omura-Saxena professor i ansvarlig kunstig intelligens, Michigan State University Denne artikkelen er publisert på nytt fra Samtalen under en Creative Commons-lisens. Les original artikkel.