Å redusere synligheten av polariserende innhold i sosiale medier-feeder kan målbart redusere partifiendtlighet. For å komme frem til dette funnet utviklet kollegene mine og jeg en metode som lar oss endre rangeringen av folks feeder , noe som tidligere bare sosiale medieselskaper kunne gjøre.
Å endre rangering av sosiale medier-feeder for å redusere eksponering for innlegg som uttrykker antidemokratiske holdninger og partisk fiendtlighet påvirket folks følelser og deres syn på folk med motstridende politiske synspunkter.
Jeg er en informatiker som studerer sosial databehandling, kunstig intelligens og nettet. Fordi bare sosiale medieplattformer kan endre algoritmene sine, utviklet og lanserte vi et åpen kildekode-nettverktøy som tillot oss å rangere feedene til samtykkende deltakere på X, tidligere Twitter, i sanntid.
Med utgangspunkt i samfunnsvitenskapelig teori brukte vi en bred språkmodell for å identifisere innlegg som sannsynligvis polariserer folk, for eksempel de som forfekter politisk vold eller oppfordrer til fengsling av medlemmer av det motsatte partiet. Disse innleggene ble ikke fjernet; de ble rett og slett rangert lavere, noe som krevde at brukerne skrollet lenger for å se dem. Dette reduserte antallet slike innlegg brukerne så.
Vi kjørte dette eksperimentet i 10 dager i ukene før det amerikanske presidentvalget i 2024. Vi fant ut at redusert eksponering for polariserende innhold målbart forbedret deltakernes følelser overfor personer fra motparten og reduserte deres negative følelser mens de skrollet i feeden sin. Det er viktig å merke seg at disse effektene var like på tvers av politiske tilhørigheter, noe som tyder på at intervensjonen gagner brukerne uavhengig av deres politiske parti.
Hvorfor det betyr noe
En vanlig misforståelse er at folk må velge mellom to ytterpunkter: engasjementsbaserte algoritmer eller rent kronologiske feeder. I virkeligheten finnes det et bredt spekter av mellomliggende tilnærminger avhengig av hva de er optimalisert for å gjøre.
Feedalgoritmer er vanligvis optimalisert for å fange oppmerksomheten din, og som et resultat har de en betydelig innvirkning på dine holdninger, humør og oppfatninger av andre . Av denne grunn er det et presserende behov for rammeverk som gjør det mulig for uavhengige forskere å teste nye tilnærminger under realistiske forhold.
Arbeidet vårt tilbyr en vei videre, og viser hvordan forskere kan studere og prototype alternative algoritmer i stor skala, og det demonstrerer at plattformer, takket være store språkmodeller, endelig har de tekniske midlene til å oppdage polariserende innhold som kan påvirke brukernes demokratiske holdninger.
Hvilken annen forskning gjøres på dette feltet
Det er vanskelig å teste effekten av alternative feedalgoritmer på liveplattformer, og slike studier har bare nylig økt i antall.
For eksempel fant et nylig samarbeid mellom akademikere og Meta at det ikke var tilstrekkelig å endre den algoritmiske feeden til en kronologisk en til å vise en effekt på polarisering. Et relatert prosjekt, Prosocial Ranking Challenge ledet av forskere ved University of California, Berkeley, utforsker rangeringsalternativer på tvers av flere plattformer for å fremme gunstige sosiale resultater.
Samtidig muliggjør fremgangen innen utvikling av store språkmodeller rikere måter å modellere hvordan folk tenker, føler og samhandler med andre. Vi ser en økende interesse for å gi brukerne mer kontroll, slik at de kan bestemme hvilke prinsipper som skal veilede det de ser i feedene sine – for eksempel Alexandria-biblioteket med pluralistiske verdier og Bonsai-systemet for omrangering av feeder . Sosiale medieplattformer, inkludert Bluesky og X , er også på vei i denne retningen.
Hva er det neste
Denne studien representerer vårt første skritt mot å designe algoritmer som er bevisste på deres potensielle sosiale innvirkning. Mange spørsmål er fortsatt åpne.
Innhold fra våre partnere
Vi planlegger å undersøke de langsiktige effektene av disse tiltakene og teste nye rangeringsmål for å håndtere andre risikoer for velvære på nett, som mental helse og livstilfredshet. Fremtidig arbeid vil utforske hvordan man kan balansere flere mål, som kulturell kontekst, personlige verdier og brukerkontroll, for å skape nettrom som bedre støtter sunn sosial og samfunnsmessig interaksjon.
Forskningsbriefen en kort take på interessant akademisk arbeid.
Tiziano Piccardi , assisterende professor i informatikk, Johns Hopkins University.
Denne artikkelen er publisert på nytt fra The Conversation under en Creative Commons-lisens. Les den opprinnelige artikkelen .
