Wenn die großen Technologiekonzerne den Willen dazu haben, zeigen Forschungsergebnisse, wie Selbstregulierung funktionieren kann

Regierungen und Beobachter weltweit haben wiederholt äußerten Bedenken hinsichtlich der Monopolmacht der großen Technologieunternehmen und die Rolle, die die Unternehmen bei der Verbreitung von Fehlinformationen spielen. Als Reaktion darauf haben die großen Technologiekonzerne versucht, Regulierungen zuvorzukommen, indem sie sich selbst regulierenMit der Ankündigung von Facebook, dass seine Der Aufsichtsrat wird eine Entscheidung treffen Die Frage, ob Ex-Präsident Donald Trump nach der Sperrung seines Kontos durch das Unternehmen wieder Zugriff darauf erhält, sowie andere Aufsehen erregende Maßnahmen von Technologieunternehmen gegen Desinformation haben die Debatte über verantwortungsvolle Selbstregulierung in diesem Bereich neu entfacht. Studien zeigen drei zentrale Wege auf, wie Selbstregulierung in sozialen Medien funktionieren kann: die Priorisierung von Interaktionen reduzieren, Fehlinformationen kennzeichnen und die Richtigkeit durch die Nutzer überprüfen.

Engagement nachrangig behandeln

Social-Media-Plattformen sind dafür gebaut, konstante Wechselwirkung, Und Die Unternehmen entwerfen die Algorithmen, die auswählen, welche Beiträge die Nutzer sehen um ihre Nutzer zu binden. Studien zeigen Falschmeldungen verbreiten sich in den sozialen Medien schneller als die Wahrheit, oft weil die Leute finden Nachrichten, die Emotionen auslösen, um ansprechender zu seinDadurch steigt die Wahrscheinlichkeit, dass sie solche Nachrichten lesen, darauf reagieren und sie teilen. Dieser Effekt wird durch algorithmische Empfehlungen noch verstärkt. Meine eigene Arbeit zeigt, dass Menschen sich häufiger mit YouTube-Videos über Diabetes beschäftigen, wenn die Videos weniger informativ sind. Die meisten großen Technologieplattformen funktionieren auch ohne Gatekeeper oder Filter die traditionellen Nachrichten- und Informationsquellen kontrollieren. Ihre riesigen Sammlungen fein abgestufte und detaillierte demografische Daten ihnen die Möglichkeit geben „Mikrozielgruppe“ kleine Anzahl von NutzernDies, kombiniert mit der algorithmischen Verstärkung von Inhalten zur Steigerung des Nutzerengagements, kann eine Reihe negativer Folgen für die Gesellschaft haben, darunter: digitale Wählerunterdrückung, die gezielte Verbreitung von Desinformation gegen Minderheiten Und diskriminierende WerbeausrichtungDie Herabstufung der Interaktion bei Inhaltsempfehlungen sollte die „„Kaninchenbau“-Effekt der sozialen Medien, wo sich die Leute einen Beitrag nach dem anderen, ein Video nach dem anderen ansehen algorithmisches Design von Big-Tech-Plattformen Priorisiert neue und zielgruppenspezifische Inhalte, was eine nahezu ungehinderte Verbreitung von Fehlinformationen begünstigt. Apple-Chef Tim Cook fasste das Problem kürzlich zusammen„In einer Zeit, in der Desinformation und Verschwörungstheorien grassieren, die von Algorithmen angeheizt werden, können wir eine Technologietheorie, die besagt, dass jede Interaktion eine gute Interaktion ist – je länger, desto besser – und alles mit dem Ziel, so viele Daten wie möglich zu sammeln, nicht länger ignorieren.“

Falsche Informationen auf Etiketten

Die Technologieunternehmen könnten ein System zur Inhaltskennzeichnung einführen, um zu kennzeichnen, ob eine Nachricht verifiziert ist oder nicht. Während der Wahl kündigte Twitter an, Richtlinie zur bürgerlichen Integrität unter der Tweets, die als umstritten oder irreführend gekennzeichnet sind, nicht empfohlen von ihren AlgorithmenForschungsergebnisse zeigen, dass Kennzeichnung funktioniert. Studien legen nahe, dass Kennzeichnung von Beiträgen staatlich kontrollierter MedienQuellen wie der russische Medienkanal RT könnten die Auswirkungen von Fehlinformationen abmildern. In einem Experiment stellten Forscher anonyme Zeitarbeiter ein um vertrauenswürdige Beiträge zu kennzeichnenDie Beiträge wurden anschließend auf Facebook mit von den Crowdsourcing-Teilnehmern hinzugefügten Anmerkungen angezeigt. In diesem Experiment konnten Crowdsourcing-Teilnehmer aus dem gesamten politischen Spektrum zwischen etablierten Quellen und extrem parteiischen oder Fake-News-Quellen unterscheiden. Dies deutet darauf hin, dass die Masse oft gut darin ist, zwischen echten und falschen Nachrichten zu differenzieren zeigen, dass Personen mit einem gewissen Kontakt zu Nachrichtenquellen können im Allgemeinen zwischen echten und gefälschten Nachrichten unterscheiden. Weitere Experimente stellte fest, dass ein Hinweis auf die Richtigkeit eines Beitrags hilfreich ist erhöhte die Wahrscheinlichkeit, dass die Teilnehmer korrekte Beiträge häufiger teilten als inkorrekte. In meiner eigenen Arbeit habe ich untersucht, wie Kombinationen aus menschlichen Annotatoren bzw. Inhaltsmoderatoren und Algorithmen der künstlichen Intelligenz – die sogenannte Mensch-in-der-Schleife-Intelligenz – kann verwendet werden, um Videos mit Bezug zum Gesundheitswesen auf YouTube zu klassifizierenEs ist zwar nicht praktikabel, dass Mediziner jedes einzelne YouTube-Video zum Thema Diabetes ansehen, aber es ist möglich, eine Methode mit menschlicher Beteiligung zur Klassifizierung einzusetzen. Beispielsweise haben meine Kollegen und ich Fachexperten rekrutiert, um KI-Algorithmen Feedback zu geben, was zu besseren Bewertungen der Inhalte von Beiträgen und Videos führt. Technologieunternehmen haben solche Ansätze bereits angewendet. Facebook nutzt beispielsweise … Kombination aus Faktenprüfern und Ähnlichkeitserkennungsalgorithmen um Fehlinformationen im Zusammenhang mit COVID-19 zu filtern. Die Algorithmen Duplikate erkennen und Kopien schließen von irreführenden Beiträgen.

Gemeindebasierte Durchsetzung

Twitter hat kürzlich angekündigt, dass es Einführung eines Community-Forums, BirdwatchUm Fehlinformationen zu bekämpfen, hat Twitter zwar noch keine Details zur Umsetzung bekannt gegeben, aber ein auf der Nutzerbasis erfolgender Verifizierungsmechanismus soll die Sicherheit erhöhen Upvotes oder Downvotes zu Trendbeiträgen und deren Verwendung Newsfeed-Algorithmen zur Herabstufung von Inhalten Informationen aus unzuverlässigen Quellen könnten dazu beitragen, Fehlinformationen zu reduzieren. Die Grundidee ist ähnlich wie Wikipedias System zur BeitragserstellungDort klassifizieren Freiwillige, ob Trendbeiträge echt oder gefälscht sind. Die Herausforderung besteht darin, zu verhindern, dass Nutzer interessante und fesselnde, aber unbestätigte Inhalte positiv bewerten, insbesondere wenn es … gezielte Bemühungen zur Manipulation der WahlDie Systeme können ausgenutzt werden durch koordiniertes Handelnwie in der jüngsten GameStop-Aktien-ManipulationsepisodeEin weiteres Problem besteht darin, Menschen zur freiwilligen Teilnahme an gemeinschaftlichen Projekten wie der gemeinschaftlichen Erkennung von Falschnachrichten zu motivieren. Solche Projekte sind jedoch auf Freiwillige angewiesen die Genauigkeit von Nachrichtenartikeln kommentieren, ähnlich wie Wikipedia, und erfordern ebenfalls die Beteiligung von unabhängige Faktencheck-Organisationen Das kann verwendet werden, um zu erkennen, ob eine Nachricht irreführend ist. Ein Modell im Wikipedia-Stil benötigt jedoch.. robuste Mechanismen von Kommunale Selbstverwaltung Um sicherzustellen, dass die einzelnen Freiwilligen bei der Authentifizierung und Faktenprüfung von Beiträgen einheitliche Richtlinien befolgen, hat Wikipedia kürzlich seine Community-Standards aktualisiert um der Verbreitung von Fehlinformationen entgegenzuwirkenOb die großen Technologiekonzerne freiwillig zulassen werden, dass ihre Richtlinien zur Inhaltsmoderation so transparent überprüft werden, ist eine andere FrageErhalten Sie unsere besten Artikel aus den Bereichen Wissenschaft, Gesundheit und Technologie. Melden Sie sich für den Wissenschaftsnewsletter von The Conversation an.]

Verantwortung der großen Technologiekonzerne

Letztendlich könnten Social-Media-Unternehmen eine Kombination aus geringerer Priorisierung von Nutzerinteraktionen, Partnerschaften mit Nachrichtenorganisationen sowie KI und Crowdsourcing zur Erkennung von Fehlinformationen nutzen. Diese Ansätze werden wahrscheinlich nicht isoliert funktionieren und müssen so konzipiert sein, dass sie zusammenwirken. Koordinierte Aktionen, die durch soziale Medien ermöglicht werden, können die Gesellschaft grundlegend verändern Finanzmärkte Zu PolitikDie Technologieplattformen spielen eine außerordentlich große Rolle bei der Gestaltung der öffentlichen Meinung, was bedeutet, dass sie eine Verantwortung gegenüber der Öffentlichkeit um sich selbst effektiv zu regulieren. Forderungen nach staatlicher Regulierung der großen Technologiekonzerne werden weltweit immer lauter, auch in den USA, wo eine kürzlich durchgeführte Gallup-Umfrage zeigte, dass sich verschlechternde Einstellung gegenüber Technologieunternehmen und eine stärkere Unterstützung für staatliche Regulierungen. Deutschlands neue Gesetze zur Inhaltsmoderation Wir fordern mehr Verantwortung für Technologieunternehmen hinsichtlich der auf ihren Plattformen geteilten Inhalte. Eine Vielzahl von Vorschriften in Europa mit dem Ziel, den Haftungsschutz dieser Plattformen zu reduzieren und In den USA vorgeschlagene Regelungen zur Umstrukturierung der Internetgesetze Dies wird zu einer verstärkten Überprüfung der Inhaltsmoderationsrichtlinien von Technologieunternehmen führen. In den USA ist eine Form staatlicher Regulierung wahrscheinlich. Die großen Technologiekonzerne haben noch die Möglichkeit, sich verantwortungsvoll selbst zu regulieren – bevor sie von den Gesetzgebern zum Handeln gezwungen werden. Anjana SusarlaOmura-Saxena-Professor für verantwortungsvolle KI, Michigan State University Dieser Artikel wurde erneut veröffentlicht von Das Gespräch unter einer Creative-Commons-Lizenz. Lesen Sie die Originalartikel.