Si les géants de la tech en ont la volonté, voici comment, selon la recherche, l'autorégulation peut fonctionner

Les gouvernements et les observateurs du monde entier l'ont répété à maintes reprises ont soulevé des inquiétudes quant au pouvoir monopolistique des grandes entreprises technologiques et le rôle que jouent ces entreprises dans la diffusion de fausses informations. En réponse, les géants de la tech ont tenté de devancer toute réglementation en se régulerSuite à l'annonce de Facebook concernant son Le conseil de surveillance prendra une décision La question de savoir si l'ancien président Donald Trump peut récupérer l'accès à son compte après sa suspension par l'entreprise, ainsi que d'autres initiatives médiatisées prises par des entreprises technologiques pour lutter contre la désinformation, ont relancé le débat sur ce que devrait être une autorégulation responsable de la part de ces entreprises. Les recherches montrent que l'autorégulation des médias sociaux peut fonctionner selon trois axes principaux : privilégier la communication au détriment de l'engagement, étiqueter les fausses informations et faire appel à la vérification participative de leur exactitude.

Déprioriser l'engagement

Les plateformes de médias sociaux sont conçues pour interaction constante, et Ces entreprises conçoivent les algorithmes qui déterminent les publications que les utilisateurs voient pour maintenir l'engagement de leurs utilisateurs. Des études montrent Sur les réseaux sociaux, les fausses informations se propagent plus vite que la vérité, souvent parce que les gens trouvent Les informations qui suscitent des émotions sont plus attrayantesCe qui augmente la probabilité qu'ils lisent, commentent et partagent ces informations. Cet effet est amplifié par les recommandations algorithmiques. Mon propre travail Les études montrent que les internautes interagissent davantage avec les vidéos YouTube sur le diabète lorsque celles-ci sont moins informatives. La plupart des grandes plateformes technologiques fonctionnent également sans intermédiaires ni filtres qui régissent les sources traditionnelles d'information et d'actualité. Leurs vastes trésors de données démographiques fines et détaillées leur donner la possibilité de « Microciblage » : petit nombre d'utilisateursCeci, combiné à l'amplification algorithmique de contenus conçus pour stimuler l'engagement, peut avoir une multitude de conséquences négatives pour la société, notamment Suppression numérique du vote, le ciblage des minorités à des fins de désinformation et ciblage publicitaire discriminatoire. La réduction de la priorité accordée à l'engagement dans les recommandations de contenu devrait atténuer le «l’effet « terrier de lapin » des médias sociaux, où les gens regardent publication après publication, vidéo après vidéo conception algorithmique des plateformes des géants de la tech Elle privilégie les contenus nouveaux et microciblés, ce qui favorise une prolifération quasi incontrôlée de la désinformation. Le PDG d'Apple, Tim Cook, a récemment résumé le problème« À l’heure où la désinformation et les théories du complot prolifèrent sous l’effet des algorithmes, nous ne pouvons plus fermer les yeux sur une théorie technologique qui prétend que toute interaction est bonne à prendre – plus elle est longue, mieux c’est – le tout dans le but de collecter un maximum de données. »

Informations erronées sur l'étiquetage

Les entreprises technologiques pourraient adopter un système d'étiquetage de contenu pour déterminer si une information est vérifiée ou non. Pendant la campagne électorale, Twitter a annoncé… politique d'intégrité civique en vertu duquel les tweets étiquetés comme contestés ou trompeurs ne seraient pas recommandé par leurs algorithmesDes recherches montrent que l'étiquetage est efficace. Des études suggèrent que apposer des étiquettes sur les publications provenant de médias contrôlés par l'ÉtatDes sources telles que la chaîne russe RT pourraient atténuer les effets de la désinformation. Dans le cadre d'une expérience, des chercheurs ont embauché des travailleurs temporaires anonymes étiqueter les publications fiablesLes publications ont ensuite été affichées sur Facebook avec des étiquettes annotées par les contributeurs. Dans cette expérience, des contributeurs de tous horizons politiques ont été capables de distinguer les sources traditionnelles des sources hyperpartisanes ou diffusant de fausses informations, ce qui suggère que les foules réussissent souvent bien à faire la différence entre les vraies et les fausses informations. Des expériences ont également… montrer que les individus ayant une certaine exposition aux sources d'information peuvent généralement faire la distinction entre les vraies et les fausses informations. D'autres expériences Nous avons constaté que le fait de rappeler l'exactitude d'une publication permettait de résoudre le problème a accru la probabilité que les participants partagent davantage de publications exactes que de publications inexactes. Dans mes propres travaux, j'ai étudié comment les combinaisons d'annotateurs humains, ou de modérateurs de contenu, et d'algorithmes d'intelligence artificielle – ce que l'on appelle l'intelligence à intervention humaine – peut être utilisé pour classer les vidéos liées aux soins de santé sur YouTubeBien qu'il soit impossible de faire visionner chaque vidéo YouTube sur le diabète par des professionnels de santé, il est envisageable d'utiliser une méthode de classification avec intervention humaine. Par exemple, mes collègues et moi avons recruté des experts du domaine pour fournir des retours aux algorithmes d'IA, ce qui permet une meilleure évaluation du contenu des publications et des vidéos. Les entreprises technologiques ont déjà adopté de telles approches. Facebook utilise un système de classification automatisée combinaison de vérificateurs de faits et d'algorithmes de détection de similarités pour filtrer la désinformation liée à la COVID-19. Les algorithmes détecter les doublons et fermer les copies des publications trompeuses.

application de la loi à l'échelle communautaire

Twitter a récemment annoncé que c'était lancement d'un forum communautaire, Birdwatch, pour lutter contre la désinformation. Bien que Twitter n'ait pas fourni de détails sur la manière dont cela sera mis en œuvre, un mécanisme de vérification participatif est prévu votes positifs ou votes négatifs aux publications tendances et en utilisant Les algorithmes des flux d'actualités déclassent le contenu L'analyse des sources non fiables pourrait contribuer à réduire la désinformation. L'idée de base est similaire à Le système de contribution de contenu de Wikipédiaoù des bénévoles déterminent si les publications populaires sont authentiques ou non. Le défi consiste à empêcher les utilisateurs de voter positivement pour des contenus intéressants et captivants mais non vérifiés, notamment lorsqu'il existe des tentatives délibérées de manipulation du voteLes gens peuvent manipuler les systèmes par une action coordonnée, comme dans le récent L'épisode de GameStop sur la manipulation boursièreUn autre problème réside dans la motivation des individus à participer volontairement à un effort collaboratif tel que la détection participative de fausses informations. Or, de tels efforts reposent sur le bénévolat annoter l'exactitude des articles de presse, semblables à Wikipédia, et nécessitent également la participation de organisations tierces de vérification des faits qui peut servir à détecter si une information est trompeuse. Cependant, un modèle de type Wikipédia nécessite mécanismes robustes de gouvernance communautaire afin de garantir que les bénévoles suivent des directives cohérentes lorsqu'ils authentifient et vérifient les informations publiées. Wikipédia a récemment mis à jour ses normes communautaires en particulier pour endiguer la propagation de la désinformationReste à savoir si les grandes entreprises technologiques accepteront volontairement que leurs politiques de modération de contenu soient examinées avec une telle transparenceRecevez nos meilleurs articles sur les sciences, la santé et la technologie. Inscrivez-vous à la newsletter scientifique de The Conversation.]

Les responsabilités des géants de la tech

En définitive, les entreprises de médias sociaux pourraient combiner une approche dépriorisante de l'engagement, des partenariats avec des organes de presse et l'utilisation de l'IA et de la détection participative de la désinformation. Ces approches ont peu de chances de fonctionner isolément et devront être conçues pour être complémentaires. Les actions coordonnées facilitées par les médias sociaux peuvent perturber la société, notamment en matière de sécurité marchés financiers à politiqueLes plateformes technologiques jouent un rôle extrêmement important dans la formation de l'opinion publique, ce qui signifie qu'elles ont une influence considérable responsabilité envers le public pour qu'elles se gouvernent efficacement. Les appels à une réglementation gouvernementale des géants de la tech se multiplient partout dans le monde, y compris aux États-Unis, où un récent sondage Gallup a montré dégradation des attitudes envers les entreprises technologiques et un soutien accru à la réglementation gouvernementale. L'Allemagne nouvelles lois sur la modération des contenus imposer une plus grande responsabilité aux entreprises technologiques quant au contenu partagé sur leurs plateformes. Une multitude de réglementations en Europe visant à réduire les protections en matière de responsabilité dont bénéficient ces plateformes et Des projets de réglementation aux États-Unis visent à restructurer les lois sur Internet Cela entraînera un examen plus approfondi des politiques de modération de contenu des entreprises technologiques. Aux États-Unis, une forme de réglementation gouvernementale est probable. Les géants de la tech ont encore la possibilité de s'engager dans une autorégulation responsable, avant d'être contraints d'agir par les législateurs. Anjana Susarla, Professeur Omura-Saxena d'IA responsable, Université d'État du Michigan Cet article est republié à partir de La conversation sous licence Creative Commons. Lire la suite article original.