Si las grandes tecnológicas tienen la voluntad, la investigación demuestra que la autorregulación puede funcionar

Los gobiernos y observadores de todo el mundo han reiterado: Expresó su preocupación por el poder monopolístico de las grandes empresas tecnológicas y el papel que desempeñan las empresas en la difusión de desinformación. En respuesta, las grandes tecnológicas han intentado adelantarse a las regulaciones mediante regulandose a sí mismosCon el anuncio de Facebook de que su La Junta de Supervisión tomará una decisión Sobre si el expresidente Donald Trump puede recuperar el acceso a su cuenta tras la suspensión de la compañía, esta y otras medidas destacadas de las empresas tecnológicas para abordar la desinformación han reavivado el debate sobre cómo debería ser la autorregulación responsable por parte de las empresas tecnológicas. Las investigaciones muestran tres maneras clave en que la autorregulación en redes sociales puede funcionar: restar prioridad a la interacción, etiquetar la desinformación y recurrir a la verificación de la precisión mediante la colaboración colectiva.

Despriorizar el compromiso

Las plataformas de redes sociales están diseñadas para interacción constante, y Las empresas diseñan los algoritmos que eligen qué publicaciones ve la gente para mantener a sus usuarios interesados. Los estudios demuestran Las falsedades se propagan más rápido que la verdad en las redes sociales, a menudo porque la gente encuentra Noticias que provocan emociones para ser más atractivas, lo que aumenta la probabilidad de que lean, reaccionen y compartan dichas noticias. Este efecto se amplifica mediante recomendaciones algorítmicas. Mi propio trabajo Muestra que las personas interactúan con mayor frecuencia con videos de YouTube sobre diabetes cuando estos son menos informativos. La mayoría de las plataformas de las grandes tecnológicas.. También funcionan sin guardianes ni filtros que rigen las fuentes tradicionales de noticias e información. Sus vastos tesoros de datos demográficos precisos y detallados darles la capacidad de “microobjetivo” de pequeños números de usuariosEsto, combinado con la amplificación algorítmica del contenido diseñado para impulsar la participación, puede tener una serie de consecuencias negativas para la sociedad, incluyendo supresión digital de votantes, La persecución de minorías para la desinformación y segmentación publicitaria discriminatoriaDarle menos prioridad a la participación en las recomendaciones de contenido debería reducir el “El efecto “madriguera de conejo” de las redes sociales, donde la gente mira publicación tras publicación, video tras video. El Diseño algorítmico de las plataformas de las grandes tecnológicas Prioriza el contenido nuevo y microdirigido, lo que fomenta una proliferación casi descontrolada de desinformación. El director ejecutivo de Apple, Tim Cook, resumió recientemente el problema:“En un momento de desinformación desenfrenada y teorías conspirativas impulsadas por algoritmos, ya no podemos hacer la vista gorda ante una teoría tecnológica que dice que toda interacción es buena, cuanto más larga, mejor, y todo con el objetivo de recopilar la mayor cantidad de datos posible”

Información errónea sobre las etiquetas

Las empresas tecnológicas podrían adoptar un sistema de etiquetado de contenido para identificar si una noticia está verificada o no. Durante las elecciones, Twitter anunció un política de integridad cívica bajo el cual los tuits etiquetados como controvertidos o engañosos no serían recomendado por sus algoritmosLas investigaciones demuestran que el etiquetado funciona. Los estudios sugieren que Aplicar etiquetas a publicaciones de medios de comunicación controlados por el Estado, como las del canal de medios ruso RT, podrían mitigar los efectos de la desinformación. En un experimento, los investigadores contrataron a trabajadores temporales anónimos Para etiquetar publicaciones confiablesLas publicaciones se mostraron posteriormente en Facebook con etiquetas anotadas por los trabajadores de crowdsourcing. En ese experimento, los trabajadores de crowdsourcing de todo el espectro político pudieron distinguir entre fuentes convencionales y fuentes hiperpartidistas o noticias falsas, lo que sugiere que las multitudes suelen distinguir bien entre noticias reales y falsas. Los experimentos también muestran que las personas con cierta exposición a fuentes de noticias Generalmente pueden distinguir entre noticias reales y falsas. Otros experimentos Descubrí que proporcionar un recordatorio sobre la precisión de una publicación aumentó la probabilidad de que los participantes compartieran publicaciones precisas en mayor medida que las inexactas. En mi propio trabajo, he estudiado cómo las combinaciones de anotadores humanos, o moderadores de contenido, y algoritmos de inteligencia artificial (lo que se conoce como inteligencia humana en el circuito) Se puede utilizar para clasificar vídeos relacionados con la atención médica en YouTubeSi bien no es factible que los profesionales médicos vean todos los videos de YouTube sobre diabetes, sí es posible contar con un método de clasificación con participación humana. Por ejemplo, mis colegas y yo reclutamos a expertos en la materia para que brindaran retroalimentación a los algoritmos de IA, lo que resulta en mejores evaluaciones del contenido de publicaciones y videos. Las empresas tecnológicas ya han empleado estos enfoques. Facebook utiliza un combinación de verificadores de hechos y algoritmos de detección de similitudes para filtrar la desinformación relacionada con la COVID-19. Los algoritmos Detectar duplicaciones y cerrar copias de publicaciones engañosas.

Aplicación de la ley basada en la comunidad

Twitter anunció recientemente que es Lanzamiento de un foro comunitario, Birdwatch, para combatir la desinformación. Si bien Twitter no ha proporcionado detalles sobre cómo se implementará esto, se ha añadido un mecanismo de verificación colectiva votos a favor o en contra a publicaciones de tendencia y uso algoritmos de noticias para rebajar el contenido de fuentes no confiables podría ayudar a reducir la desinformación. La idea básica es similar a Sistema de contribución de contenido de Wikipedia, donde voluntarios clasifican si las publicaciones en tendencia son reales o falsas. El desafío es evitar que la gente vote positivamente contenido interesante y atractivo, pero no verificado, especialmente cuando hay esfuerzos deliberados para manipular la votaciónLa gente puede manipular los sistemas mediante una acción coordinada, como en el reciente Episodio de aumento de acciones de GameStopOtro problema es cómo motivar a la gente a participar voluntariamente en un esfuerzo colaborativo como la detección colectiva de noticias falsas. Sin embargo, estos esfuerzos dependen de voluntarios Anotando la precisión de los artículos periodísticos, similar a Wikipedia, y también requiere la participación de organizaciones de verificación de datos de terceros que puede utilizarse para detectar si una noticia es engañosa. Sin embargo, un modelo al estilo de Wikipedia necesita mecanismos robustos de gobernanza comunitaria Para garantizar que los voluntarios individuales sigan pautas consistentes al autenticar y verificar publicaciones. Wikipedia actualizó recientemente sus estándares comunitarios específicamente Para detener la propagación de desinformaciónOtra cuestión es si las grandes empresas tecnológicas permitirán voluntariamente que sus políticas de moderación de contenidos se revisen de forma tan transparenteObtenga nuestras mejores historias sobre ciencia, salud y tecnología. Suscríbete al boletín científico de The Conversation.]

Las responsabilidades de las grandes tecnológicas

En última instancia, las empresas de redes sociales podrían usar una combinación de priorizar la interacción, asociarse con organizaciones de noticias y usar inteligencia artificial y la detección de desinformación colaborativa. Es poco probable que estos enfoques funcionen de forma aislada y deberán diseñarse para funcionar en conjunto. Las acciones coordinadas facilitadas por las redes sociales pueden perturbar la sociedad, desde mercados financieros a políticaLas plataformas tecnológicas desempeñan un papel extraordinariamente importante en la formación de la opinión pública, lo que significa que tienen una responsabilidad hacia el público para gobernarse eficazmente. Las demandas de regulación gubernamental de las grandes tecnológicas están creciendo en todo el mundo, incluso en EE. UU., donde una encuesta reciente de Gallup mostró Empeoramiento de las actitudes hacia las empresas tecnológicas y un mayor apoyo a la regulación gubernamental. Alemania Nuevas leyes sobre moderación de contenidos impulsar una mayor responsabilidad en las empresas tecnológicas por el contenido compartido en sus plataformas. Una serie de regulaciones en Europa destinadas a reducir las protecciones de responsabilidad de las que disfrutan estas plataformas y Regulaciones propuestas en Estados Unidos destinadas a reestructurar las leyes de Internet Se intensificará el escrutinio de las políticas de moderación de contenido de las empresas tecnológicas. Es probable que se implemente algún tipo de regulación gubernamental en EE. UU. Las grandes tecnológicas aún tienen la oportunidad de autorregularse responsablemente, antes de que los legisladores las obliguen a actuar. Anjana Susarla, Profesor Omura-Saxena de IA Responsable, Universidad Estatal de Michigan Este artículo se vuelve a publicar desde La conversación bajo una licencia Creative Commons. Lea el artículo original.