Se as grandes empresas de tecnologia tiverem a vontade, aqui estão algumas maneiras pelas quais a pesquisa mostra que a autorregulamentação pode funcionar

Governos e observadores em todo o mundo têm repetidamente.. levantaram preocupações sobre o poder de monopólio das grandes empresas de tecnologia e o papel que as empresas desempenham na disseminação de informações errôneas. Em resposta, as grandes empresas de tecnologia tentaram se antecipar às regulamentações por meio de autorregulando-seCom o anúncio do Facebook de que seu O Conselho de Supervisão tomará uma decisão A questão sobre se o ex-presidente Donald Trump pode recuperar o acesso à sua conta após a suspensão pela empresa, e outras ações de alto perfil tomadas por empresas de tecnologia para combater a desinformação, reacenderam o debate sobre como deveria ser a autorregulamentação responsável por parte dessas empresas. Pesquisas apontam três maneiras principais pelas quais a autorregulamentação nas redes sociais pode funcionar: despriorizar o engajamento, rotular a desinformação e recorrer à verificação colaborativa da precisão das informações.

Despriorizar o engajamento

As plataformas de mídia social são construídas para interação constante, e As empresas criam os algoritmos que escolhem quais publicações as pessoas veem para manter seus usuários engajados. Estudos mostram As informações falsas se espalham mais rápido do que a verdade nas redes sociais, muitas vezes porque as pessoas encontram Notícias que despertam emoções tendem a ser mais envolventesO que aumenta a probabilidade de eles lerem, reagirem e compartilharem essas notícias. Esse efeito é amplificado por meio de recomendações algorítmicas. Meu próprio trabalho Mostra que as pessoas interagem mais com vídeos do YouTube sobre diabetes quando os vídeos são menos informativos. A maioria das grandes plataformas de tecnologia também funcionam sem os porteiros ou filtros que governam as fontes tradicionais de notícias e informações. Seus vastos acervos de dados demográficos detalhados e precisos dar-lhes a capacidade de “microsegmentação” significa um pequeno número de usuáriosIsso, combinado com a amplificação algorítmica de conteúdo projetado para aumentar o engajamento, pode ter uma série de consequências negativas para a sociedade, incluindo supressão digital de eleitores, a seleção de minorias para fins de desinformação e publicidade discriminatóriaReduzir a prioridade do engajamento nas recomendações de conteúdo deve diminuir o “efeito "toca do coelho" das redes sociais, onde as pessoas assistem a postagem após postagem, vídeo após vídeo. O design algorítmico de plataformas de grandes empresas de tecnologia Prioriza conteúdo novo e microsegmentado, o que fomenta uma proliferação quase descontrolada de desinformação. O CEO da Apple, Tim Cook, resumiu recentemente o problema"Em um momento de desinformação desenfreada e teorias da conspiração alimentadas por algoritmos, não podemos mais ignorar uma teoria da tecnologia que afirma que toda interação é válida – quanto mais longa, melhor – e tudo com o objetivo de coletar o máximo de dados possível."

Informações incorretas sobre rótulos

As empresas de tecnologia poderiam adotar um sistema de rotulagem de conteúdo para identificar se uma notícia é verificada ou não. Durante as eleições, o Twitter anunciou um política de integridade cívica sob o qual tweets rotulados como contestados ou enganosos não seriam recomendado por seus algoritmosPesquisas mostram que a rotulagem funciona. Estudos sugerem que Aplicar rótulos a publicações de veículos de comunicação controlados pelo Estado, como as do canal de mídia russo RT, poderiam mitigar os efeitos da desinformação. Em um experimento, pesquisadores contrataram trabalhadores temporários anônimos para rotular postagens confiáveisAs postagens foram posteriormente exibidas no Facebook com rótulos anotados pelos trabalhadores da plataforma de crowdsourcing. Nesse experimento, trabalhadores de todo o espectro político conseguiram distinguir entre fontes tradicionais e fontes hiperpartidárias ou de notícias falsas, sugerindo que as multidões geralmente são eficazes em diferenciar notícias verdadeiras de falsas. Experimentos também mostram que indivíduos com alguma exposição a fontes de notícias geralmente consegue distinguir entre notícias verdadeiras e falsas. Outros experimentos Descobriu-se que fornecer um lembrete sobre a precisão de uma postagem aumentou a probabilidade de os participantes compartilharem postagens precisas com mais frequência do que postagens imprecisas. Em meu próprio trabalho, estudei como combinações de anotadores humanos, ou moderadores de conteúdo, e algoritmos de inteligência artificial – o que é chamado de inteligência com interação humana – Pode ser usado para classificar vídeos relacionados à saúde no YouTubeEmbora não seja viável que profissionais da saúde assistam a todos os vídeos do YouTube sobre diabetes, é possível ter um método de classificação com intervenção humana. Por exemplo, meus colegas e eu recrutamos especialistas no assunto para fornecer feedback aos algoritmos de IA, o que resulta em avaliações melhores do conteúdo de postagens e vídeos. Empresas de tecnologia já empregam abordagens semelhantes. O Facebook usa um sistema de classificação baseado em IA combinação de verificadores de fatos e algoritmos de detecção de similaridade Para filtrar informações falsas relacionadas à COVID-19. Os algoritmos detectar duplicatas e fechar cópias de publicações enganosas.

aplicação da lei com base na comunidade

O Twitter anunciou recentemente que está Lançamento de um fórum comunitário, BirdwatchPara combater a desinformação, o Twitter não forneceu detalhes sobre como isso será implementado, mas um mecanismo de verificação colaborativa está sendo adicionado votos positivos ou votos negativos para publicações em alta e usando algoritmos de feeds de notícias para reduzir a classificação do conteúdo A desinformação proveniente de fontes não confiáveis ​​pode ajudar a reduzir a desinformação. A ideia básica é semelhante a.. Sistema de contribuição de conteúdo da Wikipédia, onde voluntários classificam se as postagens em alta são reais ou falsas. O desafio é impedir que as pessoas votem positivamente em conteúdo interessante e atraente, mas não verificado, principalmente quando há esforços deliberados para manipular a votaçãoAs pessoas podem manipular o sistema por meio de ação coordenada, como no recente Episódio de manipulação de ações da GameStopOutro problema é como motivar as pessoas a participarem voluntariamente de um esforço colaborativo, como a detecção de notícias falsas por meio de crowdsourcing. Esses esforços, no entanto, dependem de voluntários anotando a precisão de artigos de notícias, semelhante à Wikipédia, e também requer a participação de organizações de verificação de fatos de terceiros que pode ser usado para detectar se uma notícia é enganosa. No entanto, um modelo no estilo da Wikipédia precisa mecanismos robustos de governança comunitária Para garantir que os voluntários sigam diretrizes consistentes ao autenticar e verificar a veracidade das publicações, a Wikipédia atualizou recentemente seus padrões da comunidade para conter a disseminação de informações falsasResta saber se as grandes empresas de tecnologia permitirão voluntariamente que suas políticas de moderação de conteúdo sejam revisadas com tanta transparênciaConfira nossas melhores matérias sobre ciência, saúde e tecnologia. Inscreva-se na newsletter de ciência do The Conversation.]

Responsabilidades das grandes empresas de tecnologia

Em última análise, as empresas de redes sociais poderiam usar uma combinação de menor prioridade ao engajamento, parcerias com organizações de notícias e detecção de desinformação por meio de inteligência artificial e crowdsourcing. É improvável que essas abordagens funcionem isoladamente e precisarão ser projetadas para atuarem em conjunto. Ações coordenadas facilitadas pelas redes sociais podem impactar a sociedade, desde.. mercados financeiros para políticaAs plataformas tecnológicas desempenham um papel extraordinariamente importante na formação da opinião pública, o que significa que elas têm um grande impacto responsabilidade para com o público para se autogovernarem de forma eficaz. Os apelos por regulamentação governamental das grandes empresas de tecnologia estão crescendo em todo o mundo, inclusive nos EUA, onde uma pesquisa recente da Gallup mostrou piora das atitudes em relação às empresas de tecnologia e maior apoio à regulamentação governamental. Da Alemanha novas leis sobre moderação de conteúdo Impor maior responsabilidade às empresas de tecnologia pelo conteúdo compartilhado em suas plataformas. Uma série de regulamentações na Europa visando reduzir as proteções de responsabilidade de que gozam essas plataformas e Propostas de regulamentação nos EUA visam reestruturar as leis da internet Isso trará maior escrutínio às políticas de moderação de conteúdo das empresas de tecnologia. Alguma forma de regulamentação governamental é provável nos EUA. As grandes empresas de tecnologia ainda têm a oportunidade de se engajarem em uma autorregulamentação responsável – antes que sejam obrigadas a agir pelos legisladores. Anjana Susarla, Professor Omura-Saxena de IA Responsável, Universidade Estadual de Michigan Este artigo foi republicado de A Conversa sob uma licença Creative Commons. Leia o artigo original.