Você provavelmente já se deparou com imagens em suas redes sociais que parecem uma mistura de fotografias e computação gráfica. Algumas são fantásticas – como o Camarão Jesus – e outras são verossímeis à primeira vista – lembra da menininha segurando um cachorrinho em um barco durante uma enchente?
Esses são exemplos de conteúdo de baixa qualidade gerado por IA — vídeos, imagens, áudio, texto ou uma combinação desses elementos — criado com ferramentas de IA, muitas vezes com pouca preocupação com a precisão. É rápido, fácil e barato produzir esse tipo de conteúdo. Os produtores desse tipo de conteúdo geralmente o publicam nas redes sociais para explorar a economia da atenção na internet, substituindo materiais de maior qualidade que poderiam ser mais úteis.
A imprecisão da inteligência artificial tem aumentado nos últimos anos. Como o termo "imprecisão" indica, isso geralmente não é bom para quem usa a internet.
As muitas formas da IA desleixada
Em julho de 2025, o jornal The Guardian publicou uma análise que examina como o conteúdo gerado por IA está dominando os canais de crescimento mais rápido do YouTube. Os jornalistas descobriram que nove dos 100 canais de crescimento mais rápido apresentam conteúdo gerado por IA, como futebol com zumbis e novelas com gatos.
Ouvindo Spotify? Desconfie daquela nova banda, The Velvet Sundown, que apareceu no serviço de streaming com uma história criativa e músicas derivadas. É tudo criação de inteligência artificial.
Em muitos casos, as pessoas enviam código de IA de baixa qualidade, apenas o suficiente para atrair e manter a atenção dos usuários, permitindo que o autor lucre com plataformas que monetizam conteúdo baseado em streaming e visualizações.
A facilidade de gerar conteúdo com IA permite que as pessoas enviem artigos de baixa qualidade para publicações. A Clarkesworld, uma revista online de ficção científica que aceita contribuições de usuários e paga aos colaboradores, parou de aceitar novas submissões em 2024 devido à enxurrada de textos gerados por IA que estava recebendo.
Esses não são os únicos lugares onde isso acontece — até mesmo a Wikipédia está lidando com conteúdo de baixa qualidade gerado por IA, o que sobrecarrega todo o seu sistema de moderação da comunidade. Se a organização não conseguir removê-lo, uma importante fonte de informação da qual as pessoas dependem estará em risco.
Prejuízos da IA desleixada
Conteúdo gerado por IA de baixa qualidade também está se infiltrando no consumo de mídia das pessoas. Durante o furacão Helene, opositores do presidente Joe Biden citaram imagens geradas por IA de uma criança desabrigada segurando um filhote de cachorro como prova da suposta má gestão da resposta ao desastre por parte do governo. Mesmo quando é óbvio que o conteúdo foi gerado por IA, ele ainda pode ser usado para espalhar desinformação, enganando algumas pessoas que o visualizam rapidamente.
A baixa qualidade do conteúdo gerado por IA também prejudica os artistas, causando perdas financeiras e de empregos, além de ofuscar o conteúdo produzido por criadores reais. A distribuição desse conteúdo de qualidade inferior, gerado por IA, muitas vezes não é levada em consideração pelos algoritmos que regem o consumo nas redes sociais, e isso acaba deslocando classes inteiras de criadores que antes ganhavam a vida com conteúdo online.
Conteúdo de nossos parceiros
Onde quer que esteja habilitado, você pode sinalizar conteúdo prejudicial ou problemático. Em algumas plataformas, você pode adicionar notas da comunidade ao conteúdo para fornecer contexto. Para conteúdo prejudicial, você pode tentar denunciá-lo.
Além de nos obrigar a ficar em alerta contra deepfakes e contas "inautênticas" nas redes sociais, a IA agora está gerando uma montanha de conteúdo degradante em nosso ambiente midiático. Pelo menos existe um nome chamativo para isso.
Adam Nemeroff , Vice-Reitor Adjunto para Inovações em Aprendizagem, Ensino e Tecnologia, Universidade Quinnipiac.
Este artigo foi republicado do The Conversation sob uma licença Creative Commons. Leia o artigo original .
