Vous avez probablement déjà vu défiler sur vos réseaux sociaux des images qui ressemblent à un mélange entre des photographies et des images de synthèse. Certaines sont fantastiques – pensez à « Jésus-crevettes » – et d'autres sont crédibles au premier coup d'œil – vous souvenez-vous de la petite fille serrant un chiot dans une barque pendant une inondation ?
Voici des exemples de contenu de piètre qualité généré par l'IA : vidéos, images, audio, textes ou un mélange de ces éléments, créés à l'aide d'outils d'IA, souvent sans grand souci de précision. Ce type de contenu est rapide, facile et peu coûteux à produire. Ses créateurs le diffusent généralement sur les réseaux sociaux pour exploiter la monétisation de l'attention sur Internet, au détriment de contenus de meilleure qualité et potentiellement plus utiles.
La qualité médiocre de l'IA a augmenté ces dernières années. Comme le terme « qualité médiocre » l'indique, cela est généralement préjudiciable aux internautes.
Les nombreuses formes de la médiocrité de l'IA
En juillet 2025, le Guardian a publié une analyse examinant comment les contenus de piètre qualité générés par l'IA envahissent les chaînes YouTube à la croissance la plus rapide. Les journalistes ont constaté que neuf des cent chaînes à la croissance la plus rapide proposent des contenus générés par l'IA, comme des matchs de football avec des zombies ou des feuilletons avec des chats.
Vous écoutez Spotify ? Méfiez-vous de ce nouveau groupe, The Velvet Sundown, apparu sur la plateforme avec une histoire originale et des morceaux sans originalité. C'est du pur génie de l'intelligence artificielle.
Dans de nombreux cas, les gens soumettent des contenus générés par l'IA de qualité médiocre, juste assez bons pour attirer et retenir l'attention des utilisateurs, permettant ainsi à l'auteur de ces contenus de tirer profit des plateformes qui monétisent le contenu en streaming et basé sur le visionnage.
La facilité avec laquelle l'IA génère du contenu permet à certains de soumettre des articles de piètre qualité à des publications. Clarkesworld, un magazine de science-fiction en ligne qui accepte les contributions des utilisateurs et rémunère ses auteurs, a cessé d'accepter de nouvelles soumissions en 2024 face à l'afflux de textes générés par l'IA qu'il recevait.
Ce phénomène ne se limite pas à ces cas-là : même Wikipédia est confrontée à des contenus de faible qualité générés par l’IA, ce qui met à rude épreuve son système de modération communautaire. Si l’organisation ne parvient pas à les supprimer, une ressource d’information essentielle pour la population est menacée.
Les méfaits de l'IA
Les contenus de mauvaise qualité générés par l'IA s'infiltrent de plus en plus dans les médias que nous consommons. Lors de l'ouragan Helene, les opposants au président Joe Biden ont utilisé des images générées par IA montrant un enfant déplacé serrant un chiot dans ses bras comme preuve de la prétendue mauvaise gestion de la catastrophe par son administration. Même lorsqu'il est évident qu'un contenu est généré par IA, il peut tout de même servir à diffuser de la désinformation en trompant certaines personnes qui n'y jettent qu'un coup d'œil.
Les contenus de piètre qualité générés par l'IA nuisent également aux artistes en entraînant des pertes d'emplois et financières et en occultant les créations de véritables artistes. Le placement de ces contenus de moindre qualité, générés par l'IA, échappe souvent aux algorithmes qui régissent la consommation sur les réseaux sociaux, et il marginalise des catégories entières de créateurs qui vivaient auparavant de leurs contenus en ligne.
Contenu de nos partenaires
Là où cette fonctionnalité est activée, vous pouvez signaler les contenus nuisibles ou problématiques. Sur certaines plateformes, vous pouvez ajouter des notes de la communauté pour contextualiser le contenu. Pour les contenus nuisibles, vous pouvez tenter de les signaler.
En plus de nous contraindre à nous méfier des deepfakes et des faux comptes sur les réseaux sociaux, l'IA engendre désormais une quantité considérable de contenus de mauvaise qualité qui dégradent notre environnement médiatique. Au moins, on a un nom accrocheur pour ça.
Adam Nemeroff , vice-doyen adjoint à l'innovation pédagogique et technologique de l'université Quinnipiac
Cet article est republié de The Conversation sous licence Creative Commons. Lire l' article original .
