你可能在社交媒体上看到过一些图片，它们看起来像是照片和电脑生成的图像的混合体。有些很奇幻——比如“虾耶稣” ——有些乍一看还挺逼真——还记得中小女孩抱着小狗坐在船上的照片吗？
这些都是人工智能垃圾内容的例子，指的是利用人工智能工具生成的低质量或中等质量的内容——视频、图像、音频、文本或其混合形式——通常不太注重准确性。制作这类内容快捷、简便且成本低廉的注意力经济效应，从而挤占那些可能更有价值的高质量内容。
人工智能垃圾的多种形式
《卫报》在2025年7月发表了一篇分析文章，探讨了人工智能生成的粗制滥造的内容如何占据YouTube增长最快的频道。记者发现，在增长最快的100个频道中，有9个频道的内容都是人工智能生成的，例如僵尸足球和猫咪肥皂剧。
正在听Spotify？对那个新乐队“天鹅绒日落”（The Velvet Sundown）要持怀疑态度，他们带着一个颇具创意的背景故事出现在流媒体平台上，但歌曲却平庸无奇。这很可能是人工智能生成的。.
在许多情况下，人们提交的 AI 垃圾作品仅仅足以吸引和留住用户的注意力，从而使提交者能够从流媒体和基于观看次数的内容货币化平台获利。.
人工智能生成内容的便捷性使得人们可以向出版物投稿低质量文章。《克拉克世界》（Clarkesworld）是一家接受用户投稿并向撰稿人支付稿酬的在线科幻杂志，由于收到大量人工智能生成的文章，该杂志于2024年停止接受新的投稿。.
这种情况并非只发生在这些地方——就连维基百科也面临着人工智能生成的低质量内容带来的挑战，这给其整个社区审核系统带来了巨大压力。如果维基百科无法成功移除这些内容，人们赖以生存的关键信息资源将面临风险。.
人工智能的危害
人工智能生成的垃圾内容也正逐渐渗透到人们的媒体消费习惯中。在飓风海伦期间，乔·拜登总统的反对者引用人工智能生成的图像——一个流离失所的孩子抱着一只小狗——作为政府应对灾难不力的证据。即使内容明显是人工智能生成的，它仍然可能被用来传播虚假信息，因为它可以蒙蔽一些匆匆一瞥的人。.
人工智能生成的低劣内容也会损害艺术家的利益，导致他们失业、经济损失，并挤占真正创作者的内容空间。驱动社交媒体消费的算法往往不会对这些低质量的人工智能生成内容进行区分，这导致原本依靠网络内容谋生的整整一批创作者流离失所。.
只要启用了举报功能，你就可以举报有害或有问题的内容。在某些平台上，你还可以为内容添加社区注释，提供背景信息。对于有害内容，你可以尝试举报。.
人工智能不仅迫使我们警惕深度伪造和“虚假”的社交媒体账号，如今还导致大量垃圾内容充斥我们的媒体环境。至少它有个朗朗上口的名字。.
亚当·内梅罗夫昆尼皮亚克大学
负责学习、教学和技术创新事务的助理教务长本文经知识共享许可协议The Conversation 原文。
