你可能在社交媒体上看到过一些看起来像照片和电脑绘图混合体的图片。有些图片非常奇幻——比如“虾耶稣” ——而有些则乍一看就让人觉得可信——还记得洪水期间在船上抱着小狗的小女孩吗？
这些都是AI垃圾内容的例子，它们用AI工具创作，质量低到中等，内容包括视频、图片、音频、文本或混合内容，通常不太注重准确性。制作这类内容既快捷、简单又便宜。AI垃圾内容的制作者通常会将其发布到社交媒体上，以利用注意力经济效应，从而取代那些可能更有帮助的高质量内容。
AI 垃圾的多种形式
《卫报》于2025年7月发表了一篇分析报告，探讨了人工智能如何接管YouTube增长最快的频道。记者发现，增长最快的100个频道中，有9个都包含人工智能生成的内容，例如僵尸足球和猫咪肥皂剧。
还在听 Spotify 吗？对这个新乐队 The Velvet Sundown 持怀疑态度吧。它出现在这家流媒体服务上，有着充满创意的背景故事和衍生曲目。而且，它是由人工智能生成的。
在许多情况下，人们提交的 AI 作品刚好足以吸引并留住用户的注意力，从而允许提交者从将流媒体和基于观看的内容货币化的平台中获利。
利用人工智能生成内容的便利性，使得人们能够向出版物提交低质量的文章。Clarkesworld 是一家在线科幻杂志，接受用户投稿并向投稿人支付稿费。由于收到大量由人工智能生成的文章，该杂志于 2024 年停止接受新投稿。
这种情况并非唯一发生的地方——就连维基百科也在处理人工智能生成的低质量内容，这给其整个社区审核系统带来了巨大压力。如果维基百科无法成功删除这些内容，人们赖以生存的关键信息资源将面临风险。
人工智能的弊端
人工智能驱动的垃圾内容也正涌入人们的媒体饮食。在飓风海伦期间，总统乔·拜登的反对者引用了人工智能生成的流离失所儿童抱着小狗的图像，作为政府应对灾难不当的证据。即使内容明显是由人工智能生成的，它仍然可能被用来传播虚假信息，欺骗一些浏览过的人。
人工智能的劣化还会损害艺术家的利益，造成失业和经济损失，并挤占真正创作者创作的内容。这些低质量的人工智能生成内容的投放往往不受驱动社交媒体消费的算法的识别，并取代了之前依靠在线内容谋生的创作者群体。
无论在哪里启用此功能，您都可以举报有害或有问题的内容。在某些平台上，您可以为内容添加社区注释以提供背景信息。对于有害内容，您可以尝试举报。
人工智能不仅迫使我们警惕深度伪造和“虚假”社交媒体账号，现在还导致大量垃圾信息滋生，破坏了我们的媒体环境。至少它有个朗朗上口的名字。
亚当·内梅罗夫 (Adam Nemeroff) 昆尼皮亚克大学
学习、教学和技术创新助理教务长。本文转载自《对话》(The Conversation) ，并遵循知识共享许可协议。阅读原文。
