降低社交媒体信息流中两极分化内容的可见度，可以显著降低党派间的敌意。为了得出这一结论，我和我的同事开发了一种方法，可以改变用户信息流的排名，而此前只有社交媒体公司才能做到这一点。
重新调整社交媒体信息流的排名，以减少接触表达反民主态度和党派敌意的帖子，影响了人们的情绪以及他们对持相反政治观点的人的看法。
我是一名研究社交计算、人工智能和网络技术的计算机科学家只有社交媒体平台才能修改其算法，我们开发并发布了一款开源网络工具，该工具允许我们实时地对X平台（原Twitter）上经用户同意的参与者的信息流进行重新排序。
我们借鉴社会科学理论，运用大型语言模型来识别可能引发舆论两极分化的帖子，例如鼓吹政治暴力或呼吁监禁反对党成员的帖子。这些帖子并未被删除，而是被降低了排名，用户需要向下滚动才能看到它们。这减少了用户看到的此类帖子的数量。
我们在2024年美国总统大选前几周进行了为期10天的实验。我们发现，减少接触两极分化的内容能够显著改善参与者对反对党人士的感受，并降低他们在浏览信息流时的负面情绪。重要的是，这些效果在不同政治倾向的人群中都相似，这表明无论用户属于哪个政党，该干预措施都能使他们受益。
为什么这很重要
人们普遍存在一种误解，认为必须在两个极端之间做出选择：基于互动度的算法或纯粹按时间顺序排列的信息流。实际上，根据优化目标的不同，存在着一系列中间方案。
信息流算法通常经过优化，旨在吸引你的注意力，因此，它们会对你的态度、情绪以及对他人的看法。正因如此，我们迫切需要一些框架，使独立研究人员能够在真实条件下测试新的方法。
我们的工作为未来指明了方向，展示了研究人员如何大规模地研究和构建替代算法的原型，并表明，得益于大型语言模型，平台终于拥有了检测可能影响用户民主态度的两极分化内容的技术手段。
该领域还有哪些其他研究正在进行？
测试替代信息流算法对直播平台的影响很困难，此类研究的数量直到最近才有所增加。
例如，近期的一项合作研究发现，将算法推送方式改为时间顺序并不足以对社会极化产生影响。“亲社会排名挑战赛”则探索了跨多个平台的排名替代方案，以促进有益的社会结果。
与此同时，大型语言模型开发的进步使得我们能够以更丰富的方式模拟人们的思维、感受以及与他人互动的方式。我们看到，人们越来越希望赋予用户更多控制权，允许他们决定哪些原则应该指导他们在信息流中看到的内容——例如多元价值观的亚历山大图书馆和Bonsai 信息流重排序系统Bluesky和X在内的社交媒体平台也在朝着这个方向发展。
接下来会发生什么？
这项研究是我们朝着设计能够感知其潜在社会影响的算法迈出的第一步。许多问题仍有待解答。
我们计划研究这些干预措施的长期效果，并测试新的排名目标，以应对其他影响网络福祉的风险，例如心理健康和生活满意度。未来的工作将探索如何平衡文化背景、个人价值观和用户控制等多重目标，从而创建更有利于健康社交和公民互动的网络空间。
研究简报是对有趣的学术研究的简要介绍。
蒂齐亚诺·皮卡尔迪约翰·霍普金斯大学
计算机科学系助理教授经知识共享许可协议转载自The Conversation 原文。
