上周末，Anthropic首席执行官达里奥·阿莫迪呼吁包括他所在公司在内的人工智能（AI）公司 放慢研发速度。竞争对手OpenAI和xAI的负责人萨姆·奥特曼和埃隆·马斯克对此 表示赞同。
此举反映了 整个人工智能行业 乃至更广泛领域对快速发展的新型系统所带来的危险的担忧。近期一些备受瞩目的事件，例如OpenAI人工智能代理 入侵其他公司 和 劫持公共网站 ，表明现有系统可能突破安全限制——而且功能更强大的系统正在研发中。
人工智能安全问题还面临着安全性和性能之间的矛盾，这进一步加剧了问题的复杂性。企业不愿为了安全而限制模型的性能，以免被竞争对手抢占先机。美国总统唐纳德·特朗普也 拒绝了放缓人工智能发展的呼吁，同样是出于对中国竞争的担忧。
这意味着，正如阿莫迪所说，任何旨在“加快能力提升速度，以便风险防范有时间跟上”的成功努力，都需要竞争公司和国家之间的密切合作。.
风险最小化
新技术往往带来新的风险和新的挑战。政府、研究人员和企业通常都能找到应对这些风险的方法。.
1975年，阿西洛马会议探讨了当时新兴的DNA技术，为确保研究不会超越我们对安全性和风险的理解做出了巨大贡献。同样，在20世纪90年代，美国政府也试图就限制密码学和计算机安全达成共识。
人工智能领域的情况还有个特殊之处：这个行业正处于淘金热潮之中。科学界的竞争对手或许能够克制自己，但商业上的竞争对手却很少会手下留情。.
自我监管在竞争压力下失效的先例比比皆是。例如，在 波音737 Max空难 ，为了追赶竞争对手空客，波音公司隐瞒了Max机型的缺陷，最终酿成惨剧。
在人工智能竞赛中，竞争的激烈程度甚至更高。Anthropologie和OpenAI都在竞相确立市场主导地位，然后再寻求上市，这可能筹集数百亿甚至数千亿美元的资金。
在国家层面，风险就更高了， 美国 和 中国 都希望利用这项新技术来获取 地缘政治优势。
暂停的政治意义
阿莫迪提出的放缓方案围绕三步计划展开：引入 独立的第三方安全审查机构、在民主国家内部建立协调一致的行业安全标准，并最终达成全球协议。这将包括严格限制向不同意优先考虑人工智能安全的公司和国家出口人工智能芯片。
尽管 Anthropologie 和 OpenAI 过去曾为了争夺市场主导地位而互相起诉、公开侮辱和互相打压，但双方已经就该计划的第一阶段达成了一致。.
尽管近期备受瞩目的黑客攻击事件可能迫使领先的人工智能公司采取行动，但暂停或放缓研发进程或许对它们有利。一方面，这可以延缓诸如美国参议员伯尼·桑德斯提出的《 禁止人工智能超级智能法案》。另一方面，通过制定昂贵的安全标准和限制芯片出口，可以阻止规模较小的竞争对手——尤其是像DeepSeek和阿里巴巴这样的中国公司——迎头赶上。
暂停研发还可以让不堪重负的前沿实验室有机会恢复元气，重新集中精力追求 利润而不是研发进展。
这些人工智能实验室投入巨资开发现有模型，这些资金必须偿还。与此同时，由于 高质量的训练数据越来越难找，发展进程也遇到了阻碍；此外，构建 庞大数据中心基础设施 本身就是一项挑战。
协调一致的安全暂停措施可以成为人工智能模型性能停滞不前的一个方便的公开理由。.
可以做些什么
确保人工智能安全并非易事。软件治理向来困难重重，过去对 加密软件进行立法的 就证明了这一点。
然而，与其他软件不同，人工智能依赖于相对稀缺的物理硬件。它需要先进的硅芯片以及为其供电所需的大型数据中心。.
这正是政府真正拥有影响力的地方。如果政府能够拿出立法意愿，它们就可以监控和控制人工智能的发展。.
与此同时，企业和政府可以采取一些措施，最大限度地降低我们所有人遭受人工智能危害的风险。这应包括确保关键安全基础设施——例如电网、供水系统和军事系统——不仅与人工智能隔离，甚至可能完全与互联网隔离。.
责任问题也至关重要。不仅人工智能系统的用户会因人工智能辅助的行为而面临法律风险， 开发人工智能系统的人员也同样需要承担责任。
从根本上讲，人工智能造成的危害——即使是“自主”人工智能系统造成的危害——并非抽象的技术副产品，而是人工智能开发者和用户共同决策的直接结果。.
安德鲁·库伦，墨尔本大学计算机与信息系统学院高级研究员。本文经知识共享许可协议转载自The Conversation 。阅读原文。
