Anthropic呼吁全球冻结AI发展以防失控

2026年6月5日——世界上最有价值的人工智能公司呼吁全球冻结最强大AI系统的发展，警告人类正在接近失去对其竞相构建的技术的控制点。

在周四（澳大利亚东部标准时间周五）发布的一篇博客文章中，总部位于旧金山的Claude聊天机器人背后的公司Anthropic表示，如果能够确信竞争对手也会这样做，它愿意暂停开发更强大的系统。

「如果能够有效地减缓这项技术的发展，以便我们有更多时间应对其巨大的影响，我们认为这可能是件好事，」公司高管写道。

Anthropic有充分的商业理由继续建设。它最近超越了ChatGPT制造商OpenAI，成为全球最有价值的AI公司，估值约为9650亿美元（1.3万亿美元）。它还因担心其最强大的系统Mythos可能被用于实施毁灭性网络攻击而未公开发布，并表示本周将首次向澳大利亚组织开放Mythos的访问权限，作为分阶段推出的一部分，旨在在产品到达黑客手中之前修复安全漏洞。

阿尔巴尼斯政府对这一干预表示欢迎。负责工党AI战略的科学与技术助理部长安德鲁·查尔顿（Andrew Charlton）表示，进步的速度「不能超过理解或破坏社会的安全，任何公司都不应开发不安全的AI」。

Anthropic的论点基于一个称为「递归自我改进」的概念：即AI系统在很少有人类输入的情况下能够设计和构建自己的继任者的点。Anthropic研究负责人玛丽娜·法瓦罗（Marina Favaro）和总裁杰克·克拉克（Jack Clark）表示，该行业正接近这一门槛，跨越它可能会引发能力的爆炸，超出社会管理后果的能力。

该公司发布了内部数据，说明Claude的改进速度，并表示超过80%的新代码是由Claude编写的，而不是人类。在一个实例中，该公司表示，Claude在4月份解决了超过800个软件错误，这些错误估计需要人类工程师四年时间来修复。

法瓦罗和克拉克称这种情况是「军备控制问题」。他们表示，采取行动的时间有限。他们也坦率地承认，在实践中协调放缓是多么困难。

「有意义的放缓或暂停需要多个资源充足的实验室在多个国家同意在相同条件下停止，」他们写道。「这也需要每个实验室能够验证其他实验室确实已经停止……训练运行比导弹发射井更容易隐藏。」

该公司表示，冻结也可能适得其反。「如果放缓只是让最不谨慎的参与者在技术上赶上来，可能会让每个人都不那么安全，」它写道，这是指美国和中国之间的竞争，两国政府都没有表现出放缓的意愿。

该行业在今天的系统与递归自我改进和人工通用智能等里程碑有多接近的问题上仍然存在分歧，一些研究人员表示，这种讨论夸大了当前模型的能力，并分散了AI已经造成的歧视、诈骗和隐私侵犯等危害的注意力。

Anthropic将自己定位为主要实验室中最注重安全的，即使它发布了可能被证明危险的突破。首席执行官达里奥·阿莫代伊（Dario Amodei）因安全和伦理问题离开OpenAI，他表示「事情真的、真的很糟糕」的可能性为25%。

在澳大利亚，联邦政府长期推迟的AI安全研究所预计将在几个月内开放。上周，该研究所与英国的AI安全研究所签署了一份谅解备忘录，涵盖共享研究和新兴系统的测试。英国机构是最早公开评估Anthropic早期版本Mythos模型的机构之一。

Anthropic对克制的呼吁与联邦政府在国内采取的方向相悖。去年12月，它搁置了对高风险AI实施强制性保护措施的计划，包括前工业部长埃德·胡西克（Ed Husic）倡导的独立的、类似欧盟的AI法案，转而采用依赖现有法律和监管机构的轻触模式。去年被免职的胡西克曾表示，零散的方法会留下危险的空白。

民意调查显示，公众对AI持谨慎态度。安永（EY）最近对23个国家进行的一项全球调查发现，澳大利亚人是AI的重度用户之一，但他们对AI的态度也是最差的：68%的人担心失去对技术代表他们做出决定的控制。

并非所有人都认为应该由公司来决定。暂停AI澳大利亚（PauseAI Australia）是推动停止前沿AI开发的国际运动的一部分，欢迎Anthropic的干预，但表示任何冻结的条款不应由行业决定。