Anthropic在美国命令后禁用其最先进AI模型

Anthropic公司表示，由于美国政府命令其暂停外国国民对其AI模型的访问，出于国家安全考虑，该公司将「突然禁用」其最先进的AI模型。

该公司接到出口管制指令，要求暂停外国国民对Fable 5和Mythos 5的访问，但未提供具体的国家安全问题细节。

Anthropic表示，政府认为存在一种绕过或「越狱」安全措施的方法，这种措施本应防止Fable 5被用于识别软件漏洞。

这一命令正值特朗普政府官员与即将IPO的Anthropic之间的争端在美国政府部分地区出现缓和迹象之际。

今年，Anthropic与政府的关系破裂，因为它拒绝允许美国军方将其AI模型用于国内监控和全自动武器系统。政府对此的回应是将Anthropic列入供应链黑名单，预计将在今年晚些时候生效。

这一行动也标志着美国努力阻止外国对手AI能力的重大升级。多年来，美国出口管制一直专注于为AI提供动力的芯片和工具，而不是限制外国对AI本身的访问。

Anthropic表示，政府仅提供了「潜在狭窄、非普遍越狱」的口头证据。

「我们不同意认为发现潜在狭窄越狱应该成为召回已部署给数亿人的商业模型的原因，」该公司表示。

政府指令和Anthropic的回应突显了AI开发者与监管者之间在如何评估所谓「越狱」风险方面的紧张关系。

就在周三，Anthropic曾呼吁加强美国对AI的监管，包括阻止具有不可接受风险的模型的能力。然而，该公司表示，政府在周五的行动并未遵循公平和基于事实的监管原则。

五角大楼首席信息官克尔斯滕·戴维斯（Kirsten Davies）在X平台上发文称，国防部支持优先考虑国家安全。

「有些事情比收入周期、点击诱饵和IPO前估值更重要。美国优先。永远如此，」戴维斯说。

Anthropic上个月秘密提交了美国IPO申请，在进入公开市场的竞争中领先于竞争对手OpenAI。

本周早些时候，Anthropic推出了一款名为Claude Fable 5的AI模型，代表其称为「Mythos级」的新能力层次。该模型配有防护措施，禁止其在网络安全等风险领域使用，一些用户抱怨这些措施「过于宽泛」。

专家表示，Mythos模型在不当使用下，可能会显著加速复杂的网络攻击，特别是在依赖复杂、互联且通常是几十年前技术系统的银行等行业。

Anthropic表示，在Fable发布之前，它与包括美国政府在内的多方合作以确保安全，并且来自竞争对手AI提供商的模型显示出类似的发现代码中小错误的能力。

「这一命令的净效应是我们必须突然禁用Fable 5和Mythos 5，以确保合规。对其他Anthropic模型的访问将不受影响，」Anthropic表示。

Anthropic表示，它认为存在「误解」，并正在努力尽快恢复对模型的访问。

一位美国官员证实，商务部已发出出口管制指令，暂停外国国民对Fable 5和Mythos 5的所有访问。