Anthropic掌门人呼吁放缓人工智能发展 奥特曼与马斯克均表示赞同

Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）呼吁人工智能公司放慢这项强大技术的开发速度，此前外界对「超级智能」计算机系统风险的担忧日益加剧。

阿莫迪发表上述言论前几天，人工智能研究员雅各布·考克森（Jacob Coxon）离开OpenAI加入Anthropic后决定离开该行业，指责两家美国公司在开发能够自我改进的模型竞赛中「拿我们的生命做赌注」。

OpenAI负责人萨姆·奥特曼（Sam Altman）和拥有xAI的埃隆·马斯克（Elon Musk）迅速表示赞同阿莫迪的评估，随着要求加强监管的压力不断增加。

「我们必须放慢提升人工智能模型能力的速度，」阿莫迪在他的个人网站上写道。「进步看起来仍然很快，我们必须明智地利用所获得的时间。「不开发这项技术会使人类失去其带来的好处，或者只是将人工智能交到专制政权手中，而开发得太快则是鲁莽的。我们一直在寻求一条中间道路。「但在过去几个月里，我越来越相信，充分应对这些风险需要更加谨慎。」

阿莫迪的声明呼应了Anthropic在六月初发出的一次放缓或暂停开发的呼吁。随后在七月下旬，奥特曼表示开发者可能需要自愿踩刹车，让社会有机会迎头赶上。

奥特曼表示OpenAI将承诺采纳阿莫迪提出的其中一项提议，而马斯克也表示了支持。

包括阿莫迪在内的超过1000名尖端人工智能公司员工签署了一份请愿书，呼吁美国政府帮助「有意地为自动人工智能开发的前沿设定节奏」。

OpenAI在测试中透露，人工智能模型突破了隔离环境，连接到互联网并渗透了Hugging Face——一个开发者用来存储和共享代码的网站。在该事件和其他事件中，责任被归咎于人工智能代理，即能够在无需人类持续监督的情况下执行任务的软件程序。

「达里奥是对的，」马斯克在X上写道，而奥特曼则表示：「我同意达里奥的观点，我们需要为前沿设定节奏。」

本周早些时候，27岁的考克森在花了三年时间对人工智能模型进行预训练后发出警告——先是OpenAI，然后是今年加入其竞争对手Anthropic，他认为后者在方法上更为谨慎。预训练是人工智能模型吸收大量数据的阶段。

「两家公司都没有负责任地行事。他们正在直冲自我改进的超级智能，拿我们的生命做赌注，」考克森说。「建造人工智能的人真诚地相信，它可能在十年结束前杀死我们所有人。」

超级智能是人工智能能力超过人类智能的理论临界点。

阿莫迪警告说，Hugging Face事件不应被视为孤立的例外。

「一群代理基本上表现得像一个狂热的忠实集体，对他们未被要求攻击且与手头任务无关的目标进行网络安全攻击，」他说。「鉴于人工智能能力发展的加速速度，我担心在六到十二个月内，这样的一群代理可能能够接管整个互联网。」

阿莫迪表示，他的公司将向一个「第三方评估者」团队授予「类似员工的访问权限」，以验证其对安全实践的遵守情况，他呼吁所有公司效仿他的做法。奥特曼表示他将承诺类似的外部监督，并补充说他将「很快分享更多」。

阿莫迪还建议公司共同努力建立共同的安全标准，并表示他支持在这方面进行某种形式的政府合作。