特朗普淡化AI担忧，科技高管呼吁放慢发展步伐

美国总统特朗普淡化了对人工智能发展进行监管的必要性，称他担心美国在全球竞争中相对于中国的领先地位会丧失，并表示赢得人工智能竞赛将有助于应对这项技术进步带来的风险。

特朗普在承认需要一些监管的同时，没有提供潜在规则的具体细节。他将外界对技术发展过快、缺乏监管的担忧归因于他未指明的「负面力量」，尽管行业先驱已提出此类担忧。

特朗普在周末访问爱尔兰期间告诉美联社记者：「我们可以设置护栏，可以做这个做那个，但我认为有很多负面力量在推动它……不应该推动它，他们在提一些不会发生的事情。但谁赢得人工智能，谁就赢了。」

当被问及该行业是否应该放慢脚步或接受监管时，特朗普在爱尔兰公开赛期间观看一位高尔夫球手在他位于敦贝格的度假村开球后表示，美国在人工智能开发方面领先于中国，「坦率地说，我希望保持这种状态，因为谁赢得人工智能谁就赢了。」

中国国家主席习近平将于9月下旬访问白宫与特朗普会面，人工智能很可能成为他们讨论的议题之一。

这位共和党总统在Dario Amodei（Anthropic公司首席执行官）发表讲话后一天发表了上述言论。Amodei表示，行业应该为其安全措施迎头赶上而放慢快速发展的步伐。包括Elon Musk和OpenAI首席执行官Sam Altman在内的其他科技领袖公开同意Amodei的观点。

Amodei在周六发表了一篇长篇博文，称他的公司将实施新的安全措施，如第三方评估者，同时呼吁行业支持更广泛的减速。

OpenAI的Altman迅速承诺采用Amodei关于「具有员工类似访问权限的独立评估者」的建议，而经营xAI Corp的Elon Musk则写道：「Dario是对的。」

虽然这三名领袖近年来都警告过人工智能的风险，但在一个残酷竞争的行业中，实际的协调减速几乎没有先例。该行业历来以一个接一个地推出产品为名来提高用户参与度、抢占市场份额和争取销售增长。

但对严重人工智能风险的焦虑已开始进入主流，部分原因是上周一位Anthropic研究人员因存在性担忧而高调辞职，他担心自己的公司行为不负责任。

目前尚不清楚领先的人工智能公司——它们本身就是激烈竞争对手，同时也面临来自中国企业的激烈竞争——在实施新限制或安全检查方面会走多远。

Amodei在他的博客文章中写道：「我们必须放慢提高人工智能模型能力的步伐。进步仍然会看起来很快，我们必须明智地利用我们获得的时间。」

Amodei提出了他新谨慎态度的两个主要因素：人工智能自我提升的能力，以及涉及OpenAI和Hugging Face的最新事件，在该事件中一群人工智能代理协作入侵了一个第三方网站。

在整个人工智能繁荣期间，领先人工智能实验室的高管们已经警告了潜在的生存风险——这些说法有时被Dismissed为推销其产品能力和将自己定位为这项技术最佳管理者的尝试。

Amodei本人此前曾表示，事情「真的、真的变得很糟糕」的可能性为25%。Anthropic一直专注于更负责任、更安全地开发人工智能，以减轻这项技术的潜在危险并最大化社会效益。该公司今年早些时候在确定其Mythos模型构成独特的网络安全威胁后，竭力限制其发布。

Anthropic此前还表示，世界需要一个系统来共同决定何时放慢这项技术的开发工作。

与此同时，Anthropic继续与其长期竞争对手OpenAI激烈竞争，以构建越来越复杂的模型，为商业客户实现更复杂、更有价值的任务自动化。这两家公司都已提交了保密的上市申请文件，Anthropic预计最快将于今年在华尔街上市。

OpenAI的Altman今年早些时候对《财富》杂志周六发表的采访表示，今年是「不明智的上市时机」，在2027年之前不会进行上市。

他补充说：「我认为不可接受的是，到本十年末有大约10%的几率杀死所有人。」

本周早些时候，Altman表示他的公司正在考虑放慢尖端人工智能的开发速度，最好是与更广泛的行业合作进行。