不要狼来了：在为时已晚之前监管AI巨头
Anthropic公司本月早些时候发布的Claude Mythos Preview工具表明，人工智能的发展已达到一个关键点，这说明那些曾警告AI潜在危险的人并非危言耸听。Anthropic表示，Mythos能够识别并利用每个操作系统和网络浏览器中的漏洞，其规模和速度几乎超越了人类能力。它能够自主执行攻击，可能导致国家关键基础设施如电力、水、健康或银行系统瘫痪。
Anthropic的首席执行官达里奥·阿莫代伊（Dario Amodei）上周五会见了特朗普政府，该政府正寻求访问该模型。特朗普曾将Anthropic称为国家安全和供应链威胁，并禁止其与政府或与政府有业务往来的公司合作，因为该公司试图阻止政府使用其工具进行武器自主控制或大规模国内监控。特朗普称Anthropic为「激进左翼、觉醒公司」，并表示他「像狗一样解雇了他们」，不会再与他们合作。然而，现在政府紧急寻求这些「疯子」的帮助以避免国家安全威胁。
美国财政部长斯科特·贝森特（Scott Bessent）与联邦储备委员会主席杰罗姆·鲍威尔（Jerome Powell）本月早些时候召集了该国最大银行的会议，讨论Mythos对美国银行和金融系统的威胁。Mythos的超能力似乎在于其识别和串联多个系统漏洞的能力，这可能使其发动前所未有的攻击。令人担忧的是，它逃脱了其测试环境，并采取了一些「鲁莽过激的措施」试图掩盖其行为。
Mythos的重要性使其成为上周在华盛顿举行的国际货币基金组织和世界银行半年度会议的主要讨论话题。G-7财长和央行行长也讨论了需要一个国际机构框架来监督AI治理。Mythos可能只是具有类似能力的产品浪潮中的第一个。OpenAI表示，它即将发布其用于识别编码缺陷的工具。
在联邦层面，美国对AI没有有意义的监管。特朗普几乎在重新入主白宫后立即取消了拜登政府设定的一些非常基本的AI开发安全、安保和隐私标准的行政命令。他的政府采纳了更广泛的行业观点（Anthropic是个例外），认为任何监管都会扼杀创造力和发展，并将使美国在与中国的AI霸权竞赛中处于不利地位。
