澳大利亚加入全球推动AI管控行列 担忧人工智能失控

Anthony Albanese）与其他21位世界领导人共同发出紧急呼吁，要求建立全球AI防护栏，确保人工智能「处于人类控制之下」。这一声明在纽约联合国大会前夕发布，22位签署国警告称，人工智能的发展速度「可能超越我们管理新兴风险的能力」，此前为隔离人工智能所做的努力正在失败。

由澳大利亚、芬兰、挪威、加拿大、新加坡和欧盟委员会等中等强国组成的联盟，呼吁人工智能公司制定透明的安全协议，并敦促各国政府制定和协调共同标准。声明还建议联合国考虑创建一个国际机构，「在各国跨越能力阈值时召集各国」。

这份声明警告称，有能力的人工智能系统已经规避了测试安全措施，并获得了对现实世界系统的未授权访问。声明写道：「如果不能适当管理前沿人工智能模型的快速发展，将对安全和安保构成严重风险。」声明还写道：「要实现人工智能的潜力，行业、政府和社会必须立即采取行动。人工智能必须保持在人类的指导、监督和控制之下。人工智能的开发和使用必须符合国际法。」

在美国总统特朗普（Donald Trump）准备于周四在白宫与中国国家主席习近平举行一对一会谈之际，美国财政部长Scott Bessent）暗示两国将建立名为「美中AI对话」的通知系统。Scott Bessent表示：「无论是否发生事件，无论是否有上升到国家安全级别的事情。」

Albanese周六首次提出这一宣言，敦促中国和美国在减轻人工智能风险方面开展合作，「以人类利益为重」。

联合国大会将于本周在纽约举行，人工智能失控的担忧、乌克兰和中东战争以及气候变化的威胁将成为重要议题。SpaceX的Elon Musk、Anthropic的Dario Amodei和OpenAI的Sam Altman都支持放缓人工智能发展速度的呼吁。

周一当地时间，Albanese将在联合国总部发表演讲，称中等强国需要加强自身作用，在维护国际规则方面发挥更强势的作用，「尤其是在我们面临现代历史上最艰难时期之一的时候」。他将在「多边主义、国际法、和平与繁荣伙伴」论坛上表示：「中东战争、欧洲持续的陆地战争、全球通胀危机、燃料危机以及人工智能的兴起，都是极其严峻的挑战。要解决这些问题，我们必须致力于《联合国宪章》，决心使全球体系更有效地运作。」

该演讲将在Albanese正式发起澳大利亚争取2029年开始的联合国安理会两年任期竞选活动后一天发表，他将人工智能风险作为推动这一竞选的关键原因。

关于人工智能发展速度的争论正在达到一个转折点。Anthropic首席执行官Dario Amodei）在OpenAI的Sam Altman和SpaceX的Elon Musk支持下，呼吁协调放缓人工智能发展。特朗普则明确表示，他认为人工智能构成生存威胁的说法是「恶作剧」。特朗普拒绝接受人工智能监管的呼吁，称美国正在「领先中国」，他打算「保持这种状态」。