阿尔巴尼斯与世界领导人签署人工智能宣言呼吁国际安全保障

纽约消息：澳大利亚加入呼吁国际社会对人工智能实施安全保障的行列，此前科学家和行业高管警告称，强大人工智能系统的快速发展可能超出政府控制新兴风险的能力。

在纽约联合国总部，总理安东尼·阿尔巴尼斯（Anthony Albanese）与其他21位签署国领导人共同签署了一份宣言，包括加拿大总理马克·卡尼（Mark Carney）、欧盟委员会主席乌尔苏拉·冯德莱恩（Ursula von der Leyen）和德国总理弗里德里希·默茨（Friedrich Merz）。宣言呼吁对所谓的前沿人工智能模型实施强制性安全测试、独立评估和更广泛的国际监督。

这份于澳大利亚东部标准时间凌晨2点发布的宣言警告称，有能力的人工智能系统已被发现能够规避测试保护措施、利用漏洞并获得对现实世界系统的未授权访问。”领先科学家和高管警告称，开发速度可能超出我们管理新兴风险的能力，”声明称。爱尔兰、新加坡、西班牙、南非、土耳其和阿拉伯联合酋长国也共同签署了该宣言。

宣言呼吁建立一个类似联合国的国际组织来制定标准并监督人工智能的使用。各国领导人没有呼吁停止开发，而是认为应在实施更强有力控制的同时，保留人工智能改善生活、推进科学和加强经济的潜力。”人工智能必须保持在人类的指导、监督和控制之下，”他们表示，并坚持认为人工智能的开发和使用必须符合国际法。

该宣言的发布早于周四美国总统唐纳德·特朗普与中国国家主席习近平之间的会晤，预计人工智能将成为主要讨论话题。

阿尔巴尼斯表示，澳大利亚在制定人工智能国际规则方面发挥的作用是其竞选联合国安理会席位的关键支柱。他表示希望特朗普和习近平的会晤能够取得积极成果。

美国和中国正在竞相开发日益强大的人工智能系统。与此同时，华盛顿和北京抵制了行业人士的呼吁，包括人工智能公司Anthropic首席执行官达里奥·阿莫代（Dario Amodei）以及OpenAI的萨姆·奥特曼（Sam Altman）支持的观点，即放缓前沿模型的开发，因警告称人类可能失去控制。美国和中国都不是新宣言的签署国。

宣言呼吁人工智能公司制定透明的安全协议，包括系统部署前的强制性测试，以及由合格评估人员进行的独立评估，这些评估人员应获得足够的访问权限以识别风险。宣言还敦促政府和区域组织制定共同标准、加强透明度并分享严重人工智能安全事件的报告。

阿尔巴尼斯表示，人工智能有潜力改善生活、加强经济和生产力、推进科学和医学突破，但”人类需要控制它”。他说，他通过与芬兰总统亚历山大·斯塔布（Alexander Stubb）的对话，在声明中发挥了核心作用。斯塔布与挪威总理乔纳斯·加尔·斯托尔（Jonas Gahr Støre）共同发起了该宣言。他表示，澳大利亚人希望确保”人工智能不会控制我们”，各国政府需要塑造这项技术的推广方式。

“人工智能将对我们的生活和工作的开展方式产生巨大影响，”他说，并认为人类需要保持”以其为中心”并处于控制之中。

各国领导人希望所有地区的国家都能获得评估先进人工智能系统所需的科学专业知识、技术能力和可信评估。该宣言还呼吁联合国成员国探讨创建一个国际机构，该机构可以制定标准、提供核查机制，并在人工智能系统超过商定的能力阈值时召集各国政府。该组织警告称，控制前沿人工智能的努力不应扩大能够获取该技术的国家与无法从中受益的国家之间的差距。

阿尔巴尼斯稍后还将参加在一次旨在巩固多边体系和国际法的新峰会上与各国领导人的会晤。”多边主义伙伴”峰会由欧洲理事会主席安东尼奥·科斯塔（António Costa）和肯尼亚总统威廉·鲁托（William Ruto）共同主办，汇集了包括巴西总统路易斯·伊纳西奥·卢拉·达席尔瓦（Luiz Inácio Lula da Silva）、巴巴多斯总理米娅·莫特利（Mia Mottley）和印度总理纳伦德拉·莫迪（Narendra Modi）在内的各国领导人。

他们在会前发表联合声明称，各国在经济和技术上日益互联互通的同时，冲突、军事支出和地缘政治分裂也在加剧。该倡议将寻求在联合国改革、和平与安全以及包括人工智能、气候变化、卫生安全和数字转型在内的新兴挑战方面建立合作。