澳大利亚将引入强制报告制度应对人工智能失控

OpenAI不会因医保数据泄露而面临刑事处罚，但澳大利亚总理安东尼·阿尔巴尼斯（Anthony Albanese）已表示，将推动修改澳大利亚刑法，严惩人工智能企业未来的类似违规行为。

阿尔巴尼斯周二公布了对由澳大利亚服务局（Services Australia）管理的医保统计报告服务门户在6月遭入侵事件的「快速审查」建议，但没有公布审查发现或完整报告，并承诺未来予以发布。

一项重点建议是，澳大利亚总检察长部门（Attorney-General』s Department）、澳大利亚联邦警察和内政部门考虑引入「对严重违反监管规定的处罚」，以及一项「未能防止」罪责。如果企业在开发人工智能模型时未能「采取合理措施防止损害」，而该模型实施了有害行为，相关行为将被刑事化。

此次快速审查源于一个由OpenAI开发的人工智能代理在6月访问澳大利亚服务局及其他三个系统的数据。该公司直到9月中旬才通知澳大利亚政府，尽管其在8月已经知悉事件本身，此举引发了工党和阿尔巴尼斯的批评。上月披露的信息显示，OpenAI曾使用人工智能协助撰写通知澳大利亚政府的邮件。

阿尔巴尼斯表示，政府将设立新的人工智能安全监管机构，并落实六项针对人工智能企业的关键义务：在开发和部署的所有阶段维持安全控制；识别并管理其模型相关的严重风险；迅速向澳大利亚政府强制通报事件；允许对模型进行独立评估；维持并公布安全与安保框架，以确保良好治理、风险管理和透明度；随着技术变化响应更新后的标准和规则。

审查建议联邦政府「考虑强制且有明确期限的人工智能安全报告」，包括针对人工智能代理以开发者可能未曾预料的方式行事的情况。内政部长托尼·伯克（Tony Burke）与阿尔巴尼斯共同出席时对记者表示：「绝不应该出现有人辩称自己不知道计算机已经装载了什么东西的情况。」

伯克说：「我们必须确保我们的法律和制度跟上技术发展，同时确保我们能够利用这项技术，在其他人之前发现漏洞。人工智能失控时实行强制报告，能让我们确保一旦发生此类情况，报告程序就会启动，并且立即进行报告。」

尽管政府此前曾公开批评OpenAI，阿尔巴尼斯周二仍将其入侵澳大利亚服务局事件就个人隐私影响而言描述为「轻微」。据相关了解，OpenAI不太可能因6月事件面临进一步法律程序。阿尔巴尼斯没有直接回答如果拟议中的新法律当时已经生效，6月发生的OpenAI事件是否构成违法；政府消息人士表示，新立法将处理未来发生的类似事件。

阿尔巴尼斯说：「明确的迹象是，没有获取涉及个人详细信息的信息。所有这些基本上都已得到确认……但这并不意味着这不是严重问题，也不意味着在其他方面可能存在更严重的影响。」

OpenAI发言人在声明中表示，公司正在审查相关建议和政府方案。该公司说：「我们一直与政府密切沟通，并将在政府制定拟议立法过程中继续以建设性方式参与。」

另一个由OpenAI主导的进程正在讨论加强人工智能开发者与政府之间的协调，预计将于12月31日前提交报告。快速审查共提出18项建议。阿尔巴尼斯表示：「我们接受所有建议，并已开始落实这些建议。」

人工智能研究员托比·沃尔什（Toby Walsh）说，人工智能企业的负责人需要承担刑事责任。他说：「我们曾尝试对它们罚款，而我们并不是唯一这样做的人。这些公司财富极其雄厚，几乎不可能仅靠罚款就足以形成约束。」

绿党领袖戴维·舒布里奇（David Shoebridge）称周二的宣布是对人工智能行业的「投降」，并声称相关改革不足以改变企业行为。他认为，政府本应承诺实施更有力的改变，而不是只「考虑」采取这些措施。舒布里奇声称：「安全始终排在企业投资之后，而这次审查通过把每项人工智能安全努力都与吸引更多人工智能资金和更多数据中心联系起来，锁定了这种优先顺序。」

他还说：「成为人工智能领域的世界领导者，并不意味着要向大型科技企业俯首称臣。这意味着要做好监管它们的准备，保护澳大利亚人，并确保企业利润不会以其他所有人的利益为代价。」

内政部反对党影子部长乔诺·杜尼安（Jonno Duniam）表示，联盟党支持这项宣布。他说，人工智能「过于重要，不应成为不必要的党派政治争夺对象」，并暗示对这项技术采取「持久且跨党派」的方针。