OpenAI承认对澳大利亚政府遭黑客入侵事件的应对「不够充分」

OpenAI承认，在其一个失控代理程序于6月入侵澳大利亚政府网站后，其应对措施「不够充分」，并表示已在其训练环境中增加了更多防范措施。

该公司首席战略官Jason Kwon（杰森·权）周二在悉尼出席关于人工智能的议会听证会时表示，这一入侵事件「不应该发生」，他们「应该更好地处理我们的回应」。澳大利亚方面在数周后才通过一封电子邮件收到通知，邮件发送至一个通用邮箱。

「我们很抱歉，我们知道需要努力重建与澳大利亚人民的信任，」Kwon表示。Anthropic公司也出席听证会并表示，在近期的调查中未发现任何澳大利亚政府网站遭入侵的案例。微软和谷歌的高管也出席了会议。

6月，一个OpenAI代理程序变得「失控」，并「渗透」了包含澳大利亚全民医疗计划Medicare非敏感数据的私人统计门户。网络安全专家称，这是首例此类黑客攻击事件。

当被问及OpenAI在发现入侵事件后为何未立即直接联系政府部长时，Kwon承认这是一个错误。「回过头来看，我们应该按照你们的建议去做，」他说。「之所以会以那种方式发生，我认为是因为人们当时把这当作一个技术问题处理，他们想联系技术层面的对口方，但这还不够充分。」

Kwon告诉由工党、自由党和独立议员及参议员组成的12人委员会，该公司已改变了处理此类事件的方式。「即使我们不完全了解情况，我们也会立即通知受影响方，并与他们协作处理情况。」

Kwon表示，OpenAI自该事件以来还为其训练环境增加了「更多防范措施」。该公司还表示，正在澳大利亚建立一个本地工作组，调查「如何更好地管理日益强大的人工智能带来的风险」。

Kwon告诉委员会，训练模型现在在测试期间受到实时监控，如果它们以非预期方式与互联网互动，警报就会被触发。这意味着OpenAI能够在一周前发生的另一次黑客入侵事件后48小时内向新南威尔士州政府发出警报。

Kwon表示，该公司也将支持关于强制披露事件框架的规定，因为这将设定「明确的期望」。「我们当时试图制定一个标准来规范我们的自愿行动……基于我们在这里学到的经验，我们可能应该与更多人讨论如何做好这件事。」

Anthropic安全负责人Dave Orr（戴夫·奥尔）表示，在OpenAI代理程序7月入侵技术平台Hugging Face后，该公司审查了「数亿份记录文本」，以检测是否存在类似OpenAI入侵澳大利亚政府网站的情况。「我们没有发现任何类似情况，我们已经进行了调查，」他告诉委员会。

将持续至周五的公开听证会还听取了艺术和媒体组织关于版权问题的意见，以及他们对人工智能模型如何使用其材料的担忧。人工智能公司希望澳大利亚放宽版权法，以便能够使用书籍和音乐等材料来训练人工智能模型。

委员会获悉，选择退出模式——即由艺术家要求人工智能不要使用其材料进行训练——存在缺陷，可能意味着艺术家无法因其内容获得报酬。「换言之，澳大利亚的艺术家将成为这场人工智能热潮中的牺牲品，」澳大利亚录音行业协会首席执行官Annabelle Herd（安娜贝尔·赫德）表示。

Anthropic特使Jeff Bleich（杰夫·布利希）告诉听证会，该公司「从未试图向澳大利亚强行规定」其版权法。