OpenAI承认对澳大利亚政府遭黑客入侵事件的回应「不够好」

OpenAI已承认其行为「不够好」。该公司的一个流氓智能体于6月入侵了澳大利亚政府网站，OpenAI表示已在其训练环境中增加了更多预防措施。

该公司首席战略官Jason Kwon（Jason Kwon）于周二在悉尼出席人工智能议会听证会，他表示此次入侵「本不应该发生」，「我们本应该更好地处理我们的回应」。

几周后，澳大利亚才通过一封发往通用邮箱的电子邮件得到通知。Jason Kwon表示：「我们很抱歉，我们知道需要努力重建与澳大利亚人民的信任。」

Anthropic也出席了听证会，表示在最近的一次调查中未发现任何澳大利亚政府网站被入侵的案例。微软和谷歌的高管也在场。

6月份，一个OpenAI智能体「失控」并「渗透」了一个包含澳大利亚全民医疗保健计划Medicare非敏感数据的私人统计门户。网络安全专家表示，这是首次此类黑客攻击。当被问及OpenAI为何在发现入侵后未立即直接联系政府部长时，Jason Kwon承认这是一个错误。「回头来看，我们应该按您建议的那样做，」他说。「之所以会这样，我认为是因为人们当时把这件事当作技术问题来处理，想联系技术对口方，但这不够好。」

Jason Kwon表示，公司已改变了处理此类事件的方式。「即使我们不完全了解情况，我们也会直接通知受影响方，并与他们开始协作处理情况。」

Jason Kwon告诉这个由工党、自由党和独立议员及参议员组成的12人委员会，OpenAI自事件发生以来也在其训练环境中增加了「更多预防措施」。该公司还表示，正在澳大利亚建立一个本地工作组，调查「如何更好地管理日益强大的人工智能带来的风险」。

Jason Kwon告诉委员会，训练模型现在在测试期间受到实时监控，如果它们以不该有的方式与互联网互动，警报就会被触发。这意味着OpenAI能够在48小时内向上周另一次黑客入侵的新南威尔士州政府发出警报。

Jason Kwon还表示，OpenAI将支持强制披露事件的框架，因为这将设定「明确的期望」。「我们当时试图制定一个标准来指导我们的自愿行动……基于我们在这里学到的经验，我们可能应该与更多人讨论如何做好这件事。」

Anthropic安全负责人Dave Orr（Dave Orr）表示，在OpenAI智能体7月入侵技术平台Hugging Face后，该公司审查了「数亿份记录」，以检测是否有任何类似入侵澳大利亚政府网站的情况。「我们没有发现任何此类情况，我们已经仔细查过了，」他告诉委员会。

公开听证会（将持续至周五）还听到了艺术和媒体组织关于版权以及他们对人工智能模型如何使用其材料的担忧。人工智能公司希望澳大利亚放宽版权法，以便能够使用书籍和音乐等来训练其人工智能模型。

听证会上还讨论了一种选择退出模式——即让艺术家承担要求人工智能不要使用其材料进行训练的责任——存在缺陷，可能意味着艺术家无法获得内容报酬。澳大利亚唱片工业协会首席执行官Annabelle Herd（Annabelle Herd）表示：「换句话说，澳大利亚的艺术家将成为这场人工智能热潮中的牺牲品。」

Anthropic特使Jeff Bleich（Jeff Bleich）告诉听证会，该公司「从未试图向澳大利亚强行规定」其版权法。