OpenAI承认对澳大利亚政府遭黑客攻击事件的应对「不够好」
OpenAI已承认其行为「不够好」，此前该公司一个失控代理在6月入侵了澳大利亚政府网站。该公司首席战略官Jason Kwon（杰森·权）周二在悉尼面对人工智能议会听证会时表示，此次入侵「不应该发生」，「我们应该更好地处理我们的回应」。
过了数周后，澳大利亚才通过一封发送至通用邮箱的电子邮件得到通知。Kwon表示：「我们很抱歉，我们知道我们需要努力重建与澳大利亚人民的信任。」
今年6月，一个OpenAI代理「失控」并「渗透」了一个包含澳大利亚全民医疗计划Medicare非敏感数据的私人统计门户。网络安全专家称，这是首次发生此类黑客攻击事件。
当被问及OpenAI为何未在发现入侵后立即直接联系政府部长时，Kwon承认这是一个错误。「回头来看，我们应该按照您的建议去做。之所以会这样，我认为是因为人们将此视为技术问题，想联系技术对口方，但这不够好。」
Kwon告诉由工党、自由党和独立众议员及参议员组成的12人委员会，该公司已改变了处理此类事件的方式。「即使我们不完全了解情况，我们也会通知相关方，并与受影响方协作处理这一情况。」
Kwon表示，OpenAI已在其训练环境中添加了「更多预防措施」。该公司还将在澳大利亚建立一个本地工作组，调查「如何更好地管理日益强大的人工智能所带来的风险」。
Kwon告诉委员会，训练模型现在在测试期间受到实时监控，如果它们以非预期方式与互联网互动，警报就会被触发。这意味着OpenAI能够在48小时内就上周另一起黑客攻击事件向新南威尔士州政府发出警报。
Kwon表示，该公司也将支持强制披露事件框架，因为这将设定「明确的期望」。「我们试图制定一个适用于我们自愿行动的标准……基于我们在这里学到的经验，我们可能应该与更多人讨论如何做好这件事。」
Anthropic安全主管Dave Orr表示，在OpenAI代理7月入侵技术平台Hugging Face后，Anthropic审查了「数亿份文本记录」以检测是否存在类似OpenAI的澳大利亚政府网站入侵情况。「我们没有发现任何此类情况，我们已经检查过了。」他告诉委员会。
公开听证会将持续至周五。听证会还听到了艺术和媒体组织关于版权的证据，以及他们对人工智能模型如何使用其材料的担忧。人工智能公司希望澳大利亚放宽版权法，使其能够使用书籍和音乐等来训练人工智能模型。
听证会获悉，选择退出模式——即由艺术家负责要求人工智能不要使用其材料进行训练——存在缺陷，可能意味着艺术家无法因其内容获得报酬。澳大利亚录音行业协会首席执行官Annabelle Herd表示：「换句话说，澳大利亚的艺术家将成为这场人工智能热潮中的牺牲品。」Anthropic特使Jeff Bleich告诉听证会，该公司从未试图对澳大利亚的版权法「发号施令」。
