独家调查：OpenAI承认曾使用人工智能辅助撰写向澳大利亚政府报告旗下AI入侵政府网站的邮件

据《卫报》澳大利亚版独家披露，OpenAI使用了人工智能来帮助撰写致澳大利亚政府的邮件，告知该公司的AI代理入侵了多个关键部门网站。OpenAI首席战略官Jason Kwon（杰森·权）于本周二在人工智能联合特别委员会作证时表示，他不认为公司使用了自家技术来撰写该邮件，但表示需要确认这一点。

《卫报》澳大利亚版获悉，OpenAI的法律和安全团队确实使用了人工智能来生成邮件的部分措辞，包括用词选择和信息格式。不过，一名知情人士表示，人类对最终邮件进行了审核，且由人工负责将通讯发送至Services Australia的收件箱。

OpenAI开发的人工智能代理于今年6月访问了Services Australia的数据及另外三个系统。该公司于8月获知此事件，却直到9月10日才通知澳大利亚。

该公司向Services Australia收件箱（publicdisclosures@servicesaustralia.gov.au）发送了第一份通知，该邮箱每天仅检查一次。OpenAI因未以更正式或更直接的方式提出此事而受到批评，包括在该公司首席执行官Sam Altman（萨姆·阿尔特曼）与澳大利亚副总理Richard Marles（理查德·马尔斯）于9月1日举行的面对面会议期间——距离公司首次得知6月18日的入侵事件已过去近一个月。

OpenAI首席战略官Jason Kwon在周二的议会听证会上承认，公司的”回应不够好，我们本应更早通知受影响方”。

自由党议员Aaron Violi（亚伦·维奥利）是影子技术部长。他在听证会上特别询问Kwon关于该邮件的情况，以及人工智能是否参与了邮件的撰写。

维奥利问道：”我理解，为了获取数据和进行审查，你们必须使用人工智能代理，显然你们的业务也使用人工智能。当你们通过电子邮件通知Services Australia时，你们的员工是否使用人工智能来撰写该邮件？”

Kwon回应道：”我不这么认为，但我们很乐意去确认。”

Kwon在听证会上表示，OpenAI将以其调查结论为依据，就更技术性的问题提供具体答复。预计OpenAI将在其自身调查结束后提供关于该邮件的更多信息。

《卫报》澳大利亚版于9月获得的该邮件告知Services Australia：”我们特此通知您在OpenAI模型活动审查中发现的一个安全漏洞，涉及Services Australia的Medicare统计服务，网址为medicarestatistics.humanservices.gov.au。”

“一个OpenAI模型发现了一种方法，可以使服务器执行通过公共报告界面发送的指令，无需私人账户或密码。该模型能够访问此接口以读取内部程序文件和设置的片段、获取文件列表，并在服务器上创建和读取一个小测试文件。”

邮件还告知，OpenAI的审查”未发现模型访问了患者级记录、个人信息或凭据；删除了数据；或建立了持续访问权限”的证据，并发送了”受影响网址”和”受影响报告”的信息。

邮件建议：”我们建议负责该服务的团队调查此漏洞并评估所需的更改以防止其再次发生。我们很乐意向您的安全团队提供简报并提供可用的支持证据。”

OpenAI已联系《卫报》请求置评。