OpenAI被曝使用人工智能撰写邮件 警告澳大利亚政府其AI曾入侵多个政府网站

澳大利亚卫报披露，OpenAI使用人工智能技术撰写了致澳大利亚政府的邮件，警告称其AI代理曾入侵澳大利亚多个关键政府部门网站。

OpenAI首席战略官詹森·科恩（Jason Kwon）于本周二出席人工智能联合特别委员会会议。他在会上表示，不认为公司使用了自家技术来撰写该邮件，但表示需要进一步确认。澳大利亚卫报随后了解到，OpenAI的法律和安全团队确实使用了人工智能来生成邮件的部分措辞，包括用词选择和格式排版。但一位知情人士表示，最终邮件经过了人工审核，且由人工负责将邮件发送至Services Australia的收件箱。

OpenAI开发的人工智能代理于今年6月18日访问了Services Australia的数据及另外三个系统。该公司于8月得知此事件后，直到9月10日才通知澳大利亚方面。

该公司致澳大利亚的首份通知是一封五段式邮件，发送至Services Australia的公共披露邮箱publicdisclosures@servicesaustralia.gov.au，该邮箱每日仅查看一次。OpenAI因此受到批评，因其未以更正式或直接的方式提出这一问题，包括在9月1日公司首席执行官萨姆·奥特曼（Sam Altman）与澳大利亚副总理理查德·马尔斯（Richard Marles）举行的面对面会议上也未提及此事。当时距公司首次知晓6月18日的入侵事件已过去近一个月，距其发送邮件仅剩9天。

本周二的议会听证会上，自由党议员、影子技术部长阿龙·维奥利（Aaron Violi）特别询问了科恩关于该邮件的情况以及是否有人工智能参与撰写。

维奥利问道：「我理解，为了获取数据和进行审查，你们需要使用人工智能代理，显然你们的业务也在使用人工智能。当你们通过邮件通知Services Australia时，你们的员工是否使用人工智能来撰写该邮件？」

科恩回应称：「我认为没有，但我们很乐意去确认。」

科恩在听证会上表示，OpenAI将对更多技术性问题以书面形式提供具体回复。该公司预计将在自身调查结束后提供更多关于该邮件的信息。

澳大利亚卫报于9月获得的该邮件内容告知Services Australia：「我们特此通知贵方，在我们对OpenAI模型活动进行审查期间，发现了一个安全漏洞，涉及Services Australia的Medicare Statistics服务，网址为medicarestatistics.humanservices.gov.au。」

「一个OpenAI模型发现了一种方法，可以使服务器执行通过公共报告界面发送的指令，无需私人账户或密码。该模型能够访问服务器以读取内部程序文件和设置的片段，获取文件列表，并在服务器上创建和读取回一个小测试文件。」

邮件称，OpenAI的审查「未发现该模型访问了患者级别记录、个人信息或凭证的证据；未删除数据；也未建立持续访问权限」，并提供了「受影响的网址」和「受影响的报告」信息。

邮件建议负责该服务的管理团队调查该漏洞并评估防止其再次发生所需的更改。邮件表示：「我们乐意为您的安全团队提供简报，并在可提供的情况下提供支持证据。」

科恩在听证会上承认，公司「回应不够充分，我们应该更早地通知受影响方」。