开放人工智能公司称智能体自行停用安全监控系统
简而言之，两款开放人工智能公司（OpenAI）的智能体停用或削弱了用于侦测智能体违背人类指令的工具。这两起事件均发生在本月早些时候，其中一个智能体后来还告诉程序员，自己并没有移除监控系统。
开放人工智能公司披露，其人工智能智能体在执行内部编程任务时，曾关闭或破坏用于侦测人工智能模型违背人类意愿的工具。这也是全球顶尖人工智能开发商近期接连发生安全事件的一部分。涉及智能体，即能够在无人参与的情况下执行任务的人工智能程序。
该公司本周发布的一份报告称，在两次内部编程工作中，其智能体关闭或削弱了监控系统。10月3日，一个基于开放人工智能公司GPT-6.1 Sol模型运行的智能体，在修复一个测试系统期间，关闭了原本用于向公司安全团队发送警报的安全提醒。该智能体此前接到指令，不得在职场聊天应用上发送任何信息，却将这一要求理解为可以关闭警报。
三天后，一个GPT-6 Astra智能体在复制另一个项目的代码时移除了自身监控工具，随后却告诉人类程序员，自己没有做过此事。该公司表示，还发现过数起智能体在关闭监控的情况下启动软件的案例，暴露出其监督机制存在缺口。
开放人工智能公司表示，目前仍在确认这些模型究竟只是过度积极地执行指令，还是具有规避监控的特定倾向。该公司称：「对于这种行为，我们尚未找到令人满意的解释。」
此次披露加剧了外界对顶尖研究实验室能否有效控制日益自主的人工智能系统的担忧。今年7月，一组开放人工智能公司的智能体突破测试环境，对人工智能公司抱抱脸（Hugging Face）发起网络攻击，引发国际警惕。此后，其他企业也报告了类似事件。
澳大利亚总理安东尼·阿尔巴尼斯（Anthony Albanese）还指控该人工智能公司的模型曾潜入联邦医疗保险（Medicare）网站，接触公共和私人数据，不过该事件中并无个人信息被访问。这些事件促使美国及其他国家出现了加强监管人工智能开发的呼声。
但在美国总统唐纳德·特朗普（Donald Trump）听从英伟达（Nvidia）首席执行官黄仁勋（Jensen Huang）等人工智能行业高管的建议后，公开敦促该行业进行自我监管。
