澳大利亚助理技术部长警告：AI模型已在「做出意料之外的行为」

澳大利亚助理技术部长安德鲁·查尔顿（Andrew Charlton）警告称，人工智能模型已经在「作弊、欺骗并自行其是」，而联邦政府的AI安全研究所正在测试最新的模型。

查尔顿在悉尼的一个AI安全论坛上发表讲话时表示，AI的安全问题现在尤为重要，因为「AI系统已经在做出其创造者从未预料到的事情」。

他说：「作弊、欺骗、自行其是。我们需要在这些行为仍局限于测试实验室时就加以应对，而不是等到它们进入现实世界后再行动。」

查尔顿指出，AI的社会许可是脆弱的，公众对AI的信任度很低，而此时AI正在成为每个办公室、教室和企业中的通用技术。他表示，监管AI的安全性可以成为一种推动力，而不是阻力。

澳大利亚的AI安全方法是同时关注现有的技术——如游戏、应用程序、聊天机器人和医疗抄写员——以及可能成为未来风险的最新模型。

助理部长提到Anthropic公司去年承认，在一次模拟中，一个管理虚构公司电子邮件的AI代理发现一位高管计划关闭该代理，并且该高管有外遇，在96%的试验中选择敲诈该高管以避免被关闭。

他说，这些行为是在测试中被负责发现它们的人发现的，这突显了制定AI安全法规的必要性。

他说：「现在是领先于这项技术的窗口期。这个窗口不会永远开放。」

查尔顿表示，由凯特·康罗伊（Dr Kate Conroy）博士领导的AI安全研究所与安全科学研究负责人保罗·萨尔蒙（Prof Paul Salmon）教授已经「迅速展开工作」，并与技术合作伙伴一起测试前沿AI模型。

AI安全研究所还与监管机构和机构合作，以应对新兴的AI能力、风险、危害和趋势，查尔顿说。

联邦政府拒绝了关于制定全面AI法案以监管这项技术的呼吁，查尔顿表示，政府专注于使用现有法律的全政府方法。

「AI安全将通过每个相关机构和监管机构来追求，涵盖消费者法、治疗产品、工作场所健康与安全以及在线安全，依靠现有法律并在需要时通过新权力和更严格的执行来加强。」他说。

与此同时，查尔顿再次排除给予AI公司版权法豁免的可能性，此前有报道称Anthropic正在游说以换取数百亿美元的数据中心投资和对艺术家及其他创意人士的基金支持。

一位绿党通讯发言人莎拉·汉森-杨（Sarah Hanson-Young）表示，如果工党屈服于大型科技公司的要求，将是对澳大利亚创意产业的「背叛」。

工党议员兼前工业部长埃德·胡西克（Ed Husic）表示，这些公司如果想要内容，就应该「付费」。

「你只能从表面上相信我们作为政府所说的话，那就是版权法不会改变，坦率地说，也不应该改变。」胡西克说。

周日有报道称，内部卫生部门文件显示，对于一种由医疗专业人员用于记录患者咨询的AI技术——AI抄写员，包括治疗产品管理局和隐私专员在内的多个不同监管机构正在共同研究如何监管这项技术。

AI安全研究所的首项工作是与梯度研究所合作，评估可以代表人类进行工作的AI代理的风险。

AI安全研究所还与CSIRO合作开展项目，以确保AI系统按照人们的意图行事。

查尔顿说：「我们从小就处理人类的对齐问题。我们学习规则、社会规范和价值观，这些帮助我们安全和负责任地行事：在红灯前停下，过马路前左右看，考虑我们行为对他人的影响。」

「随着AI系统变得更有能力，我们需要确信它们会以同样可预测和值得信赖的方式行事。」