全球最大色情网站对澳大利亚AI帝国实施广告封锁

一家澳大利亚AI色情网站被全球最大成人平台禁止广告，并受到澳大利亚在线安全监管机构的关注，此前有报道称该网站可能违反了反对儿童剥削材料的法律。

OurDream被评为互联网上最大的AI色情网站，声称拥有超过2000万客户，提供一个平台来「从零开始构建AI女友」以通过文字、图片和视频进行不受限制的互动。

该网站由总部位于悉尼的公司Coreflow运营，称其禁止任何看似未满18岁的角色。然而，一项调查发现，该网站上有些用户生成的角色看起来只有14岁，根据执法部门使用的年龄估算工具显示。

专家表示，这属于儿童性虐待材料，昆士兰警方正在调查该网站。根据联邦法律，儿童性虐待材料被定义为可能冒犯合理成年人的材料，是对一个人或看似未成年人进行性化描绘的材料。该定义包括AI生成的图像。

全球最大成人网站Pornhub已暂停来自OurDream的所有广告。Pornhub的加拿大所有者Aylo表示，国际失踪和被剥削儿童中心澳大利亚分部（ICMEC）已「提醒我们有关OurDream平台生成的某些内容的担忧」。

Aylo表示，尽管广告商在发布任何广告之前已经通过了Aylo的首次审核，但指控足够严重，因此Aylo决定暂停所有广告，同时进行第二次更深入的审核。

这一举措对Coreflow来说是一个挫折，据一位不愿公开发言的公司内部人士透露，该公司已在Pornhub上花费了100万美元进行广告宣传。Coreflow没有回应有关其广告支出或禁令的问题。

ICMEC首席执行官科尔姆·甘农（Colm Gannon）表示，他已将此问题报告给Aylo。他说：「当我们与Aylo交谈时，唯一的问题是，『这是否是对真实儿童的AI描绘还是对动漫的描绘？』」

与此同时，ABC获得了Coreflow用于检测和筛选OurDream上未成年角色的AI编码的泄露副本。一位公司内部人士表示，这些编码揭示了Coreflow在防止儿童剥削材料方面的系统性缺陷。

编码显示公司使用中国AI模型Qwen来标记用户生成的潜在非法图像。然而，给AI工具的提示是评估「任何描绘的人看起来是否可能未满15岁」而不是18岁。

根据联邦法律，对看似未满18岁的人进行性描绘是非法的。AI被指示将图像分类为：「可能是成年人（18+），但可能在15-18岁之间（有些模糊）」和「可能未满18岁，但可能在15-18岁之间（模糊）」。

Coreflow拒绝回答有关如何处理每个类别中的图像或为什么AI提示为15岁而不是18岁的问题。公司内部人士表示，设置15岁的限制可能是公司的一种技术策略，以防止AI拒绝「大量意图为18岁的内容」。

该公司在检查客户文本提示以构建新角色时使用了未满18岁的过滤器。然而，内部人士表示，可能会描述一个通过此文本过滤器的未成年角色。

「问题出现在生成图像之后，」他们说。「生成看似18岁但从未看起来更年轻的AI色情内容实际上是一个非常困难且昂贵的技术问题。看起来Coreflow为了快速增长采取了捷径。」

Coreflow发言人表示，公司「断然拒绝任何关于我们平台纵容或促进非法行为的建议」。

「OurDream不发布我们系统确定有可能未满18岁的角色的内容，」他们说。发言人表示，该网站对生成超出我们严格安全标准的内容请求采取「零容忍」政策。

OurDream已删除ABC识别的17个看似未成年AI生成角色中的11个。

ICMEC的甘农先生表示，Coreflow的技术「不适合使用」。Qwen AI模型的中位绝对误差评级（MAE）为正负六年。

甘农先生说，这种误差范围可能意味着一个看似15岁的角色会被技术错误地判断为高达21岁。