Meta禁止数百万账户因AI冒充真实创作者
艾丽西亚（Alicia）习惯了在网上被冒充。她在YouTube、Twitch和成人订阅网站上制作ASMR内容，曾多次看到有人用她的照片欺骗粉丝。然而，当她的Instagram账户在五月因违反Meta的诚信社区标准被禁时，她发现了一个「令人震惊」的事实。有人利用她的身份创建了AI生成的图像和一个假Facebook账户来出售基于订阅的内容。
「每张照片，我都能看出它像我，但又不完全是。看起来他们可能使用了多个提示，比如可能是别人的身体配上我的脸，」艾丽西亚告诉triple j hack。这个假账户在Facebook上积累了超过50万粉丝，甚至被Meta验证。
艾丽西亚上诉要求恢复她的真实账户，并试图举报冒充者账户，但未成功。她甚至请求她在X上的粉丝举报该冒充账户，但该账户仍然在线。几位创作者在X上表达了对AI复杂性可能使内容创作者被冒充更为普遍的担忧。
艾丽西亚表示，Meta的AI支持建议她创建一个新账户，并在该账户上获得Meta验证，以便访问他们的增强支持。她这样做了，并花了数小时通过他们的AI聊天机器人才能与真人交谈。一旦她与真人交谈，对方告诉她会调查此事，但接下来一个月她基本上只收到自动回复的邮件。
Meta在被triple j hack联系后恢复了艾丽西亚的账户，并禁止了冒充者账户。Meta表示，冒充他人违反了他们的政策，他们已删除了与他们分享的该账户。Meta称他们使用自动化和人工审核技术来执行其政策，并鼓励用户举报他们怀疑违反标准的内容。
根据Meta的数据，2025年他们从平台上删除了超过2000万个冒充大型创作者的账户。与大型创作者相关的冒充账户报告下降了33%。
澳大利亚电信行业监察专员的研究表明，澳大利亚人经常在网上投诉解决方面遇到问题。研究发现，80%的澳大利亚人在过去12个月内遇到过数字平台问题，其中超过50%与账户访问有关。监察专员辛西娅·吉伯特（Cynthia Gebert）表示，人们对糟糕的客户服务感到沮丧。
