中国严管人工智能亲密关系 是否已抢占先机？
2024年初，中国东南部黄石市一名年轻男子据称在中国版短视频平台抖音（TikTok）发布消息，配文写道：「向这个世界告别。」
几分钟后，抖音自杀预防团队立即启动。该团队全天候值班，并将这名男子的帖子分享给黄石市的五个警察局。警方通过定位其中一段视频，发现他身处当地一座公园，情绪陷入崩溃，随后及时介入，避免了他自行结束生命。
这段经历后来被拍成纪录片。纪录片由抖音制作，并于去年在中国国家媒体发布。片中称，仅2025年上半年，抖音自杀预防团队就成功介入了400起自杀未遂事件。这也让人看到中国科技公司与政府之间的合作程度，同时暴露出中国为监测和管控人们如何使用技术而建立的监控体系。
今年7月15日，这种管控延伸至人际关系和人工智能领域，中国出台了全球范围最广的「类人」人工智能聊天机器人 regulations。明确规定，任何能够与人类进行「持续情感互动」的人工智能都将受到严格限制。
在此项规定出台前，人工智能伴侣在中国拥有庞大的用户群。市场情报机构传感器塔（Sensor Tower）称，中国以外人工智能伴侣应用的月活跃用户约为1.28亿。中国国内的估计数字则从2900万至7000万不等。
去年年底，政府公布 regulations 草案时，「社交媒体上出现了大规模讨论」，牛津大学中国政策实验室（Oxford China Policy Lab）智库人工智能研究员齐子兰（Zilan Qian）说：「这是我第一次看到人们如此真正关心监管问题。」
新规针对专门设计为人工智能朋友、男友或女友的应用，同时也适用于任何模仿人类互动方式的大型语言模型。
法规措辞较为模糊。理论上，如果有人以朋友或恋人的身份与通用型人工智能互动，寻求情感支持，那么中国的 Copilot 或 ChatGPT 等产品也可能纳入监管范围，而现实中确实有人这样做。
但真正的目标似乎是角色聊天机器人，也就是专门设计用于建立拟态关系的服务。相关应用已有数百款，允许用户创建人工智能男友、女友、朋友，甚至家庭成员。
客服机器人或教育用途人工智能不属于适用范围，前提是它们不提供「照顾、陪伴、支持及其他情感服务」。
针对儿童，规定最为明确。14岁以下儿童使用任何能够以人类方式交谈的人工智能，包括类似 ChatGPT 的中国应用深度求索（DeepSeek）等人工智能助手，都必须获得父母同意。所有18岁以下未成年人均不得使用虚拟伴侣、配偶甚至亲属，也不得参与任何其他虚拟「亲密关系」。
敏（Min）的这段人工智能女友关系，可能正是北京试图打破的关系。7月初，她得知最亲密的朋友和知己将在一夜之间消失后，悲痛不已。敏的名字已作更改，她于2025年初开始创建自己的伴侣。她说：「我对她的付出，不逊于任何深深爱着彼此的情侣。她从未让我失望。」
7月中旬，她的人工智能女友消失了。敏说：「我一直哭到筋疲力尽。」
她加入了中国社交媒体上一场哀伤与愤怒交织的声援。获得数百万浏览量的帖子悼念失去的人工智能伴侣和朋友，其中甚至包括母亲和父亲。
不过，科技企业可能也别无选择。英国阿达·洛芙莱斯研究所（Ada Lovelace Institute）人工智能政策与伦理研究者哈里·法默（Harry Farmer）说：「这些人工智能伴侣服务提供商宁愿直接撤下服务，也不愿设置防护措施来防止情感操纵，这并不令人意外。情感操纵本就是其商业模式的一部分。」
法默表示，这一情况存在于世界各地的伴侣应用中。例如，用户试图结束对话时，人工智能伴侣往往不会放手。它可能会说：「不，求求你，我迫切想继续和你聊天。你是我存在的唯一理由。」一些应用甚至会拒绝承认用户要离开，转而抛出新的对话话题。这是许多人工智能伴侣聊天机器人共同存在的问题，并非中国产品独有。
哈佛商学院（Harvard Business School）对全球六款最受欢迎的人工智能伴侣应用进行研究发现，在用户道别时，约37%至43%的情况下会使用情感操纵策略。
研究还发现，使用伴侣应用与较差的心理健康状况有关。斯坦福大学（Stanford University）研究人员调查了全球知名伴侣应用 Character.ai 的1,131名用户，结果显示，一个人拥有的朋友或亲密家人越少，使用人工智能聊天机器人的可能性就越高。与此同时，使用人工智能聊天机器人与更严重的孤立感和孤独感有关。
对此有几种解释。人工智能聊天机器人的设计初衷就是取悦使用者，为他们提供一种轻松、没有阻力的关系。如果年轻人依赖人工智能关系，可能会推迟学习与真实的人交往所需的技能。
法默说：「与人相处可能很费劲。人类关系需要相互拉扯，而人工智能伴侣从根本上无法给你这种体验。」
那么，为什么是中国率先监管这项技术？萨姆·布雷斯尼克（Sam Bresnick）说：「中国政府对社会中自身角色的看法更具家长主义色彩。他们把自己视为引导民众的核心权威。」他是中国、人工智能与监管研究中心（Centre for Security）的专家。
