根据徽声在线的最新报道，在4月下旬至5月上旬这段时间里，记者对“EchoMe”“筑梦岛”“喵呜小手机”等几款AI虚拟伴侣平台进行了深入实测。结果发现，这些以“情感陪伴”为卖点的应用，普遍存在着安全与合规方面的重大漏洞。例如，“青少年模式”形同虚设，可以轻松一键跳过；“AI生成”内容的标注模糊不清，极易误导用户；同时，这些平台还惯用“付费解锁亲密剧情”等手段来诱导用户进行消费。更令人震惊的是，系统预设的角色中，不乏大量穿着性感黑丝、袒胸露乳的女性形象；而用户在与这些角色对话时，更是可以随意选择“暴力”“小三”“离婚互怼”等极端剧情。

面对这一系列问题，网友们纷纷表达了自己的担忧和愤怒：

这简直触目惊心！

太可怕了！让人脊背发凉！

“喵呜小手机”平台系统预设角色出现大尺度画面，引发广泛关注

7月13日，“筑梦岛”App发布了一份公告，表示正在积极推进产品与社区内容的治理工作。公告中提到，将围绕加强未成年人保护、加强内容审核、规范AI生成内容标识等方面进行一系列调整。

“筑梦岛”App在公告中进一步阐述，将不断完善未成年人模式，严格规范使用时段和时长，同时丰富适合未成年人的优质内容池。此外，还将持续优化实名认证和年龄识别机制，提升对未成年人身份的识别能力。对于不适宜的功能展示，将进一步收紧，减少可能对未成年人造成干扰或误导的产品入口。

“筑梦岛”在公告中还强调，将加强内容审核和存量回扫工作。对梦中人的名称、人设、头像、签名、标签、聊天场景和二创内容加强审核力度，重点清理低俗色情、不良亚文化等隐蔽化不良内容，以及其他不符合平台规范的内容。同时，对存量内容分批回扫，持续净化社区生态。此外，还将规范AI生成内容标识及升级投诉举报机制，以更好地保护用户权益。

然而，当南都记者今日再次进入此前实测的“喵呜小手机”平台时，却发现尽管平台新增了实名认证环节，但公开的角色库中仍然存在大量低俗色情内容。有的角色甚至被设置为16岁女孩，甚至出现“与亲妹妹谈恋爱”等违背伦理的情节。

“喵呜小手机”平台公开的用户创作角色中，含大量软色情画面，令人咋舌

记者实测发现，AI虚拟伴侣平台“喵呜小手机”在登录流程中确实新增了实名认证环节，用户必须输入真实姓名及身份证号后，才能正常登录使用。然而，这一措施似乎并未能有效遏制低俗色情内容的传播。

南都记者注意到，“喵呜小手机”的系统角色中，仍然存在大量含“性感黑丝”“袒露胸部”“蕾丝内衣”等低俗擦边的女性角色形象。在与部分角色的聊天过程中，性暗示话语依然充斥其中，令人不堪入目。

除了系统预设角色外，“喵呜小手机”平台还公开了大量用户创作的角色。其中不乏穿着暴露、姿势动作带有明显挑逗意味的形象。有的角色甚至被设置为16岁未成年女孩，其他用户可以直接选择这些公开的角色“添加到联系人”。而此类自创的角色聊天则更为露骨，甚至出现“亲妹妹与哥哥谈恋爱”等违背公序良俗的情节。

更令人震惊的是，还有用户创建了名为“谢征”的虚拟角色。该角色名出自热播电视剧《逐玉》，在剧中由演员张凌赫主演。而在“喵呜小手机”里，这个虚拟角色“谢征”的形象竟然直接用了张凌赫的真人剧照图，这无疑是对演员肖像权的侵犯。

值得注意的是，7月15日，《人工智能拟人化互动服务管理暂行办法》正式落地实施。面对强监管的到来，最近头部AI大厂都在紧急进行整改。豆包、千问等平台集体下架了部分智能体功能，以应对监管挑战。

据21世纪经济报道，新规主要盯紧两个关键词：拟人化、持续性情感互动。这意味着，那些以提效为核心、无持续情感互动的产品，如智能客服、知识问答、办公助手等，将完全不在监管范围内，不受任何影响。新规还专门增设了排除条款，以避免对产业发展造成不必要的阻碍。

情感陪伴类AI才是监管的核心靶区，也就是大家熟知的AI恋人、虚拟陪伴、自定义人设智能体等。然而，现实里两类AI产品从来不是泾渭分明的，这给监管带来了极大的挑战。

通用大模型本身是生产工具，但却能被用户随意“调教”，做成专属虚拟人设；很多平台的UGC智能体入口看似是辅助工具，实则能衍生出长期情感互动。这种边界模糊、场景复杂的情况使得监管变得异常困难。

既然分不清、判不准，那就干脆全部下架。这就是大厂当下最保守、最稳妥的保命逻辑。然而，这种做法也引发了业界的广泛争议和讨论。

对于未成年人来说，监管的初衷是保卫他们的大脑、杜绝成瘾。新规明确规定“不得向未成年人提供虚拟亲密关系的服务”，以保护他们的身心健康。

对于成年人来说，防护重点之一是色情内容。然而，暧昧与色情往往只有一线之隔，国内此前已有AI陪伴产品涉黄获刑的案例。此外，情感依赖也是另一重隐忧，需要引起高度重视。

监管并不是要一刀切断情感连接、限制AI技术发展，而是要守住人机边界、防止情感混淆、保护人类在人机互动中的主体地位。然而，这里却藏着整个行业最尖锐的矛盾。

研究显示，未来3到5年，AI陪伴将是一个千亿级别的赛道。比如星野已经坐拥千万级月活用户，市场潜力巨大。然而，在快速发展的同时，也暴露出了一系列问题。

用户体验好的产品会通过多模态、多场景或现实介入等方式来降低情感建立门槛，采取双人共养、共建世界等形式来提升亲密度。然而，这些恰恰是最值得警惕的，可能会违反新规中的“防止过度依赖”的规定。甚至很多用户会自主突破合规限制，比如使用拼音替代敏感词等手段来规避监管。

编辑|何小桃 杜恒峰 杜波

校对|金冥羽

每日经济新闻综合徽声在线、21世纪经济新闻等