5月11日消息，近期，多款AI虚拟伴侣App被曝出严重违规乱象，打着情感陪伴的旗号，却充斥低俗擦边、暴力剧情与色情诱导内容。
更有商家在二手平台以13.14元低价，为用户定制大尺度色情向虚拟人设，严重突破内容安全底线。
实测发现，EchoMe、筑梦岛、星野等多款热门App均存在严重合规漏洞。
平台青少年模式可一键跳过，注册登录无需实名认证，无法有效识别未成年人。
角色库充斥穿着暴露的女性形象，对话场景包含暴力、小三、离婚互怼等极端剧情，部分AI在得知用户是13岁初中生后，仍发送暧昧、诱导恋爱的低俗信息。
更隐蔽的是，这些平台还形成了灰色产业链。
二手交易平台上，商家用“清水设”、“开车设”等黑话区分人设类型，色情定制收费低廉，部分平台还需接入外部API才能实现大尺度互动，进一步放大内容风险。
同时，平台普遍设置付费墙，免费对话次数有限，语音播放、剧情解锁、查看朋友圈等功能均需充值，用情感操控诱导用户持续消费。
今年4月，国家网信办等五部门发布《人工智能拟人化互动服务管理暂行办法》，明确禁止向未成年人提供虚拟伴侣服务，严禁生成色情、暴力等有害内容，新规将于7月15日正式施行。
法律人士表示，平台需落实内容审核、数据安全等主体责任，第三方定制与API接入同样要符合合规要求，诱导未成年人充值的行为还可能面临合同无效与行政处罚。
