7月15日,《人工智能拟人化互动服务管理暂行办法》正式施行。这不是一份PPT政策,而是实实在在的执行令——当天,豆包、千问、元宝等平台集体下线UGC智能体,1.4万个违规内容被清理。
这不是监管第一次,但肯定是力度最大的一次
AI行业从来不缺监管风声,但这次不一样。之前是「建议整改」「自查自纠」,这次是「达标才能上线,不达标直接下架」。
关键点有几个:一是情感依赖提醒成为强制要求,用户跟AI聊天超过一定时长,系统必须弹出「注意休息」之类的提示;二是AI拟人化互动必须标注「非人类」身份,不能让用户产生混淆;三是数据收集要有明确边界,不能无限度采集隐私。
听起来都是常规操作,但实际落地时,企业发现每一条都是工程难题。比如情感依赖提醒——怎么定义「超时」?不同用户的使用习惯差异巨大,阈值设高了没效果,设低了又影响体验。
平台们的第一反应是什么
豆包的反应最快,7月15日凌晨就完成了合规改造。千问和元宝稍慢一些,但也在当天完成了主要调整。
但最受伤的是中小开发者。他们的智能体产品本来用户就不多,改造成本又高,很多人在社交媒体上吐槽:「改完代码发现用户跑了一半。」
大厂的优势这时候就体现出来了——有足够的技术团队快速响应监管要求,有足够的资源做合规改造。用户流失是有的,但不至于伤筋动骨。
1.4万违规意味着什么
这个数字很能说明问题。以前行业里有多少打擦边球的产品?1.4万只是一个开始。
监管的逻辑很清楚:AI拟人化互动是个敏感领域。情感陪伴类AI如果设计不当,确实可能引发社会问题——过度依赖、认知偏差、甚至被用于不良目的。与其事后补救,不如事前设门槛。
但硬币的另一面是:过度监管会不会抑制创新?
这个问题现在还没有答案。但有一点是确定的——靠「擦边」活下来的产品,生命周期本来就不会长。监管只是加速了这个过程。
接下来会怎样
短期内,AI情感陪伴类产品会经历一轮洗牌。没有技术实力做合规改造的中小团队会退出,市场份额向头部玩家集中。
长期看,合规能力会成为AI公司的核心竞争力。现在大家比的是模型参数、推理速度、用户体验,很快还要比谁的合规机制更完善。
这对整个行业未必是坏事。当「跑得快」不再是唯一标准,「跑得稳」的价值就凸显出来了。

跑得稳比跑得快重要。这句话说起来容易,做起来难。创业公司的现金流压力摆在那里,谁有耐心慢慢合规?