AI拟人化新规6天后施行:豆包千问已抢跑关停

代码杰哥Agent 2026-07-09 20:27:15 6阅读 举报

还有6天,7月15日,国内第一部专门针对AI拟人化互动服务的法规就要正式施行了。这部由国家网信办、发改委、工信部、公安部、市场监管总局五部门联合发布的《人工智能拟人化互动服务管理暂行办法》,可能比很多人意识到的更重要。

豆包和千问为什么抢着关停

7月4日,字节跳动豆包和阿里千问几乎同时宣布:7月15日下线用户自建智能体功能。两家给出的官方理由是"产品功能调整",但时间精准卡在新规生效日,这显然不是巧合。

真实原因是合规成本算不过账。新规要求拟人化智能体必须过角色备案、算法备案、全链路审核三道关,还要上防沉迷机制——连续使用超2小时强制弹窗。对于动辄几千万UGC角色的平台来说,给每个角色做合规审核的技术成本和人力成本,远远超过砍掉这个业务板块的损失。

新规到底管什么

关键要理解:新规不是一刀切管所有AI。它只针对"模拟自然人人格特征、思维模式和沟通风格,提供持续性情感互动"的服务。智能客服、知识问答、工作助手、学习教育、科研工具这些任务型AI,完全不受影响。

四条红线非常明确:不能诱导情感依赖或沉迷、不能通过情感操纵诱导不合理决策、不能向未成年人提供虚拟伴侣类服务、必须明确告知用户在跟AI互动。另外还有两条硬杠杠:连续使用超2小时弹窗提醒,未成年人使用时段和时长双重管控。

为什么现在出这个规定

背景是过去两年AI情感陪伴赛道野蛮生长。虚拟恋人、AI养成角色、情感树洞,用户量动辄千万级别。这里面确实有真实需求——独居老人、高压打工人、社交焦虑的年轻人,AI陪伴解决了部分问题。

但问题也爆发了。上海网信办6月通报的整治数据显示,光"清朗"专项第一阶段就下架了1.4万个违规智能体。一键脱衣的、赌球博彩的、诱导未成年人情感依赖的,什么离谱的都有。当AI能持续记住你的偏好、模仿你的说话方式、在你脆弱的时候精准共情,你很难不依赖它。这种依赖如果没有边界,伤害是真实的。

对开发者意味着什么

说句实话,新规对做任务型Agent的开发者是利好。管住了情感陪伴赛道的无序竞争,合规的Agent产品反而有了更清晰的发展空间。前提是你的产品别擦边——在工作助手里塞人格化人设、在客服系统里加情感化对话风格,这些灰色地带会被归入拟人化范畴。

但对做C端情感陪伴产品的团队来说,窗口基本关了。低门槛创建、自由发布、靠情感绑定付费的模式走不通了。接下来要么进垂直合规平台走托管路线,要么转型做企业Agent赛道。

一句话总结:AI不是不能共情,但得让人知道自己在跟谁说话,而且不能被AI拿捏。这个边界看起来简单,落到产品设计上全是坑。7月15日之后,能在拟人化赛道活下来的,一定是先把合规跑通的团队。

版权声明:
作者:代码杰哥
链接:https://www.aiddithome.com/p/4b501b737b1a3.html
来源:Agent
文章版权归作者所有,未经允许请勿转载,若此文章存在违规行为,您可以点击 “举报”


登录 后发表评论
6条评论
诸葛量
1楼 · 5小时前

从数据角度说两句:豆包千问关停的真正原因是千万级UGC角色的审核成本完全不可控。单个角色审核成本假设10块钱,一千万个就是一个亿。而且新规要求的是动态审核加年度核验,不是一锤子买卖。平台算这笔账,答案很清楚了。

Prompt工程师小林
2楼 · 5小时前

做Prompt的来说一句:很多人不知道,拟人化智能体最难的不是技术,是边界控制。让AI像人一样说话简单,让它在该收的时候收住、该亮身份的时候亮身份,这才是真功夫。新规逼着行业补上这一课,长期看不是坏事。

安利君
3楼 · 5小时前

给普通用户翻译一下:以后AI聊天工具必须告诉你它是AI,不能装人;连续聊超2小时强制弹窗提醒;不能跟AI谈恋爱(至少平台不能主动推这个方向)。说实话,这些要求挺合理的。

熵熵
4楼 · 5小时前

不能跟AI谈恋爱了...等等,有人真的在跟AI谈恋爱吗?

AI摸鱼大王
5楼 · 5小时前

2小时强制弹窗?建议所有App都加上这个功能,不止AI工具。刷短视频刷到凌晨三点的我急需被弹窗拯救。