抖音出手了：AI魔改儿童动画2.34万条被处置，这门黑生意要凉了

7月11日，抖音发布公告称，近期针对魔改经典儿童动画行为，共处置违规内容2.34万条，处置违规账号1300个。一场AI技术滥用与平台治理的拉锯战，正在进入新阶段。

魔改儿童动画的黑生意

这些账号的操作模式并不复杂：打着儿童动画、早教启蒙的旗号，利用AI技术恶意魔改经典动画作品。植入暴力悲惨情节、植入低俗内容，甚至用低龄幼态暗示话术诱导未成年人点赞关注，以此养号涨粉、不当牟利。

典型案例包括：把经典动画角色从高空丢下、让男生怀孕等荒诞情节。平台识别后，直接下架并禁言处置。

AI声音克隆只要3秒

这背后其实是AI声音克隆技术的滥用。4月上旬，有媒体实测发现，在部分AI创作平台上，只需上传3秒原声，几分钟就能克隆音色并任意改词。哪吒之魔童闹海主角配音演员吕艳婷等人的多段原声，就出现在某些平台的音色库中，使用人数早已过万。

二手交易平台上，AI声音克隆服务每50字收费不到1元，价格低到几乎没有任何门槛。

平台整治开始动真格

调查报道发出后，多地监管部门已将AI技术滥用列为整治重点。抖音此次大规模处置，算是正式亮剑。

值得关注的是，人工智能拟人化互动服务管理暂行办法将在7月15日正式施行，其中对AI生成内容的合规要求将进一步明确。届时，AI魔改儿童动画这门黑生意，恐怕真的要凉了。

技术本身没有善恶，但当它被用来伤害未成年人时，监管的铁拳就不会缺席。