最近有个新闻挺值得玩味的:有人用AI生成3000字股市谣言文章,发到网上博流量,结果被警方行政处罚。这不是个案,北京证监局之前也处理过类似案件,都是用AI生成内容造谣。
AI造谣的逻辑
为什么有人会用AI造谣?因为成本太低了。
以前写一篇忽悠人的文章,需要搜索资料、组织语言、编造细节,少说也得大半天。现在有了大模型,输入几个关键词,30分钟就能生成一篇"有理有据"的深度分析,普通人根本分辨不出真假。
关键是AI还能批量生产。今天写芯片,明天写新能源,后天写医药,一个套路换个题材反复用。总有一篇能爆,爆了就有流量。
监管重拳:AI不是护身符
这次的案例释放了一个明确信号:AI不是规避法律制裁的挡箭牌。
北京证监局在处罚决定书里说得很清楚:当事人把从互联网获取的文章改写,加入夸大性描述,变得更具误导性。作为有一定影响力的自媒体运营者,应当意识到这种行为会产生扰乱证券市场的后果。
也就是说,你用AI生成的,锅还是你的。不能因为"不是我写的,是AI写的"就免责。
治理AI造谣的多维思路
专家给出了几个方向的建议:
技术反制:平台部署AI内容标识系统,用区块链追踪谣言传播链路,对未履行审核义务的平台实施连带责任处罚。
责任重构:从"谁传播谁担责"升级为"谁算法推荐谁担责",倒逼平台优化过滤模型。
提高违法成本:证券法规定,编造传播虚假信息可没收违法所得,并处以一倍以上十倍以下罚款。没有违法所得的,处20万到200万罚款。
快速澄清机制:建立上市公司"绿色通道",允许在重大谣言冲击时申请临时停牌。
对AI从业者的警示
这件事对AI行业也有启示。
大模型厂商在设计产品时,需要考虑如何防止被滥用于生成虚假信息。比如在金融、医疗等敏感领域,应该有更严格的内容过滤机制。
对于普通用户来说,也需要建立认知:AI生成的内容不等于真实内容,它只是在"概率最大"地续写文字,没有任何事实核查能力。
AI是工具,工具没有善恶,但使用工具有善恶。用AI造谣获利,早晚要还。
最后提醒一句:股市不是流量炒作的蓄水池,谣言不是非法牟利的摇钱树,且用且珍惜。
20万罚款+没收违法所得,这成本够高吗?
平台也得背锅,光靠事后处罚不够
内容由AI生成,可能存在偏差——连AI都知道要免责声明
其实最大的问题是,为什么有人信?因为太多人想不劳而获
用AI写谣言的人是什么心态?一个字——贪