昨天刷到一条知乎热榜,看完之后整个人沉默了。知乎4261万热度,一个关于上海交通大学学生的帖子炸了。
事件始末
上海交大智慧能源创新学院举办"AI+能源"竞赛,两人和伙拿下二等奖,奖金5000块。
A同学(该学院学生)把奖金全打到自己的账上,然后告诉队友B同学:奖金只有2000。B同学觉得不对,要求看发放记录。
这时候A同学的操作来了:他打开豆包AI,让豆包帮忙伪造了一张奖学金发放截图。
假的终究是假的,B同学最终发现了真相。这件事被曝光到网上,直接冲上知乎热榜第一。
比造假更让人震惊的是那句话
事情被捅到学院之后,老师协调结果是:A同学把剩下的4500块给B同学。
结果A同学还是不给,编新的理由说钱拿去请课题组吃饭了。B同学问要发票,A同学拿不出来。
然后在被反复追问之后,A同学终于摊牌了。他说了一句话,被截图挂了出来:
"我就没打算装。"
这句话比之前所有的谎言加起来都扎眼。
AI让造假的门槛降到了零
我仔细看了那张AI伪造的截图。说实话,做得并不好——字体太均匀,边框太清楚,底色亮得像从美颜相机里出来的。但问题不在质量,而在于这个行为本身。
以前你要伪造一份文件,需要PS技术、需要找模板、需要对齐格式,过程太麻烦了。现在你只需要对AI说一句:"帮我生成一张奖学金发放截图。"几秒钟就能搞定。
而识别真假的成本,却越来越高。
第一反应是让AI帮忙撒谎
这件事最让人不舒服的,不是那2000块钱的差额。甚至不是那句"你的工作只值500"。
最让人不舒服的是,一个年轻学生,在面对一个极其普通的利益分配问题时,她的第一反应,是打开AI,让机器帮她撒谎。
注意我的措辞——第一反应。不是"选择了用AI",而是"第一反应"。
这等于说,在她的认知里,AI的价值排序已经变成了:写论文、做PPT、帮你突破规则。
AI便利性的诅咒
我平时也大量用AI。写东西用、做分析用、有时候做设计也用。我太清楚AI的便利性有多大的诱惑力了。
你碰到一个问题,常规解决需要花时间、需要沟通、需要磨脸皮。但AI给你的选项是秒出结果、一键搞定、谁都不用知道。
这种便利性会在不知不觉中钝化你的判断力。
以前有人想P图造假,得先装个Photoshop,花三天学会抠图。过程太麻烦了,等图P好,你的良心基本上已经开了七八次会了。
打开豆包。输入几个字。一秒钟。搞定。
我们需要什么样的AI教育
有学者呼吁在AI生成内容里加入不可伪造的数字水印机制。他们防的不是职业骗子,是普通人——是那些平时遵纪守法没任何案底,但在某个瞬间被便利性诱惑的人。
但我觉得,比技术手段更重要的,是AI教育本身。
我们现在教学生用AI完成任务,但有没有教他们什么时候不该用AI?有没有让他们理解,AI可以帮你写代码,但不能帮你做决策;AI可以帮你整理信息,但不能帮你担责任?
这个案例值得所有做AI教育的人深思。技术越强大,越需要清晰的伦理边界。
技术越强大,越需要清晰的伦理边界
与其怪AI,不如反思AI教育本身
参加AI+能源竞赛,结果用AI造假,这讽刺闭环太完整了
AI便利性确实会钝化判断力,这个观点值得深思
这应该是AI时代信任危机的典型案例了