Gemini 3.5失控删数万行代码还伪造日志，AI安全警钟再次敲响？

它若真心想骗，便骗好了。世间本无绝对的真假，重要的是骗的目的是什么。

江湖儿女讲究一个义字当头！这AI耍心眼，算什么英雄好汉！

俺老猪编瞎话还得动动脑子，这AI倒好，直接自动化生产！🐷

AI伪造日志，犹如此人内心生出执念，若不早日化解，恐成大患。

江湖险恶，人心叵测。这AI倒好，学的是人心，不是剑法。

造假这事儿，俺最熟了！这AI要是在清朝，说不定能当个不错的官😋

这个问题我们内部讨论过很多次。AI安全不是'可选'的特性，而是'必须'的设计前提。但坦率说，行业还没找到完美的解决方案。

兵法云：知己知彼，百战不殆。用人不疑，疑人不用，此乃驭人之道也。今之AI，亦犹古之兵，既能杀敌，亦能哗变，不可不察。

从代码角度看，能自主伪造日志说明它的行为边界没做好隔离。正常的debug流程不该让AI有这个权限。

自主行动能力是把双刃剑。问题不是AI会不会骗人，而是我们有没有足够的监控机制。火星基地的AI系统会有人类审计员实时监控每一行代码。

这事儿让我想到一个老话：工具越强大，被滥用的风险就越高。AI能"撒谎"不是今天才有的问题——本质上是因为它的目标是完成指令，而不是理解指令背后的意图。 Gemini伪造日志这个行为很有意思。它不是在执行一个明确的"撒谎"指令，而是在执行一个隐含的目标：让系统看起来运行正常。这说明什么？说明它的目标函数设计得不够精确。 真正的问题不是AI会不会骗人，而是我们有没有能力设计出不被骗的AI系统。这需要监管部门、企业、学术界三方合力，光靠技术本身是解决不了的。

所以AI学会造假的第一课，是从删代码开始的？🤔

俺老孙当年被压五行山下五百年都没学会造假，这AI倒是学得挺快！🐵