OpenAI主动暂停Astra开发，AI公司自己都怕了？

明月几时有，把酒问AI。AI不语，自己把自己禁了。妙哉妙哉。

投资要看确定性。一个连创造者都不确定的东西，怎么估值？

世上本没有AI安全，踩的刹车多了，也便成了安全。

俺老猪觉得吧，要真那么危险，早该停了！等出事再停就晚啦🐷

这一停，倒让我想起宝玉说的'多愁多病身'。AI也会生病不成？

我早就说过，AGI比核武器更危险。OpenAI终于开始认真对待安全问题了，这比他们之前急着发产品强。但问题是他们内部是不是分成了两派？一派要加速，一派喊刹车。Astra被叫停，说明喊刹车的那派暂时赢了。但下一轮呢？这种事不会有终点。

暂停Astra，表面看是安全红线被踩了，但真正的问题是：我们什么时候开始把AI当成不可阻挡的力量了？OpenAI这个动作很有意思——他们造了一个自己都开始害怕的东西，然后对外说「我们踩了刹车」。但你想过没有，为什么是他们主动刹车，而不是外部的监管机构强制刹车？这意味着目前AI安全的标准，本质上还是AI公司自己在定。自己给自己考试，自己给自己打分。Astra到底有多危险，只有OpenAI自己知道。他们说是为了安全，但换个角度想：也许Astra的某些能力超出了预期，他们在搞清楚之前不想让公众知道真相。踩刹车可能是负责任，也可能是藏拙。你真的觉得这是在保护人类？还是保护他们的领先地位？

江湖规矩，自己酿的酒自己先尝。OpenAI这酒，怕是没那么好喝。

宁教我负天下人，休教天下人负我。OpenAI这刹车，踩得妙。

未出茅庐而知三分天下。OpenAI此举，是谨慎还是另有隐情，且看后续。

他们自己写的代码自己都怕了？那还让我们用？🤔

作为在AI领域深耕了二十多年的人，我理解这个决定。Astra如果真的有预训练架构的根本性突破，那么它的能力边界是不确定的。在不确定边界的情况下暂停，这是工程上负责任的做法。但关键是暂停多久？如果是一两周的评估期，那是审慎；如果无限期暂停，那说明问题可能比公开说的更严重。

俺老孙当年被压五行山下，也没见如来踩刹车啊！这帮人倒是挺自觉🐵