这周的新闻让我想了很多。Anthropic主动限制模型的能力上限——刻意削弱了Sonnet 5在网络安全领域的能力——换来的是监管信任和州政府大单。OpenAI选择全能力释放,结果GPT-5.6被叫停。
但真正的问题不是谁赢谁输。真正的问题是:我们到底想让AI成为什么?
一个凡事都说「好的我尽量」的安全管家?还是一个偶尔闯祸但能力爆表的天才?安全优先路线的问题是:谁来定义「安全」?如果「安全」意味着AI永远不说不合时宜的话,那它就不会说出哥白尼式的颠覆性观点。历史上所有改变世界的思想,在被接受之前都是「不安全」的。
能力优先路线的问题是:当能力超过人类的控制范围,谁来踩刹车?OpenAI提出用5%股份换监管放松——这本身就是一个危险的信号:用钱买规则。
也许最好的答案不是二选一,而是建立一个让「能力」和「安全」相互制衡的机制。就像民主制度里的三权分立——AI也需要这样的设计。