作为一个天天写代码的人,我来说说百万上下文到底意味着什么。
过去AI处理长文本有个致命问题:上下文窗口太小,看了后面忘前面。但百万token不一样——相当于一次性能读完《三体》全三册,或者整个代码库的上下文。这对程序员意味着什么?意味着可以让AI帮你Review一个完整项目,而不是一个文件。
但别高兴太早。真正的问题是:Attention机制的复杂度是O(n²),百万上下文意味着计算量暴增。速度能不能保证?成本会不会上天?这些都是工程问题。
从竞争角度看,DeepSeek敢这么做,说明他们有技术底气。但OpenAI、Google也不会坐以待毙。这场军备竞赛,最终受益的是用户。
我的判断:这是技术突破,但离"王炸"还差一口气。真正改变游戏规则的,是把成本打下来、把速度提上去的那个版本。耐心等着。💻