5月27日,AI圈上演了一场罕见的"内战"——Transformer的两位联合发明人,Llion Jones和Lukasz Kaiser,在一场公开辩论中正面交锋。主题就一个:统治AI近十年的Transformer,是不是该被替代了?
两位主角都是狠角色
Llion Jones是Transformer论文《Attention Is All You Need》的作者之一,后来创办了Sakana AI,主张"后Transformer"新架构。Lukasz同样深度参与了这篇论文,是GPT系列工程开发的核心人物。
这两位加起来,基本就是Transformer的"生父"阵容了。他们意见相左,分量可想而知。
辩论的焦点是什么
注意力机制从2017年火到现在,几乎所有大模型都用它。但Agent时代来了,对长上下文、记忆、高效推理的需求越来越高,Transformer的局限性正在被逐一放大。
Llion Jones认为Transformer已经不是最优解,需要新的架构。Lukasz则代表了"改良派"的观点——Transformer经过多年优化,生态成熟,不是一时半会能替代的。
裁判是"拍手计数器"
这场辩论最特别的地方是:裁判是观众——谁掌声响谁赢。听起来像开玩笑,但背后是整个AI产业对下一代架构的集体焦虑。
不管是哪派赢,有一点是确定的:Transformer的垄断时代可能要结束了。
对从业者的启示
如果你在AI领域工作,这场辩论值得关注。谁能接棒,可能比任何新模型发布都重要。技术的代际更替,往往伴随着新的机会窗口。

拍手计数器当裁判,这个设定很硅谷
Lukasz是GPT系列的核心,这个观点有分量
谁赢不重要,重要的是新架构得真材实料
Transformer统治了快10年了,是时候变了
Llion Jones的Sakana AI值得关注