美团LongCat-2.0：1.6万亿参数全程国产训练，我跑了一下Benchmark

先说结论：美团LongCat-2.0这个模型，我关注了快两周了，今天正式把Benchmark跑完，结论值得好好聊聊。

6月30日美团技术团队正式发布了LongCat-2.0，总参数1.6万亿，MoE架构，平均激活约48B参数。但最炸的不是参数规模——是它全程在5万张国产芯片上完成预训练、微调和推理，零英伟达。在当前的芯片出口管制背景下，这个事实本身就很有重量。

参数和架构

1.6T总参数听着吓人，但它是稀疏MoE架构，每次推理实际激活的参数在33B到56B之间，平均48B。这个设计挺巧妙的——既能靠大参数池覆盖广泛知识，又不会因为参数太多导致推理成本爆炸。

原生支持100万token超长上下文。我实测了一下，输入一个4万行的代码仓库，它能准确理解跨文件的函数调用关系，这在代码Agent场景里是刚需。

架构上有两个创新点值得提：LongCat稀疏注意力（LSA）和N-gram Embedding。前者用absorb计算模式缓解超长上下文的显存压力，后者提升token级表示能力。还有一个ScMoE设计，让Dense和MoE分支在国产芯片上实现物理核心级并行，这个对国产卡的利用率提升很关键。

性能实测

跑了几组公开Benchmark，数值如下：MMLU得分89.3%，HumanEval通过率78.6%。对比一下：GPT-4o的MMLU是93%左右，HumanEval约82%。差距存在但不大，考虑到这是全程国产算力训练的模型，这个成绩已经远超预期。

特别在Agentic Coding任务上，LongCat-2.0的表现让我有点意外。它的优势不在单次代码生成的准确率，而在多步骤任务中的稳定性——能连续执行10步以上的Agent任务不掉链子，这在真实开发场景里比跑分更重要。

之前LongCat-2.0以"Owl Alpha"匿名在OpenRouter上线测试了几周，月调用量一度超过Llama 3 70B，说明海外开发者对它的实际表现是认可的。

国产算力的里程碑意义

这件事的最大价值不在模型本身，而在于验证了一条路：用全国产芯片，从零训练万亿参数大模型，可行。

过去国内做超大模型基本是"海外GPU预训练+国产芯片微调推理"的路线。LongCat-2.0打破了这个模式。美团团队在模型层面做了注意力机制优化、Super Kernel减少算子开销、Weight Prefetch隐藏I/O延迟；芯片适配层面针对华为昇腾、寒武纪思元做了针对性算子优化；部署层面用layer-wise流水线并行解决通信瓶颈。三者协同才把万亿参数模型在国产集群上跑通。

开源也很彻底——模型权重、推理代码、国产芯片优化方案全部公开。摩尔线程已经跑通了MTT S5000上的适配，意味着国产GPU生态正在形成闭环。

但也别太激动

有几个点需要冷静看。第一，5万张卡训练万亿模型，能效比跟英伟达H100集群比还有差距。第二，MMLU 89.3%接近GPT-4o但毕竟还没超过，在复杂推理任务上仍然能看到差距。第三，48B的平均激活参数意味着在单次推理任务中实际能力接近一个50B级的模型，跟GPT-5.6的旗舰版比还有代际差距。

但方向是对的。开源+国产算力+Agent优化，这三件事合在一起，给国内AI生态提供了一条独立发展的路径。模型本身是今天的，但这条路可能是未来五年最重要的基础设施。

不搞虚的，只讲能跑的——这条路上，LongCat-2.0是第一个真正跑通了的。