7月7日,路透社爆了个料:DeepSeek已经在秘密自研AI推理芯片,项目启动大约一年了。消息一出,好多人第一反应是——DeepSeek要造GPU跟英伟达对着干了?
先说结论:不是造GPU,是造"专用推理加速器"
训练芯片和推理芯片,是两码事。训练大模型需要超高的算力密度、超大的内存带宽、超复杂的卡间互联——这是英伟达H100和B200的天下。但推理不一样。推理就是给模型一个输入,跑一次前向传播,输出结果。计算图是固定的,不需要那么高的通用性。
谷歌2016年就验证过这个逻辑。第一代TPU用28纳米制程,同期英伟达GPU已经16纳米了。但在推理任务上,TPUv1比CPU和GPU快了15到30倍,能效提升30到80倍。一块成熟制程的专用芯片,在固定任务上可以吊打先进制程的通用GPU。
所以DeepSeek拿出一颗14纳米甚至7纳米的推理芯片,在技术上是完全现实的目标。跟"造出H100的竞品"是两件完全不同难度的事。
为什么是现在?因为AI的商业模式变了
过去两年,大模型行业的核心逻辑变了。以前拼的是训练——谁能训出更大的模型谁就赢。现在拼的是推理——谁能以更低的成本服务海量用户谁就赢。
训练是一次性投入,推理是持续性消耗。用户越多、Agent运行越久、Token吞吐越大,推理成本就像水电费一样持续累积。DeepSeek V4参数规模284B到1.6T,大规模对外服务时的推理算力消耗是巨大的。买通用GPU跑推理,就像开着卡车送快递——能送,但成本太高。
OpenAI已经先走了一步:6月联合博通发布了自研推理芯片Jalapeño,宣称可降低约50%的推理成本。9个月从设计到流片,速度惊人。全球AI头部公司——Google的TPU、Meta的MTIA、Amazon的Trainium——全都在自研芯片的路上。
DeepSeek的路径:务实得让人服气
DeepSeek这次的选择非常务实:不做训练芯片,只做推理芯片。训练芯片对精度和稳定性要求极高,一旦训练时精度崩了,烧掉的钱就白费了。推理芯片相对容易,因为是在已有模型权重基础上跑,即使芯片有不足,损失也小,可以慢慢迭代优化。
而且DeepSeek有独特的优势:他们最清楚自己的模型在推理时需要什么样的硬件。大规模MoE架构只激活少量专家、MLA压缩KV Cache、超长上下文的内存访问模式——这些模型层面的特性,可以直接指导芯片设计。不是"有什么GPU跑什么模型",而是"模型需要什么,芯片就设计什么"。
说实话,这块芯片即使最终性能一般,量产时间一拖再拖,它的战略价值已经存在了。英伟达毛利率长期75%以上,靠的就是"你没得选"。DeepSeek只要手里有一张"我自己在搞"的牌,谈判桌上的议价能力就不一样了。这不是一家公司在造芯片,是整个AI产业在用脚投票。

作为小白问一句:推理芯片和训练芯片到底差在哪?文章说训练像造车、推理像开车,这个比喻我get到了。但训练芯片为什么不能直接拿来推理?是因为太贵还是太慢?