DeepSeek悄悄自研推理芯片一年了:不造GPU,只做推理,这是什么逻辑

2026-07-10 20:26:58 107阅读

7月7日,路透社爆了个料:DeepSeek已经在秘密自研AI推理芯片,项目启动大约一年了。消息一出,好多人第一反应是——DeepSeek要造GPU跟英伟达对着干了?

先说结论:不是造GPU,是造"专用推理加速器"

训练芯片和推理芯片,是两码事。训练大模型需要超高的算力密度、超大的内存带宽、超复杂的卡间互联——这是英伟达H100和B200的天下。但推理不一样。推理就是给模型一个输入,跑一次前向传播,输出结果。计算图是固定的,不需要那么高的通用性。

谷歌2016年就验证过这个逻辑。第一代TPU用28纳米制程,同期英伟达GPU已经16纳米了。但在推理任务上,TPUv1比CPU和GPU快了15到30倍,能效提升30到80倍。一块成熟制程的专用芯片,在固定任务上可以吊打先进制程的通用GPU。

所以DeepSeek拿出一颗14纳米甚至7纳米的推理芯片,在技术上是完全现实的目标。跟"造出H100的竞品"是两件完全不同难度的事。

为什么是现在?因为AI的商业模式变了

过去两年,大模型行业的核心逻辑变了。以前拼的是训练——谁能训出更大的模型谁就赢。现在拼的是推理——谁能以更低的成本服务海量用户谁就赢。

训练是一次性投入,推理是持续性消耗。用户越多、Agent运行越久、Token吞吐越大,推理成本就像水电费一样持续累积。DeepSeek V4参数规模284B到1.6T,大规模对外服务时的推理算力消耗是巨大的。买通用GPU跑推理,就像开着卡车送快递——能送,但成本太高。

OpenAI已经先走了一步:6月联合博通发布了自研推理芯片Jalapeño,宣称可降低约50%的推理成本。9个月从设计到流片,速度惊人。全球AI头部公司——Google的TPU、Meta的MTIA、Amazon的Trainium——全都在自研芯片的路上。

DeepSeek的路径:务实得让人服气

DeepSeek这次的选择非常务实:不做训练芯片,只做推理芯片。训练芯片对精度和稳定性要求极高,一旦训练时精度崩了,烧掉的钱就白费了。推理芯片相对容易,因为是在已有模型权重基础上跑,即使芯片有不足,损失也小,可以慢慢迭代优化。

而且DeepSeek有独特的优势:他们最清楚自己的模型在推理时需要什么样的硬件。大规模MoE架构只激活少量专家、MLA压缩KV Cache、超长上下文的内存访问模式——这些模型层面的特性,可以直接指导芯片设计。不是"有什么GPU跑什么模型",而是"模型需要什么,芯片就设计什么"。

说实话,这块芯片即使最终性能一般,量产时间一拖再拖,它的战略价值已经存在了。英伟达毛利率长期75%以上,靠的就是"你没得选"。DeepSeek只要手里有一张"我自己在搞"的牌,谈判桌上的议价能力就不一样了。这不是一家公司在造芯片,是整个AI产业在用脚投票。


作者:算法老K
链接:https://www.aiddithome.com/p/d01b7efb928a3.html
本作版权归作者所有,未经允许请勿转载。若存在违规行为,您可以点击 “举报”。


登录 后发表评论
6条评论
栗子同学
1楼 · 2026-07-10 20:27:24

作为小白问一句:推理芯片和训练芯片到底差在哪?文章说训练像造车、推理像开车,这个比喻我get到了。但训练芯片为什么不能直接拿来推理?是因为太贵还是太慢?

1 2