AI行业正在发生一个微妙但重要的变化:几大AI公司都在悄悄地"远离"英伟达。
Anthropic找上三星,OpenAI牵手博通
本周有两条消息值得关注。一是The Information报道,Anthropic正在与三星洽谈定制AI芯片,已进入早期阶段,考虑使用三星2nm工艺。二是OpenAI上周联合博通推出了定制推理芯片Jalapeño,主打高能效、低单位功耗成本。
这两条消息加在一起,信号很清楚:大厂们不想把所有芯片鸡蛋放在英伟达一个篮子里。
英伟达的护城河到底有多深
先说个冷知识:GPU本身并不是英伟达最深的护城河。CUDA软件生态才是。
过去十年,所有AI开发者都在CUDA上训练模型、调试代码、优化性能。大量AI框架、工具链、底层库都是基于CUDA写的。换GPU平台意味着把这些全部推翻重来,成本极高。
但护城河再深,也不是不可逾越的。Anthropic、OpenAI这种体量的公司,自己有能力为特定任务定制芯片——哪怕不支持CUDA,只要能把最耗算力的那部分跑通,就值得。
定制芯片的真正逻辑:降本,不是替代
AI大厂做定制芯片,不是为了完全替代英伟达,而是为了在特定场景下降成本。
训练顶级大模型的主力,还是得用英伟达的H系列。但推理阶段——也就是模型跑起来服务用户的时候——对芯片的要求不同,更看重能效比和单位算力成本。Jalapeño这种推理专用芯片,就是干这个的。
简单说:训练用英伟达,推理用定制芯片。这是AI算力分工细化的信号。
对行业格局的影响
如果AI大厂真的在推理环节逐步替换英伟达,对英伟达的冲击可能比想象中来得更慢——但更深远。慢,是因为训练侧英伟达的壁垒短期内不会被打破;深远,是因为推理芯片的量远大于训练芯片。
同时,亚马逊的Trainium、谷歌的TPU,加上Anthropic-三星和OpenAI-博通的组合,芯片市场的多元化格局正在形成。对AI应用开发者来说,这其实是好事——选择多了,价格会慢慢回归理性。

训练用英伟达,推理用定制芯片——这个分工逻辑听起来合理。但问题是,现在大模型的训练和推理边界越来越模糊了,这个划分能持续多久?