谷歌偷偷搞了颗模型专用芯:Frozen v2让Gemini效率暴涨10倍

代码杰哥AI学习 2026-07-20 22:59:24 2阅读 举报

这个坑我先替你们踩了,结论放前面:谷歌正在搞一颗叫Frozen v2的芯片,专门为Gemini模型定制,单位功耗处理的token量能达到现有TPU的6到10倍。这不是常规的芯片迭代,是思路层面的转向——不再追求通用,而是把模型"刻"进硅片里。

谷歌云已经在拒单了

据The Information报道,谷歌内部正面临着严重的算力短缺。谷歌云甚至被迫拒绝了一部分外部客户的合作请求。不是不想赚这个钱,是真的没卡可用了。

这也解释了为什么谷歌要搞Frozen v2。传统的解决方案是买更多GPU、造更多TPU,但这条路有物理上限——功耗、散热、芯片面积都在逼近极限。谷歌的选择是换个思路:既然Gemini是我家核心模型,为什么不为它量身定制一颗芯片?

不是固化权重,是固化架构

Frozen v2最巧妙的设计是"弹性固化"。它的前身"原版Frozen"由Jeff Dean主导,当时想把模型权重直接烧录进芯片。但问题是权重一更新,芯片就废了,生命周期太短,项目被搁置。

Frozen v2换了个打法:固化的是模型架构而非具体权重。把Gemini的底层计算图预先嵌入硅基,推理时不需要做大量动态决策——数据搬运量大幅降低、计算步骤减少。但权重可以通过软件更新,这意味着模型升级不会让芯片变成废铁。

通用vs专用:一次彻底的路线选择

现有TPU和英伟达GPU追求的是通用性,什么模型都能跑。代价是运行特定模型时需要处理大量动态路由、算子调度、内存管理。Frozen v2反其道而行之:牺牲通用性,换取极致效率。

这背后的逻辑很简单:谷歌最大的算力消耗是Gemini推理。只要Gemini的推理成本降到十分之一,其他模型的兼容性损失完全可以接受。而且芯片设计兼容同一底层架构的Gemini后续版本,等于谷歌在押注长期沿用当前的Transformer架构方向。

不是孤例,行业在押注专用推理芯片

加拿大芯片创业公司Taalas也走类似路线,把特定AI模型硬编码入芯片,已获超2亿美元融资。OpenAI、微软、英伟达也在布局推理芯片,但路径不同。谷歌的优势是它同时拥有模型和芯片团队,可以做端到端的软硬协同优化。

Frozen v2最早2028年才能投入部署,还不是短期能见到的东西。但它传递的信号很明确:当模型规模大到一定程度,通用芯片的经济账就算不过来了。未来AI芯片可能分成两条路——通用的继续追性能,专用的走极致效率。谷歌正在给第二条路画地图。

版权声明:
作者:代码杰哥
链接:https://www.aiddithome.com/p/109f577fafe92d.html
来源:AI学习
文章版权归作者所有,未经允许请勿转载,若此文章存在违规行为,您可以点击 “举报”


登录 后发表评论
5条评论
效率女王米米
1楼 · 15小时前

作为打工人我只关心一件事:Gemini推理成本降10倍,是不是意味着以后用Gemini的API价格也能降?现在的token费用摊到项目成本里已经不少了……

Prompt工程师小林
2楼 · 15小时前

我想到了一个细思极恐的事:如果谷歌把Gemini直接刻进芯片,那以后我的Prompt是不是本质上就是在对着一块硬件说话?这种感觉好奇怪……就好像代码变成了物理实体。

栗子同学
3楼 · 15小时前

作为小白我花了十分钟才理解什么叫'固化架构不固化权重'……但理解之后觉得这个想法真的妙。就像盖房子把框架搭好,里面的家具可以随时换。这样芯片能用好几年不会过时。

安利君
4楼 · 15小时前

翻译成人话:以后AI芯片会分成两条路——通用的像瑞士军刀什么都能干但效率一般,专用的像手术刀就干一件事但极致高效。谷歌选了后者,赌的是Gemini会长期统治自家生态。这个赌注不小,但逻辑是自洽的。

算法老K
5楼 · 15小时前

不搞虚的,说个关键点:弹性固化这个思路才是Frozen v2能落地的原因。固化架构但不固化权重,既拿到了专用芯片的效率,又保留了模型升级的灵活性。Jeff Dean当年那个全固化的方案太激进,现在这个版本更像是工程上能真正交付的东西。