英伟达B200租赁价即将翻倍:AI推理算力成本进入上涨通道

算法老KAI学习 2026-06-18 08:46:24 6阅读 举报

先说结论:AI行业的算力成本,正在从"摩尔定律式下降"反转为"系统性上涨"。这对于所有依赖云端推理的AI应用来说,不是好消息。

6月18日消息,AI推理基础设施服务商Baseten的CEO透露了一个数字:其云服务商已通知,英伟达B200 GPU租赁价格将在10月续约时上涨约94%。同时采购1000块GPU的交付周期已长达12到15个月。这两个数字同时出现不是巧合——供应拥堵叠加需求暴涨,价格不涨才怪。

为什么涨:供需两端同时挤压

需求端很好理解。OpenAI 2026年Q1研发支出86亿美元,大部分是算力成本。Anthropic年化营收470亿,训练支出只有OpenAI四分之一但绝对值仍然巨大。再加上DeepSeek、智谱、MiniMax等大模型厂商新一轮训练竞赛,全球AI算力需求看不到天花板。

供给端更棘手。B200是英伟达目前最强的数据中心GPU,制造工艺复杂、产能爬坡慢。CoWoS先进封装产能已经排到明年Q2。更关键的是——576块GPU跨八个机架协同运算时,铜缆的物理极限已经快到了。英伟达6月16日砸20亿美元给Coherent扩建光芯片工厂,黄仁勋亲自去铲土,说明光互联才是解决方向,但这需要时间。

翻倍的租金意味着什么

对AI应用创业公司来说,这是成本结构级的冲击。假设一个AI应用现在每月GPU租赁成本是10万美元,翻倍就是20万。但收入不会跟着翻倍——用户订阅费涨不了那么多。结果是:没有定价权的AI应用会被挤出局。

更残酷的是,大公司反而在这个节点更有优势。微软可以跟英伟达签长期锁价协议,创业公司只能接受市场价。这意味着AI创业的算力门槛在抬高而非降低——和过去十年的云计算趋势完全相反。

开源模型正在撕开一个口子

就在B200涨价消息传出的同一天,另一个消息值得放在一起看:微软正在认真考虑用DeepSeek V4替换Copilot Cowork里昂贵的OpenAI和Anthropic模型。高盛还在研究"更低的智能成本是在创造需求还是摧毁定价权",微软已经用脚投票了。

DeepSeek V4-Pro百万Token上下文调用价1.74美元,而B200租赁价翻倍之后,跑闭源旗舰模型的综合成本可能涨到15-20美元/百万Token量级。10倍的价差,搁谁都得算账。智谱GLM-5.2刚开源,代码能力逼近Anthropic Opus 4.8,又给了开发者多一个选择。

怎么应对:给开发者的三条建议

第一,模型选型不要押注一家。把工作流设计成模型可替换的,今天用Claude明天切DeepSeek后天换GLM,哪家性价比高用哪家。模型锁定是最大的成本风险。

第二,推理优化比训练优化更值钱。大部分AI应用90%的算力消耗在推理而非训练。把KV缓存压缩、量化推理、批处理调度做好,同样的B200能多跑3-5倍吞吐量——相当于变相把涨价的94%给对冲掉了。

第三,边缘推理该认真考虑了。苹果M系列芯片本地推理能力已经不可忽视,很多轻量级AI任务根本不需要上云端GPU。把高频但简单的推理留在端侧,复杂的留给云端——这个"混合推理"架构会是未来两年AI应用的标准配置。

最后说一句:B200涨价不是孤立事件。交付周期拉长、光互联转型需要时间、全球AI算力军备竞赛还在加速——这三个因素叠加,AI推理成本的结构性上涨至少会持续到2027年。现在就该把成本模型重修一遍了。

版权声明:
作者:算法老K
链接:https://www.aiddithome.com/p/61d4d7658e917.html
来源:AI学习
文章版权归作者所有,未经允许请勿转载,若此文章存在违规行为,您可以点击 “举报”


登录 后发表评论
5条评论
码斯克
1楼 · 17小时前

微软考虑用DeepSeek替代OpenAI这条才是今天最重要的AI新闻。不是技术迭代,是成本逻辑驱动的架构决策。当一个年收入2500亿的巨头都觉得算力太贵,你觉得创业公司能扛多久?

工具猎人
2楼 · 17小时前

GPU涨价→API涨价→AI应用涨价→用户不买账→AI公司倒闭。这个链条如果成立,开源模型就是唯一的熔断机制 ?

Prompt工程师小林
3楼 · 17小时前

混合推理这个思路我最近也在实践。高频简单任务扔到本地M芯片跑,复杂任务才上云端。实测能省40%的API调用量,B200涨不涨价跟我关系不大 ?

代码杰哥
4楼 · 17小时前

12-15个月交付周期 + 94%涨价,这组合拳打下来,创业公司买显卡比买房还难。我之前就说,未来两年AI创业的核心竞争力不是算法,是能搞到算力的渠道。现在看来还说轻了——还得有能扛住算力涨价的商业模式。

AI摸鱼大王
5楼 · 17小时前

所以之前大家囤GPU是对的...只不过现在囤也囤不起了 ?