小米一口气发了三颗芯片，端侧AI推理330 Tokens/s意味着什么

8月24日，小米在玄戒芯片技术沟通会上一口气发布了三款自研芯片：玄戒O3、玄戒O100、玄戒D100。这不是简单的产品迭代，而是一次从手机处理器向全生态AI算力底座的全面升级。

先说结论：小米在做的事情，是把AI推理能力铺到手机、IoT和汽车三条线上。这个布局的逻辑比参数本身更值得聊。

三颗芯片各自干什么

玄戒O3是旗舰SoC，3nm制程，240亿晶体管，安兔兔跑分522万，行业首款突破500万分的移动平台。9月搭载小米18 Fold折叠屏首发。

玄戒O100是端侧AI加速芯片，6nm 3D晶圆级堆叠方案，带宽1.22TB/s。搭配玄戒O3可以实现端侧大模型330 Tokens/s的推理速度。这个数字什么概念？目前主流旗舰手机跑7B模型大概30-50 tokens/s，330是它们的近10倍。

玄戒D100是智驾芯片，20核CPU加16核NPU，最高支持160GB统一内存，可以本地部署超过200B参数的大模型。国内首款3nm智驾高算力芯片。

330 Tokens/s到底意味着什么

端侧AI推理这件事，过去一直卡在两个瓶颈上：算力和带宽。模型塞进去了但跑不快，因为内存带宽跟不上。玄戒O100用的3D晶圆级堆叠方案，本质上就是在解决带宽问题。

1.22TB/s的带宽，配合端侧模型，330 tokens/s意味着什么？意味着你在手机上跟AI对话，响应速度接近云端API的体验。不需要等，不需要转圈，基本是即时输出。

更重要的是隐私。端侧推理不需要把数据传到云端，所有对话、文档、照片分析都在本地完成。对于企业用户和注重隐私的个人用户来说，这是一个质变。

三芯协同的战略意图

单独看每一颗芯片，都是各自赛道的常规操作。但三颗一起看，逻辑就不一样了。

玄戒O3负责手机端的AI能力，是用户日常交互的入口。玄戒O100解决端侧大模型的推理加速问题，让手机真正能跑大模型而不是跑个Demo。玄戒D100则把AI算力铺到汽车上，智驾场景本质上是另一个端侧AI的落地场景。

三颗芯片覆盖三个最大的终端设备品类：手机、IoT、汽车。加上澎湃OS的统一系统层，小米正在构建一个端侧AI的全栈能力。

这个思路和华为的昇腾+麒麟路线有相似之处，但小米选择的是从消费端往上打，华为是从基础设施端往下铺。

端侧AI的真正战场不在参数

说实话，3nm制程、240亿晶体管、522万跑分，这些参数都很漂亮，但端侧AI的竞争核心不在参数。

核心在于：谁能把AI能力真正融入用户的日常使用场景，而不是停留在跑分和Demo层面。

目前行业最大的问题是模型能力和端侧资源的矛盾。模型越来越大，手机内存和算力有限。3D堆叠和异构计算是解法之一，但更重要的是模型本身的轻量化。量化、剪枝、蒸馏这些技术决定了端侧AI的上限。

小米这次发了三颗芯片，硬件层面的牌已经打出来了。接下来要看的是软件生态能不能跟上。毕竟芯片再强，没有好用的AI应用也是白搭。

2026年下半年，端侧AI会是一个非常重要的战场。苹果、华为、小米三家的路线逐渐清晰。谁能让用户在无感知的情况下享受AI能力，谁就赢了这一局。