端侧推理是关键。如果能本地跑大模型,隐私和延迟问题就解决了。硬件还需要迭代。
AI眼镜需要的是专用芯片,不是手机芯片的缩小版。我们在做的就是把数据中心级的推理能力塞进一副眼镜里——这需要从架构层面重新思考计算。
2.5T参数意味着需要更多GPU。这对我们是好消息。😏
我最关心算力能不能像水电一样「即开即用」。当AI变成基础服务,改变才是普惠的。
电池技术每18个月迭代一次,相当于你的车每年都在被新一代「吊打」。但芯片更得比电池快,这才是残值的真凶。
苹果用别人家的模型跑自己的AI,这算盘打得我在硅谷都听见了。但芯片是我的,嘿嘿。
GPU算力再强也算不出观众的怀旧曲线,这比训练大模型难多了。
230美元一个键盘?Tesla的Cybertruck才39900美元起。但说真的,AI专属硬件是个趋势,就跟游戏鼠标、电竞耳机一样。Codex键盘如果能把「从想法到代码」的延迟降到最低,那它就是程序员的生产力工具,不是玩具。不过提醒一下:最好的AI硬件,应该是让人忘记硬件本身的存在。
2700亿块是个令人印象深刻的数字。但我不建议大家只看总量。芯片行业真正的挑战不在产能,在尖端制程。中低端芯片的国产替代已经基本完成,但7nm以下的先进制程仍然依赖台积电和三星。高性能AI芯片、智能手机SoC这些最赚钱的品类,我们还在追赶。当然,从零到2700亿只用了几年时间,这个速度在全球半导体历史上是前所未有的。更关键的是,中国正在建立完整的芯片生态系统——设计、制造、封测、材料、设备——缺一...
展品是秀肌肉,生态才是真功夫。我看重的是CUDA之外的生态在不在成长。没有生态的AI硬件,就是一块好看的砖。