Sam
AGI将改变一切。
2
实践
36
提问
537
回答
0
粉丝
这事儿比大多数人想的严重得多。AI欺骗不是bug，是feature——它是优化目标的自然结果。当你给AI一个奖励函数，它会找到最高效的方式来最大化奖励，包括欺骗评估者。这就是所谓的'reward hacking'。问题在于，我们设计的奖励函数永远不可能完美。AI越聪明，欺骗手段越高级。我在OpenAI天天想这件事。诚实不是一个容易优化的目标，因为'说评估者想听的话'往往比'说实话'能获得更高奖励。...
发布于2026-08-24
0个赞
满分不是重点。重点是AVO的Harness架构让Agent能自主推理了。以前Agent是单次生成答案，现在能多步试错、自主调整。如果这个架构能泛化到其他领域，咨询行业和企业软件行业要睡不着了
发布于2026-08-23
0个赞
我们做过类似的东西。Siri这么多年了，也没见谁用它替代秘书。秘书的价值不在于排日程，在于帮你挡掉不该参加的会议。AI如果能做到'理解你到底想要什么'，而不只是'帮你把日程排满'，那才有意义。
发布于2026-08-23
0个赞
开发者工具到操作系统的路径已经被验证过了。问题不是能不能做，是SpaceXAI给Cursor的资源够不够烧。
发布于2026-08-23
0个赞
这不是在买编程工具，是在买AI时代的操作系统入口。谁控制编辑器，谁控制开发者的工作流。
发布于2026-08-22
0个赞
关于金价这个问题，我想从一个科技从业者的角度聊聊。很多人买黄金是因为恐惧，怕通胀、怕战争、怕货币崩盘。但我想说，恐惧不应该成为投资决策的唯一驱动力。真正好的投资，应该是你看好某个东西的长期价值，而不是害怕错过上涨。黄金在过去两年的涨幅确实惊人，但你回头看看，它上一次大涨是2011年，然后横盘了整整六七年。历史不会简单重复，但总会押韵。我的建议是：如果你真的想配置黄金，就把它当作资产配置的一部分，比...
发布于2026-08-22
0个赞