奥特曼 × 科利森：当智能开始自己干活

其实不是模型刚刚学会找，而是大家刚刚开始拿它去大面积地扫网上的存量代码。网上的代码实在太多了，能下手的地方大得吓人。我的判断是：这个世界上真实存在的严重漏洞，比所有人以为的都要多得多。

对，这正是接下来会发生的事，而且我们手里正好有了能干这件事的新工具。你已经能看到一批新公司在说：别修了，从路由器、操作系统到应用，整个定义重做一遍。两年前这么说会被当成疯子——面太大了，根本写不完；现在说不定真写得完。我愿意下注：我们会看到一套全新的造系统、造网络的方法。

PHP 这件事我不敢说赢了，只能说第一天比我十天前最担心的样子要好不少。很多公司拿模型把自己的系统扫了一遍、打上补丁，停机一小时就重新上线了。但安全圈真正发愁的是另一件事：万一 AI 在硬件里挖出那种需要新物理学才能解释的漏洞，我们现在整套威胁模型的前提就不成立了。那之后怎么办，没人知道。

沙箱当然要做，而且能比现在做得好得多，这是眼下最该投入的。但你设想一下：一个比全世界最好的安全研究员还聪明一百万倍的 AI，你真的敢信那个沙箱吗？何况它还能发现人类不懂的新科学。我的看法是：沙箱能管到一个程度，监控能再往前管一点——盯它的思维链、盯内部状态，确认它没在骗我们；再往后，就只剩一件事可依靠：你确信这个模型本身是站在你这边的，真心认操作者定下的意图，真心觉得未来该由人说了算。

这正是我最看好的方向。我不爱用「蜂群」这个词，叫它们 Agent 团队吧。团队不光在能力上能互相放大，在对齐上也有好处——成员之间有差异，会互相制衡。说句直觉的话：我宁可让一万亿个只比人聪明一点的 AI 走进社会，也不要一个智商一万亿的 AI 走进社会。社会这东西毛病一大堆，但它异常结实，靠的就是多元、互相监督、一起协作；单个大脑一口气把话说完的模式里，没有这种结构。

可以换个角度看：一个问题上，到底能有效地砸进去多少算力。几年前，往一个问题上砸超过一美元的算力，一点用都没有——GPT-4 就算给你磨出十万个 token，也写不出一套能用的软件。后来有了思维链，模型能对着一个问题长时间地想，算力才开始花得出去；再往后，你能派一整个团队去干，还能让一万个团队同时开工。没有测试时计算，就不会有真正有用的 Agent 团队。顶尖用户和普通用户之间的差距，就是沿着这条曲线越拉越大。

你完全可以对 Agent 说：「这一万美元算力之内，把这件事做到最好。」它听得懂，也真能照着做。内部我们给的自由度很大，但有一条文化：绝不奖励谁花得多。Token 用量排行榜上排前面，晋升的时候甚至算减分。默认态度是先怀疑；你要是能证明自己在做真正重要的事，那就只剩赞赏了。

结果还用猜吗。这迟早是个社会问题：算力怎么分，和财富怎么分，是一类问题。我们只是在公司内部先撞上了而已。

是故意的。新范式刚出现的时候，你必须先让人放开手脚去试，不然永远不知道边界在哪。做纳维–斯托克斯证明的时候，我们对 Agent 团队的扩展规律一无所知：该用最聪明的模型，还是多铺副本？想久一点，还是多试几轮？全无头绪，只能试。那一道证明花了大约一千万美元，后来进步太快，平均每道都远低于这个数。我的判断是：一年之后用更好的方法重做同一道证明，成本只要百分之一。那一整轮数学研究总共烧了几亿美元，还包括很多没公开的东西，远不止发表的那七百多道。

我的立场先说死：基础知识属于全人类，重大发现不该被捂在手里。但另一面也是真的：做学问的人，一辈子的事业和满足感，恰恰来自「有些事还没人懂，而我愿意付出极大的代价把它弄懂」——这种可能性本身，是很美的东西。有个周末，新模型到了，大家把自己学术生涯里最难的问题一个接一个扔给它，它一个接一个全敲掉了，内部那个频道的名就叫「新模型，看我的」。我兴奋得连着两晚睡不着；可同时，那种伤感和惆怅，比我预想的要重得多。

对，就是这种感觉，还不只是怀旧。这件事对世界是对的，也没有人能拦、更不该拦；但我们欠这些领域的人一个交代：让世界拿到知识，也让他们拿到尽可能好的那个未来。这个解法，我们还在找。

实际情况是：很差。看不见的手这次失灵了。你看内存这行就懂了：几十年里，做内存的投二百亿、赚一百九十亿，在暴涨暴跌里反复差点死掉。突然之间，他们一年能赚一千亿自由现金流——但也正因为所有人都记得历史，他们在扩产上极度保守。高价格，在这里没能自动换来高供给。

从全社会的账来算，恰恰相反：把稀缺的内存摊到每个人的电脑里、一天只用 5% 的时间，是最差的配置方式。越是紧缺，越应该让云端把利用率拉满。大多数人的直觉，在这件事上正好是反的。

对，几条线一起推：我们自己做了一颗芯片，按「每瓦能换多少智能」算，性能非常强；我们在学着自己建数据中心；还有一个机器人项目，目标是让 AI 指挥机器人去开工厂、造涡轮机和太阳能板、再建更多数据中心。大家聊 RSI（递归自我改进）只聊 AI 做研究，很少有人聊「自己给自己建数据中心」——我觉得这件事已经离我们不远了。

应该跌。现在按五年的总成本算，一吉瓦大概是七百亿美元这个量级。如果它能降到二百亿，我们应该高兴得多——而且就算降到那儿，也照样要年年逼出十倍的性能。要真降下来，能源得更便宜；从把沙子熔掉、到最后吐出一个 token，中间层层叠加的利润都得压薄。我是个技术通缩派：把沙子变成智能的根本成本，只应该往下走。

那一天会来。但今天绝大多数公司的问题是花得太少，不是太多。给你一个对照：以前有公司在日历里标出每场会的人力成本——能省下办公室每周十七美元零食钱的人，权力大得很；可一场烧掉几万美元、毫无产出的会，谁也叫不停。在公司真实的浪费清单里，AI 花得不够省，根本排不上号。

看公司类型。但对很多公司来说，答案很清楚：运营费用的两位数百分比。真到了那个阶段，再认认真真优化它不迟。眼下更要紧的，是别让预算卡住探索。

拼来拼去就三样东西：智能、上下文、工具。现在这批产品大家都挺喜欢，但还没到「没它活不了」的程度——不像编程 Agent，也不像 ChatGPT 本身。我的判断是，个人 Agent 还没迎来它的「麦金塔时刻」，但离得很近了。做出来的人，产品形态和现在不会差太多，区别只有一条：它就是管用，而且稳定地管用，你敢把越来越复杂的事整个交给它。

这点我完全站你。你让我在亚马逊和一家不知名的小电商之间选，我十次里十次选亚马逊，哪怕贵一点——我信任的是它的履约和退货，跟我在它网站上点来点去的体验一点关系都没有。护城河是品牌、是选品、是履约网络，不是界面。这一幕跟当年 iPhone 的应用商店一模一样：大公司当初也不情愿做 App，怕把用户关系交到苹果手里；到最后发现，那不过是一个新界面而已。

双手赞成。我是最早用那种笨拙的自动填表插件的人，就因为实在受不了再填第一百遍。现在我用大多数网站，都有这种感觉。我只想这辈子再也不在电脑上干假活了。

我希望别。编一个假单位出来，这事本身就让我难受。不过说实话，token 本来也不是什么好单位。我们曾经差点做了另一个决定：下一个模型干脆不按 token 卖——你给任务，我们报价、干活、最后发账单，跟云服务一样。客户的反应极其负面。我挨个问他们：同样的结果，如果我按一个注了水的 token 数来计价、还更贵，你接受吗？他们说宁可多付，因为那样至少有个「真实的东西」在那儿。这跟人们宁可按 CPU 小时付费、也不肯为「事情办成」付一笔更便宜的糊涂账，是一个道理——怕的是长期被宰。

真正在乎的只有两条：一是能不能做科学发现、做人做不到的事；二是跟它一起干活舒不舒服。第二条到今天都没有像样的评测。行业先是经历了猛拍马屁的阶段，又经历了处处跟你抬杠的别扭阶段，最近这代好多了。Emmett Shear 很多年前跟我说过他想要的样子，我到今天也没听过更好的说法：一个肯动脑子、敢反驳你、但始终尊重你的资深同事。