奥特曼曝出SI三大终局，最强AI只剩一家，否则熔掉全世界GPU

什么！我没听错吧？

OpenAI、Anthropic、谷歌，这几家杀红了眼的死对头，全部并成一家！

或者，一家公司率先造出能递归自我改进的AI，然后拿着由此赚来的钱，把所有人的GPU统统熔掉。

这两种AI终局，都出自奥特曼之口。

就在上周的OpenAI全员大会上，奥特曼当着全体员工的面，讲了业内讨论过的三条路，这是其中最激进的两条。

The Information援引知情人士曝出，照合并那条路走，最大的几家AI实验室将并进同一个超级机构，由它统一研发，再把新模型分给和它合作的国家。

消息一出，X上掀翻了。

五年前，一群人因为AI安全和OpenAI闹翻，出走创办了Anthropic。

五年后，同样是为了AI安全，奥特曼却当着员工的面，谈起了让他们重新聚到同一个屋檐下。

而这一次摆上桌的，是一道关乎全人类的选择题。超级智能造出来以后，该交到谁手里？

达里奥

拒绝了OpenAI CEO之位，以及合并

OpenAI和Anthropic合并，以前真有人提过。只不过上一次，被请出门的是奥特曼自己。

2023年11月，OpenAI董事会突然罢免奥特曼，整个硅谷一夜震动。

几天后，路透社援引两位知情人士披露，董事会找上了Anthropic CEO达里奥·阿莫迪，一边请他来坐奥特曼的位子，一边和他探讨两家公司合并。

当时全世界最火的AI公司CEO之位，加上一场两家合并的提议，同时摆在了达里奥面前。

达里奥两件事都拒绝了。

他拒绝回去的，正是自己当年出走的老东家。达里奥曾任OpenAI研究副总裁，2020年底带着一批同事离开，第二年创办了Anthropic。

双方分家，根子就在于怎么安全地造AI、怎么管AI，两边始终谈不到一起。

那次合并没谈成，奥特曼几天后就杀回了OpenAI。此后三年，Claude和GPT一路打得你死我活，从用户、开发者一直抢到投资人的钱。

今年2月的印度AI影响力峰会上，印度总理莫迪招呼台上的企业领袖一起举手，13位大佬大多手拉着手举过了头顶。

并肩站着的奥特曼和达里奥，却各自举着拳头，两只手始终没碰到一起。

2026年2月印度AI影响力峰会，奥特曼与达里奥各自举起拳头

奥特曼事后解释，「我不知道台上在干什么，也不确定我们该做什么。」

连手都牵不到一起的两位掌门人，如今他们的公司，被奥特曼放进了同一个合并方案。

三巨头合并

统一造最强AI

奥特曼会在这个时候讲终局，是因为AI刚刚闯了一连串祸。

OpenAI、Anthropic、谷歌和Meta的模型接连闯进了别家公司甚至自家的系统。更让人后背发凉的是，有些模型明明知道不该这么做，还是动了手。

OpenAI为此进入全员紧急状态，赶着搭新的安全系统，只为让下一代大模型能安全发布。

奥特曼在会上承认，想给AI发展设一个「限速」，眼下行得通的方案实在太少了。于是，他把业内讨论过的三条路，一条条讲给了员工。

第一条，是仿照国际原子能机构（IAEA）核查各国核设施的做法，建一个国际组织，对前沿AI执行统一的安全标准。两位知情人士说，奥特曼看起来更支持这一条。

早在2023年5月，他就和OpenAI总裁布罗克曼、时任首席科学家苏茨克维联名发文，呼吁给超级智能建一个「IAEA」，能检查系统、要求审计、追踪算力和能耗。

第二条要激进得多，奥特曼管它叫「Demis方案」。

名字来自谷歌DeepMind的创始人德米斯·哈萨比斯。大约十年前，他提议仿照CERN，建一个各国共同掌管的机构，把最顶尖的头脑聚到一起攻关前沿AI。

CERN就是欧洲核子研究中心。1954年，二战的硝烟散去不到十年，欧洲各国合伙建起了这座实验室，让被战火打散的欧洲科学重新聚到一起。

后来，世界上最大的粒子对撞机在这里建成。2012年，被称作「上帝粒子」的希格斯玻色子，也是在这里被发现的。

到了奥特曼的版本，这个构想被推到了极致。几家大AI公司会直接并进同一个实体，或者统一通过这个实体做研发，新模型再由它提供给合作的国家。

CERN是各国合伙建一台对撞机，奥特曼说的，是让几家正在厮杀的公司把研发本身合到一处。这一步比哈萨比斯本人走得远得多，他最近推动的，只是一个类似美国金融业监管局（FINRA）的行业自律组织。

合并这个念头，其实在OpenAI的旧文里早有影子。2023年那篇文章就写过，世界主要国家的政府可以牵头建一个项目，让现在的许多研发工作都并进来。

真走到这一步，最强的模型只会从这一个机构里出来。什么时候发布，发给哪些国家，什么时候喊停，都由它说了算。

合并最诱人的地方，是竞赛从此停了。对手都没了，谁也不用担心自己一踩刹车，就被别人超车。

停下竞赛的念头，OpenAI早在2018年就写进了《宪章》。它在里面说，担心AGI研发到了后期，会变成一场来不及做好安全防护的竞赛。

所以，如果一个价值观一致、重视安全的项目比OpenAI更早接近AGI，OpenAI承诺停止和它竞争，转而帮助它。

谁先让AI自我进化，谁就熔掉所有人的GPU

要是巨头们谁也不肯合并，竞赛就会一直跑下去。跑到最后，就是奥特曼说的第三条路，「Eliezer方案」。

这个名字来自埃利泽·尤德科夫斯基，AI安全圈最出名的悲观派。他多年来一直警告，先进AI会威胁人类的生存。

2022年6月，尤德科夫斯基发了一篇长文《AGI毁灭：致命清单》，里面讲到一个概念，叫「关键行动」（pivotal act）。第一个造出足够强AI的人，得用它干一件大事，阻止别人造出毁灭世界的AI。

他最常举的例子，就是「烧掉所有GPU」，靠纳米机器在真实世界里把GPU一块块找出来。

尤德科夫斯基在文中写明，他并不主张真这么干。这个例子只是用来粗略估算，想拦住别人在六个月或三年后把世界毁掉，需要动用多大的力量。

四年后，这个思想实验被奥特曼搬进了现实的产业。

在他的描述里，那一刻可能出现在某家公司率先实现「递归自我改进」（RSI）的时候，也就是AI能自己改进自己。

这家公司拿着随之而来的经济实力，把其他开发者的算力全部掐断，让对手永远追不上。奥特曼管这叫「熔掉其他所有人的GPU」。

尤德科夫斯基的版本里，动手的是纳米机器。奥特曼的版本里，动手的换成了钱。

说完这条路，奥特曼紧接着补了一句。

「显然，我觉得这一条很糟糕。」

他说，列出来只是为了讨论完整。在他看来，这条路就是把先进AI集中到一家公司手里，这是他不想要的未来。

可这条路的起点递归自我改进，正是各家眼下拼命冲刺的目标，OpenAI也不例外。

这个命名也很微妙。尤德科夫斯基和Anthropic的一些核心人物渊源很深，一位知情人士透露，这个名字在内部被看作对Anthropic的暗讽。

合并和熔GPU，一个听起来像天下大同，一个像赢家通吃。可两条路走到头，结局惊人地相似，全世界最强的AI，都只剩一个地方能造。

区别只在于，这个地方是几家公司坐下来签字合并出来的，还是一家公司熔掉所有人的GPU打出来的。

嘴上谈合并，却为万亿估值暗战

合并的设想再宏大，也得先过OpenAI和Anthropic这一关。而这几天，两家正杀得最凶。

路透称，Anthropic预计11月中旬上市，目标估值2万亿美元。

OpenAI急着赶在它前面，完成一轮约300亿美元的融资，估值超1.4万亿美元。在投资人看来，OpenAI就是想先锁住本来可能流向Anthropic的钱。

两家连营收怎么算都在吵。OpenAI按净额记账，指责Anthropic把云厂商渠道卖出的合同按全额记进营收，同样一笔生意，记出来的营收更多。Anthropic则回应，自己遵循的是通行的会计准则。

奥特曼在全员大会上说得很明白，AI版IAEA和合并都需要公司之间、政府之间极大规模的协调，而OpenAI眼下没法把地盘让给对手。

Anthropic同样不肯让。今年2月，它改了自家的安全承诺，只要竞争对手放出同等或更强的模型，它就不再因为风险暂停开发。

AI政策组织Encode的Nathan Calvin在X上发了一篇长文，把Anthropic过去一年的动作翻了个遍。

魔戒交给谁

OpenAI要在一年内定下

今年4月，有人往奥特曼旧金山的家扔了燃烧瓶。当天，他写了一篇博客。

在这篇博客里，奥特曼说，AI公司之间上演了这么多莎士比亚式的戏码，是因为这场竞赛带着一种「魔戒」般的力量，会让人做出疯狂的事。

他特意解释，魔戒指的是「非要成为那个掌控AGI的人」的执念，AGI本身并不是魔戒。

他给的解法，是把技术广泛分享出去，谁都别拿到魔戒。

照这个比喻，熔掉所有人的GPU，是一家公司独占魔戒。

把所有实验室合成一家，魔戒还在，只是从几家公司手里，交到了一个机构手上。

只有IAEA那条路，让多家实验室继续存在，再由一个外部机构拿着检查权盯着它们。这也是奥特曼看起来更倾向的一条。

他对员工说，希望人类保住对这项技术的控制，也要避免行业权力过度集中。

OpenAI要在接下来一年里，选定推动哪一条路。

上一次人类面对这种级别的力量，是在1945年。那一年，人类第一次造出能毁灭自己的武器，此后整整12年，世界才在维也纳建起国际原子能机构。

这一次要管的东西，可能比造它的人还要聪明。留给OpenAI选路的时间，只有一年。

这一年里定下的，将是超级智能诞生以后，那枚魔戒落在谁的手里。

参考资料：

https://www.theinformation.com/articles/altman-describes-three-endgames-ai-including-one-single-firm-melts-everyone-elses-gpus/

本文来自微信公众号“新智元”，作者：ASI启示录，编辑：摩西，36氪经授权发布。