前OpenAI研究副总裁：人类研究员只剩两年，AI研究将全面自动化

在当前的人工智能领域，研究员们正面临着一种前所未有的撕裂感：一方面是技术一日千里的狂飙突进；另一方面，则是被无尽的代码与实验压榨至极限的疲惫。

“你现在经常能听到AI领域的研究员们在重复这句话：‘我们的工作只剩最后几天了，趁现在还能干就多干点，之后我们就可以全都休息了。’”前OpenAI研究副总裁 Jerry Tworek 在近期的访谈中抛出了这个略带黑色幽默的观点。

在他看来，这绝非一句简单的玩笑。随着“原生智能体（agent-native）”时代的到来，AI自身正迅速接管研发工作。“我粗略估计，人类研究员在AI研究发现过程中继续扮演重要角色，至少还有两年的时间。”

离开效力七年的OpenAI后，Jerry 创立了 Core Automation。他的野心不止于研发下一个大语言模型，而是试图重构AI公司的运转范式——用AI来研发AI，打造完全自动化的“第三代AI实验室”。

以下为访谈要点：

• 人类研究员的“倒计时”：人类研究员在AI研究发现中继续扮演重要角色的时间只剩最后两年。之后，从提出假设到验证的整个AI研发闭环将实现完全自动化。
• 第三代AI实验室崛起： 区别于DeepMind/早期OpenAI（纯研究驱动）和GPT-3后的实验室（专注算力规模化），第三代实验室将“自动化”置于首位。利用低成本的AI智能体（Agents）取代人类执行繁复的实验与代码编写，可将研发周期从数月压缩至一天。
• 挑战Transformer霸权： 一味复刻大厂的Transformer模型是一场“必输的游戏”，当前AI技术更进一步的瓶颈恰恰是架构本身。新一代实验室正利用编程智能体，从零探索曾经因为“试错成本极高”而被束之高阁的新架构，目标指向在测试时（test time）学习的新模型。
• 揭秘o1/o3模型内幕： 大规模强化学习（RL）是通往AGI的必经之路。Ilya Sutskever早在2019年便精准预判了路线图。o系列（推理模型）的突破源于研究团队多年的底层探索，以及关键时刻领导层（如Jakub Pachocki）对算力的果断倾斜。
• “公司级AI”将成终极产品： 未来的不仅是AI实验室，所有大型企业都将走向完全自动化。在剥离了重复劳作的“后劳作时代”，人类将拥有更多时间去追求精神与身体的伟大。

倒计时两年：第三代AI实验室告别“人肉执行”

Jerry Tworek 将AI实验室的发展划分为三个阶段。

第一代以DeepMind和早期的OpenAI为代表，它们诞生于“大规模AI可行性”被验证之前，是纯粹以实现AGI为目标的“研究驱动型”机构；第二代则诞生于GPT-3发布之后，当Scaling Law（规模法则）被证明有效，各家实验室开始疯狂竞逐算力，试图通过规模化产生智能（以Anthropic等为代表）。

而现在，我们正在见证第三代AI实验室的出现——它们试图将“自动化”放在首位。

在传统的AI研发中，提出假设、编写代码、跑通小规模实验、再到调动数十人花费数月时间去扩展规模，这是一个极其昂贵且摩擦力巨大的过程。

“在很多方面，我们现在的做法是：人类研究员依然负责生成洞见（Insight）和指明方向，但智能体（Agents）的作用是尽可能简化执行过程。”Jerry指出，虽然目前的智能体还不擅长开放式探索或提出极其精准的假设，但只要指令明确，它们的执行力无可挑剔。

“如果我们可以把实验的时间从一个月缩短到一天，那就是 30 倍的加速。” Jerry预测，两年后，整个人工智能研究的闭环——从提出想法到数据验证，将完全实现自动化。人类在其中将不再发挥决定性作用，就像今天的人类在国际象棋比赛中一样。

避开算力内卷，打破Transformer的“十年统治”

当前，几乎所有头部大厂都在Transformer架构上“卷”算力。但在Jerry看来，对于新兴实验室（NeoLabs）而言，一味跟随是一场灾难。

“仅仅雇佣一群研究员然后说‘我们将像 OpenAI 和 Anthropic 一样训练 Transformer 模型，并试图与他们竞争’，这是一个非常糟糕的策略。这是一场必输的游戏。”

他指出，受限于经济激励和高昂的试错成本，大厂倾向于走最稳妥的规模化路线。但历史经验表明，任何技术的早期阶段都会经历底层的剧变。“目前 AI 技术更快发展、更快进步的瓶颈，恰恰是架构本身，也就是我们用了这么多年的 Transformer。”

为什么过去十年没人能成功替换Transformer？Jerry给出的答案是：试错成本太高。

在过去，研究员要测试一个新架构，代码极难编写。即便小规模跑通，要扩大规模还需要极高的算力审批和团队资源。很多创新想法就这样在漫长的科层摩擦中被扼杀，或者被Transformer的既有势头所淹没。

但现在情况变了。“写代码变得大幅度廉价和容易，这可能是一种独特的解锁方式。” 凭借低成本的AI编程智能体，Core Automation 正试图从零开始探索曾经被放弃的架构路径。他们的“北极星”目标非常明确：打造能在测试时（test time）进行学习、能从用户交互中学习的新架构模型。

首次揭秘 o1/o3 突破内幕：强化学习与算力的奇迹

作为 OpenAI o系列（推理模型）的核心开发者，Jerry 也首次在访谈中回顾了这一颠覆性突破背后的故事。

早在2019年初，Ilya Sutskever 就在全员大会上精准描绘了通往AGI的路线图：“我们需要用能得到的所有数据训练一个巨大的生成模型，然后我们需要用强化学习（RL）进行训练。”

方向虽然明确，但执行之路却漫长而坎坷。Jerry透露，GPT-3 开始训练时，他的第一反应就是如何用它做强化学习。初代的 Codex 就是大语言模型结合强化学习的实验产物。然而，受限于数据、算法和实验设置，团队在很长一段时间内都无法将其有效扩展。

“这些东西当时都在后台默默酝酿。很长一段时间里，尝试都没有取得巨大的收益。”

转机来自于一次“生命的迹象”以及领导层的果断决策。当模型终于在强化学习下展现出可能奏效的微弱火花时，首席科学家 Jakub Pachocki 敏锐地抓住了机会：“杰瑞，现在我们有了这些 GPU。看看我们是否能开始扩展这个，是否能把现有的结果做大做强。”

在算力匮乏的AI实验室里，“先有鸡还是先有蛋”（先有成果还是先给算力）是永恒的难题。但正是高层“放手去干”的算力倾斜，点燃了整个团队。

“这让我们激动万分。我们付出了三倍的努力，去思考需要什么样的数据集、系统和实验来证明它可以持续扩展。兴奋带来了实验结果，结果又创造了势头。” 最终，通过将强化学习的规模提升数个数量级，震惊行业的 o1、o3 推理模型得以面世。

终极愿景：“公司级AI”与后劳作时代的狂想

谈及 Core Automation 的未来产品，Jerry 的目光超越了单纯的AI模型。

“我们想把自己的公司打造成世界上最自动化的公司，并且将其作为蓝图。我们要构建出一个类似‘公司大脑’的东西，集中所有的公司信息，员工通过终端连接，成为一个公司 AI 的用户。”

当被问及如果大大小小的公司最终都实现了完全自动化，人类的未来将何去何从时，Jerry 给出了一个充满哲学意味的“后劳作（post-labor）时代”设想。

官僚作风最重的大公司将最先被自动化，AI将接管信息的传递与流程的优化。这意味着，人类十万年来为了生存而不得不进行的“人肉执行”将逐渐走向终结。如果矿山能自主运作提供资源、软件能自我修复漏洞并开发新功能，人类就不再需要为了世界运转而强迫自己苦逼地“打工”。

但这并不意味着劳动的绝对终结。Jerry 认为，未来的焦点将转向“人类增强（human augmentation）”与追求极致的伟大。

“我有点像在想象这样一个世界：我们生活得像古希腊哲学家一样，在广场上聚会，整天互相讨论哲学、锻炼身体，做一些我们想做的事。人类应该努力在身体和精神上变得伟大，就像今天的职业体育一样，没有经济理由去做，但我们为了追求伟大而努力。这才是对我们来说最重要的部分。”

随着倒计时两年的时钟滴答作响，无论是AI研究员，还是所有身处知识经济浪潮中的普通人，或许都到了该重新思考“工作”定义的时候了。

以下为访谈原文：

杰瑞 (Jerry): 我粗略估计，人类研究员在 AI 研究发现过程中继续扮演重要角色，至少还有两年的时间。我觉得你现在经常能听到 AI 领域的研究员们在重复这句话：“哦，我们的工作只剩最后几天了，所以趁现在还能干就多干点，之后我们就可以全都休息了。”这个行业发展极快，在这个领域工作这么多年，很多时候真的让人感到极其疲惫和劳累。但如果我们认为这是我们职业生涯和工作中最重要的一段时光，那这或许也是值得的。

主持人 (Host): 好了，我们回来了。今天我们的直播连线了一位非常特别的嘉宾——杰瑞·图雷克（Jerry Tworek）。他是 Core Automation 的联合创始人兼 CEO，这是一家致力于建立全球自动化程度最高的 AI 实验室的 AI 研究公司。此前，他在 OpenAI 工作了七年，并担任了研究副总裁。他曾为机器人开发强化学习（RL），构建了 Codex、初代 Codex、ChatGPT、GPT-4、o1、o3 等推理模型。在此之前，他从事量化金融工作，并在华沙大学学习数学。所以，杰瑞，欢迎来到 MTS。

杰瑞 (Jerry): 感谢邀请，今天很高兴能和你们在一起。

主持人 (Host): 我们有一个迫不及待想知道的问题：Core Automation 现在进展如何？

杰瑞 (Jerry): 我们正在努力建立一个全新的 AI 实验室，现在正处于 AI 研究的一个新时代。我觉得我们正在见证第三代 AI 实验室的出现，这些实验室试图将“自动化”放在首位。我们现在所处的世界，已经可以用 AI 模型来进行 AI 研究了，那么我们如何以最好的方式做到这一点呢？我认为，我们有机会在与过去所有公司略微不同的基础上建立一家公司，因为我们是从一个不同的技术基础上起步的。我们已经拥有了上一代公司试图构建的所有这些成果，现在我们要弄清楚如何以最佳方式利用它们来建立公司。

主持人 (Host): 你刚才提到了第三代 AI 实验室。那么第一代和第二代分别是什么？

杰瑞 (Jerry): 这显然是在简化某些东西。DeepMind 显然是真正的第一代，他们非常称得上是元老（OG）。但在某种程度上，我把 DeepMind 和 OpenAI 视为同一种 AI 实验室，因为它们是在我们知道大规模 AI 可行之前就成立的。它们非常像纯研究驱动的公司，目标是：“我们要建立 AGI。我们还不太清楚怎么做，但我们会去研究创造 AI 的想法。”

然后，我认为出现了第二波 AI 实验室，我主要将它们看作是在 GPT-3 之后，即 Scale 法则（Scaling）首次被证明可行时建立的。我们实际上找到了通过投入大量计算资源来产生智能的方法，很多实验室都试图实现这种规模化。当时成立了很多实验室，虽然大多都没有走到今天，但 Anthropic 是其中被寄予厚望且最终成为今天最成功的公司之一。

现在，在推理模型和智能体（Agents）取得成功之后，我们看到了又一次新初创公司的爆发，试图弄清楚我们如何建立“原生智能体（agent-native）”或“原生 AI”公司，以及这应该是什么样子的。

主持人 (Host): 那么在整个技术栈中，你们试图自动化哪个部分呢？是用现有的编程工具来自动化 AI 研究员，还是你们也试图将编程部分本身自动化，比如能够自我改进的编程智能体？

杰瑞 (Jerry): 嗯，几乎是技术栈的每一个部分。问题在于，我们在哪里能获得最大的阿尔法（Alpha，超额收益），在哪里有最大的杠杆来改进事物。但我考虑的角度是，实验室和研究公司到底在做什么？它们在产生洞见（insight），在生成你需要用来训练更好模型的知识。这是一个数据生成过程，你投入算力，然后产出洞见。问题的关键在于，我们如何优化这个过程，以便从我们的算力中获得最大的价值来产生新洞见？我们如何在单位时间内运行尽可能多的实验，从而在某种程度上比其他公司拥有更快的洞见生成速度？

主持人 (Host): 你所说的“生成洞见”，是指运行一堆智能体来产生想法，然后你再基于这些想法去进行 AI 研究吗？

杰瑞 (Jerry): 在很多方面，我们现在的做法略有不同。我们很大程度上仍然使用人类研究员来生成洞见，并试图确定我们应该朝哪个方向发展，而智能体的作用是尽可能简化执行过程。这样我们就可以尝试这些想法，并尽快生成有关这些想法的数据，看看它们是否好用。因此，如果我们可以把实验的时间从一个月缩短到一天，那就是 30 倍的加速，而且所有这些都是可能的。我不认为现在的智能体非常擅长开放式的探索和构建极其优秀的精确假设，但如果给出的指令相当明确，它们非常擅长执行指令。

主持人 (Host): 是的，我们最近看到 Gavin Baker 发的一条很好的推文，谈到了寻求计算效率高的人类、Token 和算力之间的帕累托最优平衡。

杰瑞 (Jerry): 嗯，是的，那条推文太棒了。

主持人 (Host): 那么你们是怎么考虑这个问题的？对你来说，什么样的人类才算是具有计算效率的？

杰瑞 (Jerry): 这是一个好问题，在某种程度上，对人类来说，计算和时间是密切相关的。我们在单位时间内能使用的计算量可能就是固定的。所以问题主要在于我们如何分配我们的时间，如何消耗我们的精力？但显然，我们有办法更好地分配这些东西，主要关注点在于什么是我们能做的杠杆率最高的努力。

主持人 (Host): 我想在你的愿景中……我们常听说，研究方向是优化过程中最困难的部分，在完全自动化的实验室背景下，你可能仍然需要人类的辨别力来指定某个特定的研究方向。那么你们是如何考虑这一点的？你预测人类还需要多长时间必须稳定地留在这一研究循环（loop）中？

杰瑞 (Jerry): 这是个好问题。我们还有一些时间。我粗略估计，人类研究员在 AI 研究发现过程中继续扮演重要角色，至少还有两年的时间。我觉得就像你现在经常能听到 AI 领域的研究员们在重复这句话：“哦，我们的工作只剩最后几天了，所以趁现在还能干就多干点，之后我们就可以全都休息了。”这个行业发展得非常快，在这行干了这么多年，在很多方面都让人感到极其疲惫和劳累。但是如果这确实是我们职业生涯和工作中最重要的一段时光，那这或许也是值得的。

我认为，我们必须让智能体对研究领域和研究方向有更高层次的理解。任何人只要用过模型做研究都知道，智能体生成的洞见质量往往相当低。它们可能很有创造力，但生成想法的方式质量非常非常低，如果它们的想法很多样化，通常也不太好。目前还没有任何模型能够代表一个花了 10 年时间研究 AI 技术的人类，具备对我们真正正在处理的对象如此深度的理解。

主持人 (Host): 在这里我要特别感谢我们的赞助商——Lovable。你知道那个你一直想开发的内部工具、副业项目或产品吧？如果没有 Lovable，你可能会浪费一个周末。有了 Lovable，你今天就可以直接发布软件。它包含一个你可以检查和更改的可编辑代码库，加上双向 GitHub 同步。Lovable 还负责处理后端和基础设施，包括托管 Postgres、对象存储、托管、支付等，所以你不必自己把一切连接起来。通过 Lovable 的 MCP 服务器，你可以直接从你已经使用的智能体创建和部署项目。用 Lovable 把想法变成人们喜爱的软件吧，网址是 lovable.dev。好了，回到我们的节目。

所以你的预测是，两年后，整个人工智能研究的闭环——也就是从头到尾——将完全实现自动化，而人类将无法发挥有意义的作用，就像人类在国际象棋中无法再发挥有意义的作用一样？

杰瑞 (Jerry): 是的。

主持人 (Host): 即使以这种“短时间线”的标准来看，这也是一个相当激进的短时间线预测。想想两年前，大概是 2024 年 8 月，我们有什么？那大概是 o1 发布前两三周的时候。当时最好的模型是 GPT-4o、Claude 3.5 Sonnet。它们仍然不太会做数学题，也不太会写代码。我想说，我们在这些领域已经取得了相当大的进展。但我们在其他领域，比如创意写作或一般的写作方面，并没有取得巨大的进展。我的聊天查询结果并没有比两年前好很多，甚至感觉今年模型出现了同质化（mode collapse）。我觉得任何编码智能体的 UI 都大同小异，模型生成的语言也趋同于同一种风格。那么，我们如何从现在走到所有 AI 研究的完全自动化，以至于在两年后，人类完全成为一种多余的存在？

杰瑞 (Jerry): 是的。我觉得如你所知，显然有一条路径是直接扩展当前的方法；还有一条路径是我们在未来两年内会有什么新发现。但我会说，就像你所问的，回想过去两年，我们在哪里取得了最大的进展，我们在创意写作、数学或者编程领域是否在进步？很多这些问题几乎都要看激励机制。目前，实验室显然有巨大的动力去关注编程，关注使用 AI 模型来自动化知识工作。而在创意写作方面，让模型变得非常出色需要付出大量的努力，实验室不太确定是否能证明这些成本的合理性。有时候人们会想，为什么某些领域发展得快，某些领域发展得慢？很多时候，这并不受限于研究能力，而是受限于经济激励。训练模型非常昂贵，无论外界是否看得出来，实验室为了生存，在经济优化上都是极其残酷的。因为如果你不是拥有最大算力资源（compute footprint）的实验室，那你就会……

主持人 (Host): 是的，如果你不是拥有最大算力的实验室，你就会死。但是，对于那些肯定没有那么多算力的新兴实验室（NeoLabs）来说，它们的生存空间在哪里？

杰瑞 (Jerry): 是的。有些 NeoLabs 成功了并成为了最大的公司之一。它们设法确保了算力，就像 Anthropic 所做的那样，它们完成了一项惊人的壮举。但问题是，当时有多少公司做到了这一点？大概只有 10 家。所以如果你想想只有 10% 的几率获得那么多算力，这确实非常惊人。我认为我们还没有看到哪家拥有大量算力的大公司彻底失败和掉队。似乎如果你有足够的算力，你就能不断引进人才并重新点燃势头。算力是一种足够重要的战略资源，能让你招揽到人才。

就像我创业时，可能每周都有人告诉我：“嘿，杰瑞，太晚了。你的算力比别人少得多。你不可能做大的，门槛已经这么高，大门已经关上了。”但 Anthropic 做到了，所以我不认为这是不可能的。就像我们公司喜欢说的，一切都是“技能问题（skill issue）”。如果我们把自己的工作做好，肯定会有继续扩张并确保获得更多算力的方法。比如我曾看 Ilya 多年来做了很多在别人看来不可能的事情，但他总能找到办法保持 OpenAI 的扩展，不断获取更多的算力。因此，如果你是个优秀的战略家，执行力也很强，这些都是完全有可能实现的，虽然这显然无法保证，这条路注定是艰难的。