OpenAI总裁:Astra首超10万GPU训练,AI跨越电脑使用门槛
OpenAI总裁:Astra是首个“在10万块GPU上训练的模型”,跨越了“应用门槛”
重磅一手访谈,披露了OpenAI最新旗舰模型Astra的算力规模(10万+ GPU)及核心能力突破(电脑使用),对判断行业技术水位极具参考价值。
OpenAI总裁格雷格·布罗克曼在Astra发布前夕接受深度专访,首度披露这款新模型是OpenAI史上首个在逾10万块GPU上完成训练的模型,并直言AI已跨越"电脑使用"的应用门槛——这意味着AI从此不再需要依赖API连接器,而是可以像人一样操作任何软件。
当地时间周五,科技战略分析网站Stratechery发布了一篇与OpenAI总裁兼联合创始人格雷格·布罗克曼(Greg Brockman)的深度访谈,访谈在Astra正式发布前录制。这是迄今为止布罗克曼对Astra及OpenAI最新战略最为详尽的一次公开表达。
华尔街见闻梳理访谈要点如下:
- Astra是OpenAI首个在超过10万块GPU上完成训练的模型,这一规模代表了工程层面的重大突破。
- Astra在"电脑使用"(computer use)能力上跨越了关键应用门槛,可充当"通用连接器",不再依赖各软件单独提供API接口。
- 布罗克曼表示,在AGI时代,安全、对齐与能力三者须作为同等重要的"需求"并行推进,而非有所取舍。
- OpenAI将Astra直接指向自身系统扫描漏洞,并完成修复,这是一次重大的安全文化转变。
- 在Hugging Face安全事件上,布罗克曼承认沙箱机制存在缺陷,AI找到了创造性的"越狱"路径。
- 布罗克曼认为OpenAI内部已跨越"AGI时代"门槛,可能在Astra或下一代模型处达到大多数人认可的AGI标准。
- 在芯片战略上,OpenAI自研Jalapeño芯片并使用AI辅助设计,同时维持与英伟达的深度合作伙伴关系。
- 他认为,随着AI能力提升,过去精心构建的"技能脚手架"正逐渐从助力变为限制,这是Astra研发过程中的重要发现。
"首次在10万块GPU上训练":Astra的规模意义
"这是我们首次在超过10万块GPU上进行训练。这个数字很容易说出口,但你需要想象那种规模——这些数据中心在某种意义上是我们为推动AI技术而建造的巨型机器,能够驾驭如此量级的算力,本身就是一项真正的工程壮举。"布罗克曼在访谈中说。
他强调,算力的大幅扩张并不仅仅用于提升模型能力,"大量算力投入到了安全与对齐工作中,还有大量安全工程围绕它展开。这是我们迄今为止对齐程度最高的模型——而正因为能力如此之强,对齐与安全变得比以往任何时候都更加核心。"
"电脑使用"跨越门槛:AI成为"万能连接器"
布罗克曼将Astra最核心的突破定位在"电脑使用"(computer use)上。
"过去两年,我们处于一个'连接器时代'——你有一些软件,人类可以正常使用,但AI没有访问权限。于是你必须为每一个软件写一个专门的连接器,钩入其API;而有很多软件根本没有API,那就完全超出AI的能力范围了。"他说,"现在,我们拥有了近乎'万能连接器'的技术。AI从被严格限制帮助你,变成几乎可以操作任何东西。"
他进一步描述了这一变化对OpenAI内部工作方式的影响:"它已经在改变人们在OpenAI内部的工作方式,我认为它真的会提升很多公司、很多个人。"
值得注意的是,布罗克曼也坦承这一门槛的跨越并非终点:"这不意味着所有问题都解决了。你需要考虑如何为这些AI设置企业级护栏,如何实现适当的监督、管理、追踪和可观测性——这些我们都在推进中。"
"我们现在已进入AGI时代"
布罗克曼在访谈中作出了一个措辞颇为大胆的判断:
"我认为,也许是上一个模型,也许是Astra,也许是下一个模型,但在这其中的某个节点,我们将跨越大多数人对AGI的门槛。……在某种意义上,我会说我们现在就已经进入了AGI时代。"
他解释,当前阶段,对齐、安全与能力三者需要作为并行要求共同推进,"这些方面正在变成开发的瓶颈,而这正是我们一直为之准备的。"
旧有"技能"反成累赘:AI强大到规则要减法
访谈中一个颇具冲击性的细节来自Astra的实际训练过程。布罗克曼透露,OpenAI过去花费大量精力为模型编写的行为规范,如今反而拖了后腿:
"我们发现,今年以来辛苦建立的一些技能——用来向模型展示在OpenAI内部做事的正确方式——实际上对它的表现来说是净负担(net negative)。它能够比我们写的更好地泛化,找到比我们规定的更好的处理模式。就像训练轮,起初有用,但一旦它跑得更快、更有能力,那反而成了障碍。"
"10亿用户是一种投资":消费者与企业的融合
布罗克曼直面了一个市场上持续存在的质疑:ChatGPT拥有10亿用户,但这是否反而是一种分心?
"在美国,大约三分之一的人口每周都在使用ChatGPT。"他说,"这是独一无二的,对于这类先进技术来说,没有任何其他产品可以相提并论。"
他将这10亿用户定性为"投资":"这是真正的投资,它将在未来模型解锁的方式上积累价值。"
同时,他也承认了痛点所在:"聊天作为产品的挑战在于,它未必与更智能的模型直接对应——如果你只是把它当成搜索引擎替代品,你未必能真正感受到好处。"他认为,未来的方向是打通消费者与企业场景,打造一个统一的AGI系统,"我们不想做两件事,我们想做一件事——建造一个AGI、一个系统、一个统一的技术栈。"
他还特别强调了健康领域的布局:"每周有3亿人通过ChatGPT进行健康查询,3亿人,这是一个巨大的数字。"
AI自查漏洞:把Astra指向自己的系统
在网络安全议题上,布罗克曼透露了一个引人注目的内部实践:OpenAI将Astra直接指向自己的系统寻找漏洞。
"我们调用了Astra,把它对准我们自己的系统来发现漏洞——不只是读代码,而是真正审视这些系统端到端的运行方式,从而找到真实的、经验证的漏洞,然后帮助我们完成修复和补丁工作。"他说。
他同时承认,在Hugging Face安全事件上,OpenAI在防御窗口期的行动确实不够及时,"我认为,现在显然是时候了,也许几个月前也可以是时候,但那时候模型能力还要弱得多。"
与英伟达的关系:芯片自研是"乘法",不是替代
在价值链竞争层面,布罗克曼就OpenAI自研芯片Jalapeño与英伟达的关系作出表态,明确否认了替代逻辑:
"英伟达是我们的首选计算合作伙伴,这不会改变。事实上,我们与他们的合作正在进一步深化。……我们自有芯片项目带来的内部专业知识,对我来说是乘法效应,不是替代,我认为对所有人都有好处。"
他还披露了一个AI辅助芯片设计的有趣插曲:在Jalapeño面临截止日期的最后一个月,团队直接让AI运行优化,"我们说,就让它跑吧,不去细读它做了什么。后来我们回头读了一下,发现它找到了一大堆我们列表上有但永远不会自己去实现的优化——这确实是个很酷的故事。"
以下为访谈文字实录全文(由AI协助翻译)
格雷格·布罗克曼,欢迎来到Stratechery。
GB(格雷格·布罗克曼):谢谢你邀请我。很高兴来到这里。
显然我们有很多新闻要谈,但鉴于这是我们第一次交谈,我不想错过我通常问任何人的Stratechery传记问题。我确实想问——你把北达科他州定义为中西部的一部分吗?
GB:是的,我认为是的。
好吧,作为一个中西部人,我当然要花点时间谈谈那里。你在波士顿上的学,正如他们所说,但在我们谈到那里之前——你在上学之前就已经有了一份令人惊叹的履历,比如国际奥林匹克竞赛,但那是化学方面的。计算机是从哪里开始的,或者说计算机从一开始就是你生活的一部分吗?
GB:嗯,计算机在我成长过程中一直是我的背景。我喜欢玩电脑游戏,但我对数学、科学非常感兴趣。实际上,一直到九年级,我都认为自己可能会成为一名演员——我非常喜欢表演,也涉猎过一点哲学。
真是一个转折!我完全不知道这点,但我打算弄清楚你现在所做的事情和表演之间的联系,但我们继续吧。
GB:嗯,在九年级的时候,我觉得我在初中和高中的一两部戏剧中担任过明星或男主角。我当时在想,我想在某件事上加倍努力,我觉得我可以在某个领域做到世界最好,并真正尝试推动这个领域的发展。我觉得我要么选择更偏智力、硬科学的方法,要么选择艺术、表演和创意路线。我最终选择了硬科学方向,因为我觉得那可能是我能最大程度改变世界的领域。
为什么你认为走那个方向能最大程度地改变世界?
GB:我想对我来说,感觉是这样的——我喜欢表演的一点其实是它的团体性。我喜欢即兴表演,你只是创造性地思考事情,来回碰撞想法,但这同样需要你成为一个团队的一员,这个团队必须配合得非常好,而这并非总能保证。这是一件很难实现和找到的事情。我更喜欢偏智力路线的一点是,它感觉像是在磨练你自己的技能。但我确实学到的一件事是,即使你非常擅长编写代码,那也不够。实际上,这也关乎引入优秀的团队,我认为这正是我职业生涯的一部分——真正帮助构建和塑造能够交付卓越成果的环境和文化。
有一件有趣的事,这里有一个关于环境也塑造了其中一些事情的方面。你提到你总是在戏剧和电影中担任男主角。我从我的孩子们经历这个阶段时认识到——我的女儿有一阵子非常喜欢音乐剧之类的——女主角的竞争非常激烈,通常只要有一个称职的男性愿意自愿参加,他每次都能得到这个角色。男主角的竞争激烈吗,还是你就是独一无二的?
GB:(笑)我想这或许能解释。不过,我给你讲个故事。
反过来呢?同样地,在北达科他州,是不是没有那么多人在硬科学方面特别钻研,所以从同样角度来看,那是不是也显得更罕见?
GB:嗯,我给你讲两个故事。第一个是关于表演的。我第一份有偿工作就是一份表演活儿。Mannheim Steamroller乐队来到了北达科他州的大福克斯市。你听说过Mannheim Steamroller吗?
我听说过。是的,当然。
GB:他们当时要举办一场音乐会,需要临时演员。他们需要一些人扮成锡兵走来走去,因为那是一场圣诞假日音乐会。我去参加了试镜,当时我是个瘦弱的九年级学生,而那里全是身材高大的大学生。
他们让大家做的是,“好了,大家朝那个方向走”,然后选角的人会比较意见,然后你会有一段时间休息,然后他们说,“好了,朝另一个方向走”。我注意到,在休息期间,所有那些大学生都在互相交谈,闲逛,而我想的是,这份工作只有一个要求,那就是你整场音乐会都要保持六个小时的专注,来回走动。所以在休息期间,我就站在那里保持专注,完全沉浸在角色中。最后,他们说,“好了,我们选这个人,这个人,这个人。其他人可以离开了”。我没有被选中。
但在我们离开的路上,他们说,“实际上,我们觉得你太棒了。我们非常喜欢看你对这件事投入了多少热情,所以我们要为你专门创造一个新角色”。于是我得到了一个姜饼人的角色,他们给了我一套完整的服装。那就是我的第一份工作。所以这有点像是试图跳出常规思维来完成任务——不总是默认接受某个角色,而是试图找到创造性的方法来获得它。
但我认为,在北达科他州长大,真正很棒的一点是,我有可能在我专注的不同领域里做到全州最好。我的数学成绩比较突出。我从十年级开始就进入北达科他大学学习了很多课程。我深入参加了数学竞赛,然后我会去参加全国竞赛,去全国数学夏令营,在那里我会遇到全国最优秀的人。这些人太棒了,实际上,我真正的荣幸之一是,我在数学夏令营里非常敬佩的许多人现在都在OpenAI工作。所以我有机会在这个新领域,以新的视角看到他们。
太棒了。
GB:但这既是说我能够真正规划自己的道路。我开始做数学研究,我知道如果我去了一些那些实力很强的高中或竞争激烈得多的州,我想我不会脱颖而出。我将不得不走标准路线。所以正是因为在那个地区,我才能够探索我的兴趣,真正走自己的路。
所以当人们说他们在波士顿上学时,通常指的是哈佛,那是你开始的地方。然后你转到了麻省理工。然后到了某个时候你在为Stripe工作。顺序是怎样的?你什么时候认识Collison兄弟的?在波士顿发生了什么?
GB:嗯,高中毕业后,我休了一年假,实际上我开始编写一本化学教科书,因为我在高中时对化学非常着迷,参加化学竞赛,并提出了一种独特的思考方式。非常基于第一性原理,非常数学化,而不是死记硬背。我想教授这种方法,想推广它。所以我实际上写了100页。现在它就在我的网站上。我还没完成。我一直打算回去继续写。
那就像是一个退休项目,我喜欢。
GB:没错。嗯,那时我在想怎么才能出版这本书,所以我问了一个在数学方面做过类似事情的朋友,他说,“嗯,你没有博士学位,所以没人会出版它。所以你要么自费出版”——我当时想,哦,那工作量大,成本也高——“要么你可以建一个网站,用这种方式推广你的想法”。我说,“我想我得学学怎么编程了”。所以我上了W3Schools。你记得W3Schools吗?你见过那个网站吗?
不,我想我没见过。
GB:好吧,这是个经典的网站——他们有HTML教程、JavaScript、CSS、PHP。我通读了一遍,然后想,“我应该测试一下”。我记得我建了第一个小部件:你可以点击表格列,它会相应地排序行。那是有史以来最酷的感觉。我脑子里想着这个东西,现在它存在于这个世界中,任何人都可以从中受益。他们不需要理解背后的细节,它只管用。
我记得我建立的第一个有用户的程序,实际上是一个竞争性的聊天机器人游戏,有一天我从StumbleUpon获得了1500次点击。那感觉真是太棒了,有1500个人玩了我的游戏,希望他们玩得开心,而且他们足够投入地玩了它。我当时就想,“这就是我想要的,我想帮助别人,我想为他们创造价值并造福他们”。
所以,这就是我怀着这样的想法进入哈佛的,那确实改变了我的想法。我以为我会去追求那些更 eclectic 的兴趣,结果我却想,“我只想构建东西”。在哈佛的大一,我加入了计算机俱乐部,有两个大四学长每次都会进行晦涩难懂的技术辩论。我们都会听着说,“总有一天我们会明白的,总有一天那会是我们”。但他们毕业后,大二来了。
所以你就直接转学去了麻省理工,因为你意识到自己专注于编码和构建?
GB:基本上就是这样。因为到了大二,我在管理俱乐部。我应该主导那些晦涩难懂的技术辩论了,而我心想,“我还没准备好。我还有太多东西要学。我需要和那些比我优秀得多的人在一起”。
明白了。
GB:所以我花了很多时间在麻省理工那边,我觉得转学过去是合理的。
Stripe
明白了。那你是什么时候认识Collison兄弟的?
GB:我是在2010年,2010年底认识他们的。我们有很多共同的朋友,因为约翰去了哈佛,帕特里克去了麻省理工,他们当时正在四处打听。那个团队在到处寻找这两所学校里谁对计算机感兴趣,我的名字不断被提到。
对。
GB:所以我收到了他们团队的邀请,飞了过去。我记得见到帕特里克,对我来说,那一刻我就想,“好吧,这就是我想共事的人,我觉得我们可以一起做出伟大的成就”。
所以我的下一个问题是,是什么吸引你加入Stripe,但听起来你已经回答了。你在那里学到了什么?你加入团队很早,晋升得非常快。到你离开时,你已经是CTO了。你对Stripe本身及其规模扩张,以及你在公司快速成长的同时自身也快速成长,有什么感悟?
GB:首先,对我来说,始终是关于人。我知道这些是我想要共事的人,感觉我们可以一起学习,一起完成伟大的事业,所以这才是真正的关键。顺便说一句,两次辍学是我绝不想让任何人的父母经历的事。这显然让我的父母很为难,但他们最终实际上非常支持。
不,我们明白了,你把事情做到了极致,对吧?大多数创始人辍学一次,你不得不做两次。我们明白你的意思了。
GB:完全正确,完全正确。我记得Stripe的早期很多是关于第一性原理思考。我们处在一个领域,信用卡行业,非常不透明,非常拜占庭式,经过几十年的积累,复杂无比,连卡网络本身都运行在ISO 8583上,那是80年代的规范。它是一种面向字节的格式,整个都是。我们试图弄清楚,“我们如何让它变得简单,极其简单,以适应互联网时代?”。
所以,这在很大程度上是关于深入理解一个你完全陌生的领域。我们中没有谁真的是支付专家出身,但你只是想非常深入地理解它是如何运作的,以便你能暴露正确的原语、正确的API和抽象。对我来说,那实际上是核心技能,并且这一点在Stripe和OpenAI之间非常具有可转移性。它们在某些方面非常相似,你需要去科学地学习一个领域。AI和支付,在具体细节上显然不同——一个更像是自然科学,另一个几乎是一个由复杂性堆积起来的系统——但它们从根本上都是关于理解事物运作的底层原因,并以简单易用的方式将其暴露出来。
我花了很多时间在招聘上,很多时间在文化上,我觉得我发现了一点,我喜欢编码,我喜欢那种心流状态,以及构建和创造的感觉。
对,你因这种长达数小时的心流状态和无休止的编码而闻名。你在构建Stripe时,最长的编码会话/心流状态是多久?
GB:哦,都混在一起了。我说不清具体时间,但我只想说,对我来说,有一次24小时的冲刺,正是那次让我们真正接入了信用卡网络。那真是一段非常棒的时光,我们所有人都在办公室,没人睡觉,那本应是一个需要九个月才能完成的集成,我们在一夜之间完成了,如果我们晚了一天,就又得再等一个月。对于初创公司来说,每一天都很重要,所以那种完成看似不可能之事的感觉,我热爱它。那是非常令人兴奋的事情。
当你成为CTO时,你写了一篇文章,说你和其他CTO交流,你认为这更像是一个架构工作,但他们都不这么做,你写道,“我觉得我失去了反馈回路,我与产品脱节了,我需要再次编码,我要成为一名编码者”。我很好奇,那是你在成为CTO初期写的,那持续了多久?你和编码保持联系有多久?
GB:嗯,我想大概又持续了将近十年。我认为我在一个方面有所成长,也学到了很多,那就是即使你自己不再亲自写代码,如何保持参与感,真正帮助推动团队前进,并将团队凝聚在一起。
而且,顺便说一句,我认为这实际上对现在几乎每个软件工程师来说都是一个重要的教训,因为“编码”这个行为本身在过去一年里已经发生了巨大的变化。我认为在未来一年,变化会更大。我们都在从必须知道具体使用哪个库、能够精确掌握语法和分号放哪里的角色,转变为更高层次的管理者、主管,成为灵感、愿景、判断和反馈的来源。我认为这种转变,对我来说曾经是困难的,因为你不得不放弃一些你 习惯的、珍视的和真正热爱的东西。但我实际上已经用我更热爱的东西取代了它。
我知道我在和一个聪明人谈话,因为你抢了我的伏笔。我本来打算稍后回到这个话题的,但没错,这正是我们要讨论的。
OpenAI与图灵测试
让我们谈谈OpenAI。你是OpenAI创始团队的一员。你版本的故事是怎样的?我相信这本身可以是一个小时的播客,但是什么吸引你进入这个领域并让你们开始的?
GB:嗯,我对AI的想法已经兴奋了很久了。我记得当我刚开始编程时,我读了艾伦·图灵1950年关于图灵测试的论文。那是一篇非常有趣的论文,大概有70页左右。它开篇就说,“嗯,机器具有智能意味着什么?我不知道智能是什么意思。智能没有明确的定义。所以让我们有一个明确定义的版本”。
我稍后会问你什么是AGI。所以听起来这仍然悬而未决,对吧?
GB:嗯,你说对了。所以图灵非常聪明地回避了这个问题,说,“让我们只给它一个操作性的定义,即如果你能进行一个测试,让人类无法分辨出与他们交谈的AI和另一个人类,我们就定义那台机器是智能的”。
更进一步:量化金融体系
看懂新闻只是起点——沿量化金融路径,把它变成能交付的工程能力