SemiAnalysis:编程消耗近半Token,OpenAI与Anthrop…
SemiAnalysis最新对谈:OpenAI与Anthropic双雄争霸、谷歌掉队,编程吃下近半Token
SemiAnalysis作为顶级AI与半导体研究机构,其对大模型行业竞争格局、商业模式和算力策略的深度分析极具参考价值。编程消耗Token占比、订阅制补贴问题、OpenAI与Anthropic双雄格局、谷歌掉队等核心观点均为一手洞察,值得中文投资从业者关注研究。
生成式 AI 产业正迎来极其关键的商业化拐点——行业重心正从粗放式的“预训练算力堆叠”,全面转向“企业级 ROI 兑现与高毛利 API 战”。 知名 AI 与半导体研究机构 SemiAnalysis 在最新对谈中,对大模型行业的竞争格局、算力金融化模式及盈利逻辑进行了深入的讨论。分析师任务,编程与软件工程已成为代币(Token)消耗的核心引擎,驱动前沿实验室的收入重心由消费端全面转向高毛利的企业级 API。 在竞争格局上,OpenAI 凭借新模型与 Codex 成功打出反击,与 Anthropic 演变为双雄争霸,而谷歌则因算力绑定与战略失误沦为第五。同时,AI 能力的提升正从预训练转向强化学习(RL)扩展定律,催生出百亿美元级别的 RL 环境数据市场。各大厂商在算力变现、订阅补贴挤压与企业预算控制之间展开了新一轮博弈。 核心观点 编程吃下大半Token需求: 编程与软件工程已成为当前最消耗 Token 的场景,前沿实验室 API 收入中 70% 以上来自于编程。重度企业用户单人每年在 AI 上的支出已高达 10 万美元。 订阅制“补贴打折”,实验室倒逼 API 迁移: 200 美元/月的 Pro/Max 订阅能换取价值 8000 至 12000 美元的 API 额度,平均利用率仅需 5%~10% 即可让实验室亏损。实验室正全力将用量向毛利率 85%+ 的 API 端引导。 OpenAI 凭借 5.6 与 Codex 强势反扑: 年初一度陷入停滞的 OpenAI 凭借 5.5、5.6 版本及 Codex 重新发力,企服 API 收入迅速回升,与 Anthropic 演变为平分秋色的“双雄争霸”格局。 谷歌沦为“第五名”,算力锁定引发人才出走: 谷歌 Gemini 表现不及预期,且因签署了缺乏“回收条款(Clawback)”的长期 TPU 出租协议,导致自用算力受限,引发 DeepMind 顶尖人才流失。 xAI 算力出租新玩法与 Meta Neocloud 保底: 马斯克以 3-4 倍市场溢价将 Colossus 算力出租给 Anthropic,但附带 90 天算力回收条款;Meta 则计划推出 Neocloud 作为资本支出(CapEx)的保底变现方案。 RL 扩展定律接棒,单条环境任务卖出上万美元: 强化学习(RL)成为提升大模型能力的最核心 Scaling Law,各大实验室今年数据预算将超 100 亿美元。高质量软件工程 RL 任务单价已突破五位数。 一、 企业代币预算控制与编程场景的崛起 SemiAnalysis 团队观察到,随着企业 AI 支出的增加,许多机构正在步入紧缩时代并严格审查 AI 预算。 然而分析师指出,盲目限制员工使用高级模型或将开发者排除在外的政策极其短视。 数据显示,编程与软件工程已成为目前最消耗代币的使用场景,占到前沿实验室 API 收入的 70% 以上。重度企业用户单人每年在 AI 上的支出高达 10 万美元,且带来了清晰可见的投资回报率(ROI)。因此,企服市场的代币消费并未因预算审查而停滞,反而呈现出向高效编程场景高度集中的趋势。 二、 订阅制补贴难以为继,实验室倒逼流量走向高毛利 API 在商业模式方面,SemiAnalysis 分析指出,现有的固定月费订阅制(如 Pro 或 Max 计划)存在严重的补贴与负毛利问题。 当用户的代币利用率仅达到 5% 至 20% 时,订阅服务就会触及盈亏平衡点甚至亏损。 为了改善财务状况,前沿实验室正积极引导企业客户从低毛利的订阅制转向毛利率高达 85% 以上的 API 按量付费模式。例如,Anthropic 的企业计划已不再包含固定用量,全面实行 API 定价,这助推其在第二季度实现了营业利润盈利。 三、 OpenAI 凭借 5.6 与 Codex 实现翻盘,与 Anthropic 平分秋色 针对前沿模型的竞争,SemiAnalysis 团队认为,此前一度陷入增长停滞的 OpenAI 已成功实现翻盘。通过发布 5.5、5.6 版本模型以及 Codex 工具,OpenAI 在企服 API 领域的收入快速回升,其消费端与企业端的收入比例已逆转为 40:60。 相比之下,Anthropic 凭借早期在编程数据上的激进投入和极其聚焦的企业级定位,保持了极高的付费转化率。双方在月度净增 ARR 上已重回同等量级,开启了明确的双雄争霸格局。 四、 第三名之争与算力策略分化,谷歌陷入困局 在其他竞争者的排位中,SemiAnalysis 认为谷歌的 Gemini 模型表现不及预期,已跌落至行业第五名。 其根本原因在于谷歌签署了大量缺乏“算力回收条款(Clawback)”的长期 TPU 出租协议,导致自身在关键时刻无法调集足够算力进行顶级模型训练,进而引发 DeepMind 顶尖人才的流失。 相反,xAI 采取了高溢价出租算力并附带 90 天强制回收条款的灵活策略,既实现了资金变现,又保留了冲击 AGI 的算力弹性;而 Meta 则将算力出租作为资本支出的保底变现方案(Neocloud)。 五、 代币即服务(TaaS)爆发与芯片初创公司的路径选择 随着企业对模型选择多样性和合规性的需求提升,代币即服务(TaaS)呈现爆发式增长,在云巨头的营收占比中显著提升。 分析师认为,三大超大规模云厂商(AWS、Azure、GCP)凭借既有的企业分销渠道和合规优势,占据了 TaaS 市场的绝大部分份额。 虽然独立推理初创公司得益于整体市场蛋糕的扩大而快速增长,但对于硬件/芯片初创公司而言,仅靠与第三方 TaaS 平台合作难以实现长期突破,未来必须建立自己的 Neocloud 或与前沿实验室展开直接合作。 六、 RL 扩展定律接棒预训练,高端数据环境成为百亿级新战场 SemiAnalysis 强调,强化学习(RL)已取代预训练,成为当前提升大模型能力最重要的扩展定律(Scaling Law)。 前沿实验室今年在 RL 环境数据上的预算总和将远超 100 亿美元。为了训练 AI 自主完成复杂的白领与工程任务,市场催生出了专门的 RL 环境初创产业链。由于创建高质量、无歧义且需要人类工程师耗时整天设计的工程任务极具挑战,实验室愿意为单条顶级编程 RL 环境任务支付上万美元的报酬,这表明 AI 数据产业正在从低端标注向高智力价值转型。 以下为访谈全文,由AI辅助翻译: Jordan:大家好,欢迎回到 SemiAnalysis 周报。今天是第 20 期,我们和代币经济学(Tokconomics)团队在一起。事情发展得非常快,我们是在 7 月 15 日星期三录制这一期的。我猜等到这一期播出的时候,市场上又会有更多模型发布,以及这些公司关于其盈利能力、收入和活跃用户数的最新披露。无论如何,我们现在要记录当前这个时间点,讨论一下代币预算规划(Token Budgeting)、Meta 的计算策略、MSL 期货、Fable 和 Soul 的发布,以及 Anthropic 的利润率。非常兴奋能深入探讨这些内容。今天和我在一起的是 Max,你怎么样,伙计? Max:非常好,谢谢邀请我。 Jordan:欢迎。我们还有 Crystal,近来怎么样,Crystal? Crystal:嘿,Jordan。 Jordan:还有 Joey。 Joey:嘿,Jordan。 Jordan:酷。那么我们要从代币预算开始。Crystal,交给你了。这段时间我们一直在和很多企业沟通,询问他们情况如何。在 SemiAnalysis,我们仍然在最大化利用代币(Token Maxing),但其他企业正步入紧缩时期。你能带我了解一下你在写这篇文章时的发现吗? Crystal:是的,现在有很多企业正在严查预算,因为他们认为员工花得太多了。是的,很多人感到害怕,因为他们会想:“哦,如果我没有足够的代币来完成工作怎么办?”但我认为情况未必如此,而且这适用于大多数人,对吧?因为很多人甚至远远没有达到那个上限。每家公司可能只有少数几个重度超级用户会真正受到影响。但除此之外,我认为它对大多数人工作流程的影响,并没有社交媒体上传播的那么大。据我们观察,公司一直采取许多不同的策略,无论是按个人分配,还是给整个公司制定月度预算。我认为按公司制定预算显然比按个人分配合理得多,毕竟有些用户从中所创造的使用价值会比其他人多得多。 Jordan:那你看到大家实际上是怎么执行这一点的?显然,如果你直接使用超级豪华的最大化思维模型(Max Thinking Model),预算很快就会烧光。但在某些情况下,当真正执行预算时,大家会采取不同的方法,对吧? Crystal:是的,没错。所以我看到有些人——我和一些人聊过,他们属于规模较小的公司,预算要小得多。他们的做法是,尝试优化如何针对像 Anthropic 或 OpenAI 这类较昂贵的代币进行使用。他们会先用较便宜的模型处理大量内容并压缩成较短的提示词(Prompt),然后再使用更昂贵的模型,或者使用公司不计入预算的模型。关于到底哪些模型会被计入预算,存在很多差异。有些企业把自己的自研模型算进预算,但有些企业不算。所以如果企业不计入,很多人就会倾向于把那些免费模型推到极限、大量使用,然后再去用那些真正要花钱的模型。 Jordan:你还看到人们——也许 Max 我可以让你聊聊这个。你最近看到越来越多的人把代币花在编程上,而不是其他使用场景,对吧?这似乎是增长最快的市场。 Max:是的,我认为编程/软件开发总体上是目前为止最消耗代币的使用场景。实际上我认为这就是为什么很多关于代币预算的讨论显得相当……我认为很多预算本身是非常盲目的。比如我听到有人说,他们想确保销售人员不用 Opus 或 Fable 来写邮件,所以要求他们必须改用 Sonnet。这就像是,哥们,从代币的角度来看,生成封邮件几乎是免费的。你用 Opus 还是 Sonnet 来写这封邮件根本无关紧要。我完全无法理解为什么你要制定这样的政策来减少代币支出。我还听到很多公司的奇葩规定,比如只允许工程团队使用 Cloud Code 或 Codex,而其他人只能用 Codework 之类的东西。我认为这非常短视。老实说,你不应该建立一个工程师高高在上、其他人只能被迫使用次等工具的等级制度。你真的应该给每个人尝试这些工具的机会,找出如何利用它们提高效率。 Jordan:是的。Joey,你现在在使用这些模型吗?如果我有权限使用而你没有,你会怎么想? Joey:我可能会……是的,我确实在使用一些权限,虽然没有 Max 和 SemiAnalysis 的其他人用得那么多,但这可能只是我们目前工作的性质所致,现在情况也在改变。但是是的,我会相当生气,因为我仍然大量使用 Opus 4.8 来拉取各种数据源做 AI 研报任务,做更多研究类型的任务。嗯,是的,我会非常生气。 Jordan:你怎么看待 ROI(投资回报率)的问题?我认为对很多人来说,代币预算背后的整个动机显然是有人还没有看到这项投资的回报。要么是没看到,要么是还没显现出来。但结合你做的很多研究,你会发现使用它有很多好处,对吧? Joey:是的,我认为鉴于目前市场非常专注于编程,现在前沿实验室在 API 方面的 ARR(年度可重复收入)有 70% 以上来自于编程领域。其次,据我们所知,这主要是由超级用户和头部企业驱动的。编程应用非常广泛。对于 Anthropic 来说,并没有单一家独大的客户。比如 Meta 大约占 Anthropic 总 ARR 的 3% 到 5%,但整体主要是由超级用户驱动的。如果你在其中一家公司达到了超级用户的程度——我认为 Ramp 的数据表明,排名前 1%(即 99 百分位)的公司,每位员工每年在 AI 上的支出高达 10 万美元。如果你达到了那种程度,说明你显然获得了相当不错的 ROI。在我们与许多企业的交流中,这些顶尖工程师的支出甚至可以远超有限的预算上限。但如果你是一个花了天价却看不到 ROI 的人,你的预算很快就会被砍。我认为大家总会尝试一些最终放弃的项目,废弃之后继续前行。但很明显,因为市场高度专注于编程,人们获得了 ROI,所以他们会继续支出。我们持续听到 Anthropic 和 OpenAI 的净增 ARR 都在扩大——特别是 OpenAI 从 3 月下旬推出 Codex 以及 5.5、5.6 版本以来,API 代币的支出明显在扩大。 Jordan:是的,有很多 traditionally(传统上)不做大量开发工作或不专注于此的组织,只允许中后台人员使用 Copilot 365 或 SAT 之类的工具。但我认为市场会继续扩大。当谈到个人的具体使用时,你们怎么看应用程序中的 API 使用与编程订阅计划之间的平衡?你们和他们交流时,会问他们是在用 Cloud Code 订阅制,还是按代币付 API 费用吗? Max:嗯,我的意思是,任何能用订阅制的人绝对应该用订阅制,纯粹是因为补贴太高了。OpenAI 和 Anthropic 对此非常精明,所以当他们推出企业计划时——比如 SemiAnalysis 用的就是 Anthropic 企业计划——他们根本不让你用订阅制,强迫你按代币付费,因为他们知道那才是利润所在。但我认为总的来说,能用订阅制的人都会用订阅制,只有那些需要突破限制的人才会去付 API 费。 Crystal:我甚至和几家初创公司的人聊过,他们根本没买 Team 班或 Enterprise 企业版。他们就是每个月买 5 个(或者任何所需数量的)Claude 或 OpenAI 个人订阅,刷公司卡。如果达到了已有账户的限制,他们当月就再买一个,因为对他们来说,这样运营比直接走 API 计费划算得多。 Max:但是是的,如果你是一家足够年轻的初创公司,根本不在乎安全性或任何企业级保障,那就绝对应该给每人买 10 个订阅,而不是付 API 额度。我们最近做的一项研究(有一条相当火的推文)指出,对于 Codex,每月 200 美元的订阅大约可以换来价值 12,000 美元的 API 额度;而 Anthropic 每月 200 美元大约能换来 8,000 美元额度。显然,对于能在两者之间选择的人来说,这完全是不假思索的选择。 Jordan:Max,你能再深入讲讲这个吗?当你谈到这些业务的利润率概况,再对比订阅计划与 API 时,情况到底是什么样的?我把屏幕上那张推文串里的核心图表调出来。 Max:好的。[清嗓子] 嗯,是的。本质上,当你听说每月 200 美元的计划能产生价值 8,000 美元的 API 额度时,如果平均用户的利用率接近 100%,那么订阅制的利润率就会低得多。所以真正关键的问题是:在我们整个用户群中,实际的平均利用率是多少?Jordan 刚才展示的图表就是各个计划的盈亏平衡百分比。我们可以看到,对于 Claude Max 20x 计划,盈亏平衡点只有 10%。对于 Pro 和 5X 计划,稍微好一点,是 20%。而 OpenAI 因为在订阅限制上更加慷慨,Plus 和 Pro 5X 计划的盈亏平衡点更低,为 11.4%,Pro 20X 计划甚至只有 5.7%。我们相当确信,尤其是对于这些 20x 计划,Anthropic 和 OpenAI 的平均利用率远高于 10% 和 5.7%。这意味着,这些 20x 计划的利润率不仅比 API 差(我们认为 Anthropic 的 API 利润率至少在 85% 以上),甚至整体上可能是负利润率。因此,这些公司当然希望将尽可能多的用量转移到 API 上。Joey 写了一份关于 Anthropic 业务的通讯,这刚好可以引出为什么我们认为 Anthropic 的处境可能比 OpenAI 更强。 Joey:是的。而且我认为,一旦你转向 Anthropic 的企业订阅计划,订阅费里就不包含任何用量了,全都是按 API 定价计算。 Joey:是的,我认为我们在 Anthropic 发现的非常有趣的一点是,因为他们现在的业务——虽然情况正在改变——有 80% 以上的 ARR 来自 API 端,正如 Max 所说,API 是超高利润率的,所以他们今天已经达到了盈利的状态。其中一部分是按 Non-GAAP(非通用会计准则)计算(即剔除股权激励成本),但像营业利润在第二季度已经盈利,第三季度甚至可能达到 10 亿美元以上的利润。这部分是因为他们增长太快了,招聘速度和重新投入训练的速度跟不上他们的设想。但正因为他们目前拥有毛利优势,他们可以把任意多的资金重新砸回模型训练中,从而扩展其模型优势和能力优势。我们认为这显然是他们应该尝试去做的。所以,仅仅因为他们今天非常赚钱,并不意味着他们应该立即或尽快维持 30% 的 EBITDA 利润率来证明这是一个盈利的商业模式,而是应该继续尽可能多地投入到模型训练中。 Jordan:是的。你能谈谈消费级和企业级之间的比例吗?假设消费级是指那些付费订阅计划,而企业级是按 API 使用量付费。当你观察这些时,显然大部分 Twitter 用户都在用订阅计划,但随后你只要拿到一个大客户,他在 API 代币上的支出极其庞大,以至于把其他一切都淹没了,这让它成为了一门好生意。 Joey:是的。因为 Anthropic 非常专注,他们在历史上一直专注于企业级。他们 90% 以上都是企业级。相比之下,ChatGPT 从消费级切入,在第一季度,其 ARR 的 60% 来自消费级,而且 9.5 亿周活跃用户中只有 6% 最终付费购买了计划,大多数人买的是每月 20 美元的计划。这是完全不同的业务组合,因为 OpenAI 必须为另外 9 亿免费周活跃用户提供服务并承担成本,这导致他们的综合毛利率拉低了约 20 个百分点。不过这种情况正在改变。我们个人认为,随着 OpenAI 的 API 业务自 3 月下旬凭借 Codex 以及 5.5 和 5.6 版本崛起,二季度消费级与企业级的 60/40 比例已经翻转为 40/60。据我们从渠道(特别是像 Bedrock 和 Foundry 这样的代币即服务/Token-as-a-Service 业务)听到的消息,OpenAI 已经意识到了这一点并开始转型,甚至新增 ARR 在 Anthropic 和 OpenAI 之间看起来更加均衡了。 Jordan:是的。随着 5.6 Six Soul 的发布,这挺令人震惊的。X 上像 Tibo 这样追踪每日活跃用户数的人都在庆祝用户数突破 700 万、800 万。但要明确的是,ChatGPT 免费层有超过 9 亿的周活跃用户。从 9 亿的基数来看,真正转换为完整付费产品的人并不多,转化率目前并不算高。 Joey:是的,很有趣。你甚至能在 Claude 消费级的付费率上看到这一点:Claude 免费用户中有大约 9% 最终会付费。所以它的用户群体要聚焦得多。如果我们看那 9 亿周活用户,很多只是把 ChatGPT 当作谷歌搜索的替代品。消费级业务很难做变现,留存曲线通常相当差,用户 3 个月、6 个月、12 个月后的留存率很低。广告也是个艰难的商业模式,很难扩展。虽然他们提出了 2030 年疯狂的广告收入目标,但消费级确实不好做。鉴于 API 代币的利润率,企业级才是王道。Anthropic 在今年前六个月凭借早期在编程领域的杠杆建立了
更进一步:量化金融体系
看懂新闻只是起点——沿量化金融路径,把它变成能交付的工程能力