SemiAnalysis创始人：推理市场将超石油，2040年太空数据中心主导算力

近日，SemiAnalysis创始人Dylan Patel接受红杉资本播客《Training Data》采访，从推理市场规模、算力效率、硬件架构竞争到英伟达的战略布局，多方位地阐述了他对AI基础设施走向的判断。

Dylan Patel预测，AI推理将成为全球最大市场之一，占GDP多个百分点；到2030年，仅OpenAI和Anthropic合计算力需求将超100吉瓦。他判断，未来3-5年太空算力可忽略不计，但到2040年太空将承载全球超半数新增算力。而英伟达支持新云厂商，本质是黄仁勋在下一盘防止被垄断的大棋。

推理市场将超越石油：算力可能永远不够用

Patel认为："AI推理——无论是开源模型还是闭源模型——将是全球最大的市场之一，比石油还大。AI推理将占到GDP的若干个百分点。"

他的逻辑链条是：模型每次迭代升级，能完成的有效任务数量和价值都在扩大，而这个扩张速度持续快于算力的增长速度。以Anthropic的Claude Opus为例，他指出，"Meetos 5（即Claude 4/Opus级别）能做的任务量，根本不是Opus的2倍，而是远不止"，但与此同时，全球算力并没有在同一时间段翻倍。

结果就是：供给追不上需求扩张，算力永远是稀缺的。他直言："算力短缺会一直持续，因为模型扩大可用任务的速度，永远快过算力的增长。"

2040年，超过一半的增量算力将在太空

对于太空数据中心，Patel表示，"未来三到五年，太空数据中心不会有太大意义。但在二十年后，我认为绝大多数算力将进入太空。"

具体节点上，他预测2030年仅OpenAI和Anthropic两家合计将拥有超过100吉瓦的算力，再加上Meta、Google等，届时用于推理的算力体量将极为庞大。到2040年，甚至可能达到太瓦（terawatt）级别。"

如果你看2040年，超过一半的增量算力将进入太空。但如果你看2030年，我认为不到1%。

核心制约是地面能源成本——地面土地建电能力有限，一旦太空部署的经济性超过地面，算力向太空迁移将成必然。

硬件软件协同设计：真正的100倍增益从哪里来

这是Patel最核心的技术判断。他直接反驳了访谈主持人关于“过去三年算力提升主要来自硬件”的观点：“我完全不同意你这个说法。”

他的分析是：从Hopper到Blackwell，最优化部署下性能提升约30倍，这主要是硬件。但过去三年，整体智能效率提升远超30倍，大部分增益来自模型层。关键在于协同设计的乘数效应

当你把这里的2倍和那里的2倍叠加，如果只是各层独立优化，可能得到8倍。但如果你跨三层协同优化，实际上可以得到100倍。

DeepSeek是最典型的公开案例——其专家模型（MoE）的形状专门为英伟达Hopper架构优化，因此在Hopper上运行出色，但在TPU上却表现不佳。反过来，Anthropic的模型更"稠密"，更适合TPU架构；OpenAI的模型更"稀疏"，更偏向GPU路线。

Patel强调："TPU客观上是一款出色的芯片，承担了DeepMind所有推理和Anthropic几乎所有预训练。但它就是跑不好DeepSeek。"

他进一步指出，所谓"CUDA护城河"，本质上不是CUDA本身，而是开源生态的模型形状问题：DeepSeek、Kimi、阿里、腾讯等公司的开源模型都是为GPU协同优化的，要在TPU上跑，效果就差。Google需要建立自己的开源模型生态（即Gemma系列）才能对抗这一效应。

黄仁勋：主动打造多极算力格局

对于英伟达CEO黄仁勋为何大力扶持新兴云计算商（Neo Clouds），Patel说道：

Jensen非常厌恶一种世界格局：超大规模云厂商垄断一切。这就是为什么他会向一些看起来不那么有把握的AI实验室砸钱——他在全世界各地游说，说"你应该投这家公司"，因为他想创造一个多极化的世界。这也是他为什么喜欢中国AI实验室——他想要多极化。如果只有OpenAI、Anthropic和谷歌的模型主导市场，他就完了。

逻辑很简单：如果全球只有OpenAI、Anthropic和Google的模型，如果算力只由超大规模云商建设，英伟达就会陷入被动。而今天卖给Crusoe或CoreWeave的GPU，五年后将削弱Google TPU和Amazon Trainium的市场地位，对英伟达而言是更好的长期格局。

他需要把分配的'枪口'对准新兴云商，帮助他们支撑集群，不惜一切。

InferenceX：每年成本降60倍的活体基准

Patel团队搭建了名为InferenceX的实时推理基准测试系统，目前已获得CoreWeave、Oracle、微软、亚马逊、谷歌、OpenAI等机构捐赠的超过5000万美元硬件，每天在最新模型上持续运行，涵盖超过15种不同芯片类型。

其核心发现是：等效质量下，推理成本每年下降约60倍。“这是令人难以置信的。”他同时指出，每瓦智能（intelligence per watt）的改善约为40倍，略低于成本降幅，部分效率来自非功耗环节。

InferenceX的核心输出是"帕累托最优曲线"——在响应延迟（interactivity）与批处理吞吐量（throughput）之间，找到每个场景下的最优配置点，并将配置开源，任何人都可以直接下载使用。

"这条曲线是硬件、基础设施、模型、应用层所有事情的上游。"他举例：Anthropic的Claude Code快速模式比普通模式贵得多，OpenAI也有优先队列，本质都是这条曲线的商业化体现。

从汽车旅馆到半导体智库：一个自学者的逆袭

谈及Dylan Patel的个人经历时，他分享的成长轨迹与传统分析师截然不同。他从小在父母经营的汽车旅馆长大，对面是自家加油站——他开玩笑说，自己训练的第一个神经网络，是根据顾客外貌预判他们要买哪种烟。

八岁时，Xbox 360的“红圈死亡”故障迫使他拆机维修，从此打开了硬件世界的大门。12岁起，他活跃于各类技术论坛。大学毕业后，他在量化风险公司工作，因不满成果被抢功而离开。

2020年，他更频繁地在网上发表深度分析，被人肉搜索后索性改用真名，在24岁生日那天创立了SemiAnalysis网站。此后他开着皮卡、睡在车顶帐篷里，在美国国家公园间流浪了六个月，边旅行边写博客；随后又去拉丁美洲旅居近一年，每年参加超过40场全球供应链会议。

如今，SemiAnalysis已成为半导体与AI基础设施领域最具影响力的研究机构之一，团队近90人，年营收据传已接近1亿美元。

访谈全文如下：

节目简介

Dylan Patel谈硬件软件协同设计：AI真正的百倍提升

Sequoia Capital · Training Data · 2026年6月30日

主持人：Shaun Maguire 与 Sonya Huang（红杉资本合伙人）

SemiAnalysis创始人Dylan Patel认为，AI领域最大的收益并非来自更快的芯片，而是来自软件与硬件的协同设计——将模型、内核与芯片进行整体优化，能将这里2倍、那里2倍的提升，最终转化为100倍的跃升。

他解释了为何DeepSeek的专家模型是专为英伟达Hopper架构设计的（以及TPU为何难以运行它），为何OpenAI更稀疏的模型与Anthropic更密集的模型将二者引向了不同的硬件路径，以及所谓的"CUDA护城河"从来都与CUDA本身无关。

Dylan还详细介绍了InferenceX——这是他打造的一个"动态基准测试"项目，每天在价值超过5000万美元的捐赠硬件上运行最新模型，追踪每单位质量成本每年约下降60倍的趋势。他提出，推理市场将比石油市场更大；算力短缺持续存在，是因为模型扩展有价值工作的速度快于算力增长的速度；此外，他也解释了为何黄仁勋正在大力扶持新兴云服务商，以构建一个多极化的算力世界。

说话人1（Dylan Patel） 说话人2（Shaun Maguire） 说话人3（Sonya Huang）

说话人2 00:28

我们现在在SemiAnalysis的办公室，嘉宾是Dylan Patel。我是红杉资本的合伙人Shaun Maguire，这位是Sonya Huang。你所做的事情真的令人叹为观止。五年前，半导体在西方并不算性感，在东方倒是很受重视，但西方人似乎早已淡忘了这个领域——你没有。你非常看好它，并打造出了这个领域可能是最顶尖的研究公司，从非常技术性的细节到供应链，再到更宏观的图景，一直在为整个世界提供教育。有传言说SemiAnalysis近期年收入已突破1亿美元，不知道是否准确，但不管数字是多少，你们表现都极为出色。

说话人1 01:31

消息的准确性嘛，和信息本身一样。

说话人2 01:32

你懂的。另外还有传言说你可能会创立一只风险投资基金，我在业内也经常听到大家希望能与SemiAnalysis建立合作关系。你已经建立了非常值得信赖的品牌，无论你下一步做什么，目前的一切都很成功，这显然只是你旅程的开始。恭喜你取得这些成就！但这一切是怎么发生的？你能先介绍一下自己的背景，是怎么走到今天这一步的吗？

汽车旅馆里长大的孩子

说话人1 01:59

我从小在一个小型家族企业里长大，我父母经营一家汽车旅馆，我们就住在里面，对面是我们家的加油站。我开玩笑说，我训练的第一个神经网络就是根据顾客进门时的外貌特征来预测他们要买哪种烟——因为烟都摆在货架顶端，我个子太小够不到，每次都得把踏脚凳挪过去。从技术上说，以我那个年龄卖烟也不合法，但管它呢。

比如，如果走进来的是一位卷头发的白人老太太，我就把踏脚凳挪到骆驼牌那边；如果是不同年龄、职业或种族的顾客，我就挪到对应的位置。我说这是我训练的第一个神经网络，因为如果等顾客开口再去挪，效率太低——提前预判效率更高，薄荷味还是百支装，全都不一样。

修Xbox的契机

说话人1 03:09

我觉得这是我训练的第一个神经网络，但更重要的是，我在家族企业里、在汽车旅馆里长大。真正让我进入硬件世界的，是我八岁生日前后的一件事。

Xbox 360在我生日前的四月份发布了，我向父母要求把它作为圣诞礼物——我虽然心里觉得他们不太可能买，但还是开口了。结果圣诞节他们真的给了我。没过几个月，我住在阿拉巴马州、同样住在汽车旅馆的表弟要来我家过春假，我们打算一起玩。他介于我和哥哥之间，但对游戏机兴趣不大，而我之前一直跟他吹嘘有Xbox。结果，Xbox坏了。

说话人1 04:07

那个硬件故障叫"红圈死亡"，长话短说，我不得不把它拆开，短接温度传感器，才把它修好。在那之前我试过很多其他办法，折腾了很久。这就是我走进硬件世界的方式——像打开了潘多拉的盒子。

从网络论坛到半导体

说话人1 04:23

到我12岁的时候，我大量泡在各种论坛上——阅读、发帖，那是Reddit和其他各类论坛兴起的时期。我成了Android、Apple、Google，以及硬件、手表、英特尔、英伟达、AMD等各类论坛的版主。我密切关注智能手机如何从简单的产品演变为在架构层面甚至超越PC的设备，同样也追踪着GPU的演进。

我始终带着经济视角来看待这些，因为家族生意的背景让我从小就关注经济效益。当时互联网上很多"极客"喜欢AMD的GPU，我自己也买过一块，因为性价比确实高。但从纯技术层面讲，我始终认为英伟达更强——他们用更小的芯片实现了更好的性能和能效，利润率也更高。所以我那时候经常讨论英伟达的利润率比AMD好这件事。

说话人2 05:32

那时你才12岁？

说话人1 05:33

我12岁开始担任版主，但这一切贯穿了我整个青少年和高中时期。

说话人3 05:39

你还有什么别的奇特爱好，还是说只专注于半导体？

说话人1 05:42

我玩了大量星际争霸，一度在北美天梯打到了宗师级别。

说话人3 05:48

就是那种对很多事情都能痴迷到极致的人。

说话人1 05:50

对，就是痴迷。

说话人2 05:53

那你的学习成绩怎么样？

说话人1 05:54

还行，大多数科目都是A，但有些我觉得无聊的课——比如西班牙语——成绩就不太好。顺便说一句，我现在西班牙语说得很流利，所以当时不好好学真的挺蠢的。

说话人2 06:16

也许正因为你已经会说，才不用心学。

说话人1 06:18

不，我西班牙语是后来才学会的。总体来说，成绩还可以，对亚裔父母而言算是合格，比同学里大多数人强，但也没有死命拼到满分那种程度。

从量化分析师到创业者

说话人3 06:33

好的，所以你基本上是在互联网上自学成才，建立了这方面的专业知识。那你什么时候决定创立SemiAnalysis的？创业过程中最大的意外是什么？

说话人1 06:42

我上了大学，拿了几个和半导体无关的学位，然后在一家小型量化风险公司做了两年量化分析师。之后，几件事同时发生了。

一方面，我被公司薄待了——我通过挖掘市场中的风险漏洞为公司创造了超过一千万美元的无风险收益，但成果被别人抢了功。虽然最终得到了一定补偿，但我对那家公司的信任感已经荡然无存。

另一方面，我的外祖父母一直和我们住在一起，住在汽车旅馆里。我和他们感情很深。那时外祖母患上了老年痴呆症，忘记了我是谁，后来从楼梯上摔落，遭遇了悲剧，离开了我们。这些都发生在2020年初。此外还有一些感情上的变故。种种事情交织在一起，让我陷入了很低落的状态。

接着新冠疫情暴发，我哥哥让我去纳什维尔和他一起住，说隔离就几周，过完就能回来——这话说得太早了。隔离持续了很长时间。住在哥哥家几个月，一切都是他和他当时的未婚妻（现在的妻子）说了算，我只能小心翼翼地生活。

说话人1 08:09

我对工作已经没什么牵挂了，所以比平时发了更多帖子。我一直都在大量发帖、大量炒股，也在疫情里做空做多赚了不少，半导体短缺那段时间也参与其中。

就在这个时候，网上有人在争论中人肉搜索了我，把我的真实身份和匿名账号挂钩并公开了。当时我吓坏了，停止发帖大概停了三周。然后我想通了：有什么好怕的？于是我开始用真名写博客，正式建立了"Semi Analysis"这个网站。在我24岁生日那天，我发布了两篇文章。

因为是实名、并且投入了比平时更多的心血，这两篇文章获得了大量关注。不是通讯简报，但确实引起了很大反响。你现在回头去看的话，文章本身算不上出色，但在当时已经是网上能找到的关于这个领域最好的内容了。我就这样持续写下去，咨询业务也随之涌来，从2020年下半年开始不断增长。

无固定居所的调研公路之旅

说话人1 09:16

那段时间我的状态也很迷茫，不知道自己真正想做什么。于是我把东西都收拾起来——开着我的皮卡，买了一顶可以安装在车厢上的帐篷，还买了一个充气床垫，就这样上路了。

我每周有两三四天住在某个随机的旅馆里，每晚把价格砍到大概30美元，白天处理工作上的事情。周末就去读书，经常坐在某个国家公园里读教科书，或者边徒步边听半导体、AI相关的有声书。就这样在路上漂了六个月，跑遍了美国各大国家公园，自我教育的深度大幅提升。整段旅程中，我一直在发博客，当时所有人都在问我："Dylan，你到底在干什么？"

说话人2 10:03

那时候Starlink还在非常早期的阶段。

说话人1 10:05

就是那么早。大家都觉得我在做一件莫名其妙的事。后来我先和朋友，再和前女友去了拉丁美洲旅行，差不多待了一年。从2021年底到2024年，我依然完全没有固定住所，每年参加超过40场全球各地的会议——只要是供应链上某个环节的会议，我觉得有意思就去。

去了第一场会议之后，我就上瘾了——你能直接和专家对话，而且在半导体领域，大多数人都是老一辈，很少见到对这个领域真正充满热情的年轻人，所以他们特别愿意跟你分享。

说话人2 10:52

想多问一句，供应链上有没有哪个环节或者哪场会议，特别颠覆了你对半导体世界的认知，或者你觉得现在依然被严重低估的？

说话人1 11:06

行业展会和会议的层次差别很大。我个人最享受的是NeurIPS这类活动——两万名AI研究员聚在一起，年龄层和我接近，既能认识一线研究者，学到很多东西，还有很多聚会，非常有意思。

另一个极端，比如日本某个化学领域的小型会议，只有300位日本男性，其中来自ASML、台积电、英特尔的大约各二十人，只有这些人说英语，其他人全程讲日语。虽然如此，这类会议仍然很有意思。

说话人1 11:30

我有一个能力，就是不管对方背景如何，我都能和他们建立联系，找到共同感兴趣的话题，通常是技术方面的内容。我认为最有意思的会议，既有像NeurIPS这样的大型活动，因为那里有最前沿的进展；也有SPIE这样的深度小众会议——IEEE是国际电气工程师协会，SPIE则是另一个体系，它的会议技术细节极其深入。

说话人1 12:16

我参加的每一场SPIE会议，比如先进光刻会议或光罩会议，第一次去的时候有90%的内容听不懂，读了大量资料、建立了一些认知框架之后，第二次能听懂大约一半，第三次能听懂大约75%。直到现在，我去了还是有很多内容不能完全理解。

相比之下，去NeurIPS这类会议参加几次之后，你大致能理清神经符号推理等各类概念的脉络，可以比较快地建立整体认知框架。但供应链的某些领域极其深奥和技术性，需要大量时间才能真正理解其中发生的事情。

参加会议的目的不只是理解论文本身，更重要的是理解那些研究如何与现实技术相交叉，它们与当前状态有何不同。这些都是研究论文本身不会告诉你的。

说话人1 13:13

但你可以直接问人、建立联系，逐渐了解供应链——哪家公司供货给哪家公司，虽然这在任何公开信息里都查不到。你会了解到某种化学品大概的价格区间，某种设备要用多少，诸如此类的细节，就是这样慢慢积累起来的。

说话人2 13:28

对，还有那种让人印象深刻的故事——某种化学品突然断货，完全打乱了供应链的某个环节，然后你才发现全世界只有三家公司生产那种化学品。

说话人1 13:41

我印象最深的一个故事，是在那场几乎只有日语的日本会议上，一位日本人用非常蹩脚的英语告诉我：他父亲曾在20世纪80年代从事这个行业，当时全球唯一生产某种化学品的工厂发生了火灾，直接导致内存价格翻了两三倍。我当时就想：这和今天的世界没什么两样。

说话人2 14:03

确实，历史总是惊人地相似。

InferenceX与基准测试

说话人3 14:04

推理市场会成为地球上最大的市场吗？你同意还是不同意？

说话人1 14:11

Token的使用显然将是最大的市场，由Token创造的价值也将是最大的。Tokenomics、AI的广泛采用，是当下最重要的确定性趋势。无论是开放模型还是封闭模型，AI推理都将成为世界上规模最大的细分市场之一，远比石油市场更大。我认为AI推理将占到GDP的相当比重。

说话人3 14:35

你在InferenceX上所做的工作已经成为业内标准。能介绍一下你为什么创立它、它具体做什么，以及大家对推理性能基准测试最常见的误解是什么吗？

说话人1 14:47

SemiAnalysis的工作有两类：一类是为机构客户和订阅用户提供研究，另一类纯粹是出于好奇——觉得某件事有意思，就去搞清楚，然后公开发布。我们在GPU基准测试、训练性能和推理性能方面都做了大量这样的工作。