红杉专访SemiAnalysis创始人：推理市场将超石油，算力终局在太空

作者：红杉资本（Sequoia Capital）编译：瓜哥 AI 新知本文内容整理自 SemiAnalysis 创始人 Dylan Patel 在红杉资本（Sequoia Capital）频道的专访，公开发表于 2026年 06月 30 日。内容提要：迪伦·帕特尔（Dylan Patel）红杉资本专访AI 推理市场的爆发性： AI 推理将成为全球最大的超级市场之一。预计未来不仅将占据全球 GDP 的数个百分点，其市场规模甚至将全面超越石油行业。协同设计是效率提升的关键： 性能提升绝不能单靠硬件堆砌。模型架构、软件栈（编译器与通信库）与底层硬件（芯片设计）的深度协同优化，才是实现百倍效率飞跃的真正突破口。电力与数据中心建设： 算力基础设施的终极瓶颈在于能源。到 2030 年，仅 OpenAI与 Anthropic 两家巨头的用电需求就可能突破 100 吉瓦。未来数据中心运营的核心壁垒，将不再是简单的物理规模，而是顶级的电力管理能力（如“削峰填谷”与动态负载分配）。算力部署的太空转移： 随着地面电力限制与能耗压力的日益逼近极限，预计 20 年内，绝大多数新增的 AI 推理计算必将向太空转移。“CUDA 护城河”的重塑： 坚不可摧的 CUDA 生态护城河效应正在衰减。顶尖的 AI 大模型公司已具备极强的自定义内核开发能力，且模型架构正越来越多地针对特定硬件（如 NVIDIA GPU或 Google TPU）进行差异化的协同设计。算力紧缺的经济本质： 当前的算力短缺，本质上是模型能力跃升引爆的需求激增。只要 AI 模型创造的正向毛利远超算力租赁成本，这种高杠杆投资在商业逻辑上就是成立且极为稳妥的。黄仁勋的战略布局： NVIDIA 全力扶持“新锐云”厂商与新兴 AI 实验室，旨在构建一个多极化的计算生态，防止超大规模云服务商（Hyperscalers）通过 TPU、Trainium 等自研芯片垄断市场进而反噬 NVIDIA。硬件发展的“局部最优解”陷阱： 针对特定任务定制的 ASIC 芯片（如 TPU、Cerebras），虽然在当前任务中表现卓越，但一旦 AI 模型架构发生突变，这些过度优化的硬件极易陷入“局部最优”陷阱。相比之下，通用 GPU 拥有更大的演进与调整空间。SemiAnalysis 创始人迪伦·帕特尔（Dylan Patel）简介迪伦·帕特尔（Dylan Patel）是科技界知名研究机构 SemiAnalysis 的创始人兼首席分析师。他以对半导体供应链、人工智能硬件架构及算力经济的深度洞察而闻名业界。他与团队通过追踪芯片制造工艺（如台积电先进制程）、高性能计算芯片（如 NVIDIA GPU）以及 AI 大模型的算力成本，为投资界与科技企业提供极具参考价值的技术分析。他经常在社交媒体及行业报告中精准预判芯片市场走向，包括对芯片短缺危机、AI 基础设施建设速度的独到解读，使其成为全球 AI 硬件领域最具影响力的评论员之一。他的工作不仅揭示了硬件背后的地缘政治与经济逻辑，更成为外界洞察半导体产业演进的核心窗口。内容简介SemiAnalysis 创始人迪伦·帕特尔（Dylan Patel）在访谈中指出，AI 领域最大的飞跃并非源自更快的芯片，而是源于软硬件的协同设计。 将模型、内核与底层芯片进行联合优化，能把这里两倍、那里两倍的微小提升，最终放大为高达 100 倍的惊人效率飞跃。他深入剖析了为什么 DeepSeek 的专家模型天生契合 NVIDIA的 Hopper 架构（这也是为何 TPU 在运行它时会举步维艰）；为什么 OpenAI 偏向稀疏模型，而 Anthropic 偏向密集模型，这两种路线又如何驱使它们走向截然不同的硬件选择；以及为什么传说中坚不可摧的“CUDA 护城河”，其真正的壁垒从来都不在于 CUDA 本身。迪伦还详细拆解了他主导的 InferenceX 动态基准测试平台——该平台每天在价值超过 5000 万美元的捐赠硬件上运行最新模型，并追踪到了“单位质量成本”每年约 60 倍的断崖式下降。他大胆预言，AI 推理必将成为一个比石油更庞大的超级市场。 他认为，算力短缺之所以将长期存在，是因为 AI 模型扩展实用价值的速度，远远超越了算力增长的步伐。最后，他揭秘了黄仁勋为何要豪掷重金扶持“新锐云”厂商（NeoClouds）——这其实是 NVIDIA 为了主导并构建一个多极化的计算世界所布下的宏大战略。采访全文实录迪伦·帕特尔： 我觉得在 SemiAnalysis 工作非常有意思，因为我们有 90 名员工，其中很大一部分是横跨整个供应链的技术工程师，另一大半则是前对冲基金从业者。你会看到他们之间发生这样的争论：有人会说，“哦，那无关紧要。”接着有人反驳，“但是成本呢？”然后工程师又会说，“不不不，这项技术才是最酷的。”你会看到这种自然发生的神仙打架，而我们内部的氛围非常随性。考虑到我曾经当过论坛版主，你可以想象我面临的挑战有多大。主持人 Sean： 你很乐在其中嘛。迪伦·帕特尔： 这就好比“和猪摔跤”，因为猪乐在其中。主持人 Sean： 我们现在在 SemiAnalysis 的办公室，和 Dylan Patel 在一起。我是红杉资本 (Sequoia) 的 Sean，这位是我的合伙人 Sonya Huang。你所取得的成就简直不可思议。五年前，半导体 (Semis) 在西方并不吃香；它们在东方很火热，但西方人似乎已经把它遗忘了。然而你没有忘记。你坚定地长期投入 (went very long)，创建了该领域可以说是首屈一指的研究公司——向全世界普及最前沿的技术现状，从极其硬核的技术细节，到供应链，再到宏观格局。有传言称，SemiAnalysis 最近的营收突破了 1 亿美元。我不知道这个数据有多准确，但不管具体数字是多少，你们都做得太棒了 (crushing it)。毕竟传言的准确性谁也说不准。还有传闻说你们可能会成立一只风险投资基金。我在生态圈里经常听到有人想和 SemiAnalysis 攀上关系。你已经建立起了一个备受信任的品牌，所以无论你做什么，显然都非常奏效。汽车旅馆里的童年主持人 Sean： 这显然只是你征程的起点，祝贺你取得的这一切成就。但这一切是如何发生的呢？我的第一个问题关于你的背景：你是怎么一步步走到今天的？迪伦·帕特尔： 我是在一个小生意家庭长大的。我父母经营着一家汽车旅馆，我们就住在里面。我们还开了一家加油站。我经常开玩笑说，我训练的第一个神经网络 (Neural Network)，就是根据顾客走进加油站时的种族和外貌特征进行用户画像 (Profiling)，预判他们会买哪种香烟。基本上，香烟都摆在顶层的架子上，我当时太矮了够不着。严格来说，那个年纪卖烟是不合法的，但管他呢，我必须提前把垫脚凳搬到对应的位置。主持人 Sean： 天哪。我也是在达到法定年龄之前就开始打工了。不过这确实是个很好的经历。你当时没拿工资对吧？迪伦·帕特尔： 对，我拿不到工资。主持人 Sean： 家族生意，我也一样。修理 Xbox 擦出的火花迪伦·帕特尔： 是的，我们有一家汽车旅馆，街对面就是我们的加油站。有时候，当有人走进来时，我会根据他们的人口统计特征预判他们的需求。如果一位留着卷发的白人老太太走进来，我会把梯子或脚凳移到骆驼牌 (Camel) 香烟那边。根据他们的年龄、职业或种族，我会调整凳子的位置。我开玩笑说这是我训练的第一个神经网络，因为如果等他们开口，我再去搬凳子就太浪费时间了，而提前准备好则能大幅提高效率。无论是薄荷烟、100 毫米长支烟还是细支烟，我都学会了提前预测他们的需求。我在家族企业中长大，住在汽车旅馆里，但我对科技的兴趣可以追溯到我八岁生日那天。我的生日在五月，而 Xbox 360 刚好在那年四月发布。当我父母问我想要什么生日礼物时，我没有要当下的礼物，而是预支了圣诞礼物——我想要一台 Xbox。我本来觉得他们绝对不可能给我买，但到了圣诞节，我真的收到了。从互联网论坛到半导体几个月后，我住在阿拉巴马州的表哥春假来我家玩，他家也是开汽车旅馆的。他的年龄介于我和我哥哥之间。我哥哥更喜欢运动，对 Xbox 不怎么感冒；但我为了在表哥面前耍酷，已经在电话里跟他吹嘘过好多次了。结果，Xbox 坏了——它出现了被称为“死亡红环 (Red Ring of Death)”的硬件缺陷。在尝试修复几次失败后，我最终不得不把它拆开，将温度传感器短接，结果居然修好了。那次经历是我踏入硬件领域的契机，就像打开了潘多拉魔盒。到 12 岁时，我已经深度沉迷于各种网络论坛，每天不停地阅读和发帖。那时正值 Reddit 开始取代其他平台。我成为了 Android、Apple、Google 以及各大硬件子版块 (Subreddits) 的版主。我持续追踪 Intel、NVIDIA 和 AMD 等公司，观察智能手机如何从简单的设备，进化到在架构上比 PC 还要复杂。在这个过程中，得益于在小生意家庭长大的背景，我始终保持着经济学视角，时刻分析技术背后的市场驱动力。同样地，虽说互联网上的“技术宅 (Neckbeards)”们都狂热追捧 AMD 的 GPU，我本人也因为性价比买过 AMD 的显卡。但当讨论到技术上谁更胜一筹时，我总是说：“不不不，NVIDIA 更好，因为他们能用更小的芯片获得更高的性能和更优的能效比，而且他们的利润率更高。”我总是滔滔不绝地分析在 GPU 领域，NVIDIA 的利润率是如何碾压 AMD 的。现在回想起来真是挺搞笑的。主持人 Sean： 当时你才 12 岁？迪伦·帕特尔： 我 12 岁开始当版主，但这贯穿了我整个青春期、准青春期和高中时代。主持人 Sean： 你还有其他硬核的爱好吗，还是只有半导体？迪伦·帕特尔： 我曾一度疯狂沉迷于《星际争霸》(StarCraft)。我当时打到了《星际争霸 2》北美天梯的宗师段位 (Grandmaster)。主持人 Sonya： 所以你在很多方面都有一种偏执的卓越。迪伦·帕特尔： 是的，这是一种正向的偏执。主持人 Sonya： 你的成绩怎么样？迪伦·帕特尔： 还可以。大部分是 A，但有些课我觉得特别无聊，或者就是单纯不喜欢。比如西班牙语——我的成绩就不太好。但这其实挺扯的，因为我现在的西班牙语说得非常流利。主持人 Sonya： 也许这就是你当时没拿到好成绩的原因！迪伦·帕特尔： 平心而论，我是后来才学的西班牙语。所以，我的成绩还过得去，至少能让亚裔父母满意。我比学校里大多数人考得都好，但我绝对不是那种为了拿全 A 而“疯狂内卷 (try-hard maxing)”的人。从量化分析师到创始人主持人 Sonya： 好的，看来你彻头彻尾是个在互联网中学习成长的人。这也是你积累这些专业知识的方式。那你是什么时候决定创办 SemiAnalysis 的？创办公司以来最大的惊喜又是什么？迪伦·帕特尔： 我上大学时拿了几个和半导体毫无关系的学位。后来我在一家小型风险投资机构做了两年的量化分析师 (Quant)。但最终，一系列事件的爆发促使我重新审视自己的人生。我曾通过挖掘市场机会，为公司创造了数百万美元的无风险收益，结果却被别人抢了功劳，本该属于我的奖金也泡汤了。我与前雇主之间彻底失去了信任契约，最终被解雇了。大约在同一时间，也就是 2020 年初，一直和我们住在一起、与我感情极深的祖母患上了痴呆症，并在一次跌倒后不幸离世。再加上一些个人感情上的问题，我陷入了人生的至暗时刻。紧接着，新冠疫情爆发了。我哥哥邀请我去纳什维尔和他同住，当时大家都以为封锁只会持续几周。这句经典的预测最终被现实打脸，我最终在他家，和当时还是他未婚妻的嫂子一起住了好几个月。在那段日子里，我感到极其迷茫，又处处受限于他的生活规矩，于是我开始疯狂地在网上发帖和炒股。疫情期间，我通过做多和做空赚了些钱，同时我也在密切追踪当时初现端倪的半导体短缺问题。我在网上的活跃引发了一个转折点——一个在网上和我对线的人对我进行了人肉搜索 (Doxing)，公开了我的真实身份。虽然一开始我很害怕，但我直接停更了三周，等我回归时，我换了一种全新的心态。在我 24 岁生日那天，我推出了一个真正的博客——SemiAnalysis。从匿名“口嗨 (Shitposting)”转变为在文章中投入真正高质量、高强度的硬核研究，这让平台获得了极大的关注度，最终也让我的咨询业务迎来了爆发式增长。流浪式的研究之旅2020 年，我依然觉得人生处于崩溃边缘，对未来的道路充满迷茫，于是我决定收拾行囊，抛下一切。我买了一辆皮卡，装上帐篷和充气床垫，花了六个月的时间开车环游美国的各大国家公园。工作日，我会找那种能砍价到 30 美元一晚的廉价汽车旅馆，在里面处理 SemiAnalysis 的工作；到了周末，我就去徒步，读专业教科书，听关于 AI 和半导体的有声书。在那六个月极致孤独的旅程中，我坚持写作和发帖，尽管当时所有人都在质问我到底在发什么疯。主持人 Sean： 星链（Starlink）发布前，或者说星链发展的早期阶段。迪伦·帕特尔： 在星链之前。那时候大家经常会问：“你到底在做些什么？”我曾花了一年左右的时间在拉美地区旅行——起初是和朋友一起，后来是和前任一起。从 2021 年底，一直到 2022 年、2023 年以及 2024 年，实际上自 2020 年中期以来，我一直处于四海为家的状态。这段时间里，我满世界飞，去参加全球各地的各种会议；我每年要参加 40 多场大会。无论它涉及供应链的哪个环节，只要看起来有意思，我就会果断前往。我记得有一次参加会议时，我心想：“天哪，这简直太棒了。”你可以与真正的行业专家面对面交流，而他们也非常乐意与你探讨，因为你能展现出那种由衷的热情。以半导体行业为例，从业者大多是“婴儿潮一代”（Boomer）的老前辈。他们平时很少能见到对这个领域充满热忱的年轻人，所以他们非常乐于倾囊相授。主持人 Sean： 我必须要问一下，有没有供应链的某个环节，或者某场会议，彻底改变了你对半导体世界的看法？或者说，你当时或现在觉得某个领域被严重低估（Underrated）了？迪伦·帕特尔： 被低估了吗？我觉得各类展会和会议的风格差异非常大。显然，我最喜欢的会议之一是 NeurIPS（神经信息处理系统大会）。为什么？因为那里聚集了两万名人工智能研究人员，而且大多和我年龄相仿。这非常有趣，他们都是顶尖的 AI 研究者，你不仅能学到很多前沿知识，还有参加不完的派对。另一方面，你也会遇到那种在日本举办的、某个不起眼的化学会议，现场大概有 300 名日本与会者——外加大约 20 个来自阿斯麦（ASML）的人，20 个来自台积电（TSMC）的人，还有 20 个来自英特尔（Intel）的人。全场就只有这几个人会说英语，其余人只讲日语。即便如此，我依然觉得这些经历非常有趣。我的特长之一就是能与任何背景的人打成一片；我总能找到大家感兴趣的话题，而这些话题通常都与科技相关。我认为最有趣的往往是那些超大型会议，因为重大的行业变革都发生在那里。然而，真正令人兴奋的细分领域（Niches），则是像 SPIE（国际光学工程学会）这样的圈子。学术界有 IEEE，而 SPIE 则是一个完全不同的生态系统。SPIE 的会议内容极度硬核且深入细节。我第一次参加 SPIE 的高级光刻（Advanced Lithography）或光掩模（PhotoMask）会议时，连 90%的内容都听不懂。后来我查阅了大量资料，也结识了一些人脉，等我第二次去的时候，就能听懂一半了。第三次去，我已经能听懂 75%。即使到现在，我依然无法完全看穿其中的所有门道。相比之下，如果你参加几次 NeurIPS，就能理解诸如神经符号推理（Neurosymbolic Reasoning）等各种概念，你能很快在脑海中勾勒出整个领域的知识脉络。然而，半导体供应链的某些环节极其晦涩、深奥且偏重硬核技术，以至于你甚至需要花费大量时间，才能看懂每一篇论文里到底在讲什么。你参加会议有几个目的——比如了解最新发表的研究成果——但你真正渴望的，是透彻的理解。这项研究如何与实际技术相交融？它与当下的行业现状有何不同？这些研究论文根本不会告诉你产业界当下正在发生什么。你只能通过不断提问、积累人脉去学习。当你深入了解供应链后，你会恍然大悟：“噢，原来这家公司是那家公司的供应商！”——尽管这在任何地方都没有公开披露过。就像你会了解到，某种化学品的成本究竟是多少，或者某台设备到底需要消耗多少这种材料。主持人 Sean： 你经常会听到一些恐怖故事，比如某种化学品突然短缺，结果彻底搞瘫了供应链的某个环节。然后大家才发现，全世界居然只有三家公司在生产这种化学品。迪伦·帕特尔： 我最喜欢的一个故事是：在那个几乎没人说英语的日本会议上，我结识了一位日本老兄。他用极其蹩脚的英语告诉我他父亲在这个行业工作的故事。在 20 世纪 80 年代，全球唯一一家生产某特定化学品的工厂被烧毁，直接导致内存价格翻了两三倍。当时我心想，哇，这跟今天的情况……主持人 Sonya： 也没多大区别吧。迪伦·帕特尔： 完全如出一辙。InferenceX 与基准测试 (InferenceX and Benchmarking)主持人 Sonya： AI 推理（Inference）将会成为地球上、甚至是全宇宙最大的市场。你同意还是反对？迪伦·帕特尔： 显而易见，Token（令牌）的消耗量将创造最大的市场，而由此衍生的价值也将是不可估量的。我认为，Token 经济学（Tokenomics）以及 AI 的普及应用，是当下正在发生的最重要的变革。无论开源模型还是闭源模型，AI 推理必将成为全球最大的市场之一。它的规模将远超石油，远超其他许多传统行业——未来，AI 推理甚至将占据全球 GDP 的数个百分点。主持人 Sonya： 我认为你在 InferenceX 上所做的工作，已经树立了行业标准。能不能简单谈谈你创立它的初衷，它的核心功能是什么，以及人们在推理性能的基准测试（Benchmarking）上通常存在哪些误解？迪伦·帕特尔： 好的，回溯一下，在 SemiAnalysis，我们开展了大量的工作。其中很大一部分是为机构客户提供研究服务，以及我们的订阅类产品；但也有很多时候，我们纯粹是觉得：“嘿，如果能把这件事搞清楚一定很酷。”于是我们就去寻找解决问题的方法，并将研究结果公之于众，这种模式的影响力也在不断扩大。后来，我们将这种方法应用到了大规模的 GPU 基准测试，以及模型训练和推理性能的测试上。最终我们意识到，传统的推理基准测试仅仅是一个“特定时间点的快照”（Point-in-time Snapshot）。你进行测试，处理数据需要时间，而等你把结果发布出来时，它已经变得迟缓、晦涩且彻底过时了，因为模型无时无刻不在迭代。感觉每周都有新模型问世——无论是中国的大模型，还是像今天的 Mythos 5 或 Fable。新模型层出不穷。在软件层面上，PyTorch、vLLM、SGLang 等框架，以及新的驱动程序和更新也在不断推送；事实上，大部分软件库的更新频率高达每周两次。由于软件在不断更新，硬件性能也在持续演进。新的推理优化方案定期发布，这代表着一系列持续不断的突破，它们在不断推高效率的同时大幅拉低成本。这就是为什么在短短一年内，同等质量的模型推理成本暴降了约 60 倍的原因