跳到主内容
@wquguru
精选75华尔街见闻(RSS)行业动态

Palo Alto CEO:超半数企业用AI方法错误,记忆是模型护城河

一线厂商:超过一半的企业现在用AI的方法是错的,记忆将成各大模型“护城河”

原文
发到 X

作为科技界最受尊敬的运营者之一、市值达2250亿美元的网络安全巨头帕罗奥图网络(Palo Alto Networks)CEO Nikesh Arora 近日做客 Harry Stebbings 的播客节目。 在这场深度对话中,这位曾在谷歌担任5年首席营销官(CMO)的硅谷传奇高管,以极其锐利且务实的“一线视角”,拆解了当前大模型泡沫下的企业落地真相。他直言:“超过一半的企业从使用AI的角度来看仍然没有做对,他们只是把AI当作‘打补丁’的边际改良工具。” 同时,他深入剖析了前沿模型在消费端与企业端的本质张力,并做出了多个极具预见性的论断——包括代币(Token)定价未来将暴跌90%、“记忆与上下文”将成为前沿模型唯一的生死护城河,以及物理学规律和能源短缺将如何撞上 AI 基础设施的墙。 核心观点提炼: 企业落地误区: 超过一半的企业现在用AI的方法是错的。多数公司只是忙于把AI塞进旧流程进行边际改良(比如扫描发票快20%),而真正的变革在于利用AI从根本上重新构建工作流,让人类交出80%的控制权。 前沿模型张力: 前沿模型问题本质上是“广度与深度”的博弈。消费端对“误报”容忍度高,追求品牌与分发的广度;而企业级智能体(Agent)对误报零容忍,需要极深的数据与极端情况(Edge Case)训练,这无法通过直接塞入通用的前沿模型来实现。 代币成本与商业模式: 目前整个大模型消费端(如免费的ChatGPT/Claude等)由于吞噬了海量算力且不盈利,正将定价压力转移给企业端编码。但由于技术效率的提升与算力供需的调整,未来3-5年内,Token的价格应该是今天的十分之一。 真正的护城河: 大模型未来一两年内会疯狂围绕消费端构建“记忆”。谁能记住用户30天、60天甚至90天的对话上下文,谁就能创造极高的用户粘性,让用户产生“模型 captivity(被俘获)”,从而在没有壁垒的大宗商品时代建立真正护城河。 超过一半的企业只是在做“边际改良” Nikesh Arora 认为,当前超过一半的企业在使用 AI 的方向上依然存在误区。多数企业仍然忙于将 AI 强行融入现有的业务流程中,仅仅将其视为提高边际效率的工具,这并非 AI 的真正效益所在。他强调,未来的大赢家必然是那些利用 AI 从根本上重新构建公司工作流的组织。 在谈到具体落地时,他指出企业需要放弃传统的人类控制权,让 AI 承担 80% 的思考与判断工作。例如在招聘流程中,企业应当让 AI 直接筛选简历并生成针对性的面试问题,实现流程的绝对智能化。他直言,目前多数企业仅将 AI 用于扫描发票等重复性工作,这种边际改良是错误的。他断言,未来“AI 应用将彻底取代没有观点的 SaaS 软件”,拥有独立观点的 AI 助理将大幅提升员工的平均能力,并削减企业内部冗余的流程管理人员。 前沿模型的“广度” vs 企业级智能体的“难度” Nikesh Arora 提出,前沿模型的核心矛盾在于“广度(Breadth)与深度(Depth)”的张力。他将市场划分为消费级与企业级两个截然不同的光谱。 在消费级领域,他认为这本质上是一个“广度”问题。由于消费者对模型误报的容忍度极高,且中间总有做出最终判断的人类,因此大模型公司都在疯狂追逐消费级品牌,以获取后训练数据并形成类似谷歌搜索的巨大分发乘数效应。但在企业级领域,这演变成了零容忍的“深度”问题。他以 Waymo 自动驾驶为例,指出真正的企业级智能体需要数百亿美元的极端情况(Edge Case)训练和无法在互联网上获取的专有数据。他强调,企业无法通过直接将一个通用的前沿大模型塞进传统业务来实现智能化,真正的企业级营收必然建立在对特定场景的深度理解之上。 算力被免费消费者“吸干”,Token 定价未来将暴跌 90% 针对行业内普遍关心的算力与代币(Token)成本问题,Nikesh Arora 指出,算力的极度稀缺与超额成本正在强加高昂的定价。他揭示了一个行业痛点:目前全球超过一半的算力正被用于喂养完全不盈利的免费消费端查询。 由于免费消费端吞噬了海量资源且无法回收成本,前沿 AI 公司正将全部的财务压力转嫁给企业端的编码与应用场景。然而,基于技术研发效率的提升以及未来算力供需的合理化,他做出了一项重大预测:在接下来的 3 到 5 年内,Token 的长期定价将会暴跌至今天的十分之一。 此外,由于免费用户在经济层面的不可持续性,大模型公司在获取足够的数据后,未来必然会收紧并限制消费者对 AI 的无节制使用。 “记忆与上下文”是大模型唯一的生死护城河 在谈及产业链的价值累积时,Nikesh Arora 承认目前基础设施方赚取了由于稀缺性带来的超额利润,但他质疑物理学规律、能源短缺和数据中心产能的上限很快会引发基础设施行业的消化期。他认为,应用层在历史上首次展现出了拥有记忆和理解上下文的能力。 他坚信,大模型未来的价值核心将取决于谁能掌握更深的用户上下文(Context),大模型公司在未来一两年内会疯狂围绕消费端构建“记忆”。 模型对用户历史对话、背景了解得越多,创造的粘性和壁垒就越不可动摇。他进一步警告,由于前沿模型正在将记忆深度融入自身架构,那些试图通过第三方编排层实现“模型无关(Model agnostic)”的开发者将面临巨大风险。最终,企业将会被某一款特定模型深深“俘获(Captive)”,因为一旦切换模型,企业将不得不重新设计并重构整个深深嵌入了原模型能力的应用体系。 以下为对话全文,由AI辅助翻译: Nikesh Arora: 我带着两个行李箱和200美元来到美国,我愿意做任何事情,任何事情,只要能确保我自己立足并生活下去,因为当时没有退路。我当过保安,为残疾人做过笔记,在汉堡王翻过汉堡。我当时只有200美元,我必须想办法支付我的学费。 Harry Stebbings: 今天坐在核心受审席上的是帕罗奥图网络(Palo Alto Networks)的CEO尼基什·阿罗拉。他们的市值达2250亿美元。尼基什是科技界最受尊敬的运营者之一。 Nikesh Arora: 我认为长期的代币(token)定价应该是今天的十分之一。迈兹瓦(Mitzvah),我认为它最终会成为网络安全的加速器。在科技行业,你错过一个机会(招数),你还能活下来。你错过两个机会,你就会被局部刺穿。你错过三个机会,你可能就会被淘汰。 工作人员/Harry Stebbings: 准备好了吗? Harry Stebbings: 尼基什,上一次我们做节目时,我正处于24小时断食的第22个小时。我现在回听,我只是觉得,天哪,你竟然有胆量在面对这个行业的大佬之一时表现得因为饥饿而发怒(hangry)。就像,当时我对你又气又没耐心。 Nikesh Arora: [大笑] 好消息是,正如我之前在聊天时告诉你的,我完全失忆了。我完全不记得我说了什么以及我们谈了什么,所以我必须回去重听一下。在这里我很高兴。 Harry Stebbings: 那是一场很棒的节目。我们相处得极其融洽,非常美妙。我不知道那是怎么回事。嗯,我们…… Nikesh Arora: 我认为我们应该停止远程做播客。 Harry Stebbings: 哦天哪,我同意。我认为我们应该…… Nikesh Arora: 强迫人们定期来到这里。 Harry Stebbings: 我确实是这么想的。而这种规模的好处在于,他们确实会来。但唯一的问题是,他们有时来的时候时差很严重,因为他们可能在当天下午4点左右到,这有点难办。 Nikesh Arora: 那也许你应该在晚上11点做(播客)。 Harry Stebbings: 也许吧。 Nikesh Arora: 是的。如果你请加州来的人,对他们来说晚上10点或9点是完美的宝贵时间。也许你需要…… Harry Stebbings: 也许我需要调整。是的,我是自私的那一个。是的,我是说马克·安德森(Marc Andreessen)说过那是我的问题。马克·安德森说,我其实真的接受了这一点。我甚至还没进入第一个问题,但去他的。他说:“你需要拥抱这一切怎么会是你的错。如果你把生活中的每一件事都用‘这怎么是我的错?’来拥抱,实际上世界会有很大的改变。” Nikesh Arora: 实际上,让我们稍微转换一下观点。如何才能让它变得更好?只需改变看待事物的方式。如何让它变得更好?我能做些什么让它变得更好?这就是我管理日常、管理生活以及管理公司的方式。今天我如何能让它有渐进式的提升?以及在3年内我如何能让它发生彻底的(Radically)质变? Harry Stebbings: 你有没有遇到过什么事是你无法让它变得更好的? Nikesh Arora: 绝不是因为缺乏尝试。所以,我们能做的就是去尝试。如果成功了,那就太棒了。而且如果你尝试得足够多,你成功的次数会比你想象的还要多。 Harry Stebbings: 我们在楼下谈到了你的个人品牌,因为要让它变得更好。 Nikesh Arora: 我不像你那样思考这个问题,因为这是你赖以生存的职业。我想的是运营我的业务。 Harry Stebbings: 好吧,我认为这从根本上是错的。 Nikesh Arora: [大笑] 我是来学习的。教教我吧,哈里。我是来学习的,教教我。 Harry Stebbings: 不,但我实际上认为你的个人品牌就是你的业务。 Nikesh Arora: 我认为如果你打造了一款伟大的产品、一家伟大的公司,人们喜欢你的产品,最终你的品牌就能在这一切之后存活下来。我认为你可以有一个伟大的品牌,但如果产品糟糕、执行糟糕,你的品牌很快就会完蛋。所以我把这两者倒过来看。 Harry Stebbings: 你认为今天依然是这种情况吗?比如我认为品牌在今天可以成为如此强大的加速器,尤其是在一个信息如此嘈杂的世界里。 Nikesh Arora: 你看,正如你所知,我在谷歌待了很多年。我实际上担任了5年的首席营销官(CMO)。如果你回顾科技历史,有很多拥有伟大品牌的产品/公司最后都死掉了。还记得太阳微系统(Sun Microsystems)吗?它在30年前是个宠儿,现在不存在了。为什么?因为他们的品牌死掉了,或者产品变垃圾了。雅虎呢?还记得那家公司吗?它是一个伟大的品牌,不可思议。它比谷歌早得多。我认为它现在的价值可能只是谷歌的一个零头,可能连小数点后两位都算不上。所以,我认为产品有助于打造品牌。 Harry Stebbings: 但是我认为……但我认为那些公司是在公众舆论中杂音少得多的时代创立并闯入公众视野的。因此,我认为如果放到今天,你必须先有品牌才能进入…… Nikesh Arora: 听着,让我来说一个反驳我自己论点的观点。这是一个光谱,好吗?在光谱的一端是只有真正具备差异化的产品,在这种情况下,产品有助于打造品牌。就像谷歌搜索,现在你会去“谷歌”(Google)一下某些东西,对吧?而在光谱的另一端,它是大宗商品(Commodity)。比如水。没有人知道这为什么叫依云(Evian),对吧?但这是大宗商品。在这里,只有品牌才重要。所以,这取决于你处于光谱的什么位置。如果你全都是同质化的大宗商品,是的,品牌非常重要。如果你是差异化的产品,那么你就可以在差异化产品的支持下建立品牌。你可以决定你想在这个光谱的什么位置。 Harry Stebbings: 说到这个品牌,我看到了你的推文(Tweet),我觉得那写得大师级。你发推说:“拆解开来看,前沿模型(frontier model)问题就是一个广度(breadth)与深度(depth)的问题。” Nikesh Arora: 是这样的。 Harry Stebbings: 你能向我解释一下吗? Nikesh Arora: 是的,听着,我一直在认真听你的一些播客,我一直在关注市场上发生的事情,因为我想了解这一切最终会在哪里沉淀,这不仅是因为我想理解它,而且它也影响着我如何建立我自己的业务,对吧?所以你手头有这些现象级的前沿模型,它们一直在互相超越。每隔几天就会有由OpenAI、谷歌或我们在Anthropic的朋友交付的全新模型。问题就变成了,好吧,很好,这些模型在这一领域不断推进,我需要构建什么?我需要用这些模型做什么?接着,当我们来到神话般(或名为Mythos模型)的时刻,当每个人都忙于追逐它时,这在某种程度上很重要,你会意识到即使是最好的模型也有很高的误报率(false positive rate)。但在消费级领域,我们似乎并不在乎。 我今天早上还在跟我姐姐聊天。她说:“我刚才去了ChatGPT,问了所有这些问题,非常有用。”所以我猜发生的事情是,消费者对误报的容忍度要高得多,因为中间总会有人,对吧?总会有人去理解模型说了什么,并做出自己的判断,无论他们是相信模型还是不信,在某种程度上人们会排除掉一些误报。在某种程度上人们不在乎误报。有时候人们会相信误报。所以,消费者对这种误报的概念高度容忍,似乎不加区分,而且它似乎变得越来越好。 我真的让Gemini为我正在看的一项投资写了一份投资备忘录。我看了看,它看起来相当准确。大体上我会微调一些东西,但它看起来是可以过关的。所以,在消费者这一端,这是一个广度问题,对吧?它帮我写了一份投资备忘录,这很酷。我本来需要雇用一个银行家和一群投资分析师,那会花我好几天的时间,而我用4分钟就做好了。 所以广度就在那里,这意味着它是我的首选之地。正如你在消费级领域所知,如果你成为了首选品牌——说到品牌——这是极其受益的,对吧?无论是YouTube(那是寻找流媒体视频的唯一去处),还是谷歌(那是进行搜索的唯一去处),从分发的角度来看,它都会形成巨大的乘数效应。所以我们的前沿模型朋友们正在追逐消费级品牌,误报并不重要。 在企业级这一端,误报非常重要。它们之所以重要,是因为如果你想象一下未来,一个智能体(agent)要做出独立的决定并付诸行动,你对误报是零容忍的。现在拿Waymo来说。 在我看来,Waymo是目前存在的最大的智能体产品,因为你猜怎么着?你替代了一个被称为“司机”的人类,对吧?所有的决定都是由AI机器学习做出的。它决定什么时候转弯,什么时候停下,做什么。但是想想为了用一个由AI驱动的智能体来有效取代人类智能体,需要进行多少极端情况(edge case)的训练。我不知道。数百亿美元。 这就是把一个用例拿过来并对其进行疯狂训练所需的代价。如果你想想那里发生的事情,他们本可以使用同等的AI模型,但接着他们构建了如此多的上下文、智能、极端情况训练和专有数据来实现这一目标。那些数据在互联网上是找不到的。你不能把Anthropic的下一个模型塞进你的梅赛德斯奔驰,然后说:“行了,带我回家。”它是做不到的。这就是深度问题,对吧?因为你需要围绕模型的上下文、理解和智能的深度,才能使它在真正的智能体用例中发挥作用。 所以我只是认为这里面存在这种长期的张力。前沿模型想要消费者的注意力,因为那能推动模型的后训练(post training),它能推动模型的消费级品牌。另一方面,真正的企业营收将来自于需要更多上下文的用例。我们都知道的一个脱颖而出的用例是编程(coding),对吧?编程是一项通用的活动,每个人都在做。所以每个人的数据都有助于训练模型,这便成为了一种大型的企业应用。希望外面还有更多这样的应用。但我认为这就是我所写的张力所在。 Harry Stebbings: 当你思考工作流以及企业与AI(特别是模型)的互动方式时,你在多大程度上认为我们会锁死在一个前沿模型主导的世界,还是说大多数企业工作流可以通过开源来完成,并且在大多数时间里,我们转向开源会更具成本效益? Nikesh Arora: 我认为超过一半的企业从使用AI的角度来看仍然没有做对。我认为我们依然忙于尝试把AI融入到我们当前的业务流程中。也就是说,我如何把我今天做的事情拿过来,用一点点AI,让它稍微更高效一点,因为我不想再用老方法做了。 我认为真正的机会在于利用AI从根本上重新思考你的工作流。嗯,那才是真正的效益所在。我认为从长远来看,赢家将是那些真正利用AI重新构建公司的人,而不是那些用AI对当前工作流进行边际改良的人。 Harry Stebbings: 如果你是一家企业,你该怎么做?我假定我们有成千上万的大型企业CEO在听这期节目。这听起来很棒,但我该做什么?我要开一场头脑风暴会议吗? Nikesh Arora: 不,我认为这也许会有两到三个不同的类别。比如一类是,让我们拿今天的工作流来说。那里我们有围绕ERP的工作流,有围绕销售团队管理的工作流,有围绕人力资源管理的工作流。存在着一些已经被“SaaS化”的现有工作流,即某些软件公司认定我们都有共同的流程。让我构建一个容器,这些共同的流程可以在其中被企业进行微调。他们可以把自己的工作流写进我的SaaS应用中,然后我们就开始运行了。现在,那个工作流需要大量的人类判断和人类互动。软件不是智能的。它已经被写死了,对吧?你定义输入,你定义输出。我做输入,我知道我将得到什么输出。 这个想法是,想象一些在招聘过程中你大部分工作流都是容器的工作流。想象一下AI实际上在帮助你做判断的地方。你说把每一份简历都扔给AI,并说这20个人是你应该面试的。你看这份简历,你应该问这个人以下这些问题。给HR发个便签,说面试这个人,问以下10个问题,因为你的另外三位同事只问了以下五个。我们需要让人类没有任何错误判断。 因此,AI在提供信息和让流程更具智能方面可以提供巨大的帮助。但这需要我们放弃人类控制,让AI帮我们做80%的思考。这并不是我们现在做事的方式。我们现在做的所有事情就是拿这张发票来,扫描它,提取数据,放进AI里然后说:“瞧瞧,速度变快了20%。” Harry Stebbings: 你认为我们愿意放弃人类的控制吗?你看到现在的一些案例,比如像Matters这样的公司,我认为有1700人签署了请愿书,表示他们不愿意让它追踪自己的鼠标和敲击键盘的行为。我们看到了对交出数据的抵制。 Nikesh Arora: 我会辩称这是不同的点。我认为这是两个不同的点。我认为为了喂养AI而进行大规模的数据收集是有点危险的,因为人们能看到将会发生的后果,对吧?我听说过有些公司,人们正在用摄像头追踪人们叠衣服和熨衣服,因为他们想在未来能够训练物理AI来做这些事。 所以,抛开那部分不谈,我认为在企业这一端,如果我们决定在哪些地方愿意放弃对AI的控制,我们实际上可以把业务运行得更有效、更高效。一个完美的例子就是营销(marketing),对吧?任何需要用来训练营销模型的东西,都已经存在于公共领域了。根据定义,营销就是公共领域的产物,对吧?如果你不把它推向市场,它就不会在公共领域。 所以,我拥有营销方面最好的训练数据。我不需要用更多的营销内容去训练一个AI模型。我可能需要针对语调(tone of voice)和我的品牌是什么来训练它。而且我敢肯定一个AI模型,如果我把我的营销材料扔进去,它会告诉我:“这与你的品牌不一致。”如果我看看你过去10年一直在谈论的所有事情——我认为有些人已经这么做了,他们实际上分析了公司的财报电话会议文本并说:“过去20年里,X公司做了什么?什么时候CEO开始避开某个话题,因为也许进展得不那么顺利。”所以,这真的很聪明。他们能做这些事情。所以,对于前沿模型来说,这是世界上最

原文超出正文长度上限,此处截断——上游还有内容,完整版见上方「原文 ↗」。

更进一步:量化金融体系

看懂新闻只是起点——沿量化金融路径,把它变成能交付的工程能力

进入量化体系 →

相似阅读

另一事件,读法相近