Databricks CEO Ali Ghodsi：AI生存风险近零

Databricks CEO 判断 AI 生存风险接近零｜RSI 四条件检验全部落空、漏洞武器化已缩至小时级、90% 代码由 AI 编写、企业真正的瓶颈是缺失“组织本体”

来自 Databricks 联创兼 CEO @alighodsi 做客 a16z 播客，与合伙人 @martin_casado、 @sarahdingwang 的 67 分钟对谈。

核心立场：别再吓唬公众，生存风险“接近零”

Ali 开篇就表明立场：领导者有责任不必要地不吓唬公众，除非有真正充分的理由。他认为当下 AI 的生存风险“接近零”，而反复对大众宣讲“10% 概率人类灭亡”会造成真实伤害，他的判断依据是心理健康的实际代价和恐慌的外溢效应。

Martin 补充了一个生动注脚：他在亚利桑那 rural 地区当小学老师的姐姐周日发短信问他“要不要帮你把小屋准备好避 AI 末日？水我已经储好了”。恐慌已经渗透到完全不懂技术细节的普通人群中。两人还指出，这种恐慌正在被政治机器利用（如 Warren 呼吁暂停 AI 开发、Bernie 与 Bannon 的联盟），可能催生与初衷相反的重监管。

但要区分：Ali 否定的是“生存风险”，不是所有风险。 他认为真正紧迫的威胁是 AI 驱动的网络攻击，这是全文反复出现的论点。

对 "Pacing" 话语的批评：一场公关失误

来自 Martin 的分析。他认为 Anthropic CEO Dario 所写的文件内容其实“完全合理”，但把它框定在“为前沿控速”（pacing the frontier）这个词上是一步公关臭棋，理由有三： 1. 控速与安全正交：“你可以慢慢地造一件武器，那和快快地造没有区别”。安全是工程问题，不是速度问题； 2. 没有可信度：这些公司一直在全速狂奔、还在买更多算力； 3. 落入了“恐怖谷”：末日论者嫌它不是真正的暂停，务实派觉得它不真诚，两边都不买账。

他点出正确的说法本应是“保障前沿”。Hugging Face/OpenAI 的安全事件就是例证：正确结论是“做好安全控制”，而非“应该放慢速度”。

Ali 则从商业角度补充了“公地悲剧”逻辑：没有实验室会单方面减速，有 IPO、有竞争、有人际恩怨，“我为什么要先停？我会成为冤大头”。所以“求政府来管我们”某种意义上是求一个强制性的集体减速机制。

判断 RSI 的四条标准

针对“递归自我改进（RSI）是否正在发生”这一恐慌源头，Ali 提出了一个可证伪的四条件检验——必须四条同时成立： 1. 下一代模型训练所需算力资源大幅下降； 2. 训练所需时间缩短； 3. 模型智能/准确率继续上升； 4. 以上三条可以循环往复地持续发生。

他的结论：现实与四条全部相反。前沿模型训练成本已从约 1 亿美元涨到 50-100 亿美元，参与人数更多、流程更脆弱（数据中心、网络、容错的工程复杂度都在指数上升）、一年只有一两次这种训练，且已有多起训练失败的案例。

Martin 补充了关键的概念辨析：今天大家说的"RSI"90% 其实是“自催化效应”；用 AI 写 GPU kernel、做数据清洗，就像用计算机设计计算机、编译器编译编译器、蒸汽机、互联网一样，是所有通用技术的常态，而非通向超级智能的证据。（Ali 透露：Databricks 目前约 90% 以上的代码由 AI 编写。）

Martin 还给出了自己的“黑盒外部检验”：如果这些实验室人员越来越少、投入越来越少、产出却越来越快，那才真的出事了。而现实是它们在疯狂招人。

真正的近期风险：AI 网络攻击

Ali 给出的数据：CVE 漏洞公布到被实际武器化的时间，从 2018-19 年的 2-3 年，压缩到 2022 年的 8-9 个月，如今已缩短到以“小时”计。

他判断“数据/AI 市场”与“网络安全市场”正在融合：企业内部 agent 产生海量日志和行为轨迹，分析规模比两三年前大了多个数量级；传统 SOC（安全运营中心）的人力模式已彻底跟不上，必须转向代理驱动的自动化检测与自动化威胁狩猎。银行等高敏感机构在做，但大多数企业还差得很远。他的原话：“人类对正在发生的攻击的反应速度不够快，你必须全自动化。”

Martin 提出尖锐反问：为什么早期互联网时代蠕虫已造成医院瘫痪、数百亿美元损失，而 AI 至今没有同量级的网络灾难？Ali 的回答是：这是一场攻防竞赛，防御方（包括 Databricks 的 LakeWatch 检测产品）正在全速冲刺，但这恰恰说明“不能躺平当作没事”。

企业落地的真正瓶颈：不是模型不够聪明，而是缺失“上下文”

这是对企业听众最有实操价值的部分。Ali 的核心观察： 大多数企业用 AI 的现状 = “一个 glorified 的谷歌搜索”+ 写代码。没有任何 whole-enterprise 级的代理自动化。原因不是模型不够聪明，是模型没有组织的上下文。它没参加过每一次会议，不知道决策如何做出，不知道那些“一旦离职公司就要慌”的老员工脑子里装的东西。

解决方案是他反复强调的 Ontology（本体/知识图谱）： · 定义：组织中所有抽象概念、目标、部门、人员、项目之间的关系网络——本质上是“入职第一天的员工”与“干了五年的老员工”之间的差距； · 实现路径：先把组织数字化（会议转录、内容采集——这本身就有法务合规障碍），再蒸馏成一张数字图谱喂给 AI； · 关键类比：今天 agent 逐个调用 MCP 服务器检索的方式，就像谷歌当年不建索引、每次搜索实时爬十个网页再总结；又贵又慢质量又差。Ontology 就是企业版的“离线计算的 PageRank 索引”，但要难得多，因为涉及权限、访问控制、异构对象。

Databricks 自己是最大样板：他们自建了客户中最大的 ontology（数百万节点的图谱），公司运营方式“一年内彻底改变”。他讲了一个董事会前的段子：想知道财富 500 强渗透率，先问销售运营负责人（对方说在飞机上登不了 Genie），再问 CFO，CFO 直接回了一张 Genie 截图。现在公司内部流行语是 "can you just Genie this"。

成本管理与“多模型 + 多 harness”时代

Ali 分享了 Databricks 的完整控费实践（对“token maxing → value maxing”浪潮的回应）： · 起点戏剧化：CEO 本人用模型向生产环境提交代码，然后以此施压全员；“如果 CEO 能在这个安全要求极高的数据平台 commit 代码，你也可以”； · 通过 Unity Gateway 做预算约束、用量预警、成本预测分析、智能路由（简单问题自动切便宜模型）； · 一个反直觉发现：同一个模型，换不同 harness（工程脚手架），成本差近 2 倍； · 结果：token 用量持续上升，总成本持平；“弯折了成本曲线”。

Sarah 提供了市场信号：她所在的 20 多个董事会中，首次有大规模企业宣布从前沿模型迁移到 GLM（开源便宜模型）。正在成形的模式是分层用模：贵模型做架构设计与审计、便宜模型做实现。开源占比数据：按金额约 5%，按 token 量已超 60%；初创公司面向产品的场景甚至接近 90% 开源。而企业自训模型的最大障碍是做 eval（评估）太难；Ali 类比为 TDD：人人都说是正道，实践中几乎没人做。

Agent 正在重塑基础设施本身

最后一段讨论 Databricks 收购的 Neon/Lakebase 为何在第三方测试中成为“Agent 首选的 Postgres 数据库”： · 团队的执念不是赢数据库战争，而是“如何成为对 agent 最好的数据库”，一个全新 persona（此前行业只为 DBA 和应用开发者优化）； · 具体能力：亚秒级建库、巨型数据库亚秒级克隆、branching（分支）、故障安全、对实验场景友好的计价； · 结果：90% 以上的数据库实例由 agent 而非人类创建。

这印证了那句行业判断：“赢得 agent，就赢得市场。”