跳到主内容
@wquguru
精选88WquGuru技巧与观点

Opus 5.5 Agent 缓存导致用量激增的排查与优化实践

Opus 5.5 一晚上烧掉周用量的 40%,仔细研究发现不是模型不耐用,根源出在 Sub Agent 反复写缓存。

原文
发到 X
推荐理由

Agent 架构下的缓存成本失控是常见痛点,这篇复盘给出了具体的参数调整方案和配置修改建议,对做复杂 Agent 工作流的同学极具参考价值。

Opus 5.5 一晚上烧掉周用量的 40%,仔细研究发现不是模型不耐用,根源出在 Sub Agent 反复写缓存。

对照了一下,之前拼死拼活 6 天才用掉 60%,昨天一个晚上,两个全自主做视频的 Session,派出 228 个 Sub Agent,占了整晚用量的 84%。

如果折成 API 用量,主会话占了 $99,而 Sub Agent 占了 $527(顺手证明 Max 20x,确实满打满算大约 $6000/月)。

比较神奇的是,钱没花在产出上,输出 token 只占了 5%。

真正贵的是这两项:

1. 缓存读取 49%。每个 Sub Agent 带着 11–14 万 token 上下文,跑了 25–40 轮; 2. 缓存写入 42%,主会话缓存有效期 1 小时,Sub Agent 只有 5 分钟,几乎每开一个就重写了一遍。

再往下看,这些 Sub Agent 都在做审查:画面、稿子、成片,还要复审。我给的规则是每阶段独立审查、最多 4 轮,一个会话同时做 5 期,阶段 × 期数 × 轮数,用量就爆炸了。

于是对症下药,优化了一下 AGENTS.md,预计能省到 80%:

1. 审查换成 Sonnet 5.5,effort 调到 low 2. 每阶段最多 2 轮,只有改过严重问题才复审 3. 不逐帧审,每节一张图 4. 一期一个 Session,不在一个会话里开多期

你有哪些好用的 token 优化技巧?欢迎分享出来👏

更进一步:量化金融体系

看懂新闻只是起点——沿量化金融路径,把它变成能交付的工程能力

进入量化体系 →

相似阅读

关联信息,但可能不是同一事件