跳到主内容
@wquguru
精选88r/LLMDevs(Reddit)技巧与观点

Jive:基于System One模型重构Agent执行循环的开源框架

Jive - Rethinking the Agentic Loop with System One Models

原文
发到 X
推荐理由

Agent架构师必读,提出用DAG图替代线性工具调用的新思路,实测大幅降低延迟与成本,值得参考其工程实现细节。

I have been thinking that the current Agentic Loop design of LLM Call -> Tool Call -> ... has been outdated. The arrival of Jev and other System One models provided us a primitive we desperately needed.

我一直在想,当前 LLM 调用 -> 工具调用 -> ... 的 Agentic Loop(智能体循环)设计已经过时了。Jev 和其他 System One 模型的到来为我们提供了我们迫切需要的原始能力。

We need an agent that can natively think fast and slow. Not have workflows or multi-agent architectures that mimics it.

我们需要一个能够原生地快速思考和慢速思考的智能体。而不是通过工作流或多智能体架构来模拟这种行为。

The agent should use the LLM's full power for hard reasoning and planning, then carry out the plan with cheap "fast thinking." Today, most of an agent's LLM calls go to executing steps it has already decided on ("ok, now I'll click this"). We can do better.

智能体应利用 LLM 的全部能力进行复杂的推理和规划,然后以廉价的“快思考”执行该计划。如今,大多数智能体的 LLM 调用都用于执行它已经决定好的步骤(“好的,现在我要点击这个”)。我们可以做得更好。

My approach

我的方法

I built Jive which is an open-source harness built around a completely new agentic loop. Jive replaces tool calls with "graph calls" where each graph is a DAG of bash nodes and jev nodes, and nodes can have dependencies, reference each others outputs, and more.

我构建了 Jive,这是一个围绕全新 agentic loop 构建的开源框架。Jive 用“图调用”取代了工具调用,其中每个图都是一个由 bash 节点和 jev 节点组成的 DAG(有向无环图),节点之间可以存在依赖关系、相互引用输出等。

Essentially, it maps out its own execution flow while its reasoning, and then uses Jev calls to go through the flow without unnecessary LLM calls.

本质上,它在推理过程中绘制出自己的执行流程,然后通过 Jev 调用遍历该流程,从而避免不必要的 LLM 调用。

What Jive does well: repo investigation, bulk classification, multi-step profiling, repetitive edits, evaluation workflows, etc. It is also quite effective on regular engineering tasks that doesn't require Jev calls (which is not surprising since Pi mostly beats codex and claude code)

Jive 擅长的领域:仓库调查、批量分类、多步骤分析、重复性编辑、评估工作流等。它在不需要 Jev 调用的常规工程任务上也相当有效(这并不令人意外,因为 Pi 主要优于 Codex 和 Claude Code)。

Benchmarks

基准测试

TaskJiveCodexClaude CodeDemo
Mean2m 31s / 8.7k17m 40s / 16.2k12m 12s / 32.7k
conversation_eval3m 26s / 11.1k29m 33s / 20.5k16m 48s / 47.9kvideo
error_handling_audit3m 10s / 10.7k19m 29s / 25.8k5m 08s / 42.5kvideo
product_matching3m 03s / 8.9k22m 00s / 19.7k32m 02s / 19.3kvideo
search_latency2m 00s / 9.6k9m 00s / 12.8k7m 18s / 51.4kvideo
sembench_movie1m 47s / 6.1k19m 58s / 10.3k8m 51s / 15.7kvideo
slow_trace_search1m 41s / 5.7k6m 00s / 8.1k3m 04s / 19.3kvideo
任务JiveCodexClaude CodeDemo
平均值2分31秒 / 8.7k17分40秒 / 16.2k12分12秒 / 32.7k
conversation_eval3分26秒 / 11.1k29分33秒 / 20.5k16分48秒 / 47.9kvideo
error_handling_audit3分10秒 / 10.7k19分29秒 / 25.8k5分08秒 / 42.5kvideo
product_matching3分03秒 / 8.9k22分00秒 / 19.7k32分02秒 / 19.3kvideo
search_latency2分00秒 / 9.6k9分00秒 / 12.8k7分18秒 / 51.4kvideo
sembench_movie1分47秒 / 6.1k19分58秒 / 10.3k8分51秒 / 15.7kvideo
slow_trace_search1分41秒 / 5.7k6分00秒 / 8.1k3分04秒 / 19.3kvideo

Disclaimer: I need to run Jive on a larger scale SWE benchmark to verify its accuracy, but based on personal experience, I didn't see a case it performs worse than other harnesses.

免责声明:我需要在更大规模的 SWE 基准测试上运行 Jive 以验证其准确性,但基于个人经验,我没有看到它比其他框架表现更差的案例。

See README for more information: https://github.com/merijjeyn/jive. Also for details on the benchmark tasks, and how to run one yourself.

更多信息请参阅 README:https://github.com/merijjeyn/jive。此外还包括基准测试任务的详情以及如何自行运行的说明。

I'm sure this high level idea can be executed much better, so mainly looking to start an open discussion. Happy to take comments, questions, contributions.

我相信这个高层级的想法可以被更好地实现,因此主要是希望开启一场公开讨论。欢迎提出意见、问题和贡献。

更进一步:量化金融体系

看懂新闻只是起点——沿量化金融路径,把它变成能交付的工程能力

进入量化体系 →

相似阅读

关联信息,但可能不是同一事件