循环语言模型提升组合式工具调用

循环语言模型在推理基准测试中展现出令人鼓舞的结果，但其在智能体工具使用方面的潜力尚未被充分探索。我们在组合式工具调用场景中研究这一问题，其中模型必须协调多个API调用、维护中间状态，并在工具交互间保持依赖关系。我们在API-Bank、BFCL和NESTful上评估了原生及改造的循环语言模型，比较了在匹配的监督微调配方下训练的循环与非循环模型，以及推理时不同的循环深度。在受控实验中，循环计算通常有利于组合式和依赖感知的工具使用，而在孤立API调用上带来的增益较小且更依赖模型。多步工具使用的准确性通常随循环深度增加而提高；然而，自适应推理通过仅在需要时分配额外计算，实现了更优的计算-性能权衡。我们的结果表明，循环语言模型是智能体系统的一种有前景的架构，适用于需要可靠规划、协调和执行组合式工具使用工作流的场景。