让代理自主运行的隐性成本

一旦 AI 编码代理不再只是回答单个问题，而是开始自主工作，其经济账就变了。一次性预测很便宜。长时间无人监督的运行则不然：推理步骤叠加在工具调用之上，工具调用又叠加在反馈循环之上，token 账单随每个循环不断增长。Nvidia 研究人员发表了一篇论文，描述了一个从意想不到的角度解决这一账单问题的系统——不是让底层模型运行得更便宜，而是重写围绕它的脚手架。

据研究人员称，他们名为 SoL-Pi 的方法将 token 消耗减少了近一半，同时性能大致保持不变。The Decoder 报道了这项工作，并指出该系统针对的是被称为 harness 的控制层，而非模型本身。

Harness 究竟做什么

Harness 是位于模型与其运行环境之间的一层软件。它向代理展示其所处状态，决定动作如何执行，并确定之后返回给模型的反馈内容。Codex、Claude Code 和 OpenClaw 等熟悉的产品都依赖这类 harness，将语言模型转变为能够编辑文件、运行测试并迭代的东西。

由于这一层掌控着循环中的如此多环节，它对成本有着超乎比例的影响。每一次冗余的工具调用、每一个过大的上下文窗口、每一个触发过晚的验证步骤，都会增加本非严格必要的 token。迄今为止，大多数效率工作都集中在别处：通过更快的注意力内核和服务基础设施降低单个 token 的价格，通过量化压缩模型，或将工作路由到更小、更便宜的模型。

CMR Surgical
More in AI & Robotics

Stryker向CMR Surgical投资4亿美元，进军Versius机器人手术

Stryker已向CMR Surgical投资约4亿美元，并获得收购剩余股权的选择权以及Versius在美国的独家销售权。

Read article

为什么 Harness 优化很难

手工调优 harness 很困难，因为它的职责紧密交织。工具使用、上下文管理、验证例程和中止逻辑都会相互作用。在某一阶段削减 token 的改动，可能会在其他地方引入故障，或者只是把成本转移到运行后期更难察觉的阶段。

Diagram of the SoL-Pi auto-research loop showing research environments, a research AI, an idea pool, and four retained mechanisms, alongside bar charts comparing score and API costs for Codex, Claude Code, Pi, and SoL-Pi on EdgeBench.
一个研究 AI 分析代理轨迹，提出 harness 改动，并只保留那些在削减成本的同时保持性能的改动。在 EdgeBench 上，SoL-Pi 相比 Codex 节省 50%，相比 Claude Code 节省 54.3%。| 图片：Nvidia

在实践中，工程师会通读冗长的执行轨迹，发现反复出现的失败模式，并将这些观察转化为代码改动。这是缓慢的手工工作，依赖于有人第十次注意到同样的错误。

SoL-Pi 如何自动化这一搜索

SoL-Pi 将这一人工循环自动化。一个研究代理观察另一个代理产生的轨迹，提出对 harness 的修改，然后在准备好的环境中测试这些提议。候选改动会同时经过能力检查和效率检查，只有那些在削减成本的同时保持性能稳定的变体才会被保留。

作者将这一方法描述为借鉴了递归自我改进：一个 AI 系统实际上在改善另一个 AI 系统的运行条件。一个关键细节是，用于评判最终结果的评估只在 harness 被冻结之后进行，而且这一留出评估不会反馈到搜索中。这种分离很重要，因为它限制了优化过程针对最终将面对的测试进行自我调优的程度。

A robot arm palletizing packages.
More in AI & Robotics

为什么仓库自动化需要实时掌握作业状况

仓库运营商日益面临系统记录与现场状况之间的差距，因此，实时协调已成为提升绩效的关键。

Read article

实验规模

搜索范围很广。在 535 个可执行环境中，SoL-Pi 探索了 152 个不同方向。任务组合包括：

  • 由 GitHub issue 与 pull request 配对构建的 495 个任务
  • 为评估设计的 40 个合成测试用例
  • 总计超过 3,000 次运行
  • 超过 60,000 次代理与环境交互

研究人员将这一规模作为系统搜索广度的证据，但他们也警告说，搜索更多并不自动产生更好的结果。广度增加了找到有用 harness 配置的机会，但并不能保证找到。

实测节省

核心数字相当可观。据研究人员称，在 EdgeBench 上，SoL-Pi 相比 Codex 节省了 50% 的 token，相比 Claude Code 节省了 54.3%，同时性能大致持平。论文将整体 token 削减幅度表述为最多 49%，任务能力几乎没有变化。

Flowchart of the search pipeline from trajectory rollouts through map-reduce analysis, mechanism proposal, candidate implementation, independent review, and development validation to a separate held-out evaluation.
留出评估只在 harness 被冻结之后进行，并且不会反馈到搜索过程中。| 图片：Nvidia

这一表述很重要。如果允许代理更频繁地失败、跳过验证或在合法任务上提前中止，削减 token 用量是很容易的。这里的说法不同：节省来自更精简的控制逻辑，而非行为退化，这就是为什么在选择过程中能力检查与效率检查并列。

过拟合问题

这一研究方向存在一个已知风险。早期工作表明，自动优化的 harness 往往容易过拟合，在它们被调优所依据的轨迹上变得极为高效，却难以泛化到新情境。Nvidia 的作者似乎意识到了这一点，这就是为什么最终评估是在冻结的 harness 上进行，并与搜索循环隔离。

即便如此，这一告诫仍值得铭记。这里使用的环境虽然数量众多，但仍只是编码代理所遇到的混乱现实的一个有限样本。一个在 535 个环境中精炼出来的 harness，能否经受住一个真正陌生的代码仓库、一套不稳定的测试套件或一份含糊的 bug 报告，仍是一个只有更广泛部署才能回答的开放问题。

对代理经济学的意义

如果这些结果在实验室之外也成立，其影响是实际性的而非哲学性的。运行自主编码代理的团队按 token 付费，而让代理变得有用的长时间无人监督会话，恰恰是让它们变得昂贵的那些会话。在不损失能力的情况下从工作流中挤出近一半的 token，会改变预算能支撑多少这样的会话。

这项工作还表明，优化努力值得花在哪里正在发生转变。多年来，模型层面的效率一直是默认目标，它当然仍然重要。但 harness 才是关于上下文、验证和重试的决策发生的地方，而正如这篇论文所表明的，这些决策正是大量浪费累积之处。模型与环境之间的空隙，也许是剩下最值得关注的地方。

本文基于 The Decoder 的报道。阅读原文。

Originally published on the-decoder.com