Cloudflare 的 Clef 瞄准智能体决策层

Cloudflare 发布了 Clef 和 Clef-flash，这是一对专为 AI 智能体打造的决策模型，直接对标 TypeSafe AI 的 Jev。该公司的核心卖点是速度。Clef 不会生成冗长的自然语言回复，而是返回一个附带概率的简短分类结果。这些概率为下游代码提供了可据以行动的具体依据，无论是路由支持工单、触发升级，还是将案例转交给人工操作员。

Cloudflare 的表述很直白：有了这类模型，“智能体决策不再必然需要人工介入。”在其描述中，智能体可以以编程方式收集上下文、做出决策并针对任务采取行动，同时在情况需要时仍可交由人工处理。这是关于自主性的一个重大主张，也使 Cloudflare 与一个已在该类别中确立领先地位的模型展开竞争。

决策模型究竟做什么

“决策模型”一词描述的是介于通用语言模型和传统分类器之间的系统。它不写文章，也不进行对话。相反，它针对输入回答一组预定义问题，并为每个可能答案返回一个概率。

Cloudflare 给出的一个实际例子涉及客户支持消息。给定这样一条消息，Clef 可以评估其紧急程度，并识别应由哪个团队处理。下游系统读取这些答案并采取行动：将工单路由到正确的队列、升级工单，或将其转交给人工。该模型本身无需撰写回复。

这个名字来自音乐，在乐谱中，谱号（clef）为五线谱上的线赋予音高。Cloudflare 用这个类比来暗示，决策模型为后续行动设定了框架。它与 Jev 在发音上的相似，很可能并非偶然。

A robot arm palletizing packages.
More in AI & Robotics

为什么仓库自动化需要实时掌握作业状况

仓库运营商日益面临系统记录与现场状况之间的差距，因此，实时协调已成为提升绩效的关键。

Read article

速度是头条数字

Cloudflare 将延迟作为其差异化优势大力强调。该公司表示，在 43 项基准测试中，Clef 和更小的 Clef-flash 都快于所有相关的竞争决策模型。报告的中位响应时间约为：Clef-flash 39 毫秒，Clef 约 209 毫秒。相比之下，Cloudflare 将 Jev 列为略高于 524 毫秒。

Diagram showing a support ticket about API errors and two questions about team and urgency flowing into a decision model that outputs 100 percent for the technical team and 100 percent for urgency in parallel.
决策模型会同时针对输入回答多个预定义问题，并为每个答案选项返回一个概率。| 图片：Cloudflare
  • Clef-flash：中位延迟约 39 毫秒。
  • Clef：中位延迟约 209 毫秒。
  • Jev：根据 Cloudflare 的对比，略高于 524 毫秒。

这些都是自行报告的数据，而 Cloudflare 显然有动机以有利方式呈现它们。即便如此，它所描述的差距之大，足以在需要按顺序做出许多小决策的系统中产生影响。响应时间十倍的差异，可能决定一个智能体给人的感觉是响应迅速还是迟缓，也可能影响一条流水线在用户察觉延迟之前能够承担多少步骤。

Cloudflare 还指出，这两个模型都直接运行在其自有基础设施上。该公司表示，这使它们能够受益于靠近边缘数据中心，从而可能缩短数据在返回决策之前所需传输的距离。

基于 Qwen 构建，兼容 Jev

据 Cloudflare 称，Clef 和 Clef-flash 都基于 Qwen 构建，并且都支持文本和图像。这种多模态能力对于需要同时解读截图、扫描文档或其他视觉输入与文本的智能体工作流很重要。

对采用同样重要的是，Cloudflare 保持了 API 与 Jev 的完全兼容。已经在使用 TypeSafe AI 模型的客户无需重写集成即可切换。这种兼容性是典型的竞争策略：它降低了尝试替代方案的成本，并使速度对比成为决策中的主要变量。

A man and young girl playing a game using the ElliQ robot. NYSOFA has extended its partnership with Intuition Robotics.
More in AI & Robotics

纽约州延长面向老年人的 ElliQ 项目

纽约州老龄事务办公室签署了一项为期三年、金额210万美元的协议，以扩大 ElliQ 的使用范围。

Read article

填补语言模型与分类器之间的空白

Cloudflare 将 Clef 定位在一个一直难以填补的细分领域。大型语言模型可以推理问题并调用工具，但其输出每次运行都会变化，而且可能很慢。传统分类器速度很快，但每当引入新类别时通常都需要重新训练。决策模型的目标是兼具分类器的速度和可预测性，同时保留智能体系统所需的灵活性。

在思考这项技术适合何处时，这种区分很有用：

  • 语言模型是通用推理器，其输出灵活但多变，且相对较慢。
  • 传统分类器快速且一致，但僵化，每增加一个新类别都需要重新训练。
  • 决策模型针对预定义选项返回概率，力求兼顾速度、结构以及智能体流水线所需的足够灵活性。

对于构建智能体的团队来说，吸引力很直接。一个必须反复决定是否升级、路由、打标签或暂停的智能体，并不需要每次都获得完整的生成式回复。它需要的是一个足够可信、可以据以行动的快速信号。

Scatter plot with Decision Index score on the y-axis and median latency in milliseconds on the x-axis. Clef scores 61.2 points at about 210 milliseconds, Clef-flash scores 57.1 points at about 40 milliseconds, and Jev scores 57.9 points at about 525 milliseconds, alongside open models like AutoJev-27B and Kev 9B.
在 Cloudflare 自行报告的数据中，Clef 提供了最高的决策质量，而 Clef-flash 以极低延迟几乎匹配 Jev 的准确率。| 图片：Cloudflare

人工介入，还是坐冷板凳

Cloudflare 信息中最具挑衅性的部分，是暗示人工监督不再是每个智能体决策的强制步骤。Cloudflare 描述了一种设置：智能体以编程方式收集上下文、做出决策并采取行动，同时保留在需要时交由人工处理的选择。

“在需要时”这个说法承担了很大的分量。返回概率的决策模型可以支持自动行动，但无需人工介入即可行动的阈值，是由构建系统的人做出的设计选择。高置信度的路由决策或许可以安全地自动化；涉及不满客户、安全问题或财务承诺的升级，即使模型很有信心，也可能需要审查。这项技术使更快的自动化成为可能，但它本身并不能决定界限应划在哪里。

概率输出也不等同于保证。分类可能出错，而一个快速的错误答案可能比慢速错误答案更快地在流水线中传播。因此，决策模型的价值不仅取决于延迟，还取决于校准，以及周围系统处理不确定性的优雅程度。

A robot arm assembling a house component. Promise Robotics says it can accelerate homebuilding by standardizing component manufacturing.
More in AI & Robotics

Promise Robotics 与 D.R. Horton 合作开展 AI 赋能住宅建造

Promise Robotics 表示，其与 D.R. Horton 达成的多年期协议将通过分布式工厂模式，支持在美国建造超过 1,250 套住宅。

Read article

Clef 推出时值得关注什么

Cloudflare 的说法具体且可衡量，因此可以检验。独立基准测试将很重要，尤其是针对 Cloudflare 引用的 43 项基准测试，以及不同于供应商测试套件的真实工作负载。与 Jev 的对比也将受到审视，因为 TypeSafe AI 的模型正是 Clef 明确争取的现有领先者。

有几个问题将决定 Clef 是否会成为智能体构建者的默认选择：

  • 独立测试是否会复现其延迟优势，尤其是在生产负载下？
  • 这些模型处理边缘情况、模糊输入和未预料类别的能力如何？
  • 边缘邻近性是否会为全球分布式应用带来有意义的收益？
  • 鉴于 API 兼容，团队将现有 Jev 集成迁移过来有多容易？

Cloudflare 将 Clef 描述为智能体不再需要为每个决策都有人工介入的时刻。更准确的理解可能是，它使这种选择变得成本更低、执行更快。自主性是否会扩大，更多取决于团队围绕它构建的护栏，而不是模型本身。

本文基于 The Decoder 的报道。阅读原文。

Originally published on the-decoder.com