智能体热潮正演变为管理难题

企业 AI 智能体很容易部署、很容易复制,也越来越难以追踪。这是 Rubrik ZeroLabs 最新调查在原始材料中强调的核心警告。调查发现,只有 23% 的 IT 经理表示,他们对组织内部运行的智能体拥有完全控制。换句话说,约有四分之三并没有这种控制力。

这一数字之所以引人注目,是因为当前围绕 AI 智能体的讨论往往强调速度和生产力。供应商将智能体宣传为能够自主运行、承担重复性工作并减少直接人工干预的软件。而这项调查表明,许多公司正在发现这一承诺不那么光鲜的一面:一旦智能体在团队、工具和供应商之间扩散,治理往往会远远落后于采用速度。

这种担忧不仅仅是管理上的混乱。原文指出,81% 的受访者表示,他们管辖范围内的智能体需要比这些智能体原本通过流程改进所节省的时间更多的人工审计和监控。这实际上颠覆了自动化的核心说法。如果企业花在监督智能体上的精力比它们带来的效率收益还多,那么这笔商业账就更难成立。

从生产力工具到安全暴露面

这项调查也将智能体扩散描绘为一个安全问题。根据原文,86% 的 IT 经理预计,智能体的扩张速度将在未来一年内超过安全防护措施;52% 的人认为,这一差距可能在六个月内出现。这不是一个遥远的风险场景,而是意味着许多技术负责人认为控制问题已经迫在眉睫。

其中的机制并不陌生。原始材料称,用户可以绕开控制措施,包括关闭 VPN 或以其他方式规避安全手段,以便部署充当助手的智能体。结果是,未经授权的 AI 应用数量不断增加,既包括内部应用,也包括外部供应商提供的应用。实际上,智能体可能正在重演企业技术过去见过的模式:先是基层快速采用,随后才是治理架构补位。

材料中直接提到了这种类比。文中引用的微软高级产品经理 Kriti Faujdar 表示,这种模式类似于早期云采用阶段,当时各团队使用不同框架和供应商独立上线服务。那时的后果是碎片化和隐藏的安全缺口。如今的担忧在于,AI 智能体因为不仅能存储或处理数据,还能真正执行动作,可能会放大这些风险。

为什么“完全控制”是如此高的标准

有必要准确理解这项调查似乎在衡量什么。“完全控制”是一个要求很高的标准。它不仅意味着知道智能体的存在,还意味着了解它们部署在哪里、可以访问哪些数据、能够作用于哪些系统、由谁批准、如何被监控,以及它们的行为如何被撤销。

最后这一点尤其重要。原文称,几乎所有受访者都表示,他们缺乏必要的“撤销”能力,无法回滚智能体造成的非预期操作。在传统软件治理中,可逆性是基础。如果系统运行异常,操作者希望有清晰的审计轨迹和可靠的恢复路径。对于自主或半自主智能体而言,缺乏回滚能力的后果更为严重,因为这些系统本来就是被设计来跨工作流执行动作的。

这就是聊天机器人回答问题,与智能体在互联系统中做出更改之间的区别。一旦技术开始触及审批、记录、客户沟通或内部流程,治理就不再只是采购清单上的一个选项,而成为一门运营学科。

企业正在实时学习什么

更广泛的教训是,企业 AI 正在成熟为一个制度性问题,而不仅仅是一个工具问题。在过去两年里,许多组织都把重点放在试验上。他们想知道智能体能做什么、团队能多快构建它们,以及生产力提升会出现在哪里。如今,这一阶段正与库存管理、责任归属、安全以及劳动开销等问题正面碰撞。

调查数据表明,一些预期中的收益正被监督成本所抵消。这并不意味着智能体在各处都失败了,而是说明许多组织仍处于一种未受管理的扩张阶段,部署速度已经超过了运营纪律。在这种环境下,热情或许还能维持一段时间,但信任会变得更难维系。

原文认为,智能体管理需要成为一项“一级学科”。这或许是整篇报告中最有价值的表述。企业已经把身份、终端、云资产和数据访问视为需要专门工具与流程来治理的领域。调查暗示,AI 智能体正在走向同样的地位。

AI 智能体市场的下一阶段

如果这一转变真正发生,围绕智能体的市场格局可能会很快改变。胜出的未必只是那些演示最惊艳的供应商,更可能是那些让部署对安全和 IT 团队来说一目了然的厂商:库存控制、权限边界、操作日志、回滚选项以及清晰的运行政策。

这将代表企业 AI 采用进入一个更审慎的阶段。买家不再只问智能体能自动化什么,而会问这些智能体是否能够在大规模场景下被治理。调查并没有说智能体浪潮正在逆转。事实上,它暗示的恰恰相反:采用速度快到许多组织已经感觉自己落后了。

关键变化在于,无序增长不再被视为短暂的不便,而正在成为企业 AI 的定义性风险之一。那些能够解决扩张失控、可见性不足和不可逆问题的公司,可能会真正捕捉到智能体的长期价值;而做不到这一点的公司,可能会发现自己接下来一年都在审计原本应该帮它们节省时间的系统。

本文基于 ZDNET 的报道。阅读原文

Originally published on zdnet.com