Los agentes de IA empresariales se están multiplicando más rápido de lo que las empresas pueden gobernarlos

El auge de los agentes se está convirtiendo en un problema de gestión

Los agentes de IA empresariales son fáciles de lanzar, fáciles de duplicar y cada vez más difíciles de rastrear. Esa es la advertencia central de una nueva encuesta de Rubrik ZeroLabs destacada en el material de origen, que encontró que solo el 23% de los responsables de TI dice tener control total sobre los agentes que operan dentro de sus organizaciones. Dicho de otro modo, aproximadamente tres de cada cuatro no lo tienen.

La cifra es llamativa porque el debate actual en torno a los agentes de IA suele enfatizar la velocidad y la productividad. Los proveedores presentan a los agentes como software capaz de actuar con autonomía, asumir trabajo repetitivo y reducir la necesidad de intervención humana directa. La encuesta sugiere que muchas empresas están descubriendo el lado menos glamuroso de esa promesa: una vez que los agentes se extienden entre equipos, herramientas y proveedores, la gobernanza puede quedar muy por detrás de la adopción.

La preocupación no es solo un desorden administrativo. El texto de origen dice que el 81% de los encuestados informa que los agentes bajo su supervisión requieren más tiempo en auditoría y monitoreo manual del que esos agentes debían ahorrar mediante mejoras en el flujo de trabajo. Eso invierte por completo la propuesta de valor de la automatización. Si las organizaciones gastan más esfuerzo supervisando agentes del que recuperan en eficiencia, el caso de negocio se vuelve mucho más difícil de defender.

De herramienta de productividad a exposición de seguridad

La encuesta también presenta la proliferación de agentes como un problema de seguridad. Según el texto de origen, el 86% de los responsables de TI espera que la proliferación agéntica supere a las barreras de seguridad durante el próximo año, y el 52% cree que esa brecha podría aparecer en un plazo de seis meses. No se trata de un escenario de riesgo lejano. Implica que muchos líderes técnicos ven el problema de control como algo inmediato.

La mecánica es familiar. El material de origen dice que los usuarios pueden eludir controles, incluyendo desactivar las VPN u otros mecanismos de seguridad, para poner en marcha agentes que actúan como asistentes. El resultado es un volumen creciente de aplicaciones de IA no autorizadas, tanto internas como a través de proveedores externos. En efecto, los agentes podrían estar repitiendo un patrón que la tecnología empresarial ya ha visto antes: adopción rápida desde la base primero, arquitectura de gobernanza después.

Esa comparación aparece directamente en el material. Kriti Faujdar, gerente sénior de producto en Microsoft citada en la pieza, dice que el patrón se asemeja a la adopción temprana de la nube, cuando los equipos lanzaban servicios de forma independiente con distintos marcos y proveedores. Las consecuencias entonces fueron la fragmentación y brechas de seguridad ocultas. La preocupación ahora es que los agentes de IA, al poder actuar en lugar de limitarse a almacenar o procesar datos, podrían amplificar esos riesgos.

Por qué “control total” es un listón tan alto

Vale la pena ser precisos sobre lo que la encuesta parece estar midiendo. “Control total” es un estándar exigente. Implica no solo saber que existen agentes, sino entender dónde están desplegados, a qué datos pueden acceder, sobre qué sistemas pueden actuar, quién los aprobó, cómo se monitorizan y cómo se pueden revertir sus acciones.

Ese último punto es especialmente importante. La fuente dice que casi todos los encuestados indican que carecen de las capacidades de “deshacer” necesarias para revertir acciones involuntarias de los agentes. En la gobernanza de software convencional, la reversibilidad es fundamental. Si un sistema se comporta mal, los operadores quieren una trazabilidad clara y una vía de recuperación fiable. Con agentes autónomos o semiautónomos, la falta de reversión es más grave porque los sistemas están diseñados precisamente para actuar a través de flujos de trabajo.

Esa es la diferencia entre un chatbot que responde preguntas y un agente que realiza cambios en sistemas conectados. Una vez que la tecnología empieza a tocar aprobaciones, registros, comunicaciones con clientes o procesos internos, la gobernanza deja de ser una casilla de compra y se convierte en una disciplina operativa.

Lo que las organizaciones están aprendiendo en tiempo real

La lección más amplia es que la IA empresarial está madurando como un problema institucional, no solo como un problema de herramientas. Durante los últimos dos años, muchas organizaciones se han centrado en la experimentación. Querían saber qué podían hacer los agentes, con qué rapidez podían construirlos los equipos y dónde podrían aparecer las mejoras de productividad. Esa fase ahora choca con preguntas sobre inventario, rendición de cuentas, seguridad y sobrecarga laboral.

Los datos de la encuesta sugieren que parte de los ahorros esperados se están viendo compensados por los costos de supervisión. Eso no significa que los agentes estén fallando en todas partes. Significa que muchas organizaciones siguen en una fase de expansión sin gestionar, en la que el despliegue avanza más rápido que la disciplina operativa. En ese entorno, el entusiasmo puede sobrevivir durante un tiempo, pero la confianza se vuelve más difícil de sostener.

El texto de origen sostiene que la gestión de agentes debe convertirse en una “disciplina de primer nivel”. Probablemente sea el marco más útil de todo el informe. Las empresas ya tratan la identidad, los endpoints, los activos en la nube y el acceso a datos como dominios de gobernanza con herramientas y procedimientos dedicados. La encuesta sugiere que los agentes de IA se encaminan hacia ese mismo estatus.

La siguiente fase del mercado de agentes de IA

Si ese cambio se afianza, el mercado en torno a los agentes podría transformarse rápidamente. Los ganadores no serán necesariamente solo los proveedores con las demostraciones más impresionantes. Pueden ser aquellos que hagan que el despliegue sea comprensible para los equipos de seguridad y TI: controles de inventario, límites de permisos, registros de acciones, opciones de reversión y políticas operativas claras.

Eso representaría una fase más sobria de adopción de IA empresarial. En lugar de preguntar solo qué pueden automatizar los agentes, los compradores preguntarían si esos agentes pueden gobernarse a escala. La encuesta no dice que la ola de agentes se esté revirtiendo. Más bien sugiere lo contrario: la adopción avanza tan rápido que muchas organizaciones ya sienten que van por detrás.

El cambio clave es que el crecimiento descontrolado ya no se trata como una molestia temporal. Se está convirtiendo en uno de los riesgos definitorios de la IA empresarial. Las empresas que resuelvan la proliferación, la visibilidad y la reversibilidad podrían ser las que capturen el valor real a largo plazo de los agentes. Las que no lo hagan pueden encontrarse el próximo año auditando sistemas que, en primer lugar, se suponía que iban a ahorrar tiempo.

Este artículo se basa en la cobertura de ZDNET. Leer el artículo original.