Los agentes de IA se están convirtiendo en un problema de gobernanza, no solo en una herramienta de productividad
Mientras las empresas se preparan para desplegar agentes de IA en los flujos de trabajo, la seguridad y la gobernanza se están convirtiendo en obstáculos centrales para escalar la tecnología de forma segura.
Un artículo de MIT Technology Review Insights producido en asociación con Deloitte Microsoft Technology Practice sostiene que la IA agéntica puede abrir una nueva superficie de ataque empresarial. La preocupación es que agentes inseguros puedan ser manipulados para acceder a sistemas sensibles, datos propietarios o herramientas más allá de su función prevista.
El artículo es contenido patrocinado y no periodismo editorial de MIT Technology Review, pero incluye cifras de una encuesta y una tesis clara sobre el riesgo empresarial. Según el informe Deloitte AI Institute 2026 State of AI citado en el texto, casi el 74% de las empresas planea desplegar IA agéntica en dos años. Solo el 21% dice tener un modelo maduro de gobernanza para agentes autónomos.
Las identidades no humanas se están multiplicando
Uno de los puntos clave del artículo es que las empresas modernas ya gestionan un número creciente de identidades no humanas, como cuentas de servicio, credenciales de máquina, flujos de trabajo automatizados y actores de software. La IA agéntica podría acelerar esa tendencia porque los agentes pueden necesitar permisos, acceso a datos, acceso a herramientas y la capacidad de actuar en nombre de usuarios o funciones de negocio.
Eso crea un perfil de riesgo distinto al uso habitual de un chatbot. Un sistema conversacional que responde preguntas es una cosa; un agente que puede recuperar archivos, invocar herramientas internas, escribir en sistemas o iniciar acciones es otra. La gobernanza tiene que definir qué puede hacer el agente, con qué autoridad actúa y cómo se supervisa su comportamiento.
La fuente señala que a los ejecutivos les preocupa sobre todo la privacidad de los datos y la seguridad, citadas por el 73%. Después vienen los aspectos legales, la propiedad intelectual y el cumplimiento normativo, con el 50%, mientras que las capacidades de gobernanza y supervisión se citan en el 46%.
El concepto de control plane entra en las operaciones de IA
Andrew Rafla, director en Deloitte’s Cyber Practice, describe un control plane como una capa centralizada que gobierna quién puede ejecutar qué agentes, con qué permisos, bajo qué políticas y usando qué modelos y herramientas. En su planteamiento, sin esa capa las empresas tienen ejecución no gestionada, no una operación autónoma escalable.
Ese concepto importa porque las empresas rara vez despliegan tecnología de forma aislada. Los agentes de IA pueden interactuar con sistemas de identidad, repositorios documentales, registros de clientes, repositorios de código, plataformas de analítica y servicios externos. Si cada despliegue gestiona permisos y auditabilidad de forma distinta, la supervisión se fragmenta.
Un sistema de gobernanza funcional tendría que responder a preguntas operativas básicas: qué hizo un agente, en nombre de quién, usando qué datos, bajo qué política y si la acción puede reproducirse o detenerse. El artículo presenta esas preguntas como el mínimo necesario para usar agentes a escala empresarial.
La gobernanza separa los pilotos de la producción
La fuente argumenta que la gobernanza es lo que lleva a los agentes de IA de los experimentos a la automatización empresarial repetible. Los proyectos piloto pueden apoyarse en una supervisión estrecha, datos limitados o barreras manuales. Los despliegues en producción necesitan controles que funcionen de forma consistente entre equipos y casos de uso.
El riesgo no es solo que un agente cometa un error aislado. Es que un sistema de agentes mal gobernado pueda fallar de forma impredecible y a gran escala. Si muchos agentes tienen amplio acceso, monitoreo débil o responsabilidades poco claras, pequeños fallos de diseño pueden convertirse en exposición sistémica.
Para las empresas, la implicación a corto plazo es que el despliegue de agentes debe ir acompañado de planificación de identidad, seguridad, cumplimiento y observabilidad. Tratar la gobernanza como un complemento posterior puede facilitar los primeros pilotos, pero puede dejar a las organizaciones sin las estructuras de control necesarias para una implantación más amplia.
Lo que señala el artículo
La pieza refleja un cambio más amplio en la conversación sobre IA empresarial. La pregunta ya no es solo si los agentes de IA pueden automatizar trabajo útil. Es si las organizaciones pueden definir y hacer cumplir los límites bajo los cuales operan esos agentes.
Dado que la fuente es contenido patrocinado, sus recomendaciones deben leerse en ese contexto. Aun así, las categorías de riesgo que identifica son concretas: privacidad, seguridad, cumplimiento legal, propiedad intelectual, supervisión, permisos y auditabilidad. Es probable que sigan siendo centrales a medida que la IA agéntica pase de las demostraciones a los sistemas operativos.
Este artículo se basa en la cobertura de MIT Technology Review. Leer el artículo original.
Originally published on technologyreview.com
