Los líderes cibernéticos del Ejército quieren defensas de IA más rápidas tras un wargame con la industria

El Ejército está probando hasta dónde debe llegar la defensa cibernética autónoma

El Ejército de Estados Unidos se está moviendo rápidamente para examinar un papel más agresivo de la IA en la defensa cibernética después de que un reciente wargame con líderes tecnológicos del sector privado explorara cómo futuros ataques podrían saturar a los operadores humanos. El ejercicio, conocido como AI Table Top Exercise 2.0, reunió a ejecutivos de 14 empresas tecnológicas, funcionarios del Ejército y U.S. Cyber Command en torno a un escenario contundente: una crisis en el Indo-Pacífico en 2027 que escalaba hasta convertirse en una guerra cibernética contra las redes militares estadounidenses.

La conclusión principal no fue que la IA pueda resolver por sí sola la defensa cibernética. Fue que la defensa a la velocidad humana puede ya no ser suficiente si los adversarios están usando sistemas de ataque adaptativos habilitados por IA que pueden sondear, explotar y cambiar de táctica más rápido de lo que las personas pueden responder. Eso ha llevado a los funcionarios del Ejército a hablar con más franqueza sobre la IA agéntica que puede pasar de la detección a la acción, y sobre la construcción de una estructura de política para decidir cuándo esos sistemas deberían recibir mayor autonomía.

De la advertencia a la respuesta

Brandon Pugh, asesor principal de ciberseguridad del secretario del Ejército Daniel Driscoll, planteó la cuestión en términos de apetito por el riesgo. En tiempos de paz, la supervisión humana puede seguir siendo la norma. En tiempos de guerra, especialmente durante una oleada de ataques, el Ejército podría necesitar un umbral distinto para permitir que los agentes de software actúen. Esa es la lógica detrás de lo que los funcionarios describieron como una posible política de “continuum de riesgo”, un enfoque que variaría la intervención humana según las circunstancias.

Esa distinción es crítica. El Departamento de Defensa ya está usando IA para ayudar a detectar intrusiones en sus redes. Sin embargo, la detección es solo el primer paso. La pregunta más difícil es si los sistemas de IA deberían estar autorizados a tomar acciones de respuesta directas por su cuenta cuando una intrusión está en curso.

Pugh dijo que el Ejército ya es fuerte usando IA para la detección, pero ahora necesita avanzar hacia capacidades agénticas que no solo puedan identificar comportamiento malicioso, sino responder a él. Eso podría significar aislar sistemas, bloquear conexiones, activar contramedidas o interrumpir de otro modo un ataque antes de que se propague.

Por qué el Ejército cree que esto es urgente

El teniente general Christopher Eubank, que lidera Army Cyber Command, describió el desafío en términos directos. En un mundo de IA agéntica, dijo, decirles a los defensores que “apliquen parches más rápido” no es realista. Si los sistemas ofensivos están lanzando ataques repetidos que se adaptan de forma continua a los cambios defensivos, los equipos humanos por sí solos pueden simplemente ser demasiado lentos para seguir el ritmo.

El escenario del ejercicio se construyó exactamente sobre esa premisa. Los funcionarios dijeron que el adversario hipotético utilizó IA para lanzar salvas tras salvas de ciberataques que se adaptaban a la postura defensiva del Ejército más rápido de lo que un defensor humano podía responder. Ese tipo de presión es diferente de la defensa normal de redes. Convierte las operaciones cibernéticas en una carrera de velocidad en la que la vacilación se convierte en una vulnerabilidad.

Visto así, el interés del Ejército por una mayor autonomía tiene menos que ver con entusiasmo por la automatización y más con una respuesta práctica a la compresión del tiempo. Si el ciclo de ataque se acelera, el ciclo defensivo también debe acelerarse.

El papel de la industria en la configuración de la doctrina

Un aspecto notable del ejercicio es que no se desarrolló como una simulación técnica estrechamente guionizada. Diseñado y orquestado por el Strategic Competitive Studies Project, utilizó un formato de seminario en el que ejecutivos de 14 empresas tecnológicas ofrecieron recomendaciones y los participantes militares interrogaron esas ideas. Ese formato señala que el Ejército no está solo buscando productos. Está tratando de entender cómo el pensamiento comercial sobre IA debería dar forma a la doctrina cibernética militar.

Esta es una distinción importante. Las preguntas centrales no son simplemente si una herramienta funciona, sino quién puede autorizarla, bajo qué condiciones, con qué salvaguardas y con qué tolerancia a falsos positivos o consecuencias no deseadas. Son preguntas de política y mando tanto como de ingeniería.

El Ejército parece reconocerlo. El ejercicio no produjo respuestas definitivas, y los funcionarios fueron francos al respecto. Pero sí brindó a los líderes militares perspectivas externas sobre cómo pensar la defensa autónoma en un escenario de conflicto en el que el retraso podría ser catastrófico.

El problema de política puede ser más difícil que el técnico

Construir sistemas cibernéticos agénticos es difícil. Construir confianza en ellos puede ser aún más difícil. Una IA defensiva que actúa demasiado lento es ineficaz. Una que actúa demasiado rápido o de forma demasiado amplia podría interrumpir operaciones amigas, derribar tráfico legítimo o introducir nuevos riesgos durante una crisis.

Por eso el concepto emergente de “continuum de riesgo” puede importar más que cualquier anuncio de producto específico. Sugiere que el Ejército se está preparando para un futuro en el que los niveles de autonomía no sean fijos, sino condicionales. Un entorno de red rutinario podría exigir un control humano estricto. Un gran asalto en tiempos de guerra podría justificar una supervisión mucho más laxa si la alternativa es quedar rezagado frente a ataques impulsados por máquinas.

Ese marco no resolvería todas las cuestiones éticas u operativas, pero ofrecería una forma de vincular las capacidades técnicas con la autoridad de mando y el contexto de la misión. En la práctica, eso puede ser lo que determine si la defensa agéntica puede usarse a escala.

Lo que viene después

Los próximos pasos del Ejército parecen incluir tanto el desarrollo de herramientas como el diseño de políticas. Los funcionarios dijeron que quieren acelerar nuevas capacidades de IA mientras también trabajan en las reglas que regirían su uso. Esa vía dual es sensata porque una sin la otra no funcionaría. La tecnología sin doctrina corre el riesgo de generar caos. La doctrina sin tecnología capaz corre el riesgo de volverse irrelevante.

La implicación más amplia es que la defensa cibernética militar está entrando en una nueva fase. La IA ya no se está tratando solo como ayuda para los analistas. Se la está considerando como un actor operativo, uno que puede necesitar actuar a velocidad de máquina cuando el ritmo humano ya no sea suficiente.

El Ejército aún no ha decidido cuánto margen dar a esos agentes. Pero después de este wargame, está claro que se está preparando para un futuro en el que no tomar esa decisión podría ser el mayor riesgo.

Este artículo se basa en una nota de Breaking Defense. Leer el artículo original.