Ataque a una escuela en Irán expone grietas en el impulso del Pentágono por el uso de IA para seleccionar objetivos

El historial de precisión de Maven

El ataque de Minab ha obligado a un ajuste de cuentas público con datos de rendimiento que el Pentágono generalmente ha mantenido fuera de los documentos públicos. La precisión general de Maven en la campaña contra Irán se ha evaluado en aproximadamente 60%, lo que significa que alrededor de dos de cada cinco objetivos generados por el sistema contienen errores lo suficientemente importantes como para afectar el resultado del ataque, incluida la identificación errónea de estructuras civiles. En comparación, analistas humanos experimentados que trabajan con los mismos conjuntos de objetivos logran aproximadamente un 84% de precisión bajo restricciones de tiempo similares.

En condiciones adversas -mala iluminación, fuerte cobertura nubosa, contramedidas activas- la precisión de Maven cae por debajo del 30%. Las puntuaciones de confianza que se muestran a los operadores en las terminales de selección de objetivos no se ajustan en consecuencia. Un estudio de la Fuerza Aérea de 2021 sobre una IA de selección de objetivos anterior encontró que el sistema mostraba niveles de confianza del 90% en sus resultados mientras lograba solo un 25% de precisión real durante la evaluación de campo. Los operadores de Maven han informado de desajustes similares entre la confianza mostrada y la fiabilidad real.

La infraestructura institucional que no estaba allí

El ataque también reveló hasta qué punto las estructuras de supervisión humana diseñadas para detectar errores de la IA habían sido vaciadas antes de que comenzaran las operaciones. El Civilian Protection Center of Excellence del Pentágono, encargado de desarrollar doctrina y revisar procedimientos para minimizar las bajas civiles en operaciones asistidas por IA, vio recortado su presupuesto y su personal en aproximadamente un 90% en los 18 meses previos a la campaña contra Irán. El equipo dedicado de CENTCOM para la evaluación de bajas civiles -la unidad responsable de revisar los resultados de los ataques y señalar patrones que requieren investigación- se había reducido de 10 personas a un solo oficial.

Esos recortes reflejaron una postura institucional más amplia en la que desplegar Maven a gran escala se consideró una ganancia de eficiencia que reducía la necesidad de estructuras paralelas de revisión humana. La suposición era que la IA haría que el proceso de selección de objetivos fuera al mismo tiempo más rápido y más preciso, reduciendo en lugar de aumentar la carga de trabajo humana necesaria para una operación responsable. El resultado en Minab sugiere que esa suposición era incorrecta.

La implantación obligatoria continúa

A pesar de los hallazgos de la investigación, el subsecretario de Defensa Steve Feinberg ha seguido adelante con la formalización de Maven como un programa oficial, con un mandato que exige su adopción en todas las ramas de las fuerzas armadas para septiembre de 2026. La justificación, según funcionarios informados sobre la decisión, es que el rendimiento general de selección de objetivos de la campaña contra Irán -incluido el ataque de Minab- sigue representando una mejora respecto a lo que era posible sin el sistema. La velocidad con la que Maven permitió la selección de objetivos en las primeras horas de la operación se considera una necesidad estratégica dada la amenaza.

Críticos dentro y fuera del Pentágono argumentan que el mandato de septiembre crea presión para desplegar antes de que se hayan corregido los problemas de supervisión y de actualización de bases de datos identificados en la investigación de Minab. Un desarrollador ucraniano de drones que ha trabajado con sistemas semiautónomos en condiciones de combate dijo en una declaración pública tras el ataque que Minab "expuso un peligro familiar de la guerra semiautónoma: el sistema funciona según la especificación, la especificación estaba mal y los niños están muertos."

Cómo sería la reforma

Las propuestas que circulan dentro del Pentágono y entre investigadores de política de defensa incluyen requisitos obligatorios de frescura para las entradas de bases de datos de inteligencia utilizadas en la selección de objetivos generada por IA: ninguna entrada de más de 30 días sería elegible para una recomendación autónoma sin revisión humana. Otras proponen que la visualización de confianza de Maven se sustituya por estimaciones de rango de precisión que reflejen la degradación conocida del rendimiento en condiciones adversas, para que los operadores tengan una imagen más honesta de la fiabilidad. Restaurar la infraestructura de protección civil y de evaluación de bajas que se recortó antes de la campaña se cita ampliamente como requisito previo para seguir operando el sistema de forma responsable.

Lo que no está en la agenda de reformas, según funcionarios, es suspender Maven a la espera de una revisión integral. El sistema ya está integrado en la planificación operativa en múltiples teatros, y el impulso institucional detrás de la selección de objetivos asistida por IA es considerable. El debate ya no trata sobre si la IA ayudará en las decisiones de selección de objetivos, sino sobre qué salvaguardas deben existir antes de permitir que las ventajas de velocidad de estos sistemas superen la deliberación que aporta la revisión humana.

Este artículo se basa en una cobertura de Defense News. Leer el artículo original.