Un ataque que cambió el debate
El 28 de febrero de 2026, primer día de las operaciones militares de Estados Unidos contra Irán, un misil de crucero Tomahawk destruyó la escuela primaria Shajareh Tayyebeh en Minab, en la provincia de Hormozgán, en el sur de Irán. El ataque mató a 168 personas, más de 100 de ellas niños menores de 12 años. La escuela estaba a menos de 100 yardas de una instalación naval del Cuerpo de la Guardia Revolucionaria Islámica, separada de ella por un muro cuya construcción estaba documentada en imágenes satelitales de 2013 a 2016. Ese muro, y la escuela que encerraba, no habían sido actualizados en la base de datos de inteligencia que generó el objetivo.
El objetivo fue generado por Maven Smart System, una plataforma creada por Palantir Technologies que opera bajo un contrato del Pentágono de 1.300 millones de dólares. Maven fusiona imágenes satelitales, transmisiones de drones, retornos de radar e inteligencia de señales, y luego utiliza una capa de IA -basada en el modelo Claude de Anthropic- para clasificar y recomendar objetivos. En las primeras 24 horas de operaciones, el sistema generó cientos de coordenadas y respaldó más de 1.000 ataques. Fue la mayor prueba operativa de selección de objetivos asistida por IA en la historia militar de Estados Unidos. Y produjo el ataque en Minab.
Qué salió mal
La investigación oficial, presentada la semana pasada a los comités de supervisión del Congreso, atribuyó el fallo a inteligencia desactualizada y no a una falla en los algoritmos de IA de Maven. La base de datos de selección de objetivos de la Defense Intelligence Agency no se había actualizado para reflejar la construcción de la escuela. Cuando Maven consultó esa base de datos, devolvió las coordenadas de la instalación adyacente del CGRI sin ninguna alerta de que había aparecido una nueva estructura durante la década intermedia. El misil siguió esas coordenadas.
Exoficiales de selección de objetivos que revisaron los hallazgos dicen que la conclusión de que "los humanos, no la IA, tienen la culpa" es técnicamente correcta, pero pasa por alto la realidad operativa. Antes de Maven, el proceso de selección de objetivos para un ataque de esta sensibilidad habría implicado múltiples capas de revisión humana, estimación de daños colaterales y comparación con imágenes actualizadas. La arquitectura de Maven comprimió ese proceso para cumplir con los requisitos de volumen y velocidad del primer día operativo. Un objetivo que habría recibido horas de escrutinio humano bajo el sistema anterior recibió minutos bajo Maven.
El historial de precisión de Maven
El ataque de Minab ha obligado a un ajuste de cuentas público con datos de rendimiento que el Pentágono generalmente ha mantenido fuera de los documentos públicos. La precisión general de Maven en la campaña contra Irán se ha evaluado en aproximadamente 60%, lo que significa que alrededor de dos de cada cinco objetivos generados por el sistema contienen errores lo suficientemente importantes como para afectar el resultado del ataque, incluida la identificación errónea de estructuras civiles. En comparación, analistas humanos experimentados que trabajan con los mismos conjuntos de objetivos logran aproximadamente un 84% de precisión bajo restricciones de tiempo similares.
En condiciones adversas -mala iluminación, fuerte cobertura nubosa, contramedidas activas- la precisión de Maven cae por debajo del 30%. Las puntuaciones de confianza que se muestran a los operadores en las terminales de selección de objetivos no se ajustan en consecuencia. Un estudio de la Fuerza Aérea de 2021 sobre una IA de selección de objetivos anterior encontró que el sistema mostraba niveles de confianza del 90% en sus resultados mientras lograba solo un 25% de precisión real durante la evaluación de campo. Los operadores de Maven han informado de desajustes similares entre la confianza mostrada y la fiabilidad real.
La infraestructura institucional que no estaba allí
El ataque también reveló hasta qué punto las estructuras de supervisión humana diseñadas para detectar errores de la IA habían sido vaciadas antes de que comenzaran las operaciones. El Civilian Protection Center of Excellence del Pentágono, encargado de desarrollar doctrina y revisar procedimientos para minimizar las bajas civiles en operaciones asistidas por IA, vio recortado su presupuesto y su personal en aproximadamente un 90% en los 18 meses previos a la campaña contra Irán. El equipo dedicado de CENTCOM para la evaluación de bajas civiles -la unidad responsable de revisar los resultados de los ataques y señalar patrones que requieren investigación- se había reducido de 10 personas a un solo oficial.
Esos recortes reflejaron una postura institucional más amplia en la que desplegar Maven a gran escala se consideró una ganancia de eficiencia que reducía la necesidad de estructuras paralelas de revisión humana. La suposición era que la IA haría que el proceso de selección de objetivos fuera al mismo tiempo más rápido y más preciso, reduciendo en lugar de aumentar la carga de trabajo humana necesaria para una operación responsable. El resultado en Minab sugiere que esa suposición era incorrecta.
La implantación obligatoria continúa
A pesar de los hallazgos de la investigación, el subsecretario de Defensa Steve Feinberg ha seguido adelante con la formalización de Maven como un programa oficial, con un mandato que exige su adopción en todas las ramas de las fuerzas armadas para septiembre de 2026. La justificación, según funcionarios informados sobre la decisión, es que el rendimiento general de selección de objetivos de la campaña contra Irán -incluido el ataque de Minab- sigue representando una mejora respecto a lo que era posible sin el sistema. La velocidad con la que Maven permitió la selección de objetivos en las primeras horas de la operación se considera una necesidad estratégica dada la amenaza.
Críticos dentro y fuera del Pentágono argumentan que el mandato de septiembre crea presión para desplegar antes de que se hayan corregido los problemas de supervisión y de actualización de bases de datos identificados en la investigación de Minab. Un desarrollador ucraniano de drones que ha trabajado con sistemas semiautónomos en condiciones de combate dijo en una declaración pública tras el ataque que Minab "expuso un peligro familiar de la guerra semiautónoma: el sistema funciona según la especificación, la especificación estaba mal y los niños están muertos."
Cómo sería la reforma
Las propuestas que circulan dentro del Pentágono y entre investigadores de política de defensa incluyen requisitos obligatorios de frescura para las entradas de bases de datos de inteligencia utilizadas en la selección de objetivos generada por IA: ninguna entrada de más de 30 días sería elegible para una recomendación autónoma sin revisión humana. Otras proponen que la visualización de confianza de Maven se sustituya por estimaciones de rango de precisión que reflejen la degradación conocida del rendimiento en condiciones adversas, para que los operadores tengan una imagen más honesta de la fiabilidad. Restaurar la infraestructura de protección civil y de evaluación de bajas que se recortó antes de la campaña se cita ampliamente como requisito previo para seguir operando el sistema de forma responsable.
Lo que no está en la agenda de reformas, según funcionarios, es suspender Maven a la espera de una revisión integral. El sistema ya está integrado en la planificación operativa en múltiples teatros, y el impulso institucional detrás de la selección de objetivos asistida por IA es considerable. El debate ya no trata sobre si la IA ayudará en las decisiones de selección de objetivos, sino sobre qué salvaguardas deben existir antes de permitir que las ventajas de velocidad de estos sistemas superen la deliberación que aporta la revisión humana.
Este artículo se basa en una cobertura de Defense News. Leer el artículo original.
Originally published on defensenews.com
