Estandarizando IA en toda la empresa de defensa

El Pentágono está realizando un esfuerzo concertado para alinear a sus crecientes proveedores de inteligencia artificial en lo que los funcionarios describen como "la misma línea de base", estableciendo estándares comunes para cómo los sistemas de IA se desarrollan, prueban, despliegan y se gobiernan dentro del ejército. La iniciativa, descrita por el jefe de investigación del Departamento de Defensa, refleja los desafíos de gestionar un ecosistema de IA en expansión que abarca docenas de empresas, múltiples servicios militares y una amplia gama de aplicaciones desde optimización logística hasta apoyo en decisiones de batalla.

A medida que el DOD ha acelerado su adopción de IA en los últimos años, ha contratado con una variedad diversa de proveedores de tecnología, que van desde grandes contratistas de defensa como Lockheed Martin y Raytheon hasta empresas de Silicon Valley como Palantir y Anduril hasta pequeñas empresas emergentes de IA especializadas. Cada una de estas empresas trae sus propias prácticas de desarrollo, metodologías de prueba y enfoques de seguridad y ética. El resultado es un panorama de IA dentro del ejército que es técnicamente heterogéneo y, en algunos casos, difícil de gobernar de manera consistente.

Lo que "Misma Línea de Base" Significa en la Práctica

El esfuerzo de estandarización abarca varias dimensiones del desarrollo e implementación de IA:

  • Pruebas y evaluación: El DOD quiere que todos los proveedores de IA utilicen métodos comparables para probar el rendimiento, confiabilidad y modos de falla de sus sistemas. Esto incluye tareas de referencia estandarizadas, métricas de evaluación comunes e infraestructura de pruebas compartida que permite que diferentes sistemas se comparen en condiciones iguales.
  • Seguridad y robustez: Los sistemas de IA implementados en contextos militares deben cumplir con estándares mínimos de resiliencia a ataques adversariales, degradación elegante cuando las entradas caen fuera de las distribuciones de entrenamiento, y comportamiento predecible bajo las condiciones extremas que caracterizan las operaciones militares.
  • Gobernanza de datos: La iniciativa incluye estándares para cómo se obtiene, etiqueta, almacena y comparte los datos de entrenamiento entre proveedores. La calidad de los datos es un determinante crítico del rendimiento del sistema de IA, y las prácticas de datos inconsistentes entre proveedores pueden llevar a resultados inconsistentes.
  • Interoperabilidad: Los sistemas militares de IA cada vez más necesitan comunicarse entre sí y con la infraestructura de mando y control existente. Los estándares de interfaz comunes y los formatos de datos son esenciales para permitir esta integración.
  • Documentación y auditoría: Se espera que los proveedores mantengan registros detallados de cómo se entrenaron sus sistemas, qué datos se utilizaron, qué pruebas se realizaron y qué limitaciones se identificaron. Esta documentación es crucial tanto para la confianza operativa como para la responsabilidad legal.

La Dimensión Ética

Uno de los aspectos más vigilados del esfuerzo de estandarización de IA del Pentágono es su intersección con los principios de IA ética del departamento. El DOD adoptó sus principios de ética de IA en 2020, estableciendo cinco compromisos: que los sistemas de IA deben ser responsables, equitativos, rastreables, confiables y gobernables. Estos principios han sido elogiados por algunos como un marco significativo para la IA militar responsable y criticados por otros como demasiado vagos para limitar las decisiones reales de desarrollo e implementación.

El jefe de investigación del DOD enfatizó que el esfuerzo de estandarización está diseñado para operacionalizar esos principios, no para reemplazarlos. Al establecer estándares concretos para pruebas, documentación y seguridad que todos los proveedores deben cumplir, el departamento tiene como objetivo dar una fuerza práctica a sus compromisos éticos. La idea es que los principios abstractos como "rastreabilidad" adquieran significado cuando se traduzcan en requisitos específicos para el registro, auditoría y explicación de decisiones del sistema de IA.

Esto es particularmente importante a medida que el ejército se mueve hacia aplicaciones de IA más consecuentes. Los sistemas de IA que optimizan la logística de la cadena de suministro plantean preocupaciones éticas diferentes a los sistemas de IA que identifican objetivos o recomiendan el uso de la fuerza. El esfuerzo de estandarización está destinado a garantizar que el marco de gobernanza se escale apropiadamente con las apuestas de la aplicación.

Desafíos de la Estandarización

Establecer estándares de IA comunes en toda la empresa de defensa es un desafío formidable por varias razones. La tecnología misma está evolucionando rápidamente, y los estándares que son apropiados hoy pueden quedar obsoletos en unos pocos años. La diversidad de aplicaciones de IA dentro del ejército significa que un enfoque de talla única es poco probable que funcione; los estándares para un sistema de procesamiento del lenguaje natural que resuma informes de inteligencia necesariamente diferirán de los estándares para un sistema de visión por computadora que guía vehículos autónomos.

También hay una tensión entre estandarización e innovación. La comunidad de defensa de IA ha cultivado deliberadamente un ecosistema diverso de proveedores precisamente porque diferentes empresas traen diferentes enfoques, y esta diversidad impulsa la innovación. Los estándares demasiado rígidos podrían sofocar la experimentación que produce capacidades revolucionarias, mientras que los estándares demasiado laxos podrían no abordar los riesgos reales de implementar IA en contextos militares.

Navegar esta tensión requerirá que el DOD adopte un marco de estándares que sea lo suficientemente riguroso para garantizar la seguridad y responsabilidad mientras que sea lo suficientemente flexible para acomodar el rápido ritmo del desarrollo de IA. Los funcionarios sugieren que están persiguiendo un enfoque escalonado, con requisitos de referencia que se aplican a todos los sistemas de IA y requisitos adicionales que escalan con la sensibilidad y consecuencia de la aplicación.

Respuesta de la Industria

La respuesta de la industria de defensa de IA al esfuerzo de estandarización ha sido generalmente positiva, aunque no sin reservas. Los grandes contratistas de defensa, que están acostumbrados a extensos requisitos regulatorios, tienden a acoger con satisfacción los estándares claros porque reducen la incertidumbre y proporcionan una ventaja competitiva para las empresas con recursos para cumplir. Sin embargo, las pequeñas empresas emergentes han expresado preocupación de que los requisitos de cumplimiento onerosos podrían afectar desproporcionadamente a las empresas más pequeñas y ralentizar el ritmo de la innovación.

El DOD ha indicado que está buscando información de la industria sobre el desarrollo de su marco de estándares, reconociendo que los estándares unilaterales de arriba hacia abajo son menos propensos a ser efectivos que los desarrollados colaborativamente. Se han convocado varios grupos de trabajo de la industria para proporcionar comentarios sobre las metodologías de prueba propuestas, requisitos de documentación y puntos de referencia de seguridad.

El resultado de este esfuerzo de estandarización tendrá implicaciones mucho más allá de lo militar. Como el consumidor único más grande de tecnología de IA en los Estados Unidos, las decisiones de estándares del DOD influirán en cómo las empresas de IA desarrollan sus productos y cómo la industria tecnológica más amplia se acerca a la seguridad y gobernanza de IA. Hacerlo correctamente importa no solo para la seguridad nacional sino para la trayectoria del desarrollo de IA en su conjunto.

Este artículo se basa en reportajes de Defense One. Leer el artículo original.