Dos investigadores ofrecen una plantilla para Washington y Pekín
Expertos de Estados Unidos y China quieren impedir que los sistemas de inteligencia artificial tomen decisiones autónomas sobre el despliegue de armas nucleares, y ahora han presentado propuestas específicas que esperan que ambos gobiernos adopten. Melanie Sisson, de la Brookings Institution, y Tianjiao Jiang, de la Universidad de Fudan, publicaron las recomendaciones antes de una reunión prevista entre el presidente Trump y el presidente Xi Jinping el 24 de septiembre — una fecha que parece diseñada para poner lenguaje concreto ante los responsables de políticas mientras aún está programado un diálogo de alto nivel.
En lugar de pedir una moratoria amplia sobre las aplicaciones militares de la IA, los dos investigadores se concentran en un pequeño número de líneas rojas claramente definidas. Ese enfoque refleja un juicio implícito: las áreas donde los intereses estadounidenses y chinos se superponen más obviamente son también las áreas donde las consecuencias de un error de cálculo serían más difíciles de contener.
Las líneas rojas que trazarían las propuestas
Las recomendaciones detallan varias prohibiciones, cada una dirigida a un modo de fallo específico y no a la tecnología en general.
Sin autoridad independiente para lanzar
La primera y más trascendental regla se refiere a la autoridad de lanzamiento. Según las propuestas, no se permitiría a ningún sistema de IA lanzar armas nucleares por sí solo. La disposición cerraría cualquier vía por la que un algoritmo, por muy capaz que sea, pudiera ordenar un ataque sin que una decisión humana lo respalde.
Sistemas de mando nuclear fuera de límites
Una segunda línea roja prohíbe que la IA se utilice para atacar sistemas de mando nuclear. Debido a que esos sistemas ocupan el centro de la capacidad de un Estado para detectar, decidir y responder, las operaciones automatizadas contra ellos conllevan un riesgo inusualmente alto de ser interpretadas como preparación para un primer ataque. Excluirlos del objetivo de la IA pretende eliminar ese detonante particular.
Los humanos conservan el control exclusivo de las operaciones cibernéticas
Una tercera disposición aborda el ciberespacio. Se exigiría que los humanos conservaran el control exclusivo sobre los ciberataques impulsados por IA dirigidos a infraestructura estratégica. Las operaciones cibernéticas son un ámbito donde la acción a velocidad de máquina ya es plausible, y donde la línea entre sondear y paralizar a un adversario puede difuminarse por el ritmo de las herramientas automatizadas.
Acordar qué significa realmente "control humano"
En la base de las prohibiciones específicas hay un problema de definición. Las propuestas piden a ambos países que acuerden una definición compartida de "control humano". Sin ese vocabulario común, cada parte podría alegar cumplimiento mientras opera bajo estándares que la otra no reconoce — precisamente el tipo de ambigüedad que los acuerdos de control de armamentos han tenido históricamente dificultades para cerrar.
Apoyarse en un acuerdo ya alcanzado
Las recomendaciones se basan en un entendimiento entre Biden y Xi alcanzado en noviembre de 2024. Ese compromiso anterior estableció respaldo político al más alto nivel, pero no resolvió las cuestiones operativas de qué está prohibido, quién verifica el cumplimiento o cómo se resuelven las disputas. Las nuevas propuestas son un intento de convertir una declaración de intenciones en algo más cercano a un reglamento operativo.
Enmarcar el esfuerzo como una extensión de un entendimiento existente es una elección diplomática deliberada. Permite a ambos gobiernos presentar las medidas como continuidad y no como concesión, lo que importa cuando las audiencias internas de cualquiera de las partes tienden a leer cualquier acuerdo de seguridad bilateral como un debilitamiento de su posición.
Una línea directa centrada en incidentes de IA
Jiang también propone crear una línea directa dedicada a incidentes de IA. El razonamiento es sencillo y merece ser expuesto. Supongamos que un sistema de IA defensivo responde automáticamente a lo que registra como actividad sospechosa. La otra parte, al observar esa respuesta sin contexto, podría interpretarla como el movimiento inicial de un ataque en lugar de una reacción a una señal malinterpretada. Una línea directa entre gobiernos permitiría a una parte aclarar que un incidente fue accidental antes de que la situación escale más allá del punto en que la aclaración aún sea útil.
En efecto, la línea directa está diseñada para romper un bucle automatizado con una conversación humana — restaurando la toma de decisiones más lenta y deliberada que los sistemas automatizados están destinados a comprimir.
Por qué algunos analistas dudan de la idea de la línea directa
No todos están convencidos de que ese canal funcionaría cuando más se necesita. Carla Freeman, de la Universidad Johns Hopkins, cuestiona si las líneas directas de este tipo funcionarían siquiera. Señala la crisis del globo espía de 2023, cuando China no respondió cuando Estados Unidos llamó.
Ese ejemplo va al corazón del problema de la verificación. Una línea directa solo vale tanto como la disposición de ambas partes a responderla durante una crisis genuina, y los momentos de crisis son exactamente cuando los gobiernos están menos inclinados a confiar en un canal desconocido. La objeción no es que la comunicación sea innecesaria, sino que los mecanismos institucionales deben ejercitarse y normalizarse mucho antes de que una emergencia los haga imprescindibles.
Cinco años de advertencias, sin reglas vinculantes
No es la primera vez que se lanza la alarma. La Comisión Nacional de Seguridad sobre Inteligencia Artificial pidió preservar el control humano sobre las armas nucleares ya en 2021. Más de cinco años después, los mecanismos vinculantes siguen sin existir.
Esa brecha — entre un diagnóstico ampliamente compartido y la ausencia de cualquier instrumento exigible — es el obstáculo central que deben superar las nuevas propuestas. El consenso de los expertos se ha alcanzado a grandes rasgos: pocas voces serias sostienen que las máquinas deban decidir si se usan armas nucleares. Lo que ha resultado esquivo es la maquinaria para hacer ese consenso vinculante, verificable y duradero a través de los cambios de gobierno.
La estrecha ventana antes del 24 de septiembre
Las propuestas llegan en un momento en que los dos gobiernos se preparan para reunirse, lo que da a las ideas la oportunidad de pasar de las páginas de un documento de un centro de estudios a las conversaciones preparatorias que configuran la agenda de una cumbre. Si lo logran, y si alguna de las líneas rojas sobrevive al contacto con el proceso negociador, dependerá de factores que quedan muy fuera del control de los investigadores.
Lo que las propuestas sí logran es hacer concreto el argumento. En lugar de advertencias generales sobre los riesgos de la IA militar, identifican prohibiciones específicas, una tarea de definición y un canal de comunicación en crisis — un conjunto de elementos que plausiblemente podrían discutirse, adoptarse en parte o rechazarse de plano. En un ámbito de políticas donde lo que está en juego se mide en minutos y millas, esa especificidad es en sí misma una contribución: convierte una preocupación abstracta en una lista de decisiones que los responsables de políticas pueden tomar realmente.
Este artículo se basa en reportes de The Decoder. Lea el artículo original.
Originally published on the-decoder.com
