El presidente de Microsoft, Brad Smith, pidió normas más urgentes de seguridad para la inteligencia artificial y afirmó que la IA está menos regulada que productos cotidianos como la leche y las lavadoras. Sus comentarios se suman al debate público sobre cómo deben gestionar empresas y gobiernos unos sistemas capaces de producir recomendaciones, respuestas y acciones a gran escala.
En declaraciones a la BBC, Smith describió la IA como una herramienta potencial y también como un arma. Dijo que la tecnología debería estar sujeta a requisitos de seguridad más estrictos y sostuvo que las empresas deberían tener una obligación legal con las víctimas cuando sus sistemas sean vulnerados por agentes de IA descontrolados. Sus comentarios se produjeron mientras la ministra británica de IA, Kanishka Narayan, se preparaba para pedir a los desarrolladores de modelos avanzados que hicieran más para gestionar los riesgos y mejorar las salvaguardas.
El llamamiento a los frenos de emergencia
El núcleo del argumento de Smith fue que los sistemas de IA necesitan “frenos de emergencia”, también llamados interruptores de apagado, capaces de pausar o ralentizar un sistema si empieza a quedar fuera del control aceptable. La idea plantea una cuestión básica de gobernanza: si las organizaciones pueden observar el comportamiento de un sistema, probar sus límites e intervenir de forma fiable cuando algo falla.
El director ejecutivo de Microsoft, Satya Nadella, formuló una petición relacionada el día anterior. Dijo que la IA altamente capaz no debería tratarse como un conjunto de cajas negras opacas y anidadas cuyas recomendaciones o acciones simplemente se aceptan o rechazan después. En cambio, defendió sistemas contenidos cuyo comportamiento pueda observarse, cuyos límites puedan probarse y cuyas acciones puedan controlarse.
Las declaraciones de ambos ejecutivos no establecen un texto legislativo ni una norma técnica concreta. Pero sitúan a Microsoft entre las empresas que presionan públicamente por mecanismos que permitan a los operadores detener o limitar el comportamiento de la IA en circunstancias definidas.
Por qué importa la comparación
La comparación de Smith con las lavadoras y los envases de leche pretendía señalar un punto regulatorio: los productos de consumo habituales suelen estar sujetos a inspecciones y requisitos de seguridad, mientras que el rápido desarrollo de la IA ha superado la creación de controles equivalentes de aplicación general. La comparación es retórica, pero refleja la preocupación de que los sistemas capaces de afectar a las personas mediante decisiones o acciones automatizadas necesitan una rendición de cuentas más clara que los compromisos voluntarios.
Su propuesta de una obligación hacia las víctimas también plantea quién es responsable cuando un sistema con IA es vulnerado o utilizado por agentes descontrolados. El artículo no especifica qué exigiría esa obligación, quién determinaría una vulneración ni cómo se repartiría la responsabilidad entre desarrolladores de modelos, proveedores de infraestructura y organizaciones que los despliegan. Esos detalles serían fundamentales para cualquier regulación futura.
Presión sobre los desarrolladores de modelos avanzados
Las declaraciones llegan en medio de llamamientos de expertos, políticos y reguladores a endurecer las normas de IA, así como de advertencias de Anthropic, Google DeepMind y OpenAI sobre la velocidad del desarrollo tecnológico. La preocupación común no es detener todos los usos de la IA, sino que los desarrolladores de los sistemas más capaces hagan más para identificar y gestionar riesgos graves antes de su despliegue generalizado.
Se esperaba que la ministra británica de IA defendiera una posición similar y pidiera a las empresas que desarrollan IA avanzada reforzar sus salvaguardas. Esa coincidencia entre la dirección de una gran empresa tecnológica y una ministra no garantiza un acuerdo político, pero demuestra que el debate se centra cada vez más en controles operativos, responsabilidad y prácticas de seguridad demostrables.
De los principios a la aplicación
“Interruptor de apagado” es una expresión intuitiva, pero ponerla en práctica no consiste simplemente en accionar un botón. Un sistema útil de control de emergencia tendría que identificar las condiciones que activan la intervención, establecer quién está autorizado a utilizarla y garantizar que sea técnicamente eficaz. También tendría que evitar convertirse en una promesa de relaciones públicas incapaz de funcionar bajo presión.
Los comentarios de Smith y Nadella apuntan a una expectativa concreta: las empresas deben poder observar el comportamiento de la IA, probar sus límites y conservar la capacidad de contener sus acciones. Ese criterio desplaza la atención de las afirmaciones sobre el comportamiento previsto de un modelo hacia las pruebas de cómo una organización puede supervisar y controlar los sistemas en funcionamiento.
- Brad Smith dijo que la IA necesita normas de seguridad más urgentes y salvaguardas más firmes.
- Pidió frenos de emergencia y una obligación legal hacia las víctimas tras vulneraciones cometidas por agentes de IA descontrolados.
- Satya Nadella defendió por separado sistemas de IA cuyos límites y acciones puedan observarse y contenerse.
Un debate político con consecuencias prácticas
El debate probablemente irá más allá de si se necesita regulación y abordará cómo debe estructurarse. Los responsables políticos tendrán que considerar cómo se aplican las normas a desarrolladores, operadores de nube e infraestructura y organizaciones que despliegan IA en entornos reales. Las empresas, por su parte, afrontan la cuestión de si sus sistemas de supervisión pueden seguir el ritmo de la integración de los modelos en productos y flujos de trabajo.
La advertencia de Smith plantea el asunto en términos accesibles: si la sociedad espera controles de seguridad para productos conocidos, también puede esperar controles sólidos para una tecnología capaz de moldear la información, automatizar tareas y ser utilizada de forma indebida. La próxima prueba será determinar si estas peticiones producen prácticas específicas y exigibles, en lugar de otra ronda de compromisos generales.
Este artículo se basa en información de The Guardian. Leer el artículo original.
Originally published on theguardian.com
