Anthropic cerrará modelos avanzados tras una orden de EE. UU.

Anthropic dice que una orden de EE. UU. la obliga a apagar sus modelos de forma abrupta

Anthropic afirmó que desactivará sus modelos de IA más avanzados después de que el gobierno de EE. UU. ordenara a la empresa suspender el acceso para nacionales extranjeros, según el informe proporcionado. La medida afecta a los modelos Fable 5 y Mythos 5 de la empresa y Anthropic la presentó como un paso inmediato de cumplimiento vinculado a preocupaciones de seguridad nacional.

La evolución marca una fuerte escalada en el enfoque del gobierno sobre los controles de IA. Durante años, las restricciones estadounidenses se han centrado principalmente en los chips, las herramientas para semiconductores y otra infraestructura necesaria para construir IA avanzada. Esta orden, tal como la describe la fuente, desplaza la línea de control más cerca de los propios modelos al restringir quién puede acceder a ellos.

Lo que Anthropic dice que le comunicaron

Según el texto fuente, Anthropic dijo que recibió una directiva de control de exportaciones que ordenaba suspender el acceso a Fable 5 y Mythos 5 para todos los nacionales extranjeros. La empresa afirmó que no se le dieron detalles específicos sobre la preocupación de seguridad nacional detrás de la orden.

Anthropic dijo que entiende que el gobierno cree que existe una forma de eludir, o “jailbreak”, al menos una de las salvaguardas destinadas a impedir que Fable 5 se use para identificar vulnerabilidades de software. En otras palabras, la preocupación parece ser que un modelo con grandes capacidades pueda ser manipulado para ayudar a los usuarios a encontrar debilidades explotables en sistemas de software.

La empresa rechazó el argumento. En el informe proporcionado, Anthropic dijo que solo se le entregó evidencia verbal de lo que describió como un posible jailbreak limitado y no universal. Sostuvo que un hallazgo así no debería justificar la retirada de un modelo comercial utilizado por un número muy grande de personas.

Un punto de inflexión en la política de exportación de IA

La disputa es importante porque sugiere una nueva frontera en la regulación de la IA. Los controles de exportación se han centrado tradicionalmente en la cadena de suministro física y técnica: chips avanzados, equipos de litografía y herramientas relacionadas. Restringir el acceso a los servicios de IA en sí es un mecanismo distinto y potencialmente más disruptivo, especialmente cuando el acceso en la nube permite usar modelos a nivel global sin enviar hardware.

Si el acceso a modelos de frontera puede limitarse por motivos de nacionalidad, las empresas de IA podrían enfrentarse a una nueva carga de cumplimiento similar a los regímenes de control de exportaciones ya comunes en las industrias de defensa y de doble uso. La fuente no explica cómo Anthropic separará técnicamente a los usuarios afectados, pero su declaración indica que la empresa optó por un cierre amplio en lugar de intentar un despliegue más limitado bajo incertidumbre.

Tensión entre Anthropic y Washington

La orden también llega en medio de una relación ya tensa entre Anthropic y el gobierno de EE. UU. La fuente dice que la relación se deterioró a principios de este año después de que Anthropic se negara a permitir que el ejército estadounidense usara sus modelos de IA para vigilancia interna y sistemas de armas totalmente autónomos. En respuesta, el gobierno incluyó a la empresa en una lista negra de la cadena de suministro que entraría en vigor más adelante en el año.

Ese contexto importa porque hace que la última directiva parezca algo más que una disputa técnica aislada. Llega en medio de una batalla más amplia sobre cómo deberían cooperar las empresas de IA con el poder estatal, dónde deben situarse los límites del uso aceptable para defensa y cuánta influencia deberían ejercer los gobiernos sobre modelos desarrollados de forma privada.

El informe también señala que recientemente habían surgido señales de distensión en las disputas entre Anthropic y funcionarios de la administración Trump. La nueva orden contradice esa impresión y sugiere que el conflicto subyacente sigue sin resolverse.

Por qué importa la cuestión del jailbreak

Anthropic planteó el asunto como una disputa sobre cómo deberían evaluar los gobiernos el riesgo de jailbreak. Según el relato proporcionado, la empresa había pedido apenas días antes una mayor supervisión de la IA en EE. UU., incluida la capacidad de bloquear modelos con riesgos inaceptables. Pero afirmó que la acción del viernes no siguió lo que consideraba un proceso con principios y basado en pruebas.

Esa distinción es fundamental. Las empresas de IA aceptan cada vez más que algún nivel de supervisión es inevitable, y algunas incluso la apoyan activamente. La pregunta más difícil es qué umbrales desencadenan una intervención. Si eludir una salvaguarda limitada basta para detener el acceso internacional a un gran modelo comercial, entonces las empresas podrían argumentar que casi cualquier sistema avanzado podría ser vulnerable a restricciones repentinas. Los reguladores, por otro lado, podrían ver esa misma posibilidad como la razón para actuar con antelación.

Una señal para la industria en general

Es probable que todas las empresas desarrolladoras de IA de frontera sigan de cerca la orden informada. Incluso sin más detalle técnico, muestra que las autoridades estadounidenses pueden estar dispuestas a actuar directamente contra el acceso a los modelos cuando creen que está implicada la seguridad nacional. Eso crea una nueva incertidumbre para los proveedores que atienden a usuarios globales a través de una sola plataforma.

Para Anthropic, el resultado inmediato es una disrupción operativa y reputacional. Para la industria en general, el episodio puede convertirse en precedente. Si los gobiernos pasan de controlar el hardware de IA a controlar las capacidades de IA en forma de servicio, las empresas necesitarán una verificación más estricta, niveles de despliegue más claros y argumentos de seguridad más defendibles. El informe proporcionado sugiere que esa transición puede estar ya en marcha.

Este artículo se basa en un reportaje de The Guardian. Leer el artículo original.