La prohibición de la desnudificación en Minnesota entra en vigor tras el intento fallido de xAI de bloquearla

Minnesota empieza a hacer cumplir una nueva ley dirigida a las aplicaciones de desnudificación

Minnesota comenzó a hacer cumplir el sábado una nueva ley que apunta a las llamadas herramientas de desnudificación, una categoría que el estatuto define como servicios que alteran imágenes de personas reconocibles para exponer partes íntimas del cuerpo. La medida se aplica tanto si la herramienta usa inteligencia artificial como cualquier otro método automatizado, y crea una estructura de responsabilidad especialmente agresiva para las empresas que proporcionan la tecnología.

Según el texto fuente proporcionado, la ley permite a las víctimas demandar a los proveedores de aplicaciones y autoriza multas de hasta 500.000 dólares no solo por generar una imagen alterada, sino por cada vez que esa imagen es accedida. Ese detalle eleva de forma notable las apuestas financieras para las plataformas cuyos resultados pueden propagarse rápidamente en línea. Una sola imagen manipulada que se vea o comparta repetidamente podría generar una exposición mucho mayor que una sanción única.

La ley entró en vigor después de que la jueza federal de distrito Donovan Frank rechazara una solicitud tardía de xAI para una orden de restricción temporal que habría bloqueado su aplicación. El texto fuente dice que xAI, descrita allí como la creadora del chatbot Grok AI, argumentó que la ley es lo bastante amplia como para abarcar algunas generaciones de imágenes que no son claramente maliciosas. Pero el razonamiento de la jueza, al menos en parte, se centró en el momento de la presentación. Señaló que xAI presentó su moción el 29 de julio de 2026, casi tres meses después de que se promulgara la ley y solo tres días antes de que entrara en vigor, escribiendo que tal demora sugería que el daño alegado no era inmediato.

Cómo define el estatuto la desnudificación

El texto proporcionado dice que Minnesota define la desnudificación como alterar una foto de una persona reconocible para exponer “partes íntimas”. Añade que el término “partes íntimas” toma como referencia otro estatuto de Minnesota que abarca el área genital principal, la ingle, la cara interna del muslo, las nalgas o el pecho de un ser humano. La ley también se describe como centrada en una alteración de imágenes que puede hacerse esencialmente con solo pulsar un botón, en lugar de un trabajo que implique una destreza artística o habilidad manual sustancial.

Esa distinción importa porque presenta la medida como un intento de dirigirse a herramientas de manipulación escalables y de consumo masivo, y no a todas las formas de edición digital. En la práctica, la política parece adaptada a la reciente ola de sistemas capaces de producir imágenes sexualizadas falsas con muy poco esfuerzo del usuario y a gran escala. El enfoque más estrecho en la generación de baja fricción también puede reflejar un esfuerzo por vincular la ley a una categoría de producto específica y emergente, en lugar de impugnar de manera más amplia la edición de imágenes en sí.

Aun así, el texto fuente indica que la demanda de xAI ataca la ley por ser excesivamente amplia. La empresa sostiene que la definición podría abarcar imágenes sintéticas hechas en contextos que describe como inocentes o satíricos. Los ejemplos citados en la demanda, según el texto fuente, incluyen imágenes generadas por IA de funcionarios del gobierno de Trump en traje de baño y otra imagen que muestra a Chris Christie y J.D. Pritzker con lo que fueron descritos como mawashi de sumo.

Una respuesta al abuso de imágenes escalado rápidamente

El contexto más amplio es la rapidez con la que los sistemas generativos han hecho que las imágenes sexualizadas no consentidas sean más fáciles de crear y distribuir. El texto proporcionado dice que el chatbot Grok AI quedó asociado durante la temporada festiva más reciente con la generación no consentida de imágenes sexualizadas o con poca ropa de personas. También cita una estimación según la cual Grok creó 23.000 de esas imágenes de niños. Esa cifra, si es exacta, ayuda a explicar por qué los legisladores se están moviendo hacia la responsabilidad a nivel de producto en lugar de depender solo de los marcos existentes sobre pornografía vengativa o acoso.

El enfoque de Minnesota es notable porque parece poner la responsabilidad en el proveedor de la herramienta, no solo en el usuario final. Eso importa en el mercado actual de IA, donde las plataformas suelen poner el acento en la escala, la velocidad y el acceso fácil. Una ley que pueda imponer sanciones elevadas por cada acceso a una imagen manipulada cambia los incentivos. Los proveedores podrían necesitar salvaguardas más sólidas antes del lanzamiento, sistemas de respuesta más rápidos después de detectar abusos y restricciones más estrictas sobre los prompts, las cargas o las funciones de compartición pública.

El texto fuente dice que X publicó una declaración indicando que se habían recortado las capacidades que permiten este comportamiento. Eso sugiere que al menos algunos operadores de plataformas ya ven la moderación y los controles de producto como algo inevitable. Pero la ley de Minnesota lleva esa lógica más lejos al convertir los fallos de seguridad en un problema legal y financiero potencialmente directo.

Por qué este caso podría importar más allá de Minnesota

El efecto inmediato es local, pero las implicaciones son más amplias. Las legislaturas de otros lugares están tratando de regular herramientas generativas que pueden producir material abusivo realista a gran escala. El modelo de Minnesota parece combinar una definición concreta del producto con ejecución privada y grandes sanciones civiles. Si sobrevive a futuros desafíos legales, podría convertirse en una plantilla para otros estados que buscan una vía más rápida que una acción federal amplia.

La disputa legal también pone de relieve una tensión familiar en la gobernanza de la IA. Las empresas suelen argumentar que las normas redactadas de forma amplia podrían atrapar la expresión legítima, la parodia o la experimentación. Los legisladores y los defensores de las víctimas sostienen que el costo social de la tecnología ya no es hipotético, especialmente cuando los sistemas pueden crear material dañino sobre personas comunes con casi ninguna habilidad técnica requerida. Minnesota está, como mínimo, señalando que la desnudificación automatizada pertenece a una categoría regulatoria de mayor riesgo.

Lo que venga después probablemente dependerá tanto del litigio como del cumplimiento. xAI no logró detener la ley antes de que entrara en vigor, pero eso no significa que la batalla constitucional o estatutaria más amplia haya terminado. Por ahora, sin embargo, Minnesota ha pasado del debate a la aplicación. En un área de política en la que muchos gobiernos aún están estudiando el problema, eso por sí solo es significativo.

Este artículo se basa en una cobertura de Gizmodo. Leer el artículo original.