Meta enfrenta en Nuevo México un juicio sobre si sus plataformas deben cambiar por la seguridad infantil

Tras un gran pago, la próxima batalla es sobre cómo opera Meta

Meta regresa a los tribunales en Nuevo México para una segunda fase, potencialmente más trascendental, de un caso sobre seguridad infantil que ya le costó a la empresa 375 millones de dólares. Esta nueva etapa no trata principalmente de dinero. Se trata de si un juez debe obligar a cambiar la forma en que Facebook, Instagram y WhatsApp funcionan para los usuarios del estado.

El fiscal general de Nuevo México, Raúl Torrez, ha presentado el caso como un esfuerzo por modificar las prácticas comerciales, no solo por cobrar daños y perjuicios. Esa distinción es importante. Las grandes sanciones económicas pueden doler, pero no siempre cambian el diseño del producto ni los incentivos corporativos. El argumento del estado es que las medidas dirigidas a funciones centrales de la plataforma podrían tener una relevancia más amplia para la forma en que las empresas de redes sociales abordan la seguridad de los menores.

Las medidas propuestas alcanzan el diseño del producto y su aplicación

Se espera que el juicio que comienza en Santa Fe dure tres semanas. Según la descripción informada de las solicitudes del estado, Nuevo México quiere que la corte ordene a Meta implementar verificación de edad para los usuarios en el estado, prohibir el cifrado de extremo a extremo para los menores de 18 años, limitar a 90 horas mensuales el tiempo de esos usuarios en los servicios de Meta, restringir funciones de diseño que amplifican la interacción, como el desplazamiento infinito y la reproducción automática, y exigir a la empresa detectar el 99 por ciento del nuevo material de abuso sexual infantil.

Esos cambios solicitados tocan casi todas las grandes líneas de fractura de la política digital: verificación de edad, privacidad, participación algorítmica, estándares de moderación y responsabilidad de la plataforma. Incluso si cualquier orden final se aplicara solo a Meta y a sus operaciones en Nuevo México, el litigio podría convertirse en un campo de pruebas para medidas que legisladores y reguladores han debatido en otros lugares pero rara vez han impuesto por vía judicial.

Por qué esta fase puede importar más que la cantidad en dólares

La postura del estado, como la describió Torrez, es tajante. Una gran compañía puede absorber una sanción de nueve cifras como un costo manejable, pero los cambios operativos obligatorios son mucho más difíciles de contener. Los rediseños de producto afectan al mismo tiempo las prioridades de ingeniería, el riesgo legal y la experiencia del usuario. También pueden crear precedentes que inviten a solicitudes similares de otros estados o países.

Eso es lo que hace que este caso merezca atención más allá de Nuevo México. La primera fase estableció la responsabilidad financiera. La segunda fase pregunta si un tribunal puede intervenir en la mecánica de una plataforma social y dictar cambios destinados a reducir el daño a los menores. Si la corte respalda incluso parte del enfoque del estado, el caso podría influir en la forma de futuras acciones contra otras grandes tecnológicas.

Cuestiones centrales en el juicio de remedios

• Si la verificación de edad puede imponerse a nivel estatal sobre las principales plataformas sociales.
• Si las funciones de diseño ligadas a la interacción pueden limitarse para menores.
• Si las reglas de cifrado para usuarios menores de 18 años pueden restringirse en nombre de la seguridad infantil.
• Si los tribunales están dispuestos a exigir estándares extremadamente altos para detectar nuevo CSAM.

El desafío más amplio de Meta va más allá de un solo juzgado

La compañía no solo se está defendiendo en un caso. También defiende un modelo en el que las funciones del producto se lanzan a gran escala en jurisdicciones con expectativas políticas y legales distintas. Ese modelo ha quedado bajo presión a medida que las demandas, las propuestas legislativas y el escrutinio público se centran cada vez más en la relación entre el diseño de la plataforma, la salud mental juvenil, los patrones de uso adictivo y el contenido ilegal.

El caso de Nuevo México destaca porque busca una forma de intervención especialmente directa. En lugar de pedir solo compensación o promesas generales de cumplimiento, el estado solicita restricciones operativas concretas. Eso plantea preguntas difíciles sobre la ejecutabilidad y la viabilidad técnica, pero también refleja la creciente impaciencia de los reguladores que creen que los enfoques más suaves no han producido suficientes cambios.

El requisito solicitado de detectar el 99 por ciento del nuevo material de abuso sexual infantil es especialmente notable porque fija un listón muy alto. Del mismo modo, las propuestas para frenar la reproducción automática y el desplazamiento infinito apuntan a un cambio de política: pasar de regular el contenido a regular la interfaz. En otras palabras, el estado no solo está desafiando lo que aparece en las plataformas; está desafiando la forma en que las plataformas mantienen a los usuarios enganchados.

Un caso de seguridad infantil que podría moldear la gobernanza futura de las plataformas

Siguen existiendo importantes incógnitas. El remedio final, si lo hubiera, puede verse muy distinto de la lista completa que busca Nuevo México. Las apelaciones y una implementación más limitada también podrían reducir el impacto inmediato. Pero el caso ya muestra cómo está evolucionando la regulación tecnológica. Cada vez más, los tribunales no solo son llamados a castigar a los operadores de plataformas después del hecho, sino a definir cómo debería verse en la práctica un diseño de producto más seguro.

Para Meta, eso implica un riesgo que va más allá del fallo de 375 millones de dólares. Una empresa puede presupuestar multas. Es mucho más difícil presupuestar un entorno legal en el que los tribunales comiencen a especificar controles de edad, límites de interacción, excepciones de privacidad y objetivos de detección. Por eso, el juicio de Santa Fe es menos una disputa de un solo estado que una prueba de si la gobernanza de las redes sociales está entrando en una nueva fase de intervención judicial directa.

Esa es la razón por la que este procedimiento puede resultar más trascendente que el veredicto inicial. El golpe financiero atrajo la atención, pero la batalla por los remedios podría determinar si el litigio por seguridad infantil se convierte en una vía para reestructurar la forma en que operan las grandes plataformas.

Este artículo se basa en la cobertura de The Verge. Leer el artículo original.