Depois de um grande pagamento, a próxima disputa é sobre como a Meta opera
A Meta volta ao tribunal no Novo México para uma segunda fase, potencialmente mais consequente, de um caso de segurança infantil que já resultou em uma perda de US$ 375 milhões para a empresa. Esta próxima etapa não trata principalmente de dinheiro. Trata-se de saber se um juiz deve forçar mudanças na forma como Facebook, Instagram e WhatsApp funcionam para os usuários do estado.
O procurador-geral do Novo México, Raúl Torrez, enquadrou o caso como um esforço para alterar práticas comerciais, não apenas cobrar indenizações. Essa distinção é importante. Grandes penalidades financeiras podem doer, mas nem sempre mudam o design do produto ou os incentivos corporativos. O argumento do estado é que medidas voltadas a recursos centrais da plataforma poderiam ter significado mais amplo para a forma como empresas de mídia social tratam a segurança de menores.
As medidas propostas alcançam o design do produto e sua aplicação
O julgamento que começa em Santa Fe deve durar três semanas. Segundo a descrição informada dos pedidos do estado, o Novo México quer que o tribunal obrigue a Meta a implementar verificação de idade para usuários no estado, proíba criptografia de ponta a ponta para menores de 18 anos, limite em 90 horas por mês o tempo desses usuários nos serviços da Meta, restrinja recursos de design que ampliam o engajamento, como rolagem infinita e reprodução automática, e exija que a empresa detecte 99 por cento do novo material de abuso sexual infantil.
Essas mudanças solicitadas tocam quase todas as grandes frentes da política digital: verificação etária, privacidade, engajamento algorítmico, padrões de moderação e responsabilidade da plataforma. Mesmo que qualquer ordem final se aplique apenas à Meta e às suas operações no Novo México, o litígio pode se tornar um campo de testes para remédios que legisladores e reguladores em outros lugares discutiram, mas raramente impuseram por decisão judicial.
Por que esta fase pode importar mais do que o valor em dinheiro
A posição do estado, como descrita por Torrez, é direta. Uma empresa grande pode absorver uma multa de nove dígitos como um custo administrável, mas mudanças operacionais impostas podem ser muito mais difíceis de conter. Redesenhos de produto afetam prioridades de engenharia, risco jurídico e experiência do usuário ao mesmo tempo. Eles também podem criar precedentes que convidem a pedidos semelhantes de outros estados ou países.
É isso que torna este caso digno de atenção além do Novo México. A primeira fase estabeleceu a responsabilidade financeira. A segunda pergunta se um tribunal pode entrar na mecânica de uma plataforma social e ditar mudanças destinadas a reduzir danos a menores. Se o tribunal endossar mesmo parte da abordagem do estado, o caso pode influenciar a forma de futuras ações contra outras grandes empresas de tecnologia.
Questões centrais no julgamento dos remédios
- Se a verificação de idade pode ser imposta em nível estadual às principais plataformas sociais.
- Se recursos de design ligados ao engajamento podem ser limitados para menores.
- Se regras de criptografia para usuários com menos de 18 anos podem ser restringidas em nome da segurança infantil.
- Se os tribunais estão dispostos a exigir padrões extremamente altos para detectar novo CSAM.
O desafio mais amplo da Meta vai além de um único fórum
A empresa não está apenas defendendo um único caso. Também está defendendo um modelo no qual recursos de produto são lançados em escala em jurisdições com expectativas políticas e legais diferentes. Esse modelo passou a sofrer pressão à medida que processos, propostas legislativas e o escrutínio público se concentram cada vez mais na relação entre design de plataforma, saúde mental dos jovens, padrões de uso viciante e conteúdo ilegal.
O caso do Novo México se destaca porque busca uma forma de intervenção especialmente direta. Em vez de pedir apenas compensação ou promessas gerais de conformidade, o estado está solicitando restrições operacionais específicas. Isso levanta questões difíceis sobre aplicabilidade e viabilidade técnica, mas também reflete a crescente impaciência de reguladores que acreditam que abordagens mais suaves não produziram mudanças suficientes.
A exigência de detectar 99 por cento do novo material de abuso sexual infantil é especialmente notável porque estabelece uma meta muito alta. Da mesma forma, propostas para conter a reprodução automática e a rolagem infinita apontam para uma mudança de política do foco em conteúdo para o foco na interface. Em outras palavras, o estado não está apenas desafiando o que aparece nas plataformas; está desafiando como as plataformas mantêm os usuários engajados.
Um caso de segurança infantil que pode moldar a governança futura das plataformas
Ainda há incógnitas importantes. O remédio final, se houver, pode parecer muito diferente da lista completa que o Novo México está buscando. Recursos de apelação e uma implementação mais estreita também podem reduzir o impacto imediato. Mas o caso já mostra como a regulação de tecnologia está evoluindo. Cada vez mais, os tribunais são chamados não apenas a punir operadores de plataformas depois do fato, mas a definir como o design de produto mais seguro deve parecer na prática.
Para a Meta, isso cria risco além da sentença de US$ 375 milhões. Uma empresa pode prever multas no orçamento. É muito mais difícil prever um ambiente jurídico em que tribunais possam começar a especificar verificações de idade, limites de engajamento, exceções de privacidade e metas de detecção. O julgamento em Santa Fe é, portanto, menos uma disputa de um único estado do que uma prova de se a governança das mídias sociais está entrando em uma nova fase de intervenção judicial direta.
É por isso que este procedimento pode ser mais consequente do que o veredicto inicial. O impacto financeiro chamou atenção, mas a disputa pelos remédios pode determinar se o contencioso de segurança infantil se tornará uma via para reestruturar a forma como as grandes plataformas operam.
Este artigo é baseado na cobertura da The Verge. Leia o artigo original.
Originally published on theverge.com
