Um regime federal contra deepfakes está passando da lei para a fiscalização nas plataformas
Um prazo de conformidade importante ligado ao Take It Down Act já chegou, impondo uma obrigação legal mais rigorosa às plataformas digitais que hospedam ou disseminam imagens íntimas não consensuais, incluindo deepfakes gerados por IA. A partir de 19 de maio de 2026, a Federal Trade Commission está aplicando a Seção 3 da lei, que exige que as plataformas abrangidas ofereçam um processo claro de denúncia e removam o material denunciado e cópias idênticas em até 48 horas.
A mudança é importante porque desloca a lei de punir os criadores e distribuidores do abuso para impor obrigações operacionais às plataformas que o circulam. Durante anos, vítimas e defensores argumentaram que os sistemas de remoção eram fragmentados demais, lentos demais e excessivamente dependentes de os próprios usuários encontrarem repetidamente as cópias republicadas. A nova regra foi criada para mudar esse ônus.
O que as plataformas precisam fazer
De acordo com o texto de origem, as plataformas digitais devem oferecer um processo simples e acessível para que as vítimas solicitem a remoção de fotos ou vídeos íntimos não consensuais e de quaisquer cópias idênticas. Esse processo precisa estar disponível inclusive para pessoas que não tenham conta no serviço. Assim que a solicitação for enviada, a vítima deve receber um número de identificação que também pode ser compartilhado com as autoridades.
A exigência de remoção em 48 horas é a referência operacional mais concreta. Ela dá às plataformas uma janela fixa de resposta e cria um padrão mensurável de conformidade. O presidente da FTC, Andrew Ferguson, em uma carta citada pelo material de origem, alertou para possíveis multas civis de US$ 53.088 por violação.
Segundo informações, a FTC enviou esse alerta a um amplo grupo de grandes empresas de tecnologia, incluindo Amazon, Apple, Alphabet, Bumble, Match Group, Discord, Meta, Microsoft, Reddit, TikTok e X.
Por que a lei surgiu
O Take It Down Act foi sancionado um ano antes e criou responsabilidade federal para quem distribui intencionalmente imagens íntimas ou deepfakes envolvendo menores ou adultos sem consentimento. A nova fase de fiscalização estende essa estrutura à responsabilidade das plataformas. A urgência é evidente: as ferramentas generativas de imagem e vídeo tornaram o abuso sexual por deepfakes mais barato, mais rápido e mais fácil de escalar.
O texto de origem cita o caso de um homem de 37 anos de Columbus, Ohio, descrito como a primeira pessoa condenada sob a lei após usar mais de 120 plataformas e modelos de IA para criar e distribuir imagens sexuais de menores e de mulheres adultas sem consentimento. Esse exemplo ilustra o ecossistema fragmentado que os reguladores tentam conter. O dano já não está ligado a um único site ou a uma única ferramenta. Ele pode se espalhar por dezenas de serviços em paralelo.
O problema com X e Grok
O prazo de conformidade também chega em meio ao escrutínio sobre o X, onde deepfakes não consensuais teriam se espalhado amplamente nos últimos meses. O texto de origem identifica o Grok, de Elon Musk, como um símbolo altamente visível nesse debate. Seja ou não um único modelo o principal responsável pelo problema, a questão mais ampla é que sistemas generativos podem fornecer conteúdo abusivo enquanto as plataformas o amplificam por meio da descoberta, da republicação e das recomendações.
O foco legal nas plataformas reconhece que as falhas de moderação fazem parte da cadeia de distribuição. Mesmo que um modelo gere uma imagem em outro lugar, o sistema social que a hospeda e a recircula pode determinar a escala do dano.
O que pode melhorar, e o que pode não melhorar
O novo marco pode fazer uma diferença real para as vítimas se as plataformas construírem sistemas eficientes de recebimento e correspondência de cópias. Exigir que os sites removam cópias idênticas, e não apenas a URL específica denunciada inicialmente, é especialmente importante. Em casos de abuso, a republicação costuma ser o problema, e obrigar as vítimas a procurar cada duplicata uma por uma transforma a aplicação da regra em um segundo ônus.
Ainda assim, o texto de origem também destaca ceticismo. Críticos temem que a lei não resolva o problema de forma eficaz e possa gerar disputas mais amplas sobre moderação, liberdade de expressão e casos-limite. O ecossistema de abuso subjacente é adaptável. Maus atores podem migrar para plataformas menores, serviços no exterior ou canais criptografados de distribuição. E a aplicação contra “cópia idêntica” é mais fácil do que lidar com derivados levemente alterados ou conteúdo sintético relacionado que não seja pixel por pixel igual.
O material fornecido não estabelece como a FTC lidará com essas variações mais difíceis, apenas que a agência agora está aplicando as obrigações centrais de remoção.
Um teste de prontidão das plataformas
Para as grandes empresas de tecnologia, o desafio imediato é operacional, não filosófico. Elas conseguem verificar denúncias rapidamente, identificar conteúdo duplicado com confiabilidade, processar solicitações de não usuários e documentar a conformidade dentro de um prazo apertado? Esses sistemas exigem equipes de moderação, automação e coordenação jurídica. As grandes empresas têm recursos, mas a escala do abuso ainda pode sobrecarregar seus fluxos.
Para plataformas menores, o ônus pode ser maior. A regra não desaparece simplesmente porque a empresa tem menos funcionários. Isso pode levar alguns serviços a fortalecer a infraestrutura de confiança e segurança ou a depender mais intensamente de ferramentas de moderação de terceiros.
A mudança maior
O desenvolvimento importante é que a regulação nos EUA sobre abuso de imagens com IA deixou de ser teórica. Um ano após a sanção da lei, a fiscalização passou a se concentrar na infraestrutura de circulação. Isso reflete uma visão crescente em Washington de que o design das plataformas e seus sistemas de resposta são inseparáveis dos danos causados pela mídia generativa.
A próxima fase mostrará se a FTC consegue transformar uma regra formal de 48 horas em um verdadeiro fator de dissuasão. Se as plataformas agirem com rapidez e consistência, as novas obrigações poderão reduzir a persistência de algumas das formas mais nocivas de abuso sintético. Caso contrário, 19 de maio poderá ser lembrado menos como uma solução limpa e mais como o início de uma batalha mais longa sobre quanto responsabilidade os intermediários devem assumir na era dos deepfakes.
Este artigo é baseado em reportagem do Gizmodo. Leia o artigo original.
Originally published on gizmodo.com
