Juiz aponta aparentes citações jurídicas geradas por IA em processo sobre redes sociais

Um caso arquivado virou mais um alerta sobre IA em peças processuais

A profissão jurídica ainda tenta determinar onde a IA generativa se encaixa na prática diária, mas uma linha já está clara: citações fabricadas podem rapidamente se tornar uma crise de credibilidade. Um novo exemplo surgiu de um litígio ligado a um grupo do Facebook chamado “Are We Dating the Same Guy”, em que um juiz disse que uma petição parecia conter erros e citações inexistentes associadas ao uso indevido de IA.

Segundo o material de origem, o autor, Nikko D’Ambrosio, havia processado 27 mulheres, um homem e várias plataformas depois que usuários de um grupo de Facebook sediado em Chicago o descreveram com termos como “clingy” e “psycho”. O caso contra a Meta foi arquivado depois que o juiz levantou preocupações sobre a qualidade e a autenticidade das citações de apoio.

O juiz David Hamilton escreveu que a peça não trazia nenhuma citação às conclusões legislativas em que dizia se basear e fazia referência a citações fictícias. O juiz disse que esses erros “têm as marcas do uso indevido de inteligência artificial generativa”, colocando a disputa diretamente em um debate em rápida expansão sobre trabalho jurídico gerado por IA.

O problema do tribunal não era a IA em si, mas a saída impossível de verificar

Ferramentas de IA generativa estão sendo cada vez mais usadas para redação, síntese e apoio à pesquisa em muitas profissões. No direito, sua atração é óbvia: elas podem produzir esboços rapidamente, identificar मुद्दos e gerar texto de aparência formal. Mas esses mesmos sistemas também são conhecidos por inventar jurisprudência, deturpar citações ou produzir referências convincentes que desmoronam sob verificação básica.

Este caso destaca o principal modo de falha. Ao tribunal não importa se o erro veio de um associado apressado, de um processo de pesquisa falho ou de um modelo de IA. Importa se a petição está correta. Quando as citações são fabricadas, o problema deixa de ser mera descuido. Ele atinge a integridade do processo judicial, porque argumentos jurídicos dependem de autoridade rastreável.

É por isso que as recentes controvérsias sobre IA no direito chamaram tanta atenção. A tecnologia pode economizar tempo, mas também pode criar uma perigosa ilusão de completude. Uma petição pode parecer polida e bem fundamentada enquanto contém autoridades que não existem ou afirmações que não constam do material citado.

Um problema institucional mais amplo

O caso D’Ambrosio também mostra como as questões de IA estão se infiltrando em casos que já estão na interseção entre governança de plataformas, discurso online e dano à reputação. Litígios em redes sociais frequentemente atraem interesse público porque testam os limites entre fala de usuários, moderação e responsabilidade. Quando defeitos jurídicos gerados por IA entram nesse cenário, eles deslocam a atenção das alegações principais para a confiabilidade básica da peça.

Para os tribunais, isso cria um desafio operacional tanto quanto ético. Juízes e servidores precisam gastar tempo verificando material que deveria ter sido checado antes do protocolo. Para a parte adversa, citações fabricadas podem significar custo desnecessário ao responder a argumentos baseados em autoridade inexistente. E para os clientes, o dano reputacional e substantivo pode ser imediato se um caso enfraquecer por erros evitáveis.

O episódio também reforça um ponto que muitos tribunais já começaram a afirmar por meio de ordens permanentes e avisos: se os advogados usam IA, continuam responsáveis por cada linha que protocolam. Delegar parte do processo de redação a um modelo não delega a responsabilidade profissional.

A confiança dependerá da verificação, não da novidade

A IA generativa provavelmente continuará fazendo parte dos fluxos de trabalho jurídicos porque os incentivos de produtividade são fortes demais para serem ignorados. Mas o caminho de adoção da profissão está se reduzindo a uma regra simples: o uso pode ser tolerado ou até útil, mas a saída sem verificação não.

Este episódio mais recente importa porque não se trata de um risco hipotético. O juiz ligou diretamente as citações fictícias e as falhas de citação da peça às marcas de uso indevido de IA. Essa linguagem provavelmente será citada em futuras discussões sobre sanções, divulgação e responsabilidade profissional.

Para o sistema jurídico, a lição está se tornando repetitiva, mas cada vez mais nítida. A IA pode redigir. Não pode ser confiada sozinha para certificar. Qualquer advogado que trate texto gerado como trabalho final não está assumindo apenas um risco técnico, mas também um risco em sala de audiência.

Este artigo é baseado na reportagem da 404 Media. Leia o artigo original.