Un juez señala aparentes citas legales creadas por IA en una demanda sobre redes sociales

Un caso desestimado se ha convertido en otra advertencia sobre la IA en los escritos judiciales

La profesión legal aún intenta determinar dónde encaja la IA generativa en la práctica diaria, pero hay una línea que ya está clara: las citas inventadas pueden convertirse rápidamente en una crisis de credibilidad. Ha surgido un nuevo ejemplo en un litigio vinculado a un grupo de Facebook llamado “Are We Dating the Same Guy”, donde un juez dijo que un escrito parecía contener errores y citas inexistentes asociadas con un uso indebido de la IA.

Según el material de origen, el demandante, Nikko D’Ambrosio, había demandado a 27 mujeres, un hombre y varias plataformas después de que usuarios en un grupo de Facebook con base en Chicago lo describieran con términos como “clingy” y “psycho”. El caso contra Meta fue desestimado después de que el juez expresara preocupación por la calidad y autenticidad de las citas de respaldo.

El juez David Hamilton escribió que la presentación no incluía ninguna cita a las conclusiones legislativas en las que afirmaba basarse y que hacía referencia a citas ficticias. El juez dijo que esos errores “tienen las marcas del uso indebido de la inteligencia artificial generativa”, situando la disputa de lleno en un debate de rápido crecimiento sobre el trabajo legal generado por IA.

El problema del tribunal no era la IA en sí, sino una salida imposible de verificar

Las herramientas de IA generativa se utilizan cada vez más para redactar, resumir y apoyar la investigación en muchas profesiones. En el ámbito jurídico, su atractivo es evidente: pueden producir esquemas rápidamente, identificar cuestiones y generar prosa de apariencia formal. Pero estos mismos sistemas también son conocidos por inventar jurisprudencia, tergiversar citas o producir referencias convincentes que se desmoronan ante una verificación básica.

Este caso pone de relieve el modo de fallo central. A un tribunal no le importa si un error provino de un asociado apresurado, de un proceso de búsqueda defectuoso o de un modelo de IA. Le importa si la presentación es exacta. Cuando las citas son inventadas, el problema deja de ser simple descuido. Afecta a la integridad del proceso judicial, porque los argumentos legales dependen de autoridad trazable.

Por eso las controversias recientes sobre IA y derecho han atraído tanta atención. La tecnología puede ahorrar tiempo, pero también puede crear una peligrosa ilusión de exhaustividad. Un escrito puede parecer pulido y bien documentado mientras contiene autoridades que no existen o afirmaciones que no se encuentran en el material citado.

Un problema institucional más amplio

El asunto D’Ambrosio también muestra cómo los problemas de la IA se están filtrando en casos que ya se sitúan en la intersección entre la gobernanza de plataformas, la expresión en línea y el daño reputacional. Los litigios en redes sociales suelen despertar interés público porque ponen a prueba los límites entre el discurso de los usuarios, la moderación y la responsabilidad. Cuando defectos legales generados por IA entran en ese entorno, desvían la atención de las reclamaciones de fondo y la llevan hacia la fiabilidad básica de los escritos.

Para los tribunales, esto crea tanto un desafío operativo como uno ético. Los jueces y los secretarios judiciales deben dedicar tiempo a verificar material que tendría que haberse revisado antes de su presentación. Para la parte contraria, las citas inventadas pueden significar costes innecesarios al responder a argumentos basados en autoridad inexistente. Y para los clientes, el daño reputacional y sustantivo puede ser inmediato si un caso se debilita por errores evitables.

El episodio también refuerza un punto que muchos tribunales ya han empezado a señalar mediante órdenes permanentes y advertencias: si los abogados usan IA, siguen siendo responsables de cada línea que presentan. Delegar parte del proceso de redacción a un modelo no delega la responsabilidad profesional.

La confianza dependerá de la verificación, no de la novedad

Es probable que la IA generativa siga formando parte de los flujos de trabajo legales porque los incentivos de productividad son demasiado fuertes como para ignorarlos. Pero la vía de adopción de la profesión se está reduciendo a una regla sencilla: el uso puede tolerarse o incluso resultar útil, pero la salida no verificada no.

Este último incidente importa porque no se trata de un riesgo hipotético. El juez conectó directamente las citas ficticias y los fallos de citación del escrito con las marcas del uso indebido de la IA. Ese lenguaje probablemente será citado en futuras discusiones sobre sanciones, divulgación y responsabilidad profesional.

Para el sistema legal, la lección se está volviendo repetitiva, pero cada vez más clara. La IA puede redactar. No se puede confiar en ella por sí sola para certificar. Cualquier abogado que trate texto generado como trabajo final no solo asume un riesgo técnico, sino también un riesgo en la sala de audiencias.

Este artículo se basa en la cobertura de 404 Media. Leer el artículo original.