Un juge relève d’apparentes citations juridiques générées par IA dans une plainte liée aux réseaux sociaux

Une affaire rejetée est devenue un nouvel avertissement sur l’IA dans les écritures judiciaires

La profession juridique essaie encore de déterminer quelle place l’IA générative peut occuper dans la pratique quotidienne, mais une chose est déjà claire : des citations fabriquées peuvent rapidement se transformer en crise de crédibilité. Un nouvel exemple est apparu dans un litige lié à un groupe Facebook intitulé “Are We Dating the Same Guy”, où un juge a indiqué qu’un mémoire semblait contenir des erreurs et des citations inexistantes associées à un usage abusif de l’IA.

Selon le matériau source, le plaignant, Nikko D’Ambrosio, avait poursuivi 27 femmes, un homme et plusieurs plateformes après que des utilisateurs d’un groupe Facebook basé à Chicago l’avaient décrit avec des termes comme “clingy” et “psycho”. L’affaire contre Meta a été rejetée après que le juge a exprimé des inquiétudes sur la qualité et l’authenticité des citations à l’appui.

Le juge David Hamilton a écrit que le dépôt ne comportait aucune citation aux conclusions législatives qu’il prétendait invoquer et faisait référence à des citations fictives. Le juge a estimé que ces erreurs “portent les marques de l’usage abusif de l’intelligence artificielle générative”, inscrivant ainsi le litige au cœur d’un débat en forte croissance sur le travail juridique produit par l’IA.

Le problème de la cour n’était pas l’IA elle-même, mais une production impossible à vérifier

Les outils d’IA générative sont de plus en plus utilisés pour la rédaction, les synthèses et l’appui à la recherche dans de nombreuses professions. Dans le droit, leur attrait est évident : ils peuvent produire rapidement des plans, identifier des questions et générer une prose d’apparence formelle. Mais ces mêmes systèmes sont aussi connus pour inventer de la jurisprudence, déformer des citations ou produire des références convaincantes qui s’effondrent à la moindre vérification.

Cette affaire met en évidence le mode d’échec central. Un tribunal ne se soucie pas de savoir si une erreur provient d’un collaborateur pressé, d’un processus de recherche défaillant ou d’un modèle d’IA. Il se soucie de l’exactitude du document déposé. Lorsque les citations sont fabriquées, le problème dépasse la simple négligence. Il touche à l’intégrité du processus judiciaire, car les arguments juridiques reposent sur des autorités traçables.

C’est pourquoi les récentes controverses sur l’IA dans le droit ont suscité une telle attention. Cette technologie peut faire gagner du temps, mais elle peut aussi créer une dangereuse illusion d’exhaustivité. Un mémoire peut paraître soigné et bien sourcé tout en contenant des autorités qui n’existent pas ou des affirmations absentes du matériau cité.

Un problème institutionnel plus large

L’affaire D’Ambrosio montre aussi comment les problèmes liés à l’IA se répandent dans des dossiers déjà situés à l’intersection de la gouvernance des plateformes, de la parole en ligne et du préjudice réputationnel. Les contentieux liés aux réseaux sociaux suscitent souvent l’intérêt du public parce qu’ils testent les limites entre la parole des utilisateurs, la modération et la responsabilité. Lorsque des défauts juridiques générés par l’IA entrent dans cet environnement, ils détournent l’attention des demandes de fond vers la fiabilité élémentaire du dépôt.

Pour les tribunaux, cela crée autant un défi opérationnel qu’un défi éthique. Les juges et les greffiers doivent passer du temps à vérifier des éléments qui auraient dû être contrôlés avant le dépôt. Pour la partie adverse, des citations fabriquées peuvent entraîner des coûts inutiles à répondre à des arguments fondés sur une autorité inexistante. Et pour les clients, le préjudice réputationnel et matériel peut être immédiat si une affaire est affaiblie par des erreurs évitables.

L’épisode réaffirme aussi un point que de nombreux tribunaux ont déjà commencé à formuler par des ordonnances permanentes et des avertissements : si les avocats utilisent l’IA, ils restent responsables de chaque ligne qu’ils déposent. Déléguer une partie du processus de rédaction à un modèle ne délègue pas la responsabilité professionnelle.

La confiance dépendra de la vérification, pas de la nouveauté

L’IA générative est susceptible de rester dans les flux de travail juridiques, car les gains de productivité sont trop importants pour être ignorés. Mais la voie d’adoption de la profession se résume à une règle simple : l’usage peut être toléré, voire utile, mais la production non vérifiée ne l’est pas.

Ce dernier incident compte parce qu’il ne s’agit pas d’un risque hypothétique. Le juge a directement relié les citations fictives et les échecs de citation du dépôt aux marques de l’usage abusif de l’IA. Ce langage sera probablement cité dans de futurs débats sur les sanctions, la divulgation et la responsabilité professionnelle.

Pour le système juridique, la leçon devient répétitive mais plus nette à chaque apparition. L’IA peut rédiger. Elle ne peut pas être chargée seule de certifier. Tout avocat qui traite un texte généré comme un produit fini n’assume pas seulement un risque technique, mais aussi un risque à l’audience.

Cet article est basé sur un reportage de 404 Media. Lire l’article original.