Richter erkennt offenbar KI-erstellte juristische Zitate in einer Klage wegen sozialer Medien

Ein abgewiesener Fall ist zu einer weiteren Warnung vor KI in Gerichtsunterlagen geworden

Die Rechtsbranche versucht noch immer zu bestimmen, wo generative KI in der täglichen Praxis ihren Platz hat, aber eine Grenze ist bereits klar: Erfundenen Zitaten kann schnell eine Glaubwürdigkeitskrise folgen. Ein neues Beispiel stammt aus einem Rechtsstreit im Zusammenhang mit einer Facebook-Gruppe namens “Are We Dating the Same Guy”, in dem ein Richter sagte, ein Schriftsatz scheine Fehler und nicht existierende Zitate zu enthalten, die mit einem missbräuchlichen Einsatz von KI verbunden seien.

Laut dem Ausgangsmaterial hatte der Kläger Nikko D’Ambrosio 27 Frauen, einen Mann und mehrere Plattformen verklagt, nachdem Nutzer in einer in Chicago ansässigen Facebook-Gruppe ihn mit Begriffen wie “clingy” und “psycho” beschrieben hatten. Der Fall gegen Meta wurde abgewiesen, nachdem der Richter Bedenken hinsichtlich der Qualität und Authentizität der stützenden Zitate geäußert hatte.

Richter David Hamilton schrieb, dass der Schriftsatz keine Zitierung der gesetzgeberischen Feststellungen enthielt, auf die er sich angeblich stütze, und sich auf erfundene Zitate bezog. Der Richter sagte, diese Fehler “tragen die Merkmale des missbräuchlichen Einsatzes generativer künstlicher Intelligenz”, womit der Streit mitten in eine rasch wachsende Debatte über KI-generierte juristische Arbeit gerückt sei.

Das Problem des Gerichts war nicht die KI selbst, sondern eine nicht verifizierbare Ausgabe

Generative KI-Tools werden in vielen Berufen zunehmend für Entwürfe, Zusammenfassungen und die Unterstützung von Recherchen eingesetzt. Im Recht liegt ihre Attraktivität auf der Hand: Sie können schnell Gliederungen erstellen, Fragen identifizieren und formal klingende Texte generieren. Doch dieselben Systeme sind auch dafür bekannt, Rechtsprechung zu erfinden, Zitate zu verfälschen oder selbstbewusst wirkende Verweise zu erzeugen, die bei einer einfachen Prüfung zusammenbrechen.

Dieser Fall verdeutlicht den zentralen Fehlermodus. Ein Gericht ist es egal, ob ein Fehler von einem überhasteten Associate, einem fehlerhaften Suchprozess oder einem KI-Modell stammt. Entscheidend ist, ob der Schriftsatz korrekt ist. Wenn Zitate erfunden sind, ist das Problem mehr als bloße Nachlässigkeit. Es betrifft die Integrität des Justizverfahrens, weil rechtliche Argumente auf nachvollziehbarer Autorität beruhen.

Deshalb haben jüngste Auseinandersetzungen um KI im Recht so viel Aufmerksamkeit erhalten. Die Technologie kann Zeit sparen, aber auch eine gefährliche Illusion von Vollständigkeit erzeugen. Ein Schriftsatz kann poliert und gut belegt wirken und dennoch Autoritäten enthalten, die nicht existieren, oder Aussagen, die sich im zitierten Material nicht finden lassen.

Ein breiteres institutionelles Problem

Der Fall D’Ambrosio zeigt auch, wie sich KI-Probleme in Verfahren ausbreiten, die bereits an der Schnittstelle von Plattform-Governance, Online-Rede und Rufschädigung liegen. Social-Media-Klagen ziehen oft öffentliches Interesse auf sich, weil sie die Grenzen zwischen Nutzeräußerungen, Moderation und Haftung testen. Wenn KI-generierte rechtliche Mängel in dieses Umfeld gelangen, lenken sie die Aufmerksamkeit weg von den eigentlichen Ansprüchen hin zur grundlegenden Zuverlässigkeit der Einreichung.

Für Gerichte ist das ebenso eine operative wie eine ethische Herausforderung. Richter und Geschäftsstelle müssen Zeit darauf verwenden, Material zu prüfen, das vor der Einreichung hätte überprüft werden sollen. Für die Gegenseite können erfundene Zitate unnötige Kosten bedeuten, wenn auf Argumente auf Basis nicht existierender Autorität geantwortet werden muss. Und für Mandanten können Reputations- und Sachschäden unmittelbar sein, wenn ein Fall durch vermeidbare Fehler geschwächt wird.

Der Vorfall unterstreicht auch einen Punkt, den viele Gerichte bereits durch Allgemeinverfügungen und Warnungen betont haben: Wenn Anwälte KI verwenden, bleiben sie für jede eingereichte Zeile verantwortlich. Einen Teil des Entwurfsprozesses an ein Modell zu delegieren, bedeutet nicht, die berufliche Verantwortung zu delegieren.

Vertrauen wird von Verifikation abhängen, nicht von Neuheit

Generative KI wird wahrscheinlich Teil juristischer Arbeitsabläufe bleiben, weil die Produktivitätsanreize zu stark sind, um sie zu ignorieren. Doch der Weg der Profession zur Nutzung verengt sich auf eine einfache Regel: Einsatz mag toleriert oder sogar nützlich sein, ungeprüfte Ausgabe jedoch nicht.

Dieser jüngste Vorfall ist wichtig, weil es sich nicht um ein hypothetisches Risiko handelt. Der Richter verknüpfte die erfundenen Zitate und Zitierfehler in der Eingabe direkt mit den Merkmalen eines KI-Missbrauchs. Diese Formulierung dürfte in künftigen Auseinandersetzungen über Sanktionen, Offenlegung und berufliche Verantwortung zitiert werden.

Für das Rechtssystem wird die Lektion repetitiv, aber mit jeder neuen Erscheinung schärfer. KI kann Entwürfe liefern. Sie kann nicht allein dafür verantwortlich gemacht werden, sie zu zertifizieren. Jeder Anwalt, der generierten Text als fertiges Arbeitsergebnis behandelt, geht nicht nur ein technisches Risiko ein, sondern auch ein Risiko im Gerichtssaal.

Dieser Artikel basiert auf einer Berichterstattung von 404 Media. Den Originalartikel lesen.