Zivilprozess in Mississippi platzt, weil beide Anwälte halluzinierende KI benutzten

Ein Zivilprozess um nicht bezahlte Honorare endete im US-Bundesstaat Mississippi mit Geldstrafen für die vier beteiligten Anwälte. Zwischen 1000 und 3500 Dollar müssen die vier Juristen jeweils zahlen, mindestens einer von ihnen erhält zudem ein zweijähriges Auftrittsverbot für den betreffenden Bezirk. Sie hatten zur Erstellung ihrer Dokumente nicht nur auf KI zurückgegriffen, sondern die ausgespuckten Ergebnisse auch nicht ordentlich überprüft.

Anwälte in den USA nutzten ungeprüft KI-Texte

Erfundene Präzedenzfälle fielen der Richterin auf

Die Richterin Sharion Aycock stellte in den Dokumenten Mängel fest, die sie misstrauisch machten. Beide Parteien erwähnten Präzedenzfälle, die es in der Realität gar nicht gab. Die Fälle waren von Chatbots herbeifantasiert, um die jeweils vertretene Position zu untermauern – und wurden vor Gericht zur Lüge. Sich blind auf die Ergebnisse eines Algorithmus’ zu verlassen, einfach nur, um Zeit sparen, kann, wie in diesem Fall, fatale Folgen haben: Das Renommee der Anwälte hat neben den Strafzahlungen sicherlich erheblich gelitten. Auf einen Entzug der Zulassung verzichtete die Richterin immerhin. Wahrscheinlich ist das auch nicht nötig, da die Blamage den Juristen sicher eine Lehre ist.

Faktisch sind zwei Chatbots gegeneinander angetreten

Der Prozess fand vor dem Bundesgericht Northern District statt. Es handelte sich um einen Vertragsstreit mit Beteiligung der Stadt Aberdeen. Die Richterin bestätigte, dass hier faktisch zwei Chatbots statt der menschlichen Anwälte gegeneinander angetreten sind, was aufgrund der Halluzinationen ins Fantastische abdriftete. Aycock äußerte sich dazu: »In einer Ära der grassierenden, ungeprüften KI-Nutzung in der Rechtsbranche ist dieser Fall ein Paradebeispiel für das Risiko, das damit einhergeht, die Ergebnisse ungesehen durchzuwinken.«

Dies ist nicht der erste Fall dieser Art in den USA, doch meistens sind es die Kläger, die KI benutzen. Von ChatGPT und Co. generierte Klagen ersetzen immer häufiger den teuren Anwalt – mehr schlecht als recht. Anwälte sind jedoch im Gegensatz zu Laien auf juristische Sorgfalt verpflichtet, sodass zumindest eine fachliche Endkontrolle der Schriftstücke dringend geboten ist. Sonst könnte man den Anwalt vor Gericht gleich wegrationalisieren.