Wo KI in der Rechtsarbeit scheitert — und wie wir es auffangen

Eine Kanzlei, die KI für Rechtsarbeit einsetzt und Ihnen sagt, das funktioniere einfach, beschreibt ihr Marketing, nicht ihren Prozess. Die Fehlerarten dieser Systeme sind bekannt, wiederkehrend und — das ist der entscheidende Punkt — kontrollierbar. Der Unterschied zwischen seriösem und fahrlässigem Einsatz liegt nicht im Modell. Er liegt in dem, was um das Modell herum gebaut ist. Hier sind die vier Fehler, mit denen wir planen, und wie wir sie auffangen.

Fehlender Kontext

Ein System liest, was man ihm gibt. Es kennt das Telefonat der letzten Woche nicht, nicht die Geschichte der Geschäftsbeziehung und nicht den Grund, weshalb eine Klausel seltsam formuliert ist — hart erkämpfte Konzession oder redaktioneller Unfall. Das typische Symptom ist ein Befund, der textlich richtig und kommerziell falsch ist: eine als unüblich markierte Klausel, die in diesem Geschäft genau das war, was die Parteien wollten.

Die Kontrolle dagegen ist keine technische. Eine Anwältin, die das Mandat kennt, fasst den Auftrag, bevor die Analyse beginnt, und liest das Ergebnis gegen das, was das Geschäft erreichen soll. Die Aufnahme des kommerziellen Kontexts gehört an den Anfang des Prozesses, nicht an sein Ende.

Plausibel, aber falsch

Die gefährlichste Fehlerart: eine flüssige, kohärente Lesart, die zu den Worten passt, aber nicht zum Recht — oder die übersieht, wie zwei Klauseln zusammenwirken. Die falsche Antwort kommt in derselben souveränen Prosa daher wie die richtige; am Ton ist nichts zu erkennen.

Das klassische Beispiel ist die isoliert gelesene Klausel: ein Kündigungsrecht, das weit wirkt, bis eine Definition vierzig Seiten vorher es auf fast nichts verengt, oder eine Haftungsobergrenze, die solide scheint, bis eine Freistellung an anderer Stelle ausserhalb von ihr steht. Jede Lesart ist für sich vertretbar; zusammen sind sie falsch.

Zwei Kontrollen antworten darauf. Erstens die Quellenprüfung: Jeder Befund zitiert die genaue Passage, auf der er beruht — überprüfen heisst also, die Quelle zu öffnen, nicht, die Analyse nachzubauen. Zweitens strukturierte Checklisten je Dokument- und Mandatstyp — welche Klauseln zusammen gelesen werden müssen, welche Fragen bei jedem Vertrag dieser Art zu beantworten sind —, damit die Prüfung nicht davon abhängt, was an diesem Tag zufällig ins Auge fällt.

Selbstsichere Zusammenfassungen und veraltete Quellen

Zusammenfassungen verdichten; schlechte Zusammenfassungen verdichten die Vorbehalte weg, die das Original sorgfältig bewahrt hat. Aus «könnte haften» wird «haftet». Das Symptom, auf das Sie achten sollten: eine Zusammenfassung, die entschiedener klingt als das Dokument, das sie zusammenfasst. Wenn viele Seiten sorgfältig qualifizierter Redaktion eine Seite fester Aussagen ergeben, ist irgendwo Präzision verloren gegangen — und in der Rechtsarbeit sind die Vorbehalte oft die Substanz. Und das Recht bewegt sich: Was ein System aus seinem Training mitbringt, altert vom Tag des Lernens an.

Wir behandeln Zusammenfassungen deshalb als Navigation, nicht als Autorität — entschieden wird am zugrunde liegenden Text. Und jede Rechtsposition wird gegen aktuelle Quellen geprüft, bevor sich jemand auf sie stützt.

Die Aufgabe der Anwältin ist der Widerspruch

Die bisherigen Kontrollen sind prozessual; die letzte ist persönlich. Eine namentlich verantwortliche Anwältin prüft das Ergebnis mit dem ausdrücklichen Auftrag, es anzugreifen: das Überraschende hinterfragen, das Tragende verifizieren, das Ganze verantworten. Das ist eine andere Tätigkeit als Überfliegen und Abzeichnen — sie setzt eine Prüferin voraus, die Zeit und Stellung hat, «das ist falsch» zu sagen, und einen Prozess, in dem dieser Satz erwartet wird statt die Ausnahme zu sein.

Hier zeigt sich auch die Ökonomie des Ganzen. Die Zeit, die das System beim ersten Lesen spart, wird nicht als Marge einbehalten, sondern genau in diesen Widerspruch reinvestiert. Eine Kanzlei, die das Lesen automatisiert und die Prüfung ausdünnt, hat ihren Prozess nicht modernisiert — sie hat den Teil entfernt, der Sie geschützt hat.

Unsicherheit wird eskaliert, nicht geglättet

Hinter allen vier Fehlerarten steckt dieselbe Neigung: Systeme glätten Unsicherheit. Unsere sind so gebaut, dass sie sie ausweisen — «diese Klausel ist mehrdeutig», «dieses Dokument war teilweise unlesbar», «diese zwei Quellen widersprechen sich» — und an die Anwältin weiterreichen, statt sie stillschweigend aufzulösen. Ausgewiesene Unsicherheit ist Information; versteckte Unsicherheit ist ein Risiko.

Wenn ein Anbieter Ihnen sagt, seine KI habe keine Fehlerarten, dann ist genau das die Fehlerart. Wir zeigen Ihnen lieber die Kontrollen. Wenn Sie sehen möchten, wie sie in einem konkreten Mandat aussehen, sprechen Sie mit uns.