KI-Halluschinationen in Kanzleien: Warum Anwälte jetzt aktiv werden müssen
In der anwaltlichen Praxis gilt Künstliche Intelligenz zunehmend als unverzichtbares Werkzeug — doch ein Phänomen gefährdet die Seriosität des Berufsstands: KI-Halluzinationen. Das sind erfundene Zitate, fiktive Urteile oder völlig aus der Luft gegriffene Rechtsquellen, die generative Modelle als faktisch korrekt ausgeben.
Die drei Fallbeispiele
Fall 1: Eine KI referenzierte in einer Stellungnahme ein fiktives Urteil des Bundesgerichtshofs, das so nicht existierte. Der Mandatsschaden war massiv.
Fall 2: Ein LLM erfand einen Paragrafen, der weder im BGB noch in einem anderen Gesetz existiert — mit dem Ergebnis, dass die Gegenseite den Fehler innerhalb von Stunden aufdeckte.
Fall 3: Eine KI produzierte scheinbar plausible, aber erfundene Zitate aus Fachliteratur, was einen Prozess fast zum Scheitern brachte.
Wie Kanzleien sich absichern
Erstens: Jede KI-generierte Quelle verifizieren. Originalnachweis bei Urteilen, Paragrafenprüfungen auf offiziellen Plattformen wie juris oder BeckOnline, und Literaturrecherchen über etablierte Datenbanken.
Zweitens: Klare Nutzungskriterien definieren. Nicht jeder Auftrag eignet sich für KI-Unterstützung. Bei komplexen Rechtsfragen, hohen Streitwerten oder reputationsrelevanten Mandaten sollte menschliche Expertise Priorität haben.
Drittens: Schulungen im Team durchführen. Jeder Mitarbeiter sollte verstehen, was Halluzinationen sind, wie man sie erkennt und welche Risikosituationen besonders gefährlich sind.
Die Rolle des Betriebsrats
Betriebsräte in Kanzleien und Unternehmen haben eine besondere Mitbestimmungsrolle. Nach § 87 Abs. 1 Nr. 1 BetrVG können sie bei Regeln zur Arbeitsorganisation mitbestimmen — und das schließt nun auch den Einsatz von KI-Tools ein.
Für weitere Einblicke empfehlen wir unseren Artikel zu EU KI-Verordnung (AI Act), KI trifft Arbeitsrecht und Reasoning Models.
Fazit
KI-Halluzinationen sind kein theoretisches Risiko mehr — sie treten täglich in der anwaltlichen Praxis auf. Der Schutz von Mandanten und Kanzleien erfordert eine Kombination aus technischer Vorsicht, klaren Prozessen und rechtlichem Bewusstsein.
