Explainable AI im Legal-Bereich: Definition, Wert & Grenzen

Lange drehte sich die Debatte um KI in der juristischen Arbeit vor allem um eine Frage: Was kann KI leisten? Kann ein Modell einen Vertrag lesen, eine Klausel zusammenfassen, ein Risiko markieren, einen ersten Entwurf schreiben? Diese Frage ist heute nicht mehr rein theoretisch. KI kann viele dieser Aufgaben unterstützen — oft schnell und überzeugend.

Die Frage, die heute entscheidet, welchen Tools Legal Teams tatsächlich vertrauen, ist eine andere:

Kann man erklären, warum die KI ein bestimmtes Ergebnis erzeugt hat — und kann man für dieses Ergebnis einstehen?

Genau hier kommt Explainable AI ins Spiel. In einem Feld, in dem jede Bewertung begründbar sein muss — gegenüber Kolleg:innen, dem Business, einem Auditor oder einer Aufsichtsbehörde — reicht eine plausible Antwort nicht. Rechtsabteilungen, Compliance, Procurement und Sales müssen nachvollziehen können, wie ein Ergebnis zustande kam, bevor sie daraus eine Entscheidung ableiten.

Erklärbarkeit ist damit von einem technischen Nice-to-have zu einer Governance-Anforderung geworden. Doch wie dieser Artikel zeigt: Erklärbarkeit ist notwendig — und trotzdem nicht ausreichend. Für Vertragsarbeit in grossem Massstab brauchen Legal Teams etwas Spezifischeres: Qualität, die sich nicht nur erklären, sondern messen, steuern und gegen die eigenen Standards prüfen lässt.

Was ist Explainable AI (XAI)?

Explainable AI (XAI) bezeichnet KI-Systeme, deren Ergebnisse für Menschen nachvollziehbar sind — Systeme, die sichtbar machen, warum ein bestimmtes Ergebnis entstand, welche Eingaben entscheidend waren und wie das Modell zu seinem Schluss kam. Das Gegenteil ist eine „Black Box": ein System, das eine Antwort liefert, ohne Einblick in die dahinterliegende Logik.

In der Praxis umfasst Erklärbarkeit mehrere verwandte Konzepte, die oft synonym verwendet werden, aber Unterschiedliches meinen:

• Transparenz — wie offen das System mit Daten, Logik und Grenzen umgeht.
• Interpretierbarkeit — wie leicht ein Mensch den Zusammenhang zwischen Eingabe und Ergebnis nachvollziehen kann.
• Nachvollziehbarkeit — ob sich ein Ergebnis auf konkrete Quellen, Klauseln oder Regeln zurückführen lässt.

Ein Glass-Box-Ansatz zielt auf Ergebnisse, die ein Mensch prüfen und nachvollziehen kann. Für die juristische Arbeit — und für Explainable AI im Contract Review im Besonderen — heisst das: erkennen zu können, auf welche Vertragsstelle, Quelle oder Regel sich eine Bewertung stützt, statt auf eine überzeugend formulierte Antwort ohne Grundlage.

Warum Explainable AI für Inhouse-Legal-Teams zählt

Erklärbarkeit ist in der juristischen Arbeit keine abstrakte Tugend. Sie bildet unmittelbar ab, wofür Legal Teams geradestehen müssen.

Verantwortbarkeit. Legal muss eine Position begründen können — warum eine Klausel markiert, warum ein Risiko so eingestuft, warum eine Abweichung akzeptiert wurde. Ein Ergebnis, das sich nicht erklären lässt, lässt sich nicht verteidigen. Und eine Bewertung, die sich nicht verteidigen lässt, taugt nicht als Entscheidungsgrundlage.

Regulatorik. Erklärbarkeit wird zunehmend zur rechtlichen Pflicht, nicht nur zu guter Praxis. Der EU AI Act knüpft Transparenz- und Aufsichtspflichten an KI-Anwendungen mit erhöhtem Risiko. Das Datenschutzrecht begründet Ansprüche auf aussagekräftige Informationen über automatisierte Entscheidungen. Und in regulierten Branchen drängen Rahmenwerke wie DORA Unternehmen zu nachweisbarer Kontrolle über die Systeme, auf die sie sich stützen.

Nicht jeder Legal-AI-Anwendungsfall fällt in dieselbe regulatorische Kategorie. Aber die Richtung ist klar: Wo KI Entscheidungen unterstützt, die Risiko, Compliance oder geschäftliche Zusagen betreffen, gewinnen Transparenz, menschliche Aufsicht und nachweisbare Kontrolle an Gewicht.

Vertrauen im Business. Werden KI-Ergebnisse nicht nur von Jurist:innen genutzt, sondern auch von Procurement, Sales und anderen Fachbereichen, müssen diese Teams verstehen, warum das System zu einem Schluss kam, bevor sie eskalieren, unterschreiben oder widersprechen. Erst Erklärbarkeit macht ein KI-Ergebnis über die Rechtsabteilung hinaus nutzbar.

Explainable AI vs. Trustworthy AI: verwandt, aber nicht dasselbe

Zwei Begriffe treten oft gemeinsam auf — Explainable AI und Trustworthy AI — und werden leicht verwechselt. Sie sind verwandt, beantworten aber unterschiedliche Fragen.

Explainable AI dreht sich ums Verstehen: Kann ein Mensch sehen, warum das System diesen Output erzeugt hat? Es ist eine Frage der Transparenz.

Trustworthy AI ist breiter angelegt. Der Begriff beschreibt jene Eigenschaften, die ein System haben sollte, damit man verantwortungsvoll darauf vertrauen kann — typischerweise Transparenz, Fairness, Robustheit, Sicherheit, Verantwortbarkeit und menschliche Aufsicht. Erklärbarkeit ist ein Bestandteil von Vertrauenswürdigkeit, nicht ihr Synonym.

Für Legal Teams ist die Konsequenz entscheidend: Ein KI-System kann erklärbar sein, ohne vertrauenswürdig zu sein. Es kann seine Logik klar offenlegen und trotzdem inkonsistent, an den eigenen Standards vorbei oder bei den entscheidenden Anforderungen unzuverlässig arbeiten. Erklärbarkeit sagt, wie eine Antwort entstand. Vertrauenswürdigkeit fragt, ob man sich darauf verlassen kann. Keines von beiden sagt für sich, ob die Antwort deinem Vertragsstandard entspricht — und genau das ist die Frage, die Legal Teams beantwortet haben müssen.

Die Grenzen von Explainable AI

Hier liegt die Unterscheidung, die für die Vertragsarbeit am schwersten wiegt:

Erklärbar heisst nicht korrekt. Und überzeugend klingend heisst nicht konform mit deinem Standard.

Eine Erklärung kann vollkommen klar sein und trotzdem zum falschen Schluss für dein Unternehmen führen. Ein System kann transparent zeigen, dass es eine Bewertung auf eine bestimmte Klausel gestützt hat — und diese Klausel gegenüber deiner internen Risikoposition dennoch falsch einschätzen. Erklärbarkeit zeigt den Weg zur Antwort. Sie bestätigt nicht, dass die Antwort dem Standard entspricht, an dem du tatsächlich gemessen wirst.

Bei einem einzelnen Vertrag, den eine erfahrene Juristin prüft, ist diese Lücke beherrschbar — sie fängt es ab. Doch Inhouse-Legal-Arbeit dreht sich immer stärker um Skalierung: hunderte NDAs, Procurement-Verträge und Vendor-Agreements, geprüft über Teams hinweg, oft von Nicht-Jurist:innen. In diesem Massstab ist „das Ergebnis ist erklärbar" nicht dasselbe wie „das Ergebnis ist verlässlich, konsistent und gegen unser Playbook verteidigbar".

Das ist die Lücke zwischen Erklärung und Qualität — und genau dorthin müssen Legal Teams als Nächstes schauen.

Von Explainable zu Auditable: die vier Qualitätsstufen von Legal AI

Eine hilfreiche Einordnung zeigt, wo Erklärbarkeit in der Qualitätsreife von Legal AI steht.

Stufe 1 — Behauptete Qualität. Das System wird als „accurate", „trusted" oder „legal-grade" beschrieben, ohne belegbares System hinter dem Anspruch. Das ist die schwächste Form der Qualitätspositionierung.

Stufe 2 — Quellenbindung. Ergebnisse werden mit Quellen, Zitaten oder Vertragsstellen verknüpft. Hier steht der Grossteil von Explainable AI: Es verbessert die Nachvollziehbarkeit und reduziert frei formulierte Aussagen. Eine Grundlage — aber noch kein vollständiges Qualitätssystem.

Stufe 3 — Workflow-Kontrollen. Playbooks, Rollen, Freigaben, Audit Trails und menschliche Prüfung kommen hinzu. Die KI ist in einen Arbeitsprozess eingebettet, nicht als isolierter Chat im Einsatz.

Stufe 4 — Messbares KI-Qualitätssystem. Qualität lässt sich pro Anforderung, Playbook, Klauseltyp oder Vertragsstandard messen, steuern und verbessern — mit Quality Scores, Feedback Loops und Versionierung. Auf dieser Stufe wird Legal AI von assistiver Technologie zu auditierbarer juristischer Infrastruktur.

Für sich genommen erreicht Explainable AI typischerweise Stufe 2. Es macht die Logik sichtbar. Aber sichtbare Logik ist nicht dasselbe wie messbare, steuerbare Qualität. Um die eben beschriebene Lücke zu schliessen, müssen Legal Teams auf Stufe 4 arbeiten — wo die Frage nicht nur lautet „Können wir sehen, warum?", sondern „Wie zuverlässig entspricht das unserem Standard, und können wir es belegen?"

Was auditierbare Erklärbarkeit in der Vertragsarbeit bedeutet

Der Schritt von Erklärbarkeit zu Auditierbarkeit bedeutet, der Erklärbarkeit einen Standard zu geben, an dem sie sich messen lässt. In der Praxis ruht das auf sechs Eigenschaften: messbare Qualität, Steuerbarkeit, Nachvollziehbarkeit, Konsistenz, kontinuierliche Verbesserung und Prüfbarkeit im Audit.

Für die Vertragsarbeit heisst das konkret:

• Transparenz auf Anforderungsebene. Nicht nur „hier ist die Quelle", sondern eine Bewertung, die an einen konkreten Klauseltyp, eine Playbook-Regel oder eine Vertragsanforderung gebunden ist — damit sichtbar wird, wie die KI bei genau dem abschneidet, worauf es ankommt, und nicht nur im Durchschnitt.
• Ein definierter Standard, an dem gemessen wird. Ein Contract Playbook übersetzt deine juristischen Standards in maschinenlesbare Prüflogik. Das gibt jeder Erklärung eine Messlatte: Erfüllt dieses Ergebnis die Regel, oder weicht es ab?
• Messbare, verbesserbare Qualität. Quality Scores, Feedback Loops und Versionierung machen sichtbar, wie zuverlässig das System deine Standards über die Zeit anwendet — und lassen dich gezielt nachbessern, statt auf das nächste Modell zu hoffen.

Das ist der Unterschied zwischen einer KI, die sich selbst erklären kann, und einer KI, deren Qualität du tatsächlich steuern kannst. Es ist derselbe Unterschied, den wir in unserem Beitrag zu auditierbarer Legal AI vertiefen — und in unserem messbaren KI-Qualitätssystem in die Praxis übersetzen.

Legartis' Position: Erklärbarkeit, die du verantworten kannst

Legartis ist ein Legal AI Workspace, der juristische Standards in messbare, steuerbare und auditierbare Vertragsarbeit übersetzt. Das Unterscheidungsmerkmal ist nicht ein grösseres Foundation Model — es ist die Qualitäts- und Kontrollschicht, die auf dem Modell aufbaut.

Das ist eine bewusste Haltung. Foundation Models machen juristische Arbeit zugänglicher; sie erzeugen flüssige, plausible Ergebnisse in grossem Massstab. Was sie allein nicht leisten: dafür einstehen, dass ein Ergebnis den Vertragsstandards eines konkreten Unternehmens entspricht — konsistent und so, dass Legal es belegen kann.

Foundation Models machen juristische Arbeit zugänglicher. Legartis macht sie verlässlich, steuerbar und skalierbar im Unternehmen.

In diesem Modell ist Erklärbarkeit der Ausgangspunkt, nicht das Ziel. Jede Bewertung lässt sich auf eine Anforderung und eine Regel zurückführen — und, entscheidend, gegen dein Playbook messen, bewerten und über die Zeit verbessern. Erklärbarkeit zeigt die Logik; Auditierbarkeit belegt die Qualität.

Fazit: Erklärbarkeit ist der Anfang. Verantwortbarkeit ist der Test.

Explainable AI ist ein echter Fortschritt. In einem Feld, das von Verantwortbarkeit lebt, ist die Fähigkeit, zu sehen, warum ein System zu einem Ergebnis kam, nicht optional — und die Regulatorik macht das Jahr für Jahr deutlicher.

Aber für Legal Teams, die skalieren, ist Erklärung allein nicht das Ziel. Die eigentliche Frage ist schärfer:

Nicht „welche Legal AI ist am leistungsfähigsten?" — sondern „welche Legal AI können wir verantworten?"

Das bedeutet, mehr zu verlangen als eine sichtbare Argumentationskette. Es bedeutet zu fragen, ob Qualität pro Anforderung messbar ist, ob sich die KI gegen die eigenen Standards prüfen lässt, ob es Playbooks und Feedback Loops gibt und ob Ergebnisse konsistent und versioniert sind.

Erklärbarkeit schafft Transparenz. Auditierbarkeit schafft Kontrolle.

→ Legal AI Guide 2026 herunterladen und sehen, wie auditierbare Legal AI in der Praxis funktioniert.