Der Bundesgerichtshof hat 2011 festgelegt, wann sich ein Geschäftsleiter darauf berufen darf, dass er fremdem Rat vertraut hat. Der Rat muss von einem „unabhängigen, für die zu klärende Frage fachlich qualifizierten Berufsträger” stammen, dem die Verhältnisse der Gesellschaft umfassend dargestellt wurden. Und der Geschäftsleiter muss den Rat einer „sorgfältigen Plausibilitätskontrolle” unterziehen. So steht es in Leitsatz 2 des ISION-Urteils vom 20. September 2011 (II ZR 234/09).
Deine Vertragsprüf-KI erfüllt davon nichts. Die rot markierte Klausel, die du trotzdem unterschreibst, ist ab diesem Moment im System festgehalten. Mit Datum. Mit Namen.
Das ist die Asymmetrie, um die es in diesem Text geht. Der grüne Bericht entlastet dich kaum, weil ein Modell den Maßstab für fremden Rat nicht erfüllt. Der ignorierte rote Flag belastet dich, weil er ein datierter Nachweis darüber ist, was im Unternehmen bekannt war. Vor der Einführung eines solchen Systems ändert sich damit nicht die Frage nach der Erkennungsrate, sondern die Frage, wer einen Fund schließen darf.
Wir haben den Use Case zur KI-Vertragsanalyse ausgearbeitet. Er dreht sich, wie fast jede Diskussion zu diesen Systemen, um Erkennungsquoten und Lizenzkosten. Was mit einem Fund passiert, den jemand wegklickt, steht selten auf der Liste. Vorab, weil es sonst untergeht: Das hier ist keine Rechtsberatung, die Bewertung deines konkreten Falls macht deine Anwältin.
Der Prüfbericht ist ein Beweismittel, das nur in eine Richtung zeigt
Der BGH hat 2011 nicht über KI entschieden. Das Urteil ist elf Jahre älter als der erste öffentliche ChatGPT-Zugang, und uns ist keine Entscheidung bekannt, die den ISION-Maßstab ausdrücklich auf ein Sprachmodell anwendet. Der Schluss, dass eine Software kein „unabhängiger, fachlich qualifizierter Berufsträger” im Sinne dieses Leitsatzes ist, ist deshalb unsere Einordnung, nicht die des Gerichts.
Bestreiten lässt sie sich trotzdem schwer. Berufsträger ist ein Personenbegriff. Er meint jemanden mit Zulassung, mit Berufspflichten, mit eigener Haftung und mit einer Versicherung dahinter. Ein Vertragsprüf-Tool hat davon nichts. Es hat Nutzungsbedingungen, in denen der Anbieter jede Verantwortung für das Ergebnis ausschließt.
In der anderen Richtung funktioniert der Bericht dagegen einwandfrei. Ein markierter Fund ist ein Zeitstempel plus ein Sachverhalt plus die Person, die ihn gesehen hat. Genau das ist ein dokumentierter Wissensstand. Er lässt sich später schwerer aus der Welt schaffen als die Frage, ob jemand sorgfältig gearbeitet hat.
Unser Use Case erzählt zum Einstieg von einem Geschäftsführer, der einen 38-seitigen Softwarevertrag nach zwei Seiten unterschreibt und neun Monate später eine automatische Verlängerung über 84.000 Euro im Haus hat. Das ist die harmlose Variante. Die unangenehme ist die, in der das System die Klausel gefunden und markiert hatte und er den Vertrag trotzdem unterschrieb.
Für bekannte Risiken, die niemand abstellt, haftet am Ende eine Person
Dass deutsche Gerichte in dieser Richtung denken, lässt sich an einem Fall ganz ohne KI zeigen. Das Landgericht München I verurteilte am 10. Dezember 2013 (Az. 5 HK O 1387/10) den früheren Siemens-Finanzvorstand Heinz-Joachim Neubürger in erster Instanz zu 15 Millionen Euro Schadensersatz, weil er trotz bekannter Korruptionsrisiken im internationalen Geschäft kein funktionierendes Compliance-System eingerichtet hatte.
Der Fall betrifft ein Vorstandsmitglied eines Weltkonzerns und ein fehlendes Kontrollsystem, nicht eine einzelne Klausel in einem Mittelstandsvertrag. Die Übertragung ist also eine Analogie und kein Präzedenzfall. Was sie trägt, ist der Mechanismus: Die Haftung knüpfte nicht daran an, dass Neubürger etwas nicht wusste, sondern daran, dass er bekannte Risiken nicht abgestellt hat.
Ein KI-Prüfbericht produziert genau diese Sorte Wissen. Er produziert sie in Serie, maschinenlesbar, mit Datum versehen.
Dokumentation entlastet auch, nur nicht so stark, wie du hoffst
Das stärkste Gegenargument liegt auf der Hand: Dokumentation schneidet in beide Richtungen. Die Kanzlei Rose & Partner stellt die Beweislast bei Schadensersatzansprüchen gegen GmbH-Geschäftsführer so dar, dass die Gesellschaft den Schaden vortragen muss, während der Geschäftsführer beweisen muss, sorgfältig gehandelt zu haben, und stützt sich auf einen BGH-Beschluss vom 22. Juni 2021 (II ZR 140/20). Der Maßstab dafür steht in § 43 Abs. 1 GmbHG: die Sorgfalt eines ordentlichen Geschäftsmannes.
Wenn du also beweisen musst, dass du geprüft hast, ist ein dokumentierter Prüfvorgang zunächst einmal Material für dich. Dazu kommt: Nichtwissen war noch nie eine Verteidigung. Wer 38 Seiten ungelesen unterschreibt, verletzt seine Sorgfaltspflicht auch ganz ohne jedes Werkzeug.
Beides stimmt. Und beides ändert die Asymmetrie nicht. Der Ausweg, den die ISION-Linie eröffnet, hängt am Berufsträger. Ein grüner Bericht liefert deshalb nicht die Entlastungsqualität einer anwaltlichen Prüfung, er liefert den Nachweis, dass ein Werkzeug gelaufen ist. Der rote Flag dagegen wirkt sofort und ohne Zusatzbedingung, weil er nur eines belegen muss, nämlich Kenntnis.
Das Werkzeug, an dessen Bericht du gemessen wirst, irrt selbst
Wie gut arbeitet spezialisierte Rechts-KI, wenn jemand unabhängig nachmisst? Das Team um Varun Magesh vom Stanford RegLab und Stanford HAI hat die großen juristischen Rechercheassistenten untersucht („Hallucination-Free? Assessing the Reliability of Leading AI Legal Research Tools”, arXiv-Preprint vom 30. Mai 2024, erschienen im Journal of Empirical Legal Studies). Lexis+ AI beantwortete 65 Prozent der Anfragen korrekt und halluzinierte bei 17 Prozent. Westlaw AI-Assisted Research kam auf 42 Prozent korrekte Antworten bei 33 Prozent Halluzinationen. Das allgemeine Modell GPT-4 lief als Vergleichspunkt mit und halluzinierte bei 43 Prozent der Anfragen. Die spezialisierten Werkzeuge sind also besser als das allgemeine Modell, nur eben nicht in der Größenordnung, die ihre Werbung nahelegt.
Wichtig für die Reichweite: Das sind juristische Rechercheassistenten, keine Vertragsprüfsysteme. Die Zahlen gelten nicht für Klauselerkennung. Sie sind der bestbelegte Messwert dafür, wie weit Werbeversprechen und Messung bei Rechts-KI auseinanderliegen können, und sie stammen von Produkten zweier etablierter Rechtsverlage.
Für die Vertragsprüfung selbst gibt es einen eigenen Maßstab. Das Team um Dan Hendrycks hat für NeurIPS 2021 den Datensatz CUAD gebaut: 510 Verträge über 25 Vertragstypen mit 13.101 annotierten Klauseln in 41 Kategorien. Das beste damals getestete Modell erreichte einen AUPR von 47,8 Prozent. Bei 80 Prozent Recall lag die Präzision bei 44,0 Prozent, bei 90 Prozent Recall nur noch bei 17,8 Prozent. Übersetzt: Wer das System so einstellt, dass es fast nichts übersieht, bekommt einen Bericht, in dem gut vier von fünf Markierungen Fehlalarm sind.
Das ist der Stand eines Benchmarks von 2021 mit den damals geprüften Modellen. Heutige Systeme dürften besser abschneiden, eine unabhängige Messung an deutschen Verträgen kennen wir allerdings nicht. Die Zahlen taugen deshalb nicht als Prognose, sondern als Korrektiv gegenüber den 85 bis 95 Prozent Erkennungsrate, die auch in unserem eigenen Use Case stehen. Diese Spanne ist eine Herstellerangabe für gut gescannte Dokumente, keine unabhängige Messung. Warum ein Modell überhaupt selbstsicher danebenliegt, haben wir in KI-Halluzinationen vermeiden auseinandergenommen.
Was so ein System kostet und welche Werkzeuge dafür in Frage kommen, haben wir im Use Case zur Vertragsanalyse aufgeschrieben. Dieser Text handelt von der Frage davor.
Ein Teil deiner roten Flags kommt aus einer fremden Rechtsordnung
Schau dir an, welche Klauseltypen die großen Vertragsplattformen als Standard mitbringen. Ironclad behandelt die Indemnification-Klausel in der eigenen Wissensdatenbank als Standardbestandteil kommerzieller Verträge, unter dem Titel „The Indemnification Clause in Commercial Contracts”. Das ist ein Kernbegriff des US-amerikanischen Vertragsrechts, keine Kategorie der deutschen AGB-Kontrolle nach den §§ 305 bis 310 BGB.
Dass daraus eine Kalibrierung auf US-Vertragspraxis folgt, ist unsere Einordnung anhand dieser dokumentierten Standardkategorie und keine Aussage des Anbieters. Praktisch heißt es: Dein Bericht kann sauber sein und trotzdem wenig über die deutsche Rechtslage sagen. Wenn wir in bezahlten Kundenprojekten auf solche Systeme schauen, ist die erste Frage deshalb nie die Erkennungsquote, sondern die, an welchem Recht das mitgelieferte Regelwerk hängt.
Umgekehrt ist nicht jeder rote Flag ein echtes Risiko. Seit dem 1. März 2022 ist eine Klausel zur stillschweigenden Vertragsverlängerung in Verbraucherverträgen laut Pressemitteilung des Bundesjustizministeriums vom 28. Februar 2022 nur wirksam, wenn die Verlängerung auf unbestimmte Zeit läuft und jederzeit mit höchstens einem Monat Frist gekündigt werden kann. Auch die Kündigungsfrist zum Ende der Erstlaufzeit darf höchstens einen Monat betragen. Für Altverträge von vor dem 1. März 2022 gilt weiterhin die alte Fassung.
Das betrifft unmittelbar nur Verbraucherverträge. Für deinen B2B-Vertrag gilt das nicht eins zu eins. Der Punkt für dich bleibt derselbe: Ein Teil dessen, was rot leuchtet, ist Rauschen, und Rauschen ist der beste Grund, Funde routinemäßig wegzuklicken. Genau diese Routine willst du nicht haben.
Sobald der Agent selbst verhandelt, wächst der Wissensstand schneller als die Prüfkapazität
Luminance bewirbt in einer Mitteilung vom 11. März 2026 eine Autonomous Negotiation, die das Unternehmen als zu 100 Prozent KI-gestützte Verhandlung von Agent zu Agent beschreibt, ausdrücklich ohne menschlichen Eingriff („zero human intervention required”), und öffnet das Werkzeug über die Rechtsabteilung hinaus für das gesamte Unternehmen.
Interessant ist die Folge. Die eigene Plausibilitätskontrolle, die der BGH verlangt, ist eine menschliche Handlung mit einer Dauer. Ein Agent, der Standardverträge im Minutentakt durchwinkt, lässt für diese Handlung keinen Platz mehr, während der Bestand an dokumentierten Funden im gleichen Takt weiterwächst. Der dokumentierte Wissensstand des Unternehmens skaliert also mit der Maschine, die Prüfkapazität skaliert mit den Personen. Warum die Zwischenstation Mensch keine Bremse, sondern die Sollbruchstelle des Systems ist, haben wir zu vollautonomen Agenten-Pipelines beschrieben.
Für D&O-Versicherungen gilt bis auf Weiteres ein Konjunktiv. Ob ein dokumentierter, ignorierter Warnhinweis dem Versicherer beim Einwand der wissentlichen Pflichtverletzung hilft, konnten wir an keinem veröffentlichten Fall belegen. Das ist genau die Frage, die dein Makler beantworten soll, bevor das System läuft, und nicht danach.
Klär den roten Flag, bevor der erste echte Vertrag durchläuft
Das ist keine Warnung vor dem Werkzeug. Vertragsprüfung per KI findet Stellen, die ein Mensch unter Zeitdruck überliest, und wofür sich der Einsatz in Kanzleien lohnt, haben wir im Überblick zu KI für Rechtsanwälte beschrieben. Was hier fehlt, ist eine Betriebsregel aus vier Punkten, geklärt vor dem Produktivstart.
Erstens: Wer einen Fund schließt, hinterlässt Namen, Datum und eine Begründung. Ein Satz reicht, warum die Klausel akzeptabel ist. Ohne diesen Satz steht im System nur eines: dass jemand die Stelle gesehen und den Vertrag trotzdem unterschrieben hat.
Zweitens: Kalibriere das Regelwerk auf deutsches Recht. Die mitgelieferte Klauselbibliothek ist ein Startpunkt aus einer anderen Rechtsordnung. Eine Anwältin, die einmal die für euch relevanten Klauseltypen ergänzt, ist der billigste Teil des Projekts.
Drittens: Klär vor dem ersten echten Vertrag, wie lange das Audit-Log aufbewahrt wird und wer es exportieren kann. Wir haben in der öffentlichen Produktdokumentation von Ironclad keinen ausdrücklich benannten Ereignistyp für das Überstimmen eines Risiko-Flags gefunden. Das heißt nicht, dass es ihn nicht gibt, es heißt, dass du beim Anbieter danach fragen musst.
Viertens: Definiere eine Schwelle, ab der ein Mensch mit Zulassung liest. Vertragswert, Laufzeit oder Kündigungsmechanik, das Kriterium ist eure Entscheidung. Wichtig ist, dass es vorher feststeht und nicht im Einzelfall ausgehandelt wird.
Zwischen einem Übersehen und einem Ignorieren liegen ein Klick und ein Zeitstempel. Leg fest, wer sie setzen darf, bevor das System den ersten Vertrag sieht.