Kurz gesagt: Viele Legal-AI-Produkte schicken Ihre Frage in einer Prompt-Vorlage an ein Allzweckmodell, und an der Oberfläche können Sie nicht erkennen, welche Art von Produkt Sie vor sich haben. Die Arbeit, die ein System vor diesem Modellaufruf leistet (Absicht, Rechtsordnung, Sachverhalt als Daten, Umfang), prägt die Antwort. Vier Tests in der Demo, etwa zehn Minuten, zeigen Ihnen, was Sie kaufen.
Die wichtigsten Fakten
- Sprachmodelle nutzen lange Eingaben ungleichmäßig: Die Genauigkeit ist am höchsten, wenn die relevante Information am Anfang oder am Ende des Kontexts steht, und sinkt, wenn sie in der Mitte steht (Liu et al., Lost in the Middle, TACL Bd. 12, 2024).
- Alle 18 Modelle in Chromas Context-Rot-Studie wurden mit wachsender Eingabelänge weniger zuverlässig, selbst bei bewusst einfachen Aufgaben (technischer Bericht von Chroma, 14. Juli 2025).
- Drei führende juristische Recherchetools halluzinierten in einer präregistrierten Stanford-Studie jeweils bei 17 % bis 33 % der Testanfragen (Magesh et al., Journal of Empirical Legal Studies, 2025).
- In unserem Durchlauf im Juni 2026 zitierten oder wendeten 24 % von 3.000 bewerteten Antworten aus 10 Frontier-Modellen Recht an, das nicht besagte, was das Modell behauptete (HAQQ-Benchmark, 5. Juni 2026).
- Die Datenbank von Damien Charlotin verzeichnete mit Stand 19. Oktober 2026 insgesamt 2.202 Gerichts- und Schiedsentscheidungen, in denen KI-erfundene Zitate oder Inhalte eine Rolle spielten.
Offenlegung: HAQQ verkauft Legal AI auf Basis einer eigenen Engine (Justinian) und hat den oben genannten Benchmark vom Juni 2026 durchgeführt. Die vier Tests am Ende funktionieren bei uns genauso wie bei allen anderen.
Jeder Anwalt, der Legal AI evaluiert, stellt irgendwann dieselbe Frage, meist etwa acht Minuten nach Beginn der Demo: Worin unterscheidet sich das davon, ChatGPT zu nutzen?
Anbieter antworten meist mit Trainingsdaten, einem proprietären Korpus oder einem Fine-Tuning. Diese Aussagen sind schwer zu überprüfen und liegen oft abseits der Stelle, an der der Unterschied entsteht. Unsere Antwort ist eine architektonische, und sie läuft darauf hinaus, wo das Denken stattfindet.
Ist die meiste Legal AI nur eine Hülle um ChatGPT?
Ein großer Teil der Legal-AI-Produkte funktioniert so: Sie tippen eine Frage ein. Das Produkt verpackt sie in eine Prompt-Vorlage (Anweisungen, sich wie ein hilfsbereiter juristischer Assistent zu verhalten, vielleicht ein paar Beispiele) und leitet sie an ein Allzweckmodell weiter. Das Modell antwortet, und das Produkt formatiert die Antwort.
Das kann nützlich sein. Es bedeutet aber auch, dass die Qualität des Produkts im Wesentlichen die Qualität des Modells ist, und die Gegenseite kann dasselbe Modell mit einem Verbraucher-Abo kaufen.
Für Käufer ist das Schwierige, dass man es an der Oberfläche nicht erkennt. Eine Hülle und eine eigens entwickelte Engine zeigen beide ein Textfeld, eine gestreamte Antwort und ein paar Quellenangaben darunter. Der Unterschied liegt vorgelagert und unsichtbar, weshalb Anbieter selten dazu befragt werden.
Was sollte passieren, bevor das Modell aufgerufen wird?
Wenn eine Frage bei HAQQ eingeht, durchläuft sie zuerst einen Schritt, den wir selbst verantworten. Seine Aufgabe ist es, herauszufinden, worum es bei der Anfrage geht, und alles Weitere entsprechend zu konfigurieren.
Dieser Schritt klärt, was ein kompetenter Associate vor Arbeitsbeginn feststellen würde, und hält das Ergebnis als strukturierte Daten fest:
- Die Frage hinter den Worten. Was jemand um 23 Uhr zwischen zwei Telefonaten eintippt, präzise und vollständig neu formuliert. Das läuft nativ auf Arabisch und Französisch ebenso wie auf Englisch, ohne nachträglich angehängten Übersetzungsschritt.
- Die Art der juristischen Arbeit. Entwurf, Recherche, Prüfung, Vergleich oder eine Verfahrensfrage. Jede verlangt eine andere Form der Antwort, und das vorab zu entscheiden ist besser, als darauf zu hoffen, dass ein allgemeines Modell es errät.
- Die Rechtsordnung, und getrennt davon die Sprache, in der das anwendbare Recht verfasst ist. Beides weicht oft voneinander ab, und es als eines zu behandeln ist eine unauffällige, häufige Fehlerquelle.
- Der Sachverhalt, als Objekte. Parteien, Daten, Pflichten, Beträge, anwendbares Recht und Dokumenttyp, aus dem Fließtext gezogen, bevor etwas Kostspieliges ihn liest.
- Was die Frage braucht. Welche spezialisierten Fähigkeiten geladen werden, wie viel Begründungstiefe sie rechtfertigt und ob sie überhaupt im Umfang liegt.
Das Allzweckmodell läuft erst nach alldem, und es startet vorbereitet: die relevanten Fähigkeiten geladen, der Sachverhalt extrahiert, die Rechtsordnung bestimmt und der Umfang festgelegt.
Das Modell läuft zuletzt, auf Arbeit, die bereits sortiert ist.
Wie heißt diese Schicht?
Bei HAQQ ist es Justinian®, unsere proprietäre Reasoning- und Orchestrierungs-Engine. Sie sitzt zwischen dem Nutzer, den Daten der Organisation und den zugrunde liegenden KI-Modellen und wendet Kontext, Rechtsordnung, Quellenabruf, Berechtigungen, Kontrollen und Modellauswahl an, bevor eine Antwort entsteht.
Die Kurzfassung: Das Modell ist die Intelligenz. Justinian® ist das System, das entscheidet, wie diese Intelligenz eingesetzt wird.
Jedes dieser sechs Wörter beantwortet eine Frage, die ein aufsichtführender Partner stellen würde, bevor jemand mit der Arbeit beginnt:
- Kontext. Was weiß die Kanzlei bereits über diesen Mandanten, dieses Mandat und diese Art von Dokument?
- Rechtsordnung. Welches Recht gilt, und in welcher Sprache ist es verfasst?
- Quellenabruf. Auf welchen Quellen soll die Antwort aufbauen?
- Berechtigungen. Wer fragt, und was darf diese Person sehen?
- Kontrollen. Welche Regeln wendet die Kanzlei auf diese Art von Arbeit an?
- Modellauswahl. Welches Modell passt zu dieser Aufgabe?
Die wichtigste KI-Entscheidung ist womöglich das, was geschieht, bevor das Modell aufgerufen wird. Diese sechs Punkte sind diese Entscheidung, bei jeder Anfrage neu getroffen.
Warum führt das zu besseren Antworten?
Zwei Mechanismen, und der zweite hat uns mehr überrascht.
Aufmerksamkeit ist ein Budget
Das Kontextfenster eines Modells ist begrenzt, und alles darin konkurriert um Aufmerksamkeit. Die oben genannte Forschung zeigt, was passiert, wenn der Kontext wächst: Das Auffinden von Informationen in der Mitte langer Eingaben wird schlechter (Liu et al.), und die Zuverlässigkeit sinkt mit der Länge selbst bei einfachen Aufgaben (Chroma). Wer jede Fähigkeit eines Systems in jede Anfrage lädt, verbraucht dieses Budget, bevor das Dokument des Anwalts überhaupt ankommt. Wer nur die relevanten lädt, lässt Platz für den Vertrag, das Gesetz und den Sachverhalt.
Strukturierte Fakten ersparen dem Modell die Analysearbeit
Das ist der größere Effekt. Bekommt ein Modell einen Absatz Fließtext, verwendet es einen Teil seines Aufwands darauf, herauszufinden, was der Absatz enthält. Bekommt es strukturierte Fakten (diese Parteien, dieses anwendbare Recht, diese Pflicht, dieses Datum), kann es diesen Aufwand auf die Rechtsfrage verwenden.
Auf diesen Effekt ist unser Design ausgerichtet: dasselbe Allzweckmodell leistet bessere juristische Arbeit wegen dessen, was es übergeben bekommt. Einen kontrollierten Vergleich desselben Modells innerhalb und außerhalb unserer Engine haben wir nicht veröffentlicht. Verstehen Sie dies daher als unsere Designbegründung, gestützt auf die oben genannte Kontextforschung.
Warum wird diese Schicht wichtiger, je besser die Modelle werden?
Foundation-Modelle werden leistungsfähiger. Das macht die Kontrollschicht um sie herum wichtiger, nicht unwichtiger.
Der Grund ist einfach. Jede Kanzlei kann Zugang zu denselben Modellen kaufen, und die Gegenseite auch. Wäre das Modell das ganze Produkt, wäre die KI jeder Kanzlei ungefähr so gut wie die jeder anderen, und nichts daran würde widerspiegeln, wie Ihre Kanzlei arbeitet.
Generische KI weiß viel. Ihre Institution kennt sie von sich aus nicht. Sie hat Ihre Präzedenzfälle nicht gelesen, sie weiß nicht, welche Positionen Ihre Partner bei einer Haftungsbegrenzungsklausel vertreten, und sie ahnt nicht, dass die Gegenpartei der heutigen Vertraulichkeitsvereinbarung im vergangenen Frühjahr in einem Rechtsstreit auf der anderen Seite stand. Dieses Wissen gehört der Kanzlei, und es ist der Teil, der eine Antwort ohne Umschreiben verwendbar macht.
Ihr Wettbewerbsvorteil sollte nicht verschwinden, weil jede Kanzlei Zugang zum selben Modell gekauft hat. Je besser die Modelle werden, desto wertvoller wird die Schicht, die steuert, wie Institutionen sie nutzen. Ein stärkeres Modell, das den richtigen Kontext, die richtigen Quellen und die richtige Aufgabe erhält, liefert bessere Arbeit. Mit einer nackten Frage liefert es eine flüssigere Fassung derselben generischen Antwort.
KI für Aufgaben mit hohem Risiko braucht mehr als Intelligenz. Sie braucht Kontext, Kontrollen und Verantwortlichkeit. In der juristischen Arbeit trägt diese Verantwortlichkeit einen Namen: den der Anwältin oder des Anwalts, die oder der unterschreibt.
Was passiert, wenn das führende Modell wechselt?
Das wird es. Modellführerschaft, Kosten, Richtlinien und Verfügbarkeit ändern sich laufend, und das Modell, das in diesem Quartal führt, führt im nächsten vielleicht nicht mehr.
Stellen Sie einem Anbieter deshalb zwei Fragen. Welches Modell beantwortet meine Frage heute? Und was müsste ich neu aufbauen, wenn sich das morgen ändert?
Wenn alles, was das Produkt über Ihre Kanzlei weiß, in Prompts steckt, die für das Modell eines bestimmten KI-Unternehmens geschrieben wurden, ist ein Modellwechsel eine Migration. Wenn es in einer produkteigenen Schicht liegt, ist ein Modellwechsel ein Upgrade. Bei HAQQ ist das zugrunde liegende Modell bewusst austauschbar angelegt, und wir profitieren, wenn die zugrunde liegenden Modelle besser werden.
Ihr KI-Anbieter sollte austauschbar sein. Ihre institutionelle Intelligenz nicht.
Ihre KI-Infrastruktur sollte nicht jedes Mal neu aufgebaut werden müssen, wenn das führende Modell wechselt.
Was entscheidet, ob Legal AI mit echten Dokumenten funktioniert?
Zwei Komponenten, die selten in einer Vertriebspräsentation auftauchen, und beide entscheiden darüber, ob das Produkt an einem normalen Dienstag funktioniert.
Dokumentenerfassung. Viel juristische Arbeit kommt als Foto einer gestempelten Seite, als Scan eines Faxes oder als PDF, das ausgedruckt und schief wieder eingescannt wurde. Das Lesen solcher Dokumente behandeln wir als zentrales Engineering-Problem. Wird eine Klauselnummer beim Einlesen falsch erkannt, holt keine nachgelagerte Begründung das wieder auf, und das System wird sorgfältig über die falsche Nummer nachdenken.
Gedächtnis als Struktur. Die Engine hält die Beziehungen zwischen Ihren Mandaten über die Zeit fest und greift darauf zurück, wenn eine Frage es erfordert. Ihre letzten zwanzig Nachrichten wieder in den Prompt einzufügen ist etwas anderes. Strukturiertes Gedächtnis ermöglicht es dem System zu wissen, dass die Gegenpartei der Geheimhaltungsvereinbarung, die Sie heute prüfen, dasselbe Unternehmen ist wie in einem Rechtsstreit vor zwei Monaten.
Was löst eine gute Architektur nicht?
Wir sagen es lieber selbst, als dass Sie es herausfinden.
Sie beseitigt Fehler nicht. Jedes System, das auf einem Sprachmodell aufbaut, kann eine falsche Antwort liefern, und die Zahlen aus den Fakten oben gelten für jedes Marktsegment. Eine gute Architektur macht Fehler seltener und leichter erkennbar: Aussagen, die anhand abgerufener Quellen erzeugt werden, Zitate, die Sie öffnen können, und ausdrückliche Hinweise, wo die Rechtslage ungeklärt ist. Unser Halluzinations-Audit verfolgt, was passiert, wenn niemand prüft.
Sie verspricht keine richtige Antwort. Kein verantwortungsvoller KI-Anbieter sollte das behaupten. Was die Schicht Ihnen gibt, sind Quellenbindung, Zitate, die Sie öffnen können, Kontrollen und ein klarer Punkt für die menschliche Prüfung, damit eine falsche Antwort leichter auffällt, bevor sie das Haus verlässt.
Sie ersetzt nicht den Anwalt. Alles hier setzt voraus, dass eine Fachperson das Ergebnis prüft und unterzeichnet. Diese Annahme hat die Architektur von Anfang an geprägt.
Sie macht die Abdeckung nicht universell. Die Qualität variiert je nach Rechtsordnung, je nachdem, wie gut das Quellrecht digitalisiert ist, und wie viel davon öffentlich zugänglich ist. Nennt ein Anbieter eine einzige globale Abdeckungszahl, fragen Sie, was sie zählt. Wir beantworten diese Frage lieber für Ihre Rechtsordnung, als Ihnen eine einzelne Zahl zu nennen.
Wie testen Sie einen Legal-AI-Anbieter in einer Demo?
Sie brauchen niemandes Architekturdiagramm. Vier Tests, etwa zehn Minuten, und sie funktionieren bei jedem Anbieter der Kategorie, uns eingeschlossen. Für eine längere Checkliste siehe 45 Warnsignale bei der Bewertung eines Legal-AI-Anbieters.
1. Fragen Sie etwas außerhalb des Rechts
Ein allgemeines Modell in einem juristischen Prompt beantwortet meist auch eine medizinische oder finanzielle Frage, weil darunter ein allgemeines Modell steckt. Ein System, das die Absicht vor der Generierung feststellt, sollte ablehnen und begründen, warum.
2. Stellen Sie dieselbe Frage in zwei Sprachen
Formulieren Sie dieselbe Rechtsfrage einmal auf Englisch und einmal auf Arabisch oder Französisch, jeweils in eigenen Worten. Ändert sich die Substanz der Antwort, wird die Sprache erst nach der Begründung verarbeitet.
3. Geben Sie ihm einen schlechten Scan
Fotografieren Sie ein Dokument schräg und bei schlechtem Licht und laden Sie es hoch. Unserer Erfahrung nach ist das der aussagekräftigste Test der Demo, weil es der häufigste reale Input ist und der am seltensten vorgeführte.
4. Fragen Sie, was es nicht weiß
Lenken Sie es in einen ungeklärten oder dünn belegten Rechtsbereich. Ein System, das darauf getrimmt ist, immer eine Antwort zu liefern, wird eine liefern. Ein System für professionelle Arbeit sagt Ihnen, dass der Boden unsicher ist, und zeigt Ihnen, warum.
Wenn ein Anbieter mit allen vier gelassen umgeht, ist die Architektur vermutlich echt. Wenn die Demo um sie herumsteuert, sagt Ihnen das ebenfalls etwas. Dieselben vier Tests können Sie mit dem Legal-AI-Chat von HAQQ durchführen.
Die wichtigsten Erkenntnisse
- Der maßgebliche Unterschied zwischen Legal-AI-Produkten ist architektonisch und an der Oberfläche unsichtbar. Fragen Sie, wo das Denken stattfindet.
- Strukturierte Arbeit vor dem Modellaufruf verbessert die Qualität ebenso wie die Kosten: Ein Modell, das extrahierte Fakten erhält, richtet seine Aufmerksamkeit auf das Recht.
- Unscheinbare Komponenten entscheiden über die Leistung in der Praxis. Die Dokumentenerfassung sagt besser als ein Benchmark-Wert voraus, ob ein Werkzeug an einem Dienstag funktioniert.
- Vier Demo-Tests (fachfremd, zwei Sprachen, ein schlechter Scan, ungeklärtes Recht) zeigen, welche Art von System man Ihnen verkauft.
- Das Modell wird zur Massenware. Kontrolle nicht. Was eine Kanzlei behält, wenn das Modell wechselt, ist die Schicht, die ihren Kontext, ihre Berechtigungen und ihre Kontrollen hält.
- Liu et al., Lost in the Middle: Wie Sprachmodelle lange Kontexte nutzen (TACL 2024)
- Chroma: Context Rot, wie mehr Eingabe-Tokens die Leistung von LLMs beeinflussen (Juli 2025)
- Magesh et al., Hallucination-Free? Bewertung der Zuverlässigkeit führender KI-Werkzeuge für die Rechtsrecherche (JELS 2025)
- 45 Warnsignale bei der Bewertung eines Legal-AI-Anbieters
- Context Engineering für Legal AI
- Human in the Loop bei Legal AI
- Das KI-Halluzinations-Audit
HAQQ AI kostenlos testen
Erleben Sie KI-gestützte juristische Recherche und Entwurf



