Large Language Models — GPT-5, Claude Opus, Gemini und andere — sind längst keine experimentellen Kuriositäten mehr. Sie verändern grundlegend, wie Anwälte Verträge entwerfen, Rechtsprechung analysieren, Due-Diligence-Prüfungen durchführen und mit Mandanten kommunizieren. Dennoch fehlt den meisten Anwälten nach wie vor ein klares Verständnis dafür, was diese Tools eigentlich sind, wie sie funktionieren und wo sie versagen.
Wichtige Fakten
- Studien zeigen Halluzinationsraten von 69–88 % bei juristischen Anfragen an universelle Modelle (EXTERNAL-CITE: im Artikel zitierte akademische Forschung).
- Eine Textseite entspricht etwa 375–400 Tokens.
- Gezielte Rückfragen verbessern die Ausgabequalität von LLMs um ca. 20 %; vages Feedback verschlechtert sie (EXTERNAL-CITE: im Artikel zitierte NeurIPS-Forschung).
Dieser Leitfaden schließt diese Lücke. Er richtet sich an praktizierende Anwälte, die LLMs effektiv nutzen wollen, ohne einen Informatikabschluss zu benötigen. Wir behandeln die Grundlagen, die praktischen Anwendungen, die realen Risiken und die Prompting-Techniken, die produktive Nutzung von gefährlicher Über-Abhängigkeit unterscheiden.
Die wichtigste Regel überhaupt: Verlassen Sie sich NIEMALS auf Fallzitate, die von einem LLM geliefert werden — auch nicht von speziell juristischen Tools —, ohne persönlich geprüft zu haben, dass der zitierte Fall existiert und genau das aussagt, wofür Sie ihn zitieren.
Was ist ein Large Language Model?
Ein LLM ist eine Form künstlicher Intelligenz, die auf gewaltigen Textmengen trainiert wurde — Bücher, Artikel, Websites, Gerichtsschriftsätze und juristische Dokumente. Statt Fakten wie eine Datenbank zu speichern, lernt es statistische Muster im Sprachgebrauch. Wenn Sie einen Prompt eingeben, sagt das Modell Wort für Wort das jeweils wahrscheinlichste nächste Wort voraus, basierend auf den Mustern, die es aufgenommen hat.
Stellen Sie es sich weniger wie eine Suchmaschine vor und mehr wie einen außergewöhnlich belesenen Associate. Es hat praktisch jedes öffentlich verfügbare juristische Dokument, jede Abhandlung und jeden Fallkommentar erfasst, der je veröffentlicht wurde. Aber es ruft keine gespeicherten Informationen ab — es erzeugt Antworten auf Grundlage gelernter Muster. Diese grundlegende Unterscheidung erklärt sowohl seine bemerkenswerten Fähigkeiten als auch seine gefährlichen Fehlerarten.
Zu den bekannten LLMs zählen GPT-5 von OpenAI (die Grundlage von ChatGPT), Claude Opus von Anthropic, Gemini 2.5 Pro von Google, LLaMA 4 von Meta und Medium 3 von Mistral. Jedes hat andere Stärken: Claude überzeugt bei Tonalität und der Analyse langer Dokumente, GPT-5 bei strukturiertem Reasoning und Gemini bei sehr großen Kontextfenstern.
Wie LLMs tatsächlich funktionieren: Die Mechanik, die Anwälte verstehen sollten
Tokenisierung: Sprache in Einheiten zerlegen
Bevor ein LLM Ihren Prompt verarbeiten kann, zerlegt es den Text in kleinere Einheiten, die Tokens genannt werden. Ein Token kann ein Wort, ein Wortteil oder ein Satzzeichen sein. Der Ausdruck „liquidated damages" etwa kann je nach Training des Modells als ein oder zwei Tokens verarbeitet werden. Eine Textseite entspricht etwa 375–400 Tokens.
Das Verständnis von Tokens ist wichtig, weil LLMs strikte Grenzen dafür haben, wie viele Tokens sie gleichzeitig verarbeiten können. Das Kontextfenster von GPT-5 umfasst etwa 128.000 Tokens (~300 Seiten). Wird dieses Limit überschritten, beginnt das Modell, Informationen zu verlieren — meist aus der Mitte Ihres Dokuments, nicht vom Anfang oder Ende.
Der Attention-Mechanismus: Wie Modelle das Wesentliche finden
Anders als ein Mensch, der Text sequenziell liest, untersucht ein LLM alle Tokens Ihres Prompts gleichzeitig mithilfe eines „Attention-Mechanismus". Dadurch kann das Modell die Bedeutung jedes Worts gegen jedes andere Wort abwägen. Stößt es etwa auf das englische Wort „bank", hilft ihm Attention, anhand des umgebenden Kontexts wie „savings account" oder „river" zu erkennen, ob eine Bank im finanziellen Sinn oder ein Flussufer gemeint ist.
Für Anwälte hat das eine entscheidende praktische Konsequenz: Wie Sie Ihren Prompt formulieren — welche Wörter Sie betonen, welchen Kontext Sie liefern, wie Sie die Frage strukturieren — bestimmt unmittelbar die Qualität der Antwort. Das Modell liest Ihre Worte nicht nur, es wägt sie gegeneinander ab.
Training, Fine-Tuning und RLHF
LLMs durchlaufen drei Entwicklungsstufen. Beim Pre-Training wird das Modell Milliarden von Text-Tokens ausgesetzt, wodurch es die Muster der Sprache lernt. Fine-Tuning verengt das Modell anschließend auf bestimmte Fachbereiche — eine Legal-AI-Plattform könnte etwa mit Gerichtsentscheidungen, Verträgen und regulatorischen Einreichungen feinabgestimmt werden. Schließlich nutzt Reinforcement Learning from Human Feedback (RLHF) menschliche Bewertende, um die Ausgaben des Modells zu bewerten und ihm beizubringen, Antworten zu liefern, die präzise, professionell und angemessen strukturiert sind.
Deshalb übertrifft ein speziell für den juristischen Bereich entwickeltes Tool wie HAQQ bei juristischen Aufgaben konsistent ein generisches ChatGPT: Es verbindet das breite Sprachverständnis des Basismodells mit fachspezifischem Fine-Tuning und Feedback von Rechtsexperten.
Das Halluzinationsproblem: Warum LLMs Inhalte erfinden
Halluzination ist kein Fehler — sie ist ein inhärentes Merkmal der Art, wie LLMs Text erzeugen. Weil das Modell das jeweils wahrscheinlichste nächste Wort auf Basis von Mustern vorhersagt und nicht verifizierte Fakten abruft, kann es Antworten produzieren, die autoritativ klingen, aber vollständig frei erfunden sind. Erfundene Fallzitate, nicht existierende Gesetze und falsch wiedergegebene Urteilssprüche sind keine Seltenheit.
Studien zeigen Halluzinationsraten von 69–88 % bei juristischen Anfragen an universelle Modelle. Selbst wenn Sie dem Modell den tatsächlichen Falltext liefern und um eine Zusammenfassung bitten, kann es Passagen weiterhin falsch wiedergeben, weil es Text aus Mustern erzeugt statt aus Quellen zu kopieren. Manche Studien zeigen sogar, dass Modelle bei Widerspruch „nachlegen" können, indem sie erfundene Zitate selbstbewusst erneut behaupten.
Die Konsequenzen sind real. In Mata v. Avianca (2023) reichte ein Anwalt einen Schriftsatz mit sechs von ChatGPT erfundenen Fallzitaten ein. Das Gericht sanktionierte sowohl den Anwalt als auch die Kanzlei. Mehrere Anwaltskammern haben seither Ethikgutachten veröffentlicht, die Anwälte verpflichten, alle KI-generierten Zitate zu verifizieren.
LLMs wissen nicht, dass sie halluzinieren. Das Modell erzeugt dieselbe selbstbewusste, gut strukturierte Prosa, ob es nun einen verifizierten Fakt wiedergibt oder einen Fall vollständig erfindet. Ihr fachliches Urteilsvermögen — nicht die Zuversicht des Modells — ist die einzige Absicherung.
Warum LLMs unterschiedliche Antworten auf dieselbe Frage geben
Wenn Sie einem LLM zweimal dieselbe Frage stellen, erhalten Sie häufig unterschiedliche Antworten. Das ist so gewollt. Das Modell führt bei der Auswahl des nächsten vorherzusagenden Worts eine kontrollierte Zufälligkeit ein, gesteuert über einen Parameter namens „Temperature". Eine niedrigere Temperature erzeugt vorhersehbarere, fokussiertere Antworten. Eine höhere Temperature erzeugt vielfältigere und kreativere Ausgaben.
Für juristische Arbeit, die Präzision erfordert — Vertragsanalyse, regulatorische Compliance —, ist eine niedrige Temperature gewünscht. Beim Brainstorming von Prozessstrategien oder der Entwicklung kreativer Argumente kann eine höhere Temperature nützlich sein. Die meisten Legal-AI-Plattformen regeln das automatisch, aber das Verständnis dieses Mechanismus erklärt, warum Ergebnisse variieren.
Praktisches Prompting: Die Associate-Analogie
Das produktivste Denkmodell für die Arbeit mit LLMs ist, sie wie einen außergewöhnlich belesenen, aber kontextlosen Junior Associate zu behandeln. Sie haben alles gelesen, wissen aber nichts über Ihren konkreten Fall, die Prioritäten Ihres Mandanten oder die Standards Ihrer Kanzlei. Die Qualität ihrer Arbeitsergebnisse ist direkt proportional zur Qualität Ihres Arbeitsauftrags.
Regel 1: Seien Sie extrem konkret
Spezifität gilt sowohl bei Anthropic als auch bei OpenAI als die wirkungsvollste Prompting-Technik überhaupt. Sagen Sie nie: „Prüfen Sie dieses NDA." Stattdessen: „Identifizieren Sie alle Wettbewerbsverbots-, Abwerbeverbots- und Vertraulichkeitspflichten. Geben Sie für jede die eingeschränkte Tätigkeit, den geografischen Geltungsbereich, die Dauer und etwaige Ausnahmen an. Kennzeichnen Sie jede Bestimmung, die einen Kontrollwechsel überdauern würde."
Der Unterschied in der Ausgabequalität ist gravierend. Ein vager Prompt erzeugt eine generische Zusammenfassung, die Sie auch selbst hätten schreiben können. Ein präziser Prompt erzeugt eine abschnittsweise Analyse mit Verweisen auf exakte Bestimmungen — Arbeitsergebnisse, die Ihren Fall tatsächlich voranbringen.
Regel 2: Nutzen Sie das IRAC-Framework
Sie wissen bereits, wie man juristische Analysen strukturiert. Wenden Sie dasselbe Framework auf Ihre Prompts an: Issue (die Aufgabe formulieren), Rule (die Kriterien festlegen), Application (auf die Fakten verweisen), Conclusion (das gewünschte Ausgabeformat definieren). Diese Struktur — die Anthropic und OpenAI „structured framework prompting" nennen — liefert konsistent bessere Ergebnisse, weil sie widerspiegelt, wie der Attention-Mechanismus des Modells Informationen verarbeitet.
Regel 3: Kuratieren Sie Ihre Unterlagen
Forschung der Stanford University bestätigt einen deutlichen Leistungsabfall, wenn Modelle Anfragen verarbeiten müssen, die in langem Kontext vergraben sind. Das Modell schenkt Anfang und Ende Ihrer Eingabe die stärkste Aufmerksamkeit. Statt einen 200-seitigen Vertrag hochzuladen und „erzähl mir alles" zu sagen, extrahieren Sie die relevanten Abschnitte und Definitionen. Geben Sie dem Modell kuratierte, fokussierte Eingaben — genauso, wie Sie Anlagen für einen Schriftsatz vorbereiten würden.
HAQQ AI kostenlos testen
Erleben Sie KI-gestützte juristische Recherche und Entwurf
Regel 4: Zeigen Sie ein Beispiel für das gewünschte Arbeitsergebnis
Wenn Sie einen neuen Associate einarbeiten, zeigen Sie ihm ein gutes Memo. Bei LLMs funktioniert es genauso. Das Bereitstellen von 2–3 hochwertigen Beispielen für das gewünschte Ausgabeformat (was Forscher „Few-Shot-Prompting" nennen) verbessert die Ergebnisse dramatisch. Über 3 Beispiele hinaus nimmt der Zusatznutzen ab. Schlechte Beispiele verschlechtern die Ausgabe aktiv — das Modell schenkt schlechten Beispielen genauso viel Aufmerksamkeit wie guten.
Regel 5: Akzeptieren Sie nie den ersten Entwurf
Forschung von NeurIPS zeigt, dass gezielte Rückfragen die Ausgabequalität um etwa 20 % verbessern. Vages Feedback wie „mach es besser" oder „versuch es noch mal" verschlechtert die Qualität dagegen tatsächlich. Fordern Sie das Modell stattdessen an konkreten Punkten heraus: „Wie steht es um die Affiliate-Transfer-Ausnahme in Abschnitt 3.2(b)? Entsteht dadurch eine Lücke im Abtretungsverbot?"
Regel 6: Die KI sagt Ihnen nicht, dass es die falsche Frage ist
LLMs beantworten selbstbewusst und kompetent, was immer Sie fragen. Sie werden Ihnen nie sagen, dass Sie die falsche Frage gestellt haben. Issue-Spotting bleibt ausschließlich Aufgabe des Anwalts. Das Modell antwortet — Sie müssen bestimmen, was überhaupt zu klären ist.
Was LLMs für juristische Teams heute leisten können
- Vertragsprüfung und Redlining: Verträge scannen, Abweichungen von Standardvorlagen erkennen und riskante Klauseln kennzeichnen
- Rechtsrecherche und Zusammenfassung: Große Mengen an Rechtsprechung, Gesetzen und regulatorischem Material zu strukturierten Memos verdichten
- Due Diligence: Informationen aus großen Dokumentenbeständen extrahieren und verdichten, Muster über Hunderte von Verträgen hinweg erkennen
- Entwürfe erstellen: Erstentwürfe von Klageschriften, Schriftsätzen, Memos, Mandantenschreiben und Beweisanträgen generieren
- Compliance-Prüfung: Vertragsbedingungen mit regulatorischen Anforderungen wie DSGVO, AML, ESG oder DORA abgleichen
- E-Discovery: Dokumentenbestände mit semantischem Verständnis statt bloßem Keyword-Abgleich analysieren
- Suchbegriffsgenerierung: Beschreibungen in natürlicher Sprache in Boolesche Abfragen umwandeln und Suchstrategien verfeinern
- Vorlagenerstellung: Jurisdiktionsspezifische Vorlagen generieren, die sich an Vertragstyp und Parteidetails anpassen
Datenschutz, Sicherheit und ethische Erwägungen
Als Anwälte wird uns sensibles, privilegiertes und privates Wissen anvertraut. Der Einsatz universeller LLMs wie ChatGPT für Mandantenarbeit wirft ernsthafte ethische Verpflichtungen auf. Die meisten öffentlichen Modelle speichern Konversationsdaten und können sie für das Training nutzen, sofern Sie nicht ausdrücklich widersprechen. Das schafft ein potenzielles Risiko für den Bruch der Mandantenvertraulichkeit.
Wichtige Datenschutzmaßnahmen
- Trainingsdaten-Freigabe deaktivieren: Schalten Sie in den ChatGPT-Einstellungen „Das Modell für alle verbessern" aus
- Vermeiden Sie es, Links zu Konversationen mit privilegierten Informationen zu teilen
- Erwägen Sie den Einsatz von Legal-AI-Plattformen auf Enterprise-Niveau mit integriertem Datenschutz, Anonymisierung und On-Premise-Hosting-Optionen
- Etablieren Sie kanzleiweite KI-Nutzungsrichtlinien, die den Ethikvorgaben Ihrer Anwaltskammer entsprechen
- Laden Sie niemals ungeschwärzte Mandantendokumente ohne informierte Einwilligung des Mandanten in öffentliche KI-Tools hoch
Speziell für den juristischen Bereich entwickelte Plattformen wie HAQQ begegnen diesen Bedenken mit Sicherheit auf Enterprise-Niveau, Datenanonymisierung und Compliance mit berufsständischen Standards — ohne dass Sie Datenschutzeinstellungen in Consumer-Tools konfigurieren müssen.
Fragen an KI-Anbieter
Bei der Bewertung von Legal-AI-Tools trennen diese fünf Fragen seriöse Plattformen von schillernden Demos:
- Auf welchen Daten ist das Modell trainiert, und sind sie jurisdiktionsspezifisch?
- Wo wird das Modell gehostet, und erfüllt das Ihre Anforderungen an Datensouveränität?
- Wie wird mit sensiblen Informationen umgegangen, bevor sie das Modell erreichen?
- Werden Prompts und Ausgaben gespeichert? Werden sie jemals zur Verbesserung des Modells verwendet?
- Können Ausgaben für Compliance und Rechenschaftspflicht nachverfolgt und geprüft werden?
Wie LLMs die Rechtspraxis verändern
Für junge Anwälte bedeutet dieser Wandel, neue Fähigkeiten zu entwickeln: KI-generierte Ausgaben verfeinern, Lücken in der Modellanalyse erkennen, KI-Zusammenfassungen in umsetzbare nächste Schritte übersetzen und Ausnahmen behandeln, die außerhalb gelernter Muster liegen. Für erfahrene Anwälte liegt die Herausforderung auf strategischer Ebene: entscheiden, wo LLMs Mehrwert schaffen, Prüfstandards festlegen und Teams darin schulen, KI-Ausgaben kritisch zu bewerten.
Die Kanzleien, die sich am schnellsten anpassen, werden nicht diejenigen sein, die am meisten KI einsetzen — sondern diejenigen, die sie am klügsten einsetzen. Das bedeutet, die Fähigkeiten und Grenzen der Technologie zu verstehen, Governance-Rahmenwerke zu etablieren und Plattformen zu wählen, die speziell für die juristische Arbeit gebaut wurden, statt Consumer-Tools zweckzuentfremden.
Fazit
LLMs sind der bedeutendste technologische Umbruch in der Rechtspraxis seit E-Discovery. Sie werden Anwälte nicht ersetzen — aber Anwälte, die sie verstehen und effektiv nutzen, werden diejenigen ersetzen, die es nicht tun. Der Schlüssel liegt in informierter Einführung: wissen, was LLMs leisten können, verstehen, wo sie versagen, und sie innerhalb angemessener berufsständischer und ethischer Leitplanken einsetzen.
HAQQ verbindet die Leistungsfähigkeit modernster Sprachmodelle mit juristischem Fine-Tuning, Enterprise-Sicherheit und speziell entwickelten Workflows — und gibt Anwälten die Vorteile von LLMs, ohne die Risiken von Consumer-Tools. Ob Sie Verträge prüfen, Schriftsätze entwerfen oder recherchieren: Die Justinian-Engine von HAQQ liefert die Präzision und Zuverlässigkeit, die juristische Arbeit verlangt.
