Kurz gesagt: Human in the Loop bedeutet, dass ein qualifizierter Anwalt das Ergebnis der KI prüft und freigibt, bevor es einen Mandanten, ein Gericht oder eine Gegenpartei erreicht. Die ABA Formal Opinion 512 (29. Juli 2024), Artikel 14 der KI-Verordnung der EU und der SRA Code of Conduct legen diese Pflicht Menschen auf. Die Datenbank von Charlotin listet 2.202 Gerichtsentscheidungen zu KI-erfundenem Material (19. Oktober 2026).
Definition. Human in the Loop (HITL): ein Arbeitsablauf, in dem das Ergebnis der KI erst wirksam wird, wenn eine benannte, fachkundige Person es geprüft und freigegeben, geändert oder verworfen hat. Human on the Loop: Die KI handelt, und ein Mensch überwacht und kann eingreifen. Human out of the Loop: Die KI handelt ohne menschliche Prüfung.
Die wichtigsten Fakten
- Die ABA Formal Opinion 512 zu generativen KI-Tools vom 29. Juli 2024 wendet unter anderem die Model Rules 1.1 (Kompetenz), 1.6 (Vertraulichkeit), 5.1 und 5.3 (Aufsicht) an und verlangt ein angemessenes Maß an unabhängiger Prüfung der KI-Ergebnisse (ABA, 29. Juli 2024).
- Artikel 14 der KI-Verordnung (Verordnung (EU) 2024/1689) verlangt, dass Hochrisiko-KI-Systeme so konzipiert sind, dass Menschen sie verstehen, überwachen, ihre Ergebnisse richtig interpretieren, sich über sie hinwegsetzen und sie anhalten können, und dass sie sich des Automatisierungsbias bewusst bleiben (EUR-Lex-Text, abgerufen am 20. Okt. 2026).
- Nach der Verordnung (EU) 2026/1744 gelten die Hochrisiko-Pflichten für Anhang-III-Systeme, einschließlich Artikel 14, nun ab dem 2. Dezember 2027 (Amtsblatt, 24. Juli 2026).
- Der SRA Code of Conduct for Solicitors hält Solicitors für Arbeit verantwortlich, die durch andere erbracht wird (Absatz 3.5), und bindet sie an die Vertraulichkeit (Absatz 6.3); in R (Ayinde) v Haringey [2025] EWHC 1383 (Admin) erklärte der Divisional Court, dass Kanzleileitungen praktische Vorkehrungen treffen müssen, damit alle KI-gestützte Recherche anhand maßgeblicher Quellen prüfen (Judiciary of England and Wales, 6. Juni 2025).
- Die Datenbank AI Hallucination Cases von Damien Charlotin listet 2.202 Gerichtsentscheidungen zu von KI erfundenem oder falsch wiedergegebenem Material (Datenbank, zuletzt aktualisiert am 19. Okt. 2026).
Was bedeutet Human in the Loop bei Legal AI?
Der Begriff stammt aus der Regelungstechnik, wo ein Mensch innerhalb des Entscheidungszyklus steht und das System auf seine Eingabe wartet. In einer Kanzlei bedeutet er in der Praxis drei Dinge. Die KI entwirft, extrahiert oder markiert. Ein benannter Anwalt prüft dieses Ergebnis anhand der Quellen und des Sachverhalts des Mandanten. Nichts verlässt die Kanzlei und nichts wird eingereicht, bevor dieser Anwalt es freigegeben hat.
Der Unterschied zwischen in the Loop und on the Loop liegt im Zeitpunkt. Prüft ein Anwalt einen Entwurf vor dem Versand, kontrolliert er das Ergebnis. Versendet das System ihn und liest der Anwalt erst danach ein Protokoll, hat jeder Fehler den Mandanten bereits erreicht. Bei Mandantenberatung, Schriftsätzen und Vertragspositionen erwarten die Berufsregeln eine Prüfung, bevor das Ergebnis Wirkung entfaltet. Eine Überwachung on the Loop kann bei internen Aufgaben mit geringem Risiko vertretbar sein, etwa beim Verschlagworten von Dokumenten oder beim Weiterleiten eingehender Anfragen.
Was verlangt die ABA Formal Opinion 512?
Das Standing Committee on Ethics and Professional Responsibility der ABA veröffentlichte die Formal Opinion 512 am 29. Juli 2024. Sie wendet die bestehenden Model Rules auf generative KI an:
- Rule 1.1 (Kompetenz): Anwälte brauchen ein angemessenes Verständnis dessen, was das Tool kann und was nicht, und müssen seine Ergebnisse in einem der Aufgabe entsprechenden Umfang prüfen. Wer sich ohne angemessene unabhängige Überprüfung auf die Ergebnisse verlässt, kann diese Pflicht verletzen.
- Rule 1.6 (Vertraulichkeit): Bevor Mandanteninformationen in ein selbstlernendes Tool eingegeben werden, das Eingaben weiterverwenden kann, braucht der Anwalt die informierte Einwilligung des Mandanten; eine Standardklausel in der Mandatsvereinbarung genügt nicht.
- Rules 5.1 und 5.3 (Aufsicht): Partner und Führungskräfte müssen klare Richtlinien zur zulässigen KI-Nutzung festlegen, Anwälte und Mitarbeiter schulen und die Arbeit beaufsichtigen, einschließlich Dienstleistern und ihrer Tools.
- Rule 1.5 (Honorare): Anwälte dürfen die aufgewendete Zeit abrechnen, einschließlich der Prüfung von KI-Ergebnissen, nicht aber eingesparte Zeit und nicht die Einarbeitung in ein allgemeines Tool, es sei denn, der Mandant hat genau dieses Tool verlangt.
Mehrere bundesstaatliche Anwaltskammern, darunter Kalifornien, Florida und New York, haben eigene Leitlinien mit ähnlichen Prüfpflichten veröffentlicht. Unser Überblick über die Berufsregeln listet sie nach Land und Bundesstaat.
Was sagt Artikel 14 der KI-Verordnung zur menschlichen Aufsicht?
Artikel 14 der Verordnung (EU) 2024/1689 gilt für Hochrisiko-KI-Systeme. Er verlangt von Anbietern, sie so zu konzipieren, dass sie "von natürlichen Personen wirksam beaufsichtigt werden können", und fordert Maßnahmen, die den Risiken, dem Grad der Autonomie und dem Nutzungskontext des Systems angemessen sind. Die mit der Aufsicht betrauten Personen müssen in der Lage sein,
- die Fähigkeiten und Grenzen des Systems zu verstehen und seinen Betrieb zu überwachen;
- sich des Automatisierungsbias bewusst zu bleiben, also der Neigung, sich übermäßig auf das Ergebnis zu verlassen;
- das Ergebnis richtig zu interpretieren;
- zu entscheiden, das System nicht zu nutzen, oder sein Ergebnis außer Acht zu lassen, außer Kraft zu setzen oder rückgängig zu machen;
- es über ein Stoppverfahren zu unterbrechen, das es in einem sicheren Zustand hinterlässt.
Die meisten in Kanzleien eingesetzten Legal-AI-Tools (Entwurf, Recherche, Vertragsprüfung) sind nach Anhang III nicht hochriskant. Anhang III erfasst jedoch KI, die eine Justizbehörde bei der Ermittlung und Auslegung von Sachverhalten und Rechtsvorschriften unterstützen soll, sowie KI in Migrations- und Asylentscheidungen; gerichtsnahe Tools und Tools des öffentlichen Sektors können also darunter fallen. Unabhängig davon verpflichtet Artikel 4 Anbieter und Betreiber seit dem 2. Februar 2025, für KI-Kompetenz ihres Personals zu sorgen, gleich welche Risikostufe gilt. Die Änderungen von 2026 haben die Hochrisiko-Termine für Anhang III auf den 2. Dezember 2027 verschoben; Einzelheiten in unserer Erläuterung der Änderungen an der KI-Verordnung.
Auch wenn Artikel 14 eine Kanzlei nicht unmittelbar bindet, ist seine Liste eine nützliche Checkliste für die Gestaltung der Prüfung: Kann der prüfende Anwalt das Tool verstehen, seine Ergebnisse interpretieren, sich über sie hinwegsetzen und es anhalten?
Was erwarten die SRA und die Gerichte in England und Wales?
Die SRA wendet ihren bestehenden Code of Conduct for Solicitors auf die KI-Nutzung an. Absatz 3.5 hält den Solicitor für Arbeit verantwortlich, die durch andere erbracht wird, und verlangt wirksame Aufsicht; Absatz 6.3 verlangt, Mandantenangelegenheiten vertraulich zu behandeln. Der Risk-Outlook-Bericht der SRA zu KI im Rechtsmarkt (November 2023) stellt fest, dass Kanzleien für die Leistungen verantwortlich bleiben, die sie mit KI erbringen. Bei der Zulassung von Garfield.Law, einer KI-gestützten Kanzlei, im Mai 2025 erklärte die SRA, dass namentlich benannte Solicitors für die Ergebnisse der Kanzlei verantwortlich bleiben.
Die Gerichte waren deutlicher. In R (Ayinde) v London Borough of Haringey [2025] EWHC 1383 (Admin), verkündet am 6. Juni 2025, befasste sich der Divisional Court (Dame Victoria Sharp P und Johnson J) mit erfundenen Fundstellen in Schriftsätzen. Er stellte fest, dass Anwälte, die KI für Recherchen nutzen, diese anhand maßgeblicher Quellen prüfen müssen, dass Personen mit Leitungsverantwortung in Kanzleien und Chambers praktische Vorkehrungen treffen müssen und dass die Vorlage falschen Materials bei Gericht zur Meldung an die Aufsicht oder zu einem Verfahren wegen Missachtung des Gerichts (contempt of court) führen kann.
HAQQ AI kostenlos testen
Erleben Sie KI-gestützte juristische Recherche und Entwurf
Welche KI-Fehler fängt die menschliche Prüfung ab?
Das sind die Fehler, die wir am häufigsten sehen, wenn Anwälte KI an echten Mandaten testen, und jeder erfordert jemanden, der das Recht und die Akte kennt:
- Erfundene oder falsch wiedergegebene Fundstellen. Ein Urteil, eine Vorschrift oder ein Zitat, das es nicht gibt, oder ein echtes Urteil, das für eine Aussage zitiert wird, die es nicht trägt. Die Datenbank von Charlotin zählt dazu 2.202 Gerichtsentscheidungen. Unser Halluzinations-Audit schlüsselt die Fälle nach Gericht und Sanktion auf.
- Falsche Rechtsordnung. Common-Law-Argumentation auf einen Vertrag aus dem Civil Law angewendet, oder DSGVO-Konzepte in einen saudischen Auftragsverarbeitungsvertrag übernommen, der dem saudischen Gesetz zum Schutz personenbezogener Daten unterliegt.
- Übersehene Wechselwirkungen. Eine Haftungsbeschränkungsklausel, die standardmäßig wirkt, bis eine Ausnahme drei Abschnitte später sie verändert, oder ein Side Letter, den die KI nie gesehen hat.
- Gefährdung der Vertraulichkeit. Mandantendokumente, die an ein Verbraucher-Tool gesendet werden, dessen Bedingungen das Speichern oder Weiterverwenden von Eingaben erlauben. In United States v. Heppner (S.D.N.Y., Februar 2026) wurden Dokumente, die ein Angeklagter mit der Verbraucherversion von Claude erstellt hatte, weder durch das Anwaltsgeheimnis (privilege) noch durch den Work-Product-Schutz als geschützt angesehen.
- Übermäßig selbstsichere Ergebnisse. Eine als "Standard" markierte Klausel ohne Begründung, die den Prüfer dazu verleitet, sie zu überspringen. Artikel 14 nennt das Automatisierungsbias.
Es gibt auch eine ältere Lehre außerhalb von Kanzleien. In Moffatt v. Air Canada, 2024 BCCRT 149, erklärte das Civil Resolution Tribunal von British Columbia die Fluggesellschaft für eine Erstattungsregelung haftbar, die der Chatbot ihrer Website erfunden hatte, und wies das Argument zurück, der Chatbot sei für seine eigenen Aussagen verantwortlich. Die Organisation, die die KI einsetzt, haftet für sie.
Wie gestaltet man eine menschliche Prüfung, die funktioniert?
- Bauen Sie die Freigabe in den Arbeitsablauf ein. Entwürfe, Risikomarkierungen und Änderungsvorschläge sollten einen Freigabeschritt durchlaufen, bevor sie versendet, eingereicht oder übernommen werden können. Ein Freigabe-Button im Tool lässt sich schwerer überspringen als eine Richtlinie, an die man denken muss.
- Zeigen Sie Begründung und Quellen. Ein Prüfer kann nur prüfen, was er sieht: die Klausel oder Fundstelle, auf die sich das Ergebnis stützt, die Playbook-Position, von der es abweicht, und einen Link zur Quelle.
- Kennzeichnen Sie Unsicherheit. Ein Ergebnis, das anzeigt, wenn Eingaben ungewöhnlich sind oder die Antwort unsicher ist, wird genauer gelesen als eines, das immer sicher klingt.
- Passen Sie die Prüftiefe dem Risiko an. Zehn Minuten für den ersten Entwurf eines internen Vermerks und eine zeilenweise Prüfung jeder Fundstelle in einem Schriftsatz an das Gericht sind beide verhältnismäßig.
- Führen Sie einen Prüfpfad. Halten Sie fest, was die KI vorgeschlagen hat, was der Anwalt geändert hat, wer freigegeben hat und wann. Diese Aufzeichnung ist Ihr Nachweis der Aufsicht nach den Rules 5.1 und 5.3 und Absatz 3.5 des SRA Code.
- Begrenzen Sie, was Agenten selbständig tun dürfen. Kann ein Tool E-Mails versenden, Dokumente einreichen oder Akten aktualisieren, legen Sie vorab fest, welche Aktionen eine anwaltliche Freigabe benötigen. Alles, was den Mandanten bindet, sollte eine benötigen.
Was sagen die Aufsichtsbehörden in der MENA-Region zur menschlichen Aufsicht?
Kein Gesetz am Golf übernimmt Artikel 14. In Saudi-Arabien hat die SDAIA menschliche Aufsicht und Verantwortlichkeit in ihren AI Ethics Principles (September 2023) festgehalten, die Leitliniencharakter haben. Im DIFC regelt Regulation 10 der Data Protection Regulations personenbezogene Daten, die durch autonome und teilautonome Systeme einschließlich KI verarbeitet werden. Die Kammer- und Berufsregeln in der gesamten Region machen den zugelassenen Anwalt bereits für Beratung und Einreichungen verantwortlich, gleich welches Tool den Entwurf erstellt hat. Allgemeine rechtliche Informationen, keine Rechtsberatung; prüfen Sie die aktuellen Regeln Ihrer eigenen Aufsichtsbehörde.
Wie unterstützt HAQQ die menschliche Prüfung?
HAQQ ist für Anwälte gebaut, die prüfen, bevor sie versenden. Justinian, die Legal-AI-Engine von HAQQ, zeigt die Quellen hinter jeder Antwort, damit sie überprüft werden können, und ein Anwalt gibt frei. Im Legal AI Chat werden personenbezogene Daten durch Platzhalter ersetzt, bevor eine Anfrage ein externes Modell erreicht, und wiederhergestellt, bevor Sie die Antwort sehen. Kanzleien können Hosting in der EU, den USA oder im Nahen Osten, eine Private Cloud oder einen On-Premise-Betrieb wählen, mit SSO, rollenbasierter Zugriffskontrolle und Audit-Logs.
Halten Sie zum Einstieg die Prüfregel Ihrer Kanzlei für jede Art von Ergebnis schriftlich fest (interner Vermerk, Mandanten-E-Mail, Vertragsmarkup, Schriftsatz an das Gericht), benennen Sie, wer jeweils freigibt, und testen Sie ein Tool anhand dieser Regeln an einem abgeschlossenen Mandat, bevor es ein laufendes berührt. Diesen Test können Sie im HAQQ Legal AI Chat durchführen.
Quellen
- ABA Formal Opinion 512 (29. Juli 2024)
- KI-Verordnung der EU, Artikel 14: menschliche Aufsicht
- Verordnung (EU) 2024/1689 auf EUR-Lex
- SRA Code of Conduct for Solicitors
- SRA Risk Outlook: KI im Rechtsmarkt
- R (Ayinde) v Haringey [2025] EWHC 1383 (Admin)
- Datenbank AI Hallucination Cases (Damien Charlotin)
- Moffatt v. Air Canada, 2024 BCCRT 149
- KI und Mandantenvertraulichkeit für Anwälte
- Warum KI-Gespräche nicht dem Anwaltsgeheimnis unterliegen



