Künstliche Intelligenz verändert rasant, wie juristische Dienstleistungen erbracht werden. Doch mit diesem Wandel geht eine Verantwortung einher, die jede Praktikerin, jeder Praktiker, jede Kanzlei und jede Institution ernst nehmen muss: sicherzustellen, dass KI ethisch, verantwortungsvoll und im Einklang mit den Pflichten eingesetzt wird, die Anwälte ihren Mandanten und den Gerichten schulden.
Wichtige Fakten
- ABA Formal Opinion 512 (Juli 2024) — die erste formelle Ethik-Stellungnahme der ABA zu generativer KI — behandelt sechs Dimensionen: Kompetenz, Vertraulichkeit, Kommunikation, Wahrhaftigkeit gegenüber dem Gericht, Aufsichtspflichten und Honorare.
- Die Judges Initiative der UNESCO schult Justizangehörige in über 160 Ländern darin, Menschenrechtsstandards auf KI anzuwenden.
Internationale Leitlinien setzen den Standard
Mehrere führende internationale Organisationen haben Rahmenwerke veröffentlicht, die unmittelbar prägen, wie KI in professionellen juristischen Kontexten eingesetzt werden sollte.
Die Vereinten Nationen haben zehn Kernprinzipien für den ethischen Einsatz von KI in allen Einheiten des UN-Systems verabschiedet, die auf Menschenrechten und Ethik beruhen. Dazu zählen: Schadensvermeidung; klar definierter Zweck, Notwendigkeit und Verhältnismäßigkeit; Sicherheit; Fairness und Nichtdiskriminierung; Nachhaltigkeit; Recht auf Privatsphäre und Daten-Governance; menschliche Autonomie und Aufsicht; Transparenz und Erklärbarkeit; Verantwortlichkeit und Rechenschaftspflicht; sowie Inklusion und Teilhabe.
Die High-Level Expert Group on AI der Europäischen Union veröffentlichte ihre Ethikleitlinien für vertrauenswürdige KI, wonach vertrauenswürdige KI rechtmäßig, ethisch und robust sein muss. Das EU-Rahmenwerk benennt vier zentrale ethische Prinzipien: Achtung der menschlichen Autonomie; Schadensvermeidung; Fairness; und Erklärbarkeit.
Die UNESCO betreibt ihre Judges Initiative in über 160 Ländern und schult Justizangehörige darin, internationale Menschenrechtsstandards auf KI-bezogene Herausforderungen wie Voreingenommenheit, Diskriminierung, Datenschutz und Transparenz anzuwenden.
Die American Bar Association (ABA) erließ im Juli 2024 die Formal Opinion 512 — ihre erste formelle Ethik-Stellungnahme zu generativer KI — und stellte klar, dass Anwälte, die KI nutzen, ihre ethischen Pflichten nach den Model Rules of Professional Conduct vollständig berücksichtigen müssen. Die Stellungnahme behandelt sechs zentrale ethische Dimensionen: Kompetenz, Vertraulichkeit, Kommunikation, Wahrhaftigkeit gegenüber dem Gericht, Aufsichtspflichten und Honorare.
Die zentralen ethischen Herausforderungen
Kompetenz und Verifizierung
KI-Ergebnisse — insbesondere von generativen Werkzeugen — können selbstsicher falsch sein. Die ABA hat klargestellt, dass ein Anwalt, der sich unkritisch auf KI-Ergebnisse verlässt, ohne eine angemessene unabhängige Verifizierung vorzunehmen, gegen die Kompetenzpflicht verstoßen kann.
Vertraulichkeit und Datenschutz
Anwälte gehen im Rahmen ihrer Tätigkeit routinemäßig mit privilegierten, sensiblen und mandantenvertraulichen Informationen um. Das Hochladen solcher Unterlagen in ein allgemeines KI-Tool — bei dem Daten möglicherweise für das Training des Modells verwendet werden — steht in direktem Konflikt mit der Vertraulichkeitspflicht. Die Opinion 512 der ABA adressiert dieses Risiko ausdrücklich und verlangt von Anwälten, die Datenverarbeitungspraktiken jedes KI-Tools zu prüfen, bevor sie es mit Mandanteninformationen einsetzen.
HAQQ AI kostenlos testen
Erleben Sie KI-gestützte juristische Recherche und Entwurf
Wahrhaftigkeit gegenüber dem Gericht
Das Halluzinationsproblem bei KI ist nicht bloß eine Unannehmlichkeit — im juristischen Kontext ist es eine ethische Krise. Anwälte unterliegen gegenüber Gerichten einer Wahrheitspflicht nach Regeln wie den ABA Model Rules 3.1, 3.3 und 8.4(c). Die Einreichung KI-generierter Inhalte mit erfundenen Zitaten oder falsch dargestelltem Recht bei einem Gericht ist nicht nur peinlich — sie kann eine sanktionierbare ethische Pflichtverletzung darstellen.
Aufsichtspflicht
Die ABA-Stellungnahme verlangt von leitenden Anwälten, klare Richtlinien für die zulässige KI-Nutzung festzulegen, und von aufsichtsführenden Anwälten, sicherzustellen, dass alle Mitarbeitenden — einschließlich Nicht-Anwälten — im ethischen und praktischen Umgang mit KI-Tools geschult werden. Diese Pflicht erstreckt sich auch auf Arbeiten, die an Dritte ausgelagert werden, die in ihren Prozessen KI einsetzen.
Ein Weg nach vorn
Ethischer KI-Einsatz in der juristischen Praxis bedeutet nicht, KI zu meiden — es bedeutet, sie verantwortungsvoll einzusetzen.
Kanzleien, die in speziell für den Rechtsbereich entwickelte KI-Tools investieren, klare Nutzungsrichtlinien festlegen und ihre Mitarbeitenden darin schulen, KI-Ergebnisse zu verifizieren und zu beaufsichtigen, sind am besten aufgestellt, um den echten Nutzen der KI auszuschöpfen und zugleich die Pflichten zu wahren, die den Berufsstand ausmachen.
- länderweiser Tracker der KI-Regeln der Anwaltskammern
- 1.313 Gerichtsverfahren und 496 sanktionierte Anwälte
- Human-in-the-Loop-Prüfung
- wie LLMs tatsächlich funktionieren und warum sie halluzinieren
- Erfahren Sie mehr über die Sicherheit von HAQQ Legal AI
- Entdecken Sie HAQQ Legal AI
- Lesen Sie über Nippon Life v. OpenAI
