KI-Halluzinationsfälle: Der Sanktions-Tracker mit 1,598 Fällen

Wichtige Fakten: KI-Halluzinationsfälle, Stand Juni 2026

• 1,598 KI-Halluzinationsfälle weltweit identifiziert, Stand 9. Juni 2026, laut Damien Charlotins AI-Hallucination-Cases-Datenbank.
• Der Verlauf: rund 200 Fälle Mitte 2025, 719 bis Januar 2026, 1,227 bis Anfang April 2026, 1,598 bis zum 9. Juni 2026.
• Zwischen unserem Audit vom 22. Mai (1,458 Fälle) und dem 9. Juni (1,598) kamen 140 Fälle zur Datenbank hinzu. Das sind knapp 8 pro Tag, gegenüber den 5 bis 6 pro Tag, die Journalisten im April maßen.
• Rekordstrafe: etwa $109,700 an kombinierten Sanktionen und Gebühren in Couvrette v. Wisnovsky (D. Oregon), laut ABA Journal (2026).
• US-Gerichte verhängten allein im ersten Quartal 2026 über $145,000 an Strafen für KI-Einreichungen, laut ComplexDiscovery (2026).
• Neue Höchstmarke bei der Schwere: In Withers v. City of Aberdeen (N.D. Mississippi, 8. Juni 2026) reichten beide Seiten gefälschte Zitate ein, der Richter sagte den Prozess ab und suspendierte die beiden leitenden Anwälte für zwei Jahre vom Bezirk.
• Selbst kostenpflichtige juristische Recherchetools halluzinieren in 17% bis 34% der Fälle, laut der begutachteten Studie von Stanford RegLab.

Die Zahl: 1,598 KI-Halluzinationsfälle und steigend

Im Juni 2023 machte Mata v. Avianca zwei New Yorker Anwälte berühmt, weil sie sechs von ChatGPT erfundene Fälle einreichten. Die Sanktion betrug $5,000, und die Arbeitsannahme war, dass der Berufsstand aus einem lauten, peinlichen Beispiel lernen würde. Das geschah nicht. Drei Jahre später hat derselbe Fehler seine eigene öffentliche Datenbank, und diese Datenbank braucht tägliche Aktualisierungen.

Diese Datenbank wird von Damien Charlotin geführt, einem Research Fellow an der HEC Paris. Die Aufnahmeschwelle ist streng: Sie listet nur Entscheidungen, bei denen ein Gericht oder Tribunal ausdrücklich festgestellt oder klar impliziert hat, dass sich eine Partei auf halluzinierte Inhalte gestützt hat. Bloße Vorwürfe zählen nicht. Mit dem Update vom 9. Juni 2026 hatte sie 1,598 Fälle identifiziert.

Wir haben diese Zahl nicht einfach geglaubt. Als wir diese Seite erstmals am 22. Mai 2026 geprüft haben, lag die Zahl bei 1,458. Achtzehn Tage später: 1,598. Das sind 140 neu dokumentierte Fälle, knapp acht pro Tag, schneller als das im April 2026 berichtete Tempo von fünf bis sechs täglich. Die Kurve flacht nicht ab. Sie wird steiler.

Und das sind nur die Fälle, die ein Richter bemerkt und dokumentiert hat. Ein erfundenes Zitat, das die Gegenseite nie überprüft, schafft es nicht in die Datenbank. Wie hoch die wahre Zahl auch sein mag, 1,598 ist die Untergrenze.

Die Wachstumskurve: von 200 auf 1,598 in etwa einem Jahr

Die Berichterstattung von Scientific American (2026) fasst dieselbe Kurve in einem Satz zusammen: Die Datenbank enthielt vor einem Jahr rund 200 Fälle und im Januar 719. Eine Analyse von PlatinumIDS aus April 2026 bezifferte die Zahl auf 1,227, davon 811 vor US-Gerichten. Unsere eigenen zwei Prüfungen verlängern die Linie auf 1,458 und dann 1,598. Jede Messung zeigt in dieselbe Richtung.

Anwälte sanktioniert wegen gefälschter KI-Zitate: 8 wegweisende Fälle

Acht Fälle definieren, wie Gerichte heute mit KI-erfundenen Zitaten umgehen. Jeder davon wurde vor der Veröffentlichung gegen primäre Berichterstattung verifiziert. Zusammen zeigen sie den Strafenbogen: eine Geldstrafe 2023, Gebührenanordnungen und entzogene Zulassungen 2025, dann Suspendierungen und ein abgesagter Prozess bis Mitte 2026.

Mata v. Avianca: der Ursprung (2023)

Zwei New Yorker Anwälte zitierten sechs von ChatGPT erfundene, nicht existierende Entscheidungen in einer Personenschadensklage gegen Avianca Airlines. Der Südbezirk von New York verhängte eine Geldstrafe von $5,000. Damals wirkte es wie ein bizarrer Einzelfall. Im Rückblick war es Fall eins von 1,598.

Wadsworth v. Walmart: das eigene KI-Tool der Kanzlei versagte (2025)

Drei Anwälte von Morgan & Morgan reichten Anträge mit neun Zitaten ein. Acht davon existierten nicht. Die Zitate stammten von der internen KI-Plattform der Kanzlei, MX2.law, nicht von einem Verbraucher-Chatbot. Ein Bundesrichter in Wyoming entzog dem verfassenden Anwalt die Pro-hac-vice-Zulassung und verhängte gegen ihn eine Geldstrafe von $3,000, mit $1,000 Geldstrafen für die beiden unterzeichnenden Anwälte, laut LawSites (2025). Die Lehre: Das Label „legal-grade" auf dem Tool verlagert die Verifizierungspflicht nicht vom Anwalt weg.

Ayinde v Haringey: das Vereinigte Königreich zieht die Grenze (2025)

Frei verfügbare generative KI-Tools, trainiert auf einem großen Sprachmodell wie ChatGPT, sind nicht in der Lage, verlässliche Rechtsrecherche zu leisten.

Fünf gefälschte Fälle in einer gerichtlichen Überprüfung zur Obdachlosigkeit brachten eine junge Barristerin vor den Divisional Court. Das Gericht stellte fest, dass die Schwelle für Missachtung des Gerichts erreicht war, sah (diesmal) von der Einleitung eines Verfahrens ab und verwies den Fall an das Bar Standards Board, laut der Fallanalyse von Burges Salmon (2025). Das Urteil definierte zudem, was als maßgebliche Quelle gilt – darüber haben wir ausführlich in unserem Bericht „When AI Lies to the Court" geschrieben.

Coomer v. Lindell: 30 fehlerhafte Zitate in einem Schriftsatz (2025)

Anwälte des MyPillow-CEOs Mike Lindell reichten in seinem Verleumdungsverfahren in Colorado einen Schriftsatz mit fast 30 fehlerhaften oder erfundenen Zitaten ein, verfasst mit Hilfe generativer KI-Tools. Richterin Nina Y. Wang verhängte gegen beide Anwälte Geldstrafen von je $3,000, wie NPR (2025) berichtete.

Couvrette v. Wisnovsky: die Rekordstrafe (2025-2026)

Über drei Schriftsätze zum summarischen Urteil in einem Weingut-Streit in Oregon reichten die Anwälte 15 KI-erfundene Zitate und acht erfundene Zitate ein. Das Ergebnis: rund $109,700 an kombinierten Sanktionen, Geldstrafen und Gegenanwaltskosten für die beiden beteiligten Anwälte – vermutlich die bislang größte Gesamtstrafe, laut ABA Journal (2026). Der zuständige Magistrate Judge nannte den Fall „einen notorischen Ausreißer sowohl im Ausmaß als auch im Umfang."

Tan Hai Peng v Tan Cheong Joo: auch der Aufsichtsführende zahlt (2026)

Der High Court von Singapur verhängte persönliche Kostenanordnungen sowohl gegen den Junior-Anwalt, der die halluzinierten Inhalte erzeugt hatte, als auch gegen den Partner, der den Schriftsatz ohne Prüfung unterzeichnete. Die Arbeitsbelastung des Partners wurde als Verteidigung verworfen. Wir haben diese Entscheidung, [2026] SGHC 49, in unserem Primärquellenbericht zu KI-Halluzinationen im Recht dokumentiert; sie ergänzt ein Urteil des britischen Upper Tribunal zu einer neuen Regel: Wer die KI-Ausgabe eines Junior nicht prüft, macht sich als Aufsichtsführender stärker, nicht weniger, verantwortlich.

Whiting v. City of Athens: Berufungsgerichte verlieren die Geduld (2026)

Der Sixth Circuit stellte fest, dass die Anwälte über 24 gefälschte Zitate angeführt, echte Fälle falsch zitiert und die Aktenlage falsch dargestellt hatten. Er verurteilte zwei Anwälte zu je $15,000 an Strafsanktionen zusätzlich zu den Anwaltskosten der Gegenseite und doppelten Kosten – die härteste nach Rule 38 verfügbare Strafe, laut dem Sixth Circuit Appellate Blog (2026). Erschwerend: frühere Disziplinarmaßnahmen wegen mangelnder Offenheit.

Withers v. City of Aberdeen: beide Seiten, abgesagter Prozess (Juni 2026)

Der neueste wegweisende Fall, entschieden am 8. Juni 2026. Schriftsätze sowohl der Anwälte des Klägers als auch der Stadt in einem Honorarstreit in Mississippi enthielten nicht existierende Fälle. Richterin Sharion Aycock sagte den geplanten Prozess ab, suspendierte die beiden leitenden auswärtigen Anwälte für zwei Jahre von der Praxis im Northern District of Mississippi, entzog Pro-hac-vice-Zulassungen, verhängte gegen jeden aktenführenden Anwalt Geldstrafen zwischen $1,000 und $3,500 und benachrichtigte die Anwaltskammern der Bundesstaaten, laut Bloomberg Law (2026). Sanktionen haben sich von Geld zu Karriereschäden verschoben.

Der Strafentrend: von Geldstrafen zu Karriereschäden

Unser Bericht „When AI Lies to the Court" verfolgte die frühe Eskalation: von $5,000 im Jahr 2023 auf $55,597 in einem einzelnen Fall bis 2025 – ein 11x-Sprung in 18 Monaten. Der Rekord liegt inzwischen bei rund $109,700, und US-Gerichte verhängten allein im ersten Quartal 2026 über $145,000 an Strafen für KI-Einreichungen, laut ComplexDiscovery (2026).

Doch das Geld ist längst nicht mehr die eigentliche Geschichte. Die Fälle aus 2026 bringen Suspendierungen, entzogene Zulassungen, Meldungen an Aufsichtsbehörden, einen abgesagten Prozess und persönliche Haftung für aufsichtsführende Partner mit sich. Eine Geldstrafe ist ein schlechter Tag. Eine zweijährige Suspendierung von einem Bundesbezirk ist eine andere Kategorie von Konsequenz.

Warum Anwälte weiterhin gefälschte KI-Zitate einreichen

Die Richter haben gewarnt. Die Sanktionen sind öffentlich. Die Datenbank ist frei zugänglich. Warum wächst die Zahl also um acht Fälle pro Tag? Scientific American (2026) brachte die Frage in der Schlagzeile auf den Punkt: Anwälte wissen, dass KI halluziniert, und zitieren trotzdem weiter erfundene Fälle.

Ein Teil der Antwort liegt in den Basisraten. Die begutachtete Studie von Stanford RegLab ergab, dass sogar eigens für das Rechtswesen gebaute, kostenpflichtige Recherchetools in 17% bis 34% der Fälle halluzinieren, allgemeine Chatbots weit häufiger. Unser eigener 300-Aufgaben-Benchmark mit 10 Frontier-Modellen ergab, dass 24% aller Antworten Recht zitierten, das die Aussage tatsächlich nicht stützte. Ein Werkzeug, das in einem von vier Fällen falsch liegt und täglich von Tausenden zeitknappen Anwälten genutzt wird, produziert diese Datenbank wie am Fließband.

Ein weiterer Teil liegt an falsch verstandener Delegation. Wadsworth zeigt eine hausinterne „Legal-AI"-Plattform, die acht von neun Zitaten erfand. Die Aufsichtsentscheidungen aus dem Vereinigten Königreich und Singapur zeigen Seniors, die ungeprüfte Arbeit von Junioren unterzeichnen. Wie wir in „When AI Lies to the Court" argumentiert haben, ist die Verifizierungspflicht absolut und nicht delegierbar: nicht an das Tool, nicht an den Junior-Anwalt, nicht an den Anbieter. Gerichte im Vereinigten Königreich, in Singapur, Argentinien und den USA sind unabhängig voneinander zu diesem Grundsatz gekommen.

Wie HAQQ Zitate verankert

Unsere Position hat sich seit der ersten Version dieses Audits nicht geändert: Man sollte ein Modell nicht bitten, sich an das Recht zu erinnern. Man sollte es bitten, das Recht abzurufen, die Quelle zu zitieren und seine eigene Unsicherheit offenzulegen, und dann einen Menschen einbinden, bevor irgendetwas das Haus verlässt. Jede Ausgabe von HAQQ trägt einen Zitatverweis zu einer Primärquelle, und materielle Arbeit läuft über die Freigabe durch einen Anwalt.

Diese Architektur existiert wegen Seiten wie dieser. Ein selbstbewusst falsches Zitat ist schlimmer als ein ehrliches „ich weiß es nicht." Die 1,598 Fälle oben sind das, was im großen Maßstab passiert, wenn Systeme andersherum gebaut werden.

Wie dieser Tracker aktuell gehalten wird

Wir verifizieren diese Seite monatlich neu gegen die Live-Datenbank und primäre Berichterstattung. Jedes Update prüft vier Dinge: die Gesamtzahl der Fälle, die Rekordstrafe, neue wegweisende Entscheidungen (Berufung, grenzüberschreitend oder neuartige Sanktionsart) und die daraus abgeleitete Tagesrate. Zahlen, die wir nicht neu verifizieren können, werden entfernt, nicht beibehalten.

• 11. Juni 2026: das einmalige Audit zu einem Tracker umgebaut. Zahl von 1,458 auf 1,598 aktualisiert. Couvrette, Whiting, Withers, Wadsworth, Coomer, Ayinde und Tan Hai Peng als wegweisende Einträge hinzugefügt.
• 22. Mai 2026: ursprüngliches Audit veröffentlicht mit 1,458 Fällen.

Die wichtigsten Erkenntnisse

• 1,598 dokumentierte KI-Halluzinationsfälle, Stand 9. Juni 2026, mit knapp 8 neuen Fällen pro Tag und beschleunigt.
• Strafen entwickelten sich von einer Geldstrafe von $5,000 im Jahr 2023 zu einem Rekord von rund $109,700, zweijährigen Suspendierungen und einem abgesagten Prozess bis Mitte 2026.
• Aufsichtsführende Personen sind im Vereinigten Königreich und in Singapur inzwischen persönlich haftbar für die Unterzeichnung ungeprüfter KI-Arbeit.
• Selbst kostenpflichtige Legal-AI-Tools halluzinieren in 17% bis 34% der Fälle. Die Lösung ist architektonisch: verankerte Retrieval-Suche, verifizierbare Zitate, menschliche Freigabe.
• Diese Seite wird monatlich neu verifiziert. Zuletzt verifiziert am 9. Juni 2026.

Quellen & weiterführende Lektüre

• When AI Lies to the Court: unser Primärquellenbericht zu KI-Halluzinationen im Recht
• Nippon Life v. OpenAI: wenn KI Anwalt spielt
• Unser Benchmark: 3 Modelle bei 100 echten Rechtsfragen
• Unser 300-Aufgaben-Frontier-Modell-Benchmark (die 24%-Zitationslücke)
• Damien Charlotin: AI Hallucination Cases-Datenbank
• ABA Journal: Bundesrichter in Oregon verhängt $110K-Strafe für KI-Fehler
• Bloomberg Law: Anwälte beider Seiten im Fall aus Mississippi wegen KI-Fehlern bestraft
• Sixth Circuit Appellate Blog: Sanktionen für gefälschte Zitate in Whiting v. City of Athens
• LawSites: Anwälte von Morgan & Morgan in Wadsworth v. Walmart sanktioniert
• NPR: KI-Halluzination im Fall Mike Lindell dient als deutliche Warnung
• Burges Salmon: Berufspflichten und KI in Ayinde v Haringey
• Scientific American: warum Anwälte weiterhin von KI erfundene Fälle zitieren
• ComplexDiscovery: die KI-Sanktionswelle, $145K an Strafen im ersten Quartal
• PlatinumIDS: ein Blick in die KI-Halluzinationskrise an den Gerichten
• Stanford HAI / RegLab: Legal-Modelle halluzinieren bei 1 von 6 Anfragen oder mehr
• Mata v. Avianca, Inc. (Wikipedia)