KI-Halluzinationsfälle: Der Sanktions-Tracker mit 2.046 Fällen

Wichtige Fakten: Fälle von KI-Halluzinationen mit Stand September 2026

• 2.046 identifizierte Fälle von KI-Halluzinationen weltweit mit Stand vom 21. September 2026, laut Damien Charlotins Datenbank der AI Hallucination Cases.
• Die Kurve: ca. 200 Fälle Mitte 2025, 719 bis Januar 2026, 1.227 bis Anfang April 2026, 1.598 bis zum 9. Juni 2026, 2.046 bis zum 21. September 2026.
• Zwischen unserem Audit vom 22. Mai (1.458 Fälle) und dem 9. Juni (1.598) wurden der Datenbank 140 Fälle hinzugefügt. Das sind knapp 8 pro Tag, gegenüber den 5 bis 6 pro Tag, die Reporter im April gemessen haben.
• Zwischen dem 9. Juni und dem 21. September 2026 wurden der Datenbank 448 weitere Fälle hinzugefügt. Das sind etwa 4,3 pro Tag: immer noch steigend, aber etwa die Hälfte des Tempos des Zeitraums von Mai bis Juni.
• Rekordstrafe: etwa 109.700 US-Dollar an kombinierten Sanktionen und Gebühren in Couvrette v. Wisnovsky (D. Oregon), laut ABA Journal (2026).
• US-Gerichte verhängten allein im ersten Quartal 2026 über 145.000 US-Dollar an Strafen für KI-Einreichungen, laut ComplexDiscovery (2026).
• Neue Obergrenze der Schwere: In Withers v. City of Aberdeen (N.D. Mississippi, 8. Juni 2026) reichten beide Seiten gefälschte Zitate ein, der Richter annullierte den Prozess und suspendierte die beiden führenden Anwälte des Bezirks für zwei Jahre.
• Selbst kostenpflichtige juristische Recherchetools halluzinieren in 17% bis 34% der Fälle, laut einer von Stanford RegLab begutachteten Studie.

Die Zahl: 2.046 KI-Halluzinationsfälle, Tendenz steigend

Im Juni 2023 wurden zwei New Yorker Anwälte durch den Fall Mata v. Avianca bekannt, weil sie sechs von ChatGPT erfundene Fälle eingereicht hatten. Die Sanktion betrug 5.000 US-Dollar, und es wurde angenommen, dass die Branche aus diesem lauten, peinlichen Beispiel lernen würde. Dem war nicht so. Drei Jahre später hat dasselbe Versäumnis eine eigene öffentliche Datenbank, die täglich aktualisiert werden muss.

Diese Datenbank wird von Damien Charlotin, einem Forschungsstipendiaten an der HEC Paris, gepflegt. Die Aufnahmekriterien sind streng: Es werden nur Entscheidungen aufgeführt, bei denen ein Gericht oder Tribunal ausdrücklich festgestellt oder klar impliziert hat, dass eine Partei sich auf halluziniertes Material verlassen hat. Bloße Anschuldigungen zählen nicht. Mit dem Update vom 21. September 2026 waren 2.046 Fälle identifiziert worden.

Wir haben diese Zahl nicht einfach so hingenommen. Als wir diese Seite am 22. Mai 2026 zum ersten Mal überprüften, lag die Zahl bei 1.458. Achtzehn Tage später: 1.598. Das sind 140 neue dokumentierte Fälle, knapp acht pro Tag, schneller als das Tempo von fünf bis sechs Fällen pro Tag, das im April 2026 gemeldet wurde. Bis zum 21. September 2026 hatte die Zahl 2.046 erreicht: weitere 448 Fälle in 104 Tagen, oder etwa 4,3 pro Tag. Die Kurve steigt immer noch, aber die Tagesrate hat sich seit Juni etwa halbiert.

Und das sind nur die Fälle, die ein Richter bemerkt und festgehalten hat. Eine gefälschte Zitierung, die der gegnerische Anwalt nie überprüft, gelangt nicht in die Datenbank. Was auch immer die wahre Zahl ist, 2.046 ist die Untergrenze.

Die Wachstumskurve: 200 bis 2.046 in etwa fünfzehn Monaten

Die Berichterstattung von Scientific American (2026) beschreibt dieselbe Kurve in einem Satz: Die Datenbank enthielt vor einem Jahr etwa 200 Fälle und im Januar 719. Eine Analyse von PlatinumIDS vom April 2026 bezifferte die Zahl auf 1.227, davon 811 vor US-Gerichten. Unsere eigenen drei Überprüfungen verlängern die Linie auf 1.458, dann 1.598 und jetzt 2.046. Jede Messung weist in dieselbe Richtung.

Anwälte wegen gefälschter KI-Zitate sanktioniert: 8 wegweisende Fälle

Acht Fälle definieren, wie Gerichte heute mit von KI erfundenen Zitaten umgehen. Jeder der unten aufgeführten Fälle wurde vor der Veröffentlichung anhand primärer Berichte überprüft. Gemeinsam zeigen sie den Sanktionsverlauf: eine Geldstrafe im Jahr 2023, Gebührenzahlungen und entzogene Zulassungen im Jahr 2025, dann Suspendierungen und eine abgesagte Verhandlung bis Mitte 2026.

Mata v. Avianca: Das Original (2023)

Zwei New Yorker Anwälte zitierten in einem Personenschadensfall gegen Avianca Airlines sechs nicht existierende Entscheidungen, die von ChatGPT generiert wurden. Der Southern District of New York verurteilte sie zu einer Geldstrafe von 5.000 $. Damals schien es ein freakiger Unfall zu sein. Im Nachhinein war es der erste Fall von 2.046.

Wadsworth gegen Walmart: Das eigene KI-Tool der Kanzlei versagte (2025)

Drei Anwälte von Morgan & Morgan reichten Anträge ein, in denen sie neun Fälle anführten. Acht davon existierten nicht. Die Zitate stammten von der hauseigenen KI-Plattform der Kanzlei, MX2.law, nicht von einem Verbraucher-Chatbot. Ein Bundesrichter in Wyoming widerrief die pro hac vice Zulassung des verfassenden Anwalts und verhängte eine Geldstrafe von 3.000 US-Dollar, sowie Geldstrafen von jeweils 1.000 US-Dollar für die beiden unterzeichnenden Anwälte, so LawSites (2025). Die Lektion: Die Kennzeichnung „legal-grade“ auf dem Tool entbindet den Anwalt nicht von der Verifizierungspflicht.

Ayinde gegen Haringey: Großbritannien zieht die Grenze (2025)

Frei verfügbare generative Tools für künstliche Intelligenz, die auf einem großen Sprachmodell wie ChatGPT trainiert wurden, sind nicht in der Lage, zuverlässige juristische Recherchen durchzuführen.

Fünf gefälschte Fälle in einer gerichtlichen Überprüfung zur Obdachlosigkeit brachten einen jungen Barrister vor den Divisional Court. Das Gericht befand, dass die Schwelle für eine Missachtung des Gerichts erreicht war, lehnte es ab (dieses eine Mal), ein Verfahren einzuleiten, und verwies die Angelegenheit an das Bar Standards Board, so die Fallanalyse von Burges Salmon (2025). Das Urteil definierte auch, was als maßgebliche Quelle gilt, was wir in unserem Bericht „When AI Lies to the Court“ ausführlich behandelt haben.

Coomer gegen Lindell: 30 schlechte Zitate in einem Schriftsatz (2025)

Die Anwälte von MyPillow CEO Mike Lindell reichten in seinem Verleumdungsfall in Colorado einen Schriftsatz ein, der fast 30 fehlerhafte oder erfundene Zitate enthielt, die mithilfe generativer KI-Tools erstellt wurden. Richterin Nina Y. Wang verurteilte beide Anwälte zu einer Geldstrafe von jeweils 3.000 US-Dollar, wie NPR (2025) berichtete.

Couvrette gegen Wisnovsky: Die Rekordstrafe (2025-2026)

In drei Schriftsätzen für summarische Urteile in einem Streit um ein Weingut in Oregon reichte der Anwalt 15 KI-generierte gefälschte Zitate und acht erfundene Zitate ein. Das Ergebnis: rund 109.700 US-Dollar an kombinierten Sanktionen, Geldstrafen und Kosten der Gegenseite für die beiden beteiligten Anwälte, was als die bisher größte Gesamtstrafe gilt, so das ABA Journal (2026). Der Magistratsrichter nannte die Angelegenheit „ein berüchtigtes Ausreißer in Grad und Umfang“.

Tan Hai Peng gegen Tan Cheong Joo: Der Vorgesetzte zahlt auch (2026)

Singapurs High Court verhängte persönliche Kostenanordnungen gegen den Junioranwalt, der halluzinierte Inhalte generiert hatte, und den Partner, der die Einreichung ohne Überprüfung unterzeichnet hatte. Die Verteidigung des Partners bezüglich seiner Arbeitsbelastung wurde zurückgewiesen. Wir dokumentierten diese Entscheidung, [2026] SGHC 49, in unserem Primärquellenbericht über KI-Halluzinationen im Recht; sie passt zu einer Entscheidung des britischen Upper Tribunal, um eine neue Regel zu bilden: Das Versäumnis, die KI-Ausgabe eines Juniors zu überprüfen, macht den Vorgesetzten schuldiger, nicht weniger.

Whiting gegen City of Athens: Berufungsgerichte verlieren die Geduld (2026)

Der Sixth Circuit stellte fest, dass der Anwalt über 24 gefälschte Zitate angeführt, echte Fälle falsch zitiert und den Sachverhalt falsch dargestellt hatte. Er ordnete an, dass zwei Anwälte jeweils 15.000 US-Dollar an Strafen zusätzlich zu den Anwaltskosten der Gegenseite und doppelten Kosten zahlen müssen, die härteste Strafe, die nach Regel 38 verfügbar ist, so der Sixth Circuit Appellate Blog (2026). Erschwerender Faktor: frühere Disziplinarmaßnahmen wegen mangelnder Offenheit.

Withers gegen City of Aberdeen: beide Seiten, abgesagter Prozess (Juni 2026)

Der neueste Meilenstein, entschieden am 8. Juni 2026. Einreichungen sowohl der Anwälte des Klägers als auch der Stadt in einem Streit um Gebühren in Mississippi enthielten nicht existierende Fälle. Richterin Sharion Aycock sagte den geplanten Prozess ab, suspendierte die beiden leitenden auswärtigen Anwälte für zwei Jahre von der Ausübung ihres Berufs im Northern District of Mississippi, widerrief pro hac vice Zulassungen, verhängte gegen jeden Anwalt der Akte eine Geldstrafe zwischen 1.000 und 3.500 US-Dollar und benachrichtigte die staatlichen Anwaltskammern, so Bloomberg Law (2026). Sanktionen haben sich von Geldstrafen zu Karriereschäden entwickelt.

Der Trend bei Strafen: von Geldstrafen zu Karriereschäden

Unser Bericht „When AI Lies to the Court“ verfolgte die frühe Eskalation: von 5.000 US-Dollar im Jahr 2023 auf 55.597 US-Dollar in einer einzigen Angelegenheit bis 2025, ein 11-facher Sprung in 18 Monaten. Der Rekord liegt jetzt bei fast 109.700 US-Dollar, und US-Gerichte verhängten allein im ersten Quartal 2026 über 145.000 US-Dollar an Strafen für KI-Einreichungen, so ComplexDiscovery (2026).

Aber das Geld ist nicht mehr die Geschichte. Die Fälle von 2026 fügen Suspendierungen, widerrufene Zulassungen, Verweisungen an Aufsichtsbehörden, einen abgesagten Prozess und persönliche Haftung für beaufsichtigende Partner hinzu. Eine Geldstrafe ist ein schlechter Tag. Eine zweijährige Suspendierung von einem Bundesbezirk ist eine andere Kategorie von Konsequenzen.

Warum Anwälte weiterhin gefälschte KI-Zitate einreichen

Die Richter haben gewarnt. Die Sanktionen sind öffentlich. Die Datenbank ist kostenlos. Warum also steigt die Anzahl um acht Fälle pro Tag? Scientific American (2026) stellte die Frage in ihrer Überschrift: Anwälte wissen, dass KI halluziniert, und zitieren trotzdem gefälschte Fälle.

Ein Teil der Antwort sind die Grundquoten. Die von Experten begutachtete Studie des Stanford RegLab ergab, dass selbst speziell entwickelte kostenpflichtige juristische Rechercheinstrumente in 17 % bis 34 % der Fälle halluzinieren, und allgemeine Chatbots weitaus häufiger. Unser eigener 300-Aufgaben-Benchmark von 10 Spitzenmodellen ergab, dass 24 % aller Antworten Gesetze zitierten, die die Behauptung tatsächlich nicht stützten. Ein Tool, das in jedem vierten Fall falsch liegt und täglich von Tausenden von zeitorientierten Anwälten genutzt wird, erstellt diese Datenbank termingerecht.

Ein Teil davon ist eine fehlgeleitete Delegation. Wadsworth zeigt eine interne 'Legal AI'-Plattform, die acht von neun Zitaten fabriziert. Die Aufsichtsentscheidungen im Vereinigten Königreich und in Singapur zeigen, dass Senioren die Arbeit von Junioren ungeprüft abzeichnen. Wie wir in „When AI Lies to the Court“ argumentiert haben, ist die Überprüfungspflicht absolut und nicht delegierbar: weder an das Tool, noch an den Junior, noch an den Anbieter. Gerichte im Vereinigten Königreich, in Singapur, Argentinien und den USA haben sich unabhängig voneinander auf dieses Prinzip geeinigt.

Wie HAQQ Zitate untermauert

Unsere Position hat sich seit der ersten Version dieses Audits nicht geändert: Bitten Sie ein Modell nicht, das Gesetz zu erinnern. Bitten Sie es, das Gesetz abzurufen, die Quelle zu zitieren und seine eigene Unsicherheit offenzulegen, und schalten Sie dann einen Menschen ein, bevor etwas das Gebäude verlässt. Jede Ausgabe in HAQQ enthält einen Verweis auf eine Primärquelle, und wesentliche Arbeiten werden von einem Anwalt freigegeben.

Diese Architektur existiert aufgrund von Seiten wie dieser. Ein selbstbewusstes falsches Zitat ist schlimmer als ein ehrliches 'Ich weiß es nicht.' Die 2.046 oben genannten Fälle zeigen, was im großen Maßstab passiert, wenn Systeme andersherum aufgebaut werden.

Wie dieser Tracker aktuell bleibt

Wir überprüfen diese Seite monatlich anhand der Live-Datenbank und der primären Berichterstattung. Jedes Update überprüft vier Dinge: die Gesamtzahl der Fälle, die Rekordstrafe, neue wegweisende Entscheidungen (Berufungs-, grenzüberschreitende oder neuartige Sanktionstypen) und die implizierte Tagesrate. Zahlen, die wir nicht erneut überprüfen können, werden entfernt, nicht behalten.

• 21. September 2026: Neu überprüft anhand der Live-Datenbank. Anzahl von 1.598 auf 2.046 aktualisiert, wodurch 448 Fälle in 104 Tagen hinzugefügt wurden. Implizierte Tagesrate von knapp 8 auf etwa 4,3 nach unten korrigiert.
• 11. Juni 2026: Das einmalige Audit wurde zu einem Tracker umgebaut. Anzahl von 1.458 auf 1.598 aktualisiert. Couvrette, Whiting, Withers, Wadsworth, Coomer, Ayinde und Tan Hai Peng als wegweisende Einträge hinzugefügt.
• 22. Mai 2026: Ursprüngliches Audit mit 1.458 Fällen veröffentlicht.

Wichtige Erkenntnisse

• 2.046 dokumentierte KI-Halluzinationsfälle bis zum 21. September 2026, etwa 4,3 pro Tag.
• Die Strafen stiegen von einer Geldstrafe von 5.000 US-Dollar im Jahr 2023 auf eine Rekordsumme von etwa 109.700 US-Dollar, zweijährige Suspendierungen und eine abgesagte Gerichtsverhandlung bis Mitte 2026.
• Vorgesetzte haften in Großbritannien und Singapur persönlich für die Unterzeichnung ungeprüfter KI-Arbeit.
• Selbst kostenpflichtige Legal AI Tools halluzinieren 17 % bis 34 % der Zeit. Die Lösung ist architektonisch: geerdete Abfrage, überprüfbare Zitate, menschliche Abnahme.
• Diese Seite wird monatlich neu überprüft. Letzte Überprüfung am 21. September 2026.

Quellen & weiterführende Lektüre

• Wenn KI das Gericht anlügt: Unser Primärquellenbericht über KI-Halluzinationen im Recht
• Nippon Life gegen OpenAI: Wenn KI Anwalt spielt
• Unser Benchmark: 3 Modelle für 100 reale Rechtsfragen
• Unser 300-Aufgaben-Frontier-Modell-Benchmark (die 24 % Zitatlücke)
• Damien Charlotin: Datenbank für KI-Halluzinationsfälle
• ABA Journal: Bundesrichter in Oregon verhängt Strafe von 110.000 $ wegen KI-Fehlern
• Bloomberg Law: Anwälte beider Parteien im Fall Mississippi wegen KI-Fehlern bestraft
• Sixth Circuit Appellate Blog: Sanktionen für gefälschte Zitate in Whiting v. City of Athens
• LawSites: Morgan & Morgan Anwälte in Wadsworth v. Walmart sanktioniert
• NPR: KI-Halluzination im Fall Mike Lindell dient als ernste Warnung
• Burges Salmon: professionelles Verhalten und KI in Ayinde v Haringey
• Scientific American: warum Anwälte immer wieder gefälschte, von KI erfundene Fälle zitieren
• ComplexDiscovery: die KI-Sanktionswelle, 145.000 $ an Strafen im 1. Quartal
• PlatinumIDS: die KI-Halluzinationskrise, die Gerichte trifft
• Stanford HAI / RegLab: Rechtsmodelle halluzinieren bei 1 von 6 Anfragen oder mehr
• Mata v. Avianca, Inc. (Wikipedia)