Případy halucinací AI: sledování sankcí v 2,202 případech

Klíčová fakta

• 2,202 rozhodnutí na celém světě, v nichž šlo o vymyšlený materiál z AI (databáze Charlotin, aktualizace z 19. října 2026).
• Podle zemí: Spojené státy 1,501; Kanada 234; Austrálie 112; Spojené království 76; Brazílie 41; Indie 16; Itálie 15; Francie 14; Argentina 10; Singapur 8 (filtr jurisdikce v databázi Charlotin, 19. října 2026).
• Podle podatele: účastníci řízení bez právního zastoupení (pro se) 1,267; advokáti 872; soudci 32; znalci 17 (filtr strany v databázi Charlotin, 19. října 2026).
• Růst: asi 200 případů v polovině roku 2025, 719 v lednu 2026 (Scientific American, 2026), 1,227 na začátku dubna 2026 (PlatinumIDS, duben 2026), 1,458 dne 22. května, 1,598 dne 9. června, 2,046 dne 21. září a 2,202 dne 19. října 2026 (kontroly živé databáze provedené HAQQ).
• Nejvyšší sankce v jediné věci, kterou umíme doložit: asi $109,700 na sankcích a nákladech ve věci Couvrette v. Wisnovsky, D. Oregon (ABA Journal, 2026).
• Soudy v USA uložily v 1. čtvrtletí 2026 na pokutách za podání s AI obsahem více než $145,000 (ComplexDiscovery, duben 2026).
• Withers v. City of Aberdeen, N.D. Mississippi, 8. června 2026: vymyšlené citace na obou stranách, zrušené hlavní líčení, dva vedoucí advokáti vyloučeni z praxe u tohoto okresního soudu na dva roky (Bloomberg Law, červen 2026).
• Placené nástroje pro právní rešerše halucinovaly u 17 % (Lexis+ AI) až 33 % a více (Westlaw AI-Assisted Research) srovnávacích dotazů (Stanford RegLab a HAI, Journal of Empirical Legal Studies, 2025).

Kolik je případů halucinací AI?

2,202 k aktualizaci databáze z 19. října 2026. Databázi spravuje Damien Charlotin, výzkumný pracovník HEC Paris. Podmínky pro zařazení jsou přísné: rozhodnutí se uvádí, jen pokud soud nebo tribunál shledal, nebo jasně naznačil, že se účastník opřel o halucinovaný materiál. Samotná obvinění se nepočítají.

Číslo si každý měsíc ověřujeme sami, místo abychom citovali zprostředkované zdroje. Dne 22. května 2026 činil počet 1,458. Dne 9. června to bylo 1,598, tedy tempo těsně pod osm nových případů denně. Mezi 9. červnem a 21. zářím kleslo tempo na asi 4.3 denně (2,046). Mezi 21. zářím a 19. říjnem se opět zvýšilo na asi 5.6 denně (2,202).

Dvě poznámky ke čtení tohoto čísla. Zaprvé, počítá jen to, co soudce zachytil a zaznamenal; vymyšlená citace, kterou nikdo neověří, se do databáze nikdy nedostane, takže 2,202 je minimum. Zadruhé, většinu záznamů netvoří advokáti. Účastníci řízení bez zastoupení tvoří 1,267 rozhodnutí a advokáti 872. Právě případy advokátů vedou k sankcím, vyloučení z praxe a oznámením regulátorovi a tato stránka sleduje podrobně právě je.

Jak rychle počet roste?

Scientific American (2026) uvedl, že databáze o rok dříve obsahovala asi 200 případů a v lednu 2026 jich bylo 719. PlatinumIDS napočítal v dubnu 2026 celkem 1,227, z toho 811 u soudů v USA. Naše čtyři kontroly od května tuto křivku prodlužují. Denní tempo se mezi měsíci mění, ale neklesla pod čtyři.

Kteří advokáti byli sankcionováni za vymyšlené citace z AI?

Tabulka níže uvádí rozhodnutí, která považujeme za přelomová, ověřená podle rozsudku nebo primárních zpráv. Čtena shora dolů ukazuje vývoj sankcí: pokuta v roce 2023, náhrady nákladů a odebraná oprávnění v roce 2025, poté vyloučení z praxe, zrušené hlavní líčení a osobní náklady uložené dohlížejícím advokátům v roce 2026.

Jak soudy přistupují k halucinacím AI podle jurisdikcí?

Soudy ve Spojených státech, v Anglii a Walesu, v Singapuru i v Argentině dospěly ke stejnému pravidlu bez vzájemné koordinace: advokát, který podání předkládá, musí ověřit každý v něm uvedený pramen a tuto povinnost nelze přenést na nástroj, juniora ani dodavatele. Liší se v tom, kdo platí a kolik.

Spojené státy: od pokut ke kariéře

Soudy v USA tvoří většinu databáze (1,501 z 2,202 rozhodnutí) i většinu peněz. Věc Mata v. Avianca (S.D.N.Y., červen 2023) určila výchozí bod: šest vymyšlených případů od ChatGPT, pokuta $5,000. Ve věci Wadsworth v. Walmart (D. Wyoming, únor 2025) pocházelo osm z devíti citací z interní platformy Morgan & Morgan, MX2.law, a neexistovalo; autor podání přišel o admisi pro hac vice (LawSites, 2025). Označení nástroje jako legal AI nepřeneslo povinnost ověřovat z advokáta.

Ve věci Coomer v. Lindell (D. Colorado, červenec 2025) stálo podání s téměř 30 vadnými citacemi každého ze dvou advokátů $3,000 (NPR, 2025). Ve věci Couvrette v. Wisnovsky (D. Oregon) vedlo 15 vymyšlených citací a osm smyšlených citátů ve třech podáních k rozsudku bez jednání o věci ke kombinovaným sankcím a nákladům ve výši asi $109,700, což soudce magistrát označil za „notorický extrém v rozsahu i počtu“ (ABA Journal, 2026).

Odvolací soudy poté zvýšily strop. Ve věci Whiting v. City of Athens zjistil Sixth Circuit více než 24 vymyšlených citací, uložil dvěma advokátům represivní sankce po $15,000 podle Federal Rule of Appellate Procedure 38 a k tomu náhradu nákladů protistrany a dvojnásobné náklady řízení (Sixth Circuit Appellate Blog, 2026). Dne 8. června 2026 ve věci Withers v. City of Aberdeen soudkyně Sharion Aycock zrušila hlavní líčení poté, co obě strany podaly neexistující případy, vyloučila dva vedoucí advokáty z jiného státu z praxe u Northern District of Mississippi na dva roky, odebrala jim admisi pro hac vice a uvědomila státní advokátní komory (Bloomberg Law, 2026).

Anglie a Wales: pravidlo autoritativního zdroje

Ve věci R (Ayinde) v London Borough of Haringey, projednávané společně s Al-Haroun v Qatar National Bank, vydal Divisional Court (President of the King's Bench Division a soudce Johnson J) dne 6. června 2025 rozhodnutí [2025] EWHC 1383 (Admin). Pět vymyšlených případů v soudním přezkumu ve věci bezdomovectví přivedlo před soud junior barristerku. Soud shledal, že byl splněn práh pro pohrdání soudem, tentokrát odmítl zahájit řízení a oznámil ji Bar Standards Board (Burges Salmon, 2025).

„Volně dostupné nástroje generativní umělé inteligence... nejsou schopné spolehlivě provádět právní rešerše.“ (R (Ayinde) v Haringey [2025] EWHC 1383 (Admin))

Rozsudek také vyjmenoval, co je autoritativním zdrojem: vládní databáze právních předpisů, databáze rozsudků National Archives, oficiální Law Reports a databáze renomovaných právnických nakladatelů. Tento seznam je praktickou specifikací pro jakýkoli rešeršní nástroj, na který se barrister spoléhá.

Upper Tribunal (Immigration and Asylum Chamber) šel v otázce dohledu dál ve věci UK v Secretary of State for the Home Department [2026] UKUT 81 (IAC), vyhlášené 17. listopadu 2025. V rámci své jurisdikce Hamid rozhodl, že dohlížející advokát zůstává odpovědný za přesnost přenesené práce a musí zajistit, aby fee-earners rozuměli rizikům nespecializované AI. Jednoho solicitora oznámil Solicitors Regulation Authority; druhý se již oznámil sám. Také varoval, že nahrání důvěrných dokumentů do open-source nástroje, jako je ChatGPT, může porušit mlčenlivost a vést ke ztrátě privilegia a mělo by být oznámeno Information Commissioner's Office.

Singapur: osobní náklady pro oba právníky

Ve věci Tan Hai Peng Micheal v Tan Cheong Joo [2026] SGHC 49 (rozsudek ze dne 6. března 2026) se soudce S Mohan J zabýval dvěma fiktivními případy v závěrečných návrzích žalovaných. Podal je zástupce Goh Peck San; solicitor Amarjit Singh Sidhu, přizvaný k pomoci s rešerší, je dodal. Soud rozhodl, že povinnost zástupce ověřovat je nepřenositelná, uložil každému z nich osobní náklady ve výši S$5,000 na indemnitní bázi, odmítl věc řešit neveřejně a zakázal oběma účtovat klientům čas, který jí věnovali.

Argentina: napomenutí a oznámení advokátní komoře na odvolací úrovni

Argentina má v databázi 10 rozhodnutí. Odvolací rozhodnutí, která jsme mohli ověřit, končí napomenutím a oznámením místní advokátní komoře; žádné neuložilo pokutu. Ve věci M.J.L. c/ Peugeot Citroen Argentina odvolací občanskoprávní senát v General Roca zjistil neexistující citace v podáních obou stran, neuložil žádnou sankci, vydal formální napomenutí a věc oznámil Colegio de Abogados de General Roca. Ve věci Acevedo c/ Caceres Mareco prohlásil Sala I odvolacího občanskoprávního a obchodního senátu v Morónu odvolání za opuštěné, protože jeho důvody stály na citacích, které nikdo nedokázal dohledat, a věc rovněž oznámil advokátní komoře (Marval O'Farrell Mairal, říjen 2025).

Odvolací senát v Rosariu (Sala II, srpen 2025) zaujal stejný preventivní postoj: jednání advokáta označil za jednání v dobré víře, ale neověřené přenesení rešerše judikatury popsal jako lehkomyslné, dokud nástroje halucinují (Diario Judicial, 2025). Procesním důsledkem, který argentinští advokáti pociťují, je to, že odvolání postavené na vymyšlených pramenech nesplňuje požadavek konkrétní kritiky a je prohráno.

Spojené arabské emiráty: první příkaz k úhradě nákladů v Zálivu kvůli AI

Ve věci Arabyads Holding Ltd v Gulrez Alam [2025] ADGMCFI 0032, rozhodnuté v prosinci 2025, nařídil Court of First Instance ADGM bývalým advokátům žalovaného uhradit zmařené náklady ve výši AED 282,508 na indemnitní bázi. Jejich obrana se opírala o neexistující nebo nesprávně použité prameny a soud označil neověření výzkumu vytvořeného AI za lehkomyslné a za porušení Rules of Conduct ADGM (Matouk Bassiouny & Hennawy; Morgan Lewis). Jak k AI přistupují tři soudní systémy SAE, je popsáno v článku Onshore, DIFC, ADGM.

Jak se sankce za AI stupňovaly?

Peníze jsou méně důležité než ostatní následky. Rozhodnutí z let 2025 a 2026 přidávají odebrané admise, oznámení regulátorům, zjištění pohrdání soudem, zrušené hlavní líčení, vyloučení z praxe u okresního soudu a osobní náklady pro advokáta, který podepsal bez kontroly. Pokuta ukončí špatný týden. Dvouleté vyloučení z federálního okresu ukončí tamní praxi.

Proč advokáti dál podávají vymyšlené citace z AI?

Většinu vysvětlují základní četnosti. Studie Stanford RegLab zjistila, že specializované placené rešeršní nástroje halucinovaly u 17 % (Lexis+ AI) až 33 % a více (Westlaw AI-Assisted Research) srovnávacích dotazů a dřívější studie Stanfordu shledala, že obecné chatboty odpovídaly chybně na 69 % až 88 % právních dotazů. Náš vlastní benchmark 300 úloh s frontier modely zjistil, že 24 % hodnocených odpovědí citovalo nebo aplikovalo právo, které dané tvrzení nepodporovalo (HAQQ tento benchmark provedl a prodává produkt Legal AI, takže naše čísla posuzujte s tím vědomím). Nástroj, který se mýlí jednou ze čtyř, používaný denně vytíženými advokáty, plní tuto databázi podle plánu.

Zbytek je otázka přenášení úkolů. Wadsworth ukazuje firemní platformu, která si vymyslela osm z devíti citací. UKUT 81 a SGHC 49 ukazují osobu, která podepsala a spoléhala na to, že někdo jiný ověřil. Každá výše uvedená jurisdikce došla ke stejné odpovědi: povinnost nese podpis.

Jak se mohou advokáti vyhnout sankcím za citace z AI?

• Před podáním otevřete každý citovaný pramen v primárním zdroji (oficiální sbírky, soudní databáze, portály právních předpisů). Citace, která existuje jen ve výstupu AI, je vymyšlená, dokud se neprokáže opak.
• Ověřte, že pasáž říká to, co podání tvrdí. Několik sankcionovaných podání citovalo skutečné případy pro tvrzení, která nikdy neobsahovaly.
• Kontrolu zařaďte před podpis. Dohlížející osoby ve Spojeném království a Singapuru byly shledány odpovědnými za práci, kterou přenesly a nezkontrolovaly.
• Nenahrávejte důvěrné dokumenty do spotřebitelských chatbotů; Upper Tribunal to považuje za problém mlčenlivosti a privilegia.
• Dávejte přednost nástrojům, které dohledávají a citují zdroje, na něž lze kliknout, před nástroji, které odpovídají z paměti, a veďte záznam o tom, co bylo ověřeno.

Takto jsme postavili právní rešerše HAQQ: Justinian dohledá zdroj, ocituje jej a upozorní, když pro tvrzení nenajde oporu, a závažná práce jde před odchodem z kanceláře k advokátovi. To zmenšuje rozdíl, ale povinnost kontroly zůstává na advokátovi.

Postup krok za krokem, který můžete přijmout jako interní předpis kanceláře, najdete v článku The Maker Cannot Be the Checker: A Verification Protocol for Legal AI.

Jak je tento přehled udržován aktuální?

Jednou měsíčně znovu čteme živou databázi a primární zprávy a kontrolujeme čtyři věci: celkový počet, nejvyšší doloženou sankci, nová přelomová rozhodnutí (odvolací, přeshraniční nebo nový druh sankce) a odvozené denní tempo. Číslo, které nelze znovu ověřit, ze stránky mizí.

• 20. října 2026: počet aktualizován z 2,046 na 2,202 (aktualizace databáze z 19. října), +156 za 28 dní, asi 5.6 denně. Přidány přehledy podle zemí a podatelů. Začleněna naše dřívější zpráva o jurisdikcích: UKUT 81, ověřená rozhodnutí SGHC 49 (S$5,000 každému) a argentinská odvolací rozhodnutí (napomenutí a oznámení advokátní komoře). Opraven rozpis pokut ve věci Wadsworth.
• 21. září 2026: počet aktualizován z 1,598 na 2,046, +448 za 104 dní, asi 4.3 denně.
• 11. června 2026: přestavěno na přehled. Počet aktualizován z 1,458 na 1,598. Přidány Couvrette, Whiting, Withers, Wadsworth, Coomer, Ayinde a Tan Hai Peng.
• 22. května 2026: zveřejněn původní audit s 1,458 případy.

Obecné právní informace, nikoli právní poradenství; ověřte si pravidla soudu a regulátora, před nímž vystupujete.

Zdroje a další četba

• Damien Charlotin: databáze AI Hallucination Cases
• R (Ayinde) v Haringey a Al-Haroun v QNB [2025] EWHC 1383 (Admin), Judiciary of England and Wales
• UK v SSHD [2026] UKUT 81 (IAC), National Archives
• Tan Hai Peng Micheal v Tan Cheong Joo [2026] SGHC 49, eLitigation
• Marval O'Farrell Mairal: argentinské soudy varují před vymyšlenými citacemi z AI
• ABA Journal: federální soudce v Oregonu uložil sankci 110 tisíc dolarů za chyby AI
• Bloomberg Law: advokáti na obou stranách případu v Mississippi potrestáni za chyby AI
• Sixth Circuit Appellate Blog: sankce za vymyšlené citace ve věci Whiting v. City of Athens
• LawSites: advokáti Morgan & Morgan sankcionováni ve věci Wadsworth v. Walmart
• NPR: halucinace AI v případu Mikea Lindella
• Burges Salmon: profesní etika a AI ve věci Ayinde v Haringey
• Scientific American: proč advokáti stále citují neexistující případy vymyšlené AI
• ComplexDiscovery: vlna sankcí za AI, $145K pokut v 1. čtvrtletí
• PlatinumIDS: uvnitř krize halucinací AI, která zasahuje soudy
• Stanford HAI / RegLab: právní modely halucinují u 1 z 6 dotazů nebo více
• Náš experiment s vyhledáváním vymyšlených citací
• Mohou advokáti používat AI? Pravidla advokátních komor zemi po zemi
• Náš benchmark 300 úloh s frontier modely (rozdíl 24 % v citacích)
• AI a mlčenlivost vůči klientům u advokátů