Versión 5 — Informe de inteligencia de fuentes primarias. Cada decisión judicial e instrumento legislativo citado se obtuvo directamente de la base de datos en vivo de Legal Data Hunter — 19,8 millones de documentos, 106 países, 686 fuentes. Más de 460 llamadas a la API en 18 lotes de investigación. Cada fuente es independientemente verificable en las URL proporcionadas.
Resumen ejecutivo
La IA generativa ha entrado en los tribunales del mundo. No lo ha hecho en silencio. Hasta abril de 2026, los investigadores han documentado 1.313 procedimientos judiciales en los que se presentó contenido generado por IA — casos fabricados, citas inventadas, citas falsas de sentencias reales — ante tribunales y organismos jurisdiccionales. De ellos, 496 involucraron a abogados con licencia. Las sanciones económicas han alcanzado los $55.597 en casos individuales — un aumento de 10 veces respecto a las primeras sanciones de 2024.
Datos clave
- Hasta abril de 2026, se han documentado 1.313 procedimientos judiciales que involucran contenido fabricado por IA; 496 involucraron a abogados con licencia, con sanciones en casos individuales que alcanzan los $55.597.
- Las sanciones se multiplicaron por 11 en 18 meses: de $5.000 (2023) a $55.597 (2025).
- Stanford documentó tasas de error del 69-88% para los LLM de propósito general en consultas legales, más del 34% para Westlaw AI-Assisted Research, más del 17% para Lexis+ AI.
En el Reino Unido, Singapur, Canadá, Australia, Argentina, la UE, Corea, Italia, Noruega, Francia y Estados Unidos, se está formando un marco legal y regulatorio convergente en torno a un único principio: el deber profesional de verificar el resultado de la IA antes de que llegue a un tribunal es absoluto, indelegable, y ya se está aplicando.
El hallazgo central: la crisis de las alucinaciones expone un desajuste estructural entre la IA de propósito general y las exigencias probatorias de la práctica legal. La respuesta judicial y legislativa ha convergido en un único requisito arquitectónico: los sistemas de IA usados en trabajo legal deben producir resultados trazables a fuentes primarias verificadas, con conciencia jurisdiccional, y auditables. Eso no es una instrucción de entrenamiento. Es una especificación de diseño.
Cinco vías de aplicación operan ahora simultáneamente. Las primeras cuatro se documentaron en versiones anteriores: responsabilidad por conducta profesional, responsabilidad de cumplimiento de la Ley de IA de la UE, aplicación de protección al consumidor, y responsabilidad bajo el RGPD/protección de datos. Ha surgido una quinta vía: la Directiva de Responsabilidad por Productos de la UE 2024/2853 (octubre de 2024), que por primera vez impone responsabilidad estricta de producto a los desarrolladores de productos de software habilitados por IA defectuosos, sin requerir culpa.
Ha surgido un cuerpo regional completamente nuevo desde Argentina. Entre agosto y noviembre de 2025, varios tribunales provinciales de apelación argentinos sancionaron de forma independiente a abogados por presentar citas alucinadas por IA en litigios. Los tribunales argentinos llegaron a las mismas conclusiones doctrinales que Londres, Singapur y Vancouver, mediante razonamiento independiente. La crisis de las alucinaciones ya está documentada en Latinoamérica a nivel de apelación.
Parte I: El panorama de inteligencia — Analítica cuantitativa
La escalada de sanciones de 11 veces
Trayectoria de las sanciones: $5.000 (2023) → $55.597 (2025) = escalada de 11 veces en 18 meses. Todo el marco, desde la primera decisión judicial (febrero de 2024) hasta la responsabilidad de supervisión (noviembre de 2025–marzo de 2026), abarca 22 meses. La capa legislativa llegó en 12 meses. La vía de aplicación de protección al consumidor surgió de forma independiente en la misma ventana. Los tribunales de apelación argentinos se unieron al cuerpo de aplicación judicial entre agosto y noviembre de 2025 sin ningún mecanismo de coordinación internacional.
La dispersión jurisdiccional de la aplicación
El eje principal de aplicación — Londres, Singapur, Vancouver, Sídney, y ahora Buenos Aires — abarca el mundo del common law y se extiende a jurisdicciones de derecho civil. Todos los estándares judiciales vinculantes hasta marzo de 2026 en el mundo del common law provienen de tribunales de máxima instancia. La UE, Corea y Dinamarca están construyendo la capa estatutaria. Italia ha creado una vía de aplicación de protección al consumidor completamente separada. Argentina demuestra la convergencia judicial independiente del mundo de derecho civil.
Análisis por instancia judicial: marco de nivel de máxima instancia
Ninguna de las decisiones principales proviene de un tribunal inferior o de primera instancia. El marco se establece en el nivel más alto disponible en cada jurisdicción: Tribunal Divisional (Reino Unido), Tribunal Superior (Singapur), Tribunal Supremo (Columbia Británica), Tribunal Federal (Australia), tribunales provinciales de apelación (Argentina). La jurisprudencia del TJUE sobre toma de decisiones automatizada y su aplicación por el VwGH austriaco otorga a la vía del RGPD autoridad vinculante en los 27 Estados miembros de la UE.
El giro hacia la responsabilidad de supervisión
Tanto [2026] UKUT 81 (Reino Unido) como [2026] SGHC 49 (Singapur), decididas con cuatro meses de diferencia en jurisdicciones distintas, trasladaron de forma independiente la responsabilidad del individuo que generó la alucinación a la cadena de supervisión. Ambas decisiones son coherentes entre sí, pese a haberse alcanzado de forma independiente.
La nueva regla: un supervisor que no revisa el resultado de IA de un junior es más culpable, no menos, que el junior que lo generó.
Parte II: El registro legal primario
El caso fundacional del Reino Unido: R (Ayinde) v Haringey [2025] EWHC 1383
Las herramientas de inteligencia artificial generativa disponibles gratuitamente, entrenadas sobre un modelo de lenguaje amplio como ChatGPT, no son capaces de realizar investigación legal fiable. Estas herramientas pueden producir respuestas aparentemente coherentes y plausibles a las indicaciones, pero esas respuestas coherentes y plausibles pueden resultar totalmente incorrectas.
El tribunal definió las "fuentes autoritativas" específicamente: la base de datos de legislación del Gobierno, la base de datos de sentencias judiciales del Archivo Nacional, los informes jurídicos oficiales, y las bases de datos de editoriales legales reputadas. Esta lista es, en efecto, una descripción de cómo luce un corpus de IA legal verificado.
El hito de la supervisión: UKUT 81 (IAC) [2026]
Esta decisión de un tribunal superior de tres jueces establece cuatro estándares interconectados: responsabilidad de supervisión (los supervisores más culpables que los juniors), incumplimiento de confidencialidad del cliente al subir documentos a IA de código abierto, un nuevo requisito procesal de declaración de veracidad, y la remisión regulatoria como consecuencia estándar.
Subir documentos confidenciales a una herramienta de IA de código abierto, como ChatGPT, equivale a colocar esa información en internet en el dominio público, y por tanto a incumplir la confidencialidad del cliente y renunciar al privilegio legal.
Singapur: doble condena en costas personales — Tan Hai Peng v Tan Cheong Joo [2026] SGHC 49
Decidido 37 días antes de este informe. El juez S Mohan impuso órdenes de costas personales tanto contra el Sr. Sidhu (el junior que generó el contenido) como contra el Sr. Goh (el socio que firmó sin verificar). La defensa del socio supervisor — "presión de tiempo y su carga de trabajo" — fue rechazada.
La inteligencia artificial generativa está transformando la profesión legal de una manera que puede describirse justamente como un cambio radical. Si bien los avances tecnológicos que ha propiciado la IA generativa no son en sí mismos indeseables, su integración en la práctica legal exige una evolución equivalente en la responsabilidad profesional.
El corpus argentino: la convergencia independiente de Latinoamérica
Entre agosto y noviembre de 2025, varios tribunales provinciales de apelación argentinos desarrollaron y aplicaron de forma independiente una doctrina sobre alucinaciones de IA en la práctica legal. El corpus se obtuvo de AR/SAIJ — la base de datos jurídica nacional de Argentina — y representa la primera aplicación documentada a nivel de apelación en Latinoamérica.
Si bien el uso de chatbots de inteligencia artificial generativa constituye una herramienta que puede ser válidamente empleada en el trabajo cotidiano, sus resultados deben necesariamente ser cotejados siempre toda vez que se verifica la existencia de las denominadas alucinaciones.
Traducción: "Si bien el uso de chatbots de inteligencia artificial generativa constituye una herramienta que puede ser válidamente empleada en el trabajo cotidiano, sus resultados deben necesariamente ser cotejados siempre, dada la existencia de lo que se conoce como alucinaciones." El modificador "siempre" descarta cualquier argumento de verificación selectiva.
El estándar argentino puede ser más exigente que el anglocomún. Los estándares del Reino Unido y Singapur exigen verificación; el estándar argentino exige además un "deber de conocer las limitaciones" de las herramientas de IA — una obligación distinta y potencialmente más amplia. Los 14 casos documentados en Argentina incluyen la anulación de una condena en la que un juez usó IA para evaluar pruebas sin revelarlo — una violación del debido proceso.
TJUE: toma de decisiones automatizada bajo el Artículo 22 del RGPD
El TJUE ha resuelto la cuestión doctrinal en dos sentencias emblemáticas. C-634/21 (diciembre de 2023): cuando una parte "basó su decisión en un grado decisivo" en un valor de probabilidad automatizado, la creación de ese valor constituye toma de decisiones automatizada bajo el Art. 22 — incluso si un humano toma la decisión final formal. C-203/22 (febrero de 2025) confirmó y amplió esto a la IA de evaluación de riesgo de seguros.
Un sistema de IA legal que genera puntuaciones de riesgo de litigio o evaluaciones de cumplimiento — en el que un abogado se apoya "en un grado decisivo" — cae dentro del Art. 22. El humano que recibe el resultado de la IA no ofrece un puerto seguro. Esta obligación es efectiva AHORA bajo el RGPD vigente.
Parte III: la Ley de IA de la UE — 16 semanas para la aplicación plena
La Ley de IA de la UE (Reglamento 2024/1689 — 594.453 caracteres) clasifica la IA de investigación legal como de alto riesgo bajo el Anexo III. La excepción exige que el sistema de IA realice "una tarea procedimental limitada" o "mejore el resultado de una actividad humana previamente completada". La IA de investigación legal general no cumple ninguna de estas exenciones.
Sanciones máximas: 30 millones de euros o el 6% de la facturación global anual por uso prohibido de IA; 20 millones de euros o el 4% por otras infracciones de alto riesgo. La UE ha estado construyendo este marco desde 2017 — 9 años de señal legislativa.
Parte IV: la vía de protección al consumidor
La AGCM italiana abrió procedimientos PS12942 contra DeepSeek y PS12968 contra Mistral AI por una alegación idéntica: divulgación inadecuada del riesgo de alucinación como práctica comercial desleal bajo el Código de Consumo italiano.
DeepSeek no habría informado de manera suficientemente clara, inmediata e inteligible que los usuarios de sus modelos de IA podrían encontrarse con lo que en jerga técnica se denomina "alucinaciones": situaciones en las que el modelo de IA genera resultados que contienen información inexacta, engañosa o inventada.
Se consideró que un aviso genérico solo en inglés ("generado por IA, solo de referencia") era legalmente inadecuado. Tanto lo genérico del lenguaje como la inaccesibilidad lingüística para los consumidores italohablantes fueron motivos de inadecuación.
Garante de Italia: el aplicador de RGPD sobre IA más activo del mundo
El Garante italiano ha construido el registro de aplicación de IA más extenso de cualquier autoridad nacional de protección de datos. Siete decisiones entre 2022 y 2025: prohibición de ChatGPT (marzo de 2023 — primera acción de una autoridad occidental contra un LLM generativo, invocando el principio de exactitud del Art. 5(1)(d) del RGPD), multa de 20 millones de euros a Clearview AI, orden contra la IA de compañía Replika, prohibición de DeepSeek (días después de su lanzamiento), orden de emergencia contra la app de desnudez artificial ClothOff, y directrices integrales sobre deepfakes.
El derecho a corregir información fabricada por IA sobre una persona se estableció formalmente en la ley italiana de protección de datos en 2023. Una alucinación de IA sobre individuos es en sí misma una violación del RGPD, independientemente de cualquier brecha de seguridad o acceso no autorizado.
Protección al consumidor de la FTC: el paralelo estadounidense
La FTC ha construido un registro de aplicación paralelo bajo la Sección 5 de la Ley de la FTC. Acciones clave: DoNotPay ("el primer robot abogado del mundo" — falsa representación de capacidad legal de IA, reembolsos ordenados a consumidores), Rite Aid (alucinación discriminatoria de reconocimiento facial por IA = práctica desleal, prohibición de 5 años), Air.ai (engaño de identidad de IA en llamadas), y Content at Scale AI (exageración de exactitud).
El registro de la FTC confirma que no representar con precisión las limitaciones de la IA es procesable bajo el Art. 5 de la Ley de la FTC, independientemente de que el Congreso de EE. UU. promulgue legislación federal integral sobre IA.
Prueba HAQQ AI gratis
Experimenta la redacción e investigación legal con IA
La batalla de gobernanza federal de IA en Estados Unidos
La Orden Ejecutiva 14365 de Trump (diciembre de 2025) representa la intervención federal más agresiva en la regulación estatal de IA en la historia de EE. UU.: un Grupo de Trabajo de Litigios de IA para impugnar leyes estatales de IA, una evaluación de leyes estatales dirigida a requisitos de divulgación "onerosos", y condicionalidad de financiamiento para estados no cumplidores.
La respuesta del Congreso incluye cuatro vectores en competencia: la Ley de Responsabilidad Algorítmica (HR 5511 — evaluaciones de impacto de IA obligatorias para servicios legales), la Ley de Liderazgo y Uniformidad en IA Estadounidense (HR 5388 — moratoria de 5 años sobre leyes estatales de IA), la Ley de Derecho de los Estados a Regular la IA (S 3557 — bloquea fondos federales para la OE 14365), y la Ley de Derechos Civiles en IA (HR 6356 — derechos individuales contra la discriminación algorítmica).
El panorama de gobernanza federal de IA en EE. UU. está en conflicto activo entre la desregulación ejecutiva y la responsabilidad del Congreso. Para los operadores de IA legal, la respuesta prudente es alinearse con los estándares de la UE e Italia.
California y Texas: leyes estatales de IA
La Ley de Transparencia de IA de California (BPC §22757) exige divulgación cuando la IA genera contenido, creando un equivalente estadounidense de facto al Art. 50 de la Ley de IA de la UE. Texas promulgó la H.B. 149 (enero de 2026) estableciendo un marco estatal de gobernanza de IA con definiciones alineadas con la OCDE y una preempción explícita de las regulaciones locales de IA — en paralelo a la lógica de la OE 14365 a nivel estatal.
Países Bajos y Grecia: aplicación de la exactitud bajo el RGPD
La autoridad holandesa de protección de datos (mayo de 2025) trata la alucinación de IA sobre individuos como una violación del RGPD de primera categoría bajo el Art. 5(1)(d). La revisión humana es obligatoria antes de difundir datos personales generados por IA. El derecho a rectificación (Art. 16) aplica a información falsa generada por IA. La Decisión 15/2024 de la HDPA griega confirma que las personas conservan derechos de supresión frente a sistemas de IA que procesan sus datos personales.
Parte V: el marco de aplicación de cinco vías
Vía 1 — Conducta profesional: dirigida a abogados individuales y supervisores mediante órdenes de costas, remisiones regulatorias y enmiendas a la declaración de veracidad. Activa en el Reino Unido, Singapur, Canadá, Australia y Argentina.
Vía 2 — Cumplimiento de alto riesgo de la Ley de IA: dirigida a los implementadores de IA en trabajo legal orientado a la UE mediante obligaciones de evaluación de conformidad. Sanción máxima de 30 millones de euros. Aplicación plena en 16 semanas.
Vía 3 — Protección al consumidor: dirigida a los desarrolladores de IA que no divulgan el riesgo de alucinación. Procedimientos activos contra DeepSeek y Mistral AI (Italia), además de la aplicación de la FTC (EE. UU.). No se requiere un daño específico.
Vía 4 — Protección de datos / RGPD: dirigida a organizaciones que entrenan IA legal con decisiones judiciales que contienen datos personales del Artículo 9/10 del RGPD, además de operadores de sistemas de puntuación de riesgo de IA bajo el Art. 22. Registro de aplicación del Garante (7 decisiones) más las directrices de las autoridades de Países Bajos y Grecia.
Vía 5 — Responsabilidad de producto (NUEVA): la Directiva 2024/2853 de la UE impone responsabilidad estricta por productos de software de IA defectuosos — sin requerir prueba de culpa. Inversión de la carga de la prueba. Plazo de implementación en los Estados miembros: diciembre de 2026.
Solo un sistema diseñado desde su base para el cumplimiento legal — corpus de fuentes verificado, procedencia de datos de entrenamiento conforme al RGPD, arquitectura documentada de supervisión humana, divulgación prominente y específica por jurisdicción del riesgo de alucinación, e ingeniería de producto demostrablemente libre de defectos — puede satisfacer simultáneamente las cinco vías.
Parte VI: la brecha arquitectónica
El estudio empírico de la Universidad de Stanford (Journal of Empirical Legal Studies, 2025) documentó tasas de error del 69–88% para los LLM de propósito general en consultas legales, más del 34% para Westlaw AI-Assisted Research, y más del 17% para Lexis+ AI. Su conclusión: "los abogados pueden verse obligados a verificar cada proposición y cita, socavando las ganancias de eficiencia declaradas".
Una herramienta que requiere verificación completa de cada resultado tiene una eficiencia neta nula. La brecha arquitectónica no es una característica de producto — es la diferencia entre un sistema estructuralmente capaz de trabajo legal conforme y uno que no puede cumplir sin importar cuán cuidadosamente se use.
Las diez obligaciones vigentes
- Verificación obligatoria antes de cualquier presentación ante un tribunal (Ayinde [2025]; UKUT 81 [2026]; corpus AR/SAIJ)
- Formación en alfabetización de IA — documentada, auditable (Art. 4 de la Ley de IA de la UE — VENCIDA desde febrero de 2025)
- Gobernanza de supervisión del uso de IA por juniors (UKUT 81 [2026]; SGHC 49 [2026]; Stellungnahme de la BRAK)
- Prohibición de subir datos de clientes a IA de código abierto (UKUT 81 [2026])
- Evaluación de conformidad de la Ley de IA de la UE — 16 semanas (Anexo III; Considerando 61)
- Entorno de despliegue seguro para el privilegio legal (UKUT 81 [2026])
- Rastro de auditoría desde el resultado de IA hasta la fuente primaria verificada (UKUT 81; Art. 12 de la Ley de IA de la UE)
- Divulgar el riesgo de alucinación de forma prominente, específica y en el idioma del usuario (AGCM PS12942/PS12968)
- Revisión humana bajo el Art. 22 del RGPD para evaluaciones de riesgo legal generadas por IA (TJUE C-634/21; C-203/22)
- Documentación de seguridad de producto y mantenimiento de actualizaciones (Directiva 2024/2853 de la UE — dic. 2026)
Conclusión: cinco vías, un solo estándar
El cambio que documenta este informe es el paso de la plausibilidad a la verificabilidad como estándar operativo de la IA en la práctica legal. Los tribunales de Londres, Singapur, Vancouver, Canberra y Buenos Aires — por vías independientes — han llegado todos al mismo lugar: un resultado de IA que no puede rastrearse hasta una fuente primaria verificada no tiene lugar en un documento judicial.
Los reguladores de Roma, Oslo, París, Ámsterdam y Atenas; el TJUE en Luxemburgo; el VwGH austriaco en Viena; el Parlamento Europeo en Estrasburgo — todos han añadido capas adicionales, cada una operando en un nivel distinto de la cadena de suministro y a un ritmo de aplicación diferente.
Doce hallazgos
- 1. Las sanciones se multiplicaron por 11: $5.000 (2023) → $55.597 (2025), con remisiones regulatorias que suponen riesgo profesional ahora como norma
- 2. La responsabilidad se ha trasladado de los juniors a los supervisores — el Reino Unido, Singapur y Argentina llegaron todos a esto de forma independiente
- 3. El marco está liderado por tribunales de máxima instancia: cada decisión proviene de tribunales Divisionales, Superiores, Federales o de apelación
- 4. La UE ha estado señalando esto desde 2017: las organizaciones sin evaluaciones de conformidad llevan más de 4 años de retraso
- 5. Argentina confirma la universalidad: los tribunales de derecho civil llegaron a conclusiones idénticas mediante razonamiento independiente
- 6. Cinco vías de aplicación operan simultáneamente: conducta profesional, Ley de IA, protección al consumidor, RGPD, responsabilidad de producto
- 7. El TJUE ha resuelto la cuestión del Art. 22 del RGPD: las evaluaciones de riesgo de IA legal en las que se confía "en grado decisivo" activan derechos de revisión humana AHORA
- 8. El estándar argentino es más exigente: el "deber de conocer las limitaciones" va más allá de la mera verificación
- 9. La responsabilidad de producto es la frontera final: la Directiva 2024/2853 de la UE convierte la alucinación en una cuestión de defecto de producto con responsabilidad estricta
- 10. El Garante de Italia ha construido el registro de aplicación del RGPD sobre IA más profundo del mundo: 7 decisiones que establecen que el principio de exactitud del Art. 5(1)(d) aplica directamente a la alucinación de IA
- 11. La aplicación de la FTC confirma el paralelo estadounidense a la teoría europea de protección al consumidor: DoNotPay, Rite Aid, Air.ai, Content at Scale — no representar las limitaciones de la IA es procesable bajo el Art. 5 de la Ley de la FTC
- 12. El panorama de gobernanza federal de IA en EE. UU. está en conflicto activo: la OE 14365 frente a la Ley de Responsabilidad Algorítmica frente a la Ley AALU frente a la de Derecho de los Estados a Regular — el cumplimiento prudente se alinea con los estándares de la UE e Italia
Eso son cinco requisitos arquitectónicos. Y los cinco ya son ley.
Metodología
- Fuente: base de datos legal primaria en vivo de Legal Data Hunter — 19,8 millones de documentos, 106 países, 686 fuentes
- Más de 460 llamadas a la API en 18 lotes de investigación y más de 20 colecciones de fuentes
- Metodología de búsqueda: coincidencia híbrida semántica/por palabra clave (alfa = 0,65–0,70 para jurisprudencia; 0,70 para legislación)
- Fuentes de jurisprudencia: UK/FindCaseLaw (73.056), SG/eLitigation (11.253), CA/A2AJ (120.606), AU/FedCourt (298.719), AR/SAIJ (extenso)
- Fuentes de legislación: EU/EUR-Lex (5.001), EU/EuroParl (5.112), KR/KLRI (97.587), DK/Retsinformation (85.596)
- Fuentes regulatorias: IT/AGCOM, IT/GarantePrivacy, NO/DTIL, FR/CNIL, NL/AP, GR/DPA, US/FTC
- No se usaron fuentes secundarias en el análisis de jurisprudencia o legislación
- Cada fuente citada es independientemente verificable en las URL proporcionadas
- Versión 5 — abril de 2026
HAQQ es un sistema operativo legal impulsado por IA para despachos de abogados, departamentos legales corporativos, tribunales e instituciones públicas en más de 110 países. Justinian®, el motor de IA legal propietario de HAQQ, ofrece trabajo legal verificable y con conciencia jurisdiccional, fundamentado en ontologías legales estructuradas y recuperación de fuentes primarias verificadas — no en predicción de texto. HAQQ atiende a más de 7.000 clientes en todo el mundo. Conforme con ISO 27001, ISO 42001, SOC 2 Tipo 2.
