En resumen: el humano en el circuito (human in the loop) significa que un abogado cualificado revisa y aprueba el resultado de la IA antes de que llegue a un cliente, un tribunal o una contraparte. La Opinión Formal 512 de la ABA (29 de julio de 2024), el artículo 14 del Reglamento europeo de IA y el SRA Code of Conduct atribuyen ese deber a personas. La base de datos de Charlotin recoge 2.202 resoluciones judiciales relacionadas con material fabricado por IA (19 de octubre de 2026).
Definición. Humano en el circuito (HITL): un flujo de trabajo en el que el resultado de la IA no produce efecto hasta que una persona competente y designada lo ha revisado y lo ha aprobado, modificado o rechazado. Humano sobre el circuito: la IA actúa y una persona supervisa y puede intervenir. Humano fuera del circuito: la IA actúa sin revisión humana.
Datos clave
- La Opinión Formal 512 de la ABA sobre herramientas de IA generativa, emitida el 29 de julio de 2024, aplica las Model Rules 1.1 (competencia), 1.6 (confidencialidad), 5.1 y 5.3 (supervisión), entre otras, y exige un grado adecuado de revisión independiente del resultado de la IA (ABA, 29 de jul. de 2024).
- El artículo 14 del Reglamento europeo de IA (Reglamento (UE) 2024/1689) exige que los sistemas de IA de alto riesgo se diseñen de modo que las personas puedan comprenderlos, vigilarlos, interpretar correctamente su resultado, anularlo y detenerlos, y que sean conscientes del sesgo de automatización (texto de EUR-Lex, consultado el 20 de oct. de 2026).
- Conforme al Reglamento (UE) 2026/1744, las obligaciones de alto riesgo para los sistemas del anexo III, incluido el artículo 14, se aplican ahora a partir del 2 de diciembre de 2027 (Diario Oficial, 24 de jul. de 2026).
- El SRA Code of Conduct for Solicitors mantiene a los solicitors responsables del trabajo realizado a través de otros (apartado 3.5) y sujetos a confidencialidad (apartado 6.3); en R (Ayinde) v Haringey [2025] EWHC 1383 (Admin), la Divisional Court afirmó que los dirigentes de los despachos deben adoptar medidas prácticas para que todos contrasten la investigación hecha con IA con fuentes autorizadas (Judiciary of England and Wales, 6 de jun. de 2025).
- La base de datos AI Hallucination Cases de Damien Charlotin recoge 2.202 resoluciones judiciales relacionadas con material fabricado o tergiversado por IA (base de datos, última actualización el 19 de oct. de 2026).
¿Qué significa el humano en el circuito en la IA jurídica?
El término procede de la ingeniería de control, donde una persona está dentro del ciclo de decisión y el sistema espera su intervención. En un despacho de abogados significa, en la práctica, tres cosas. La IA redacta, extrae o señala. Un abogado designado revisa ese resultado frente a las fuentes y los hechos del cliente. Nada sale del despacho, y nada se presenta, hasta que ese abogado lo aprueba.
La diferencia entre estar en el circuito y sobre el circuito es el momento. Si un abogado revisa un borrador antes de enviarlo, controla el resultado. Si el sistema lo envía y el abogado lee un registro después, cualquier error ya ha llegado al cliente. Para el asesoramiento al cliente, los escritos procesales y las posiciones contractuales, las normas profesionales esperan una revisión antes de que el resultado produzca efecto. La supervisión sobre el circuito puede ser razonable para tareas internas de bajo riesgo, como etiquetar documentos o encaminar solicitudes entrantes.
¿Qué exige la Opinión Formal 512 de la ABA?
El Standing Committee on Ethics and Professional Responsibility de la ABA emitió la Opinión Formal 512 el 29 de julio de 2024. Aplica las Model Rules vigentes a la IA generativa:
- Regla 1.1 (competencia): los abogados necesitan una comprensión razonable de lo que la herramienta puede y no puede hacer, y deben revisar su resultado en un grado acorde con la tarea. Confiar en el resultado sin un grado adecuado de verificación independiente puede vulnerar este deber.
- Regla 1.6 (confidencialidad): antes de introducir información del cliente en una herramienta de autoaprendizaje, que puede reutilizar los datos introducidos, el abogado necesita el consentimiento informado del cliente, y una cláusula genérica en la hoja de encargo no basta.
- Reglas 5.1 y 5.3 (supervisión): los socios y responsables deben fijar políticas claras sobre el uso permitido de la IA, formar a abogados y personal y supervisar el trabajo, incluidos los proveedores y sus herramientas.
- Regla 1.5 (honorarios): los abogados pueden facturar el tiempo que dedican, incluida la revisión del resultado de la IA, pero no el tiempo ahorrado, ni el tiempo de aprendizaje de una herramienta de uso general salvo que el cliente haya pedido esa herramienta.
Varios colegios de abogados estatales, entre ellos los de California, Florida y Nueva York, han publicado sus propias directrices con deberes de revisión similares. Nuestro seguimiento de normas deontológicas las recoge por país y estado.
¿Qué dice el artículo 14 del Reglamento europeo de IA sobre la supervisión humana?
El artículo 14 del Reglamento (UE) 2024/1689 se aplica a los sistemas de IA de alto riesgo. Exige a los proveedores diseñarlos de manera que puedan ser "vigilados de manera efectiva por personas físicas" y requiere medidas proporcionadas a los riesgos, al nivel de autonomía del sistema y a su contexto de uso. Las personas a las que se encomiende la supervisión deben poder:
- comprender las capacidades y limitaciones del sistema y vigilar su funcionamiento;
- ser conscientes del sesgo de automatización, la tendencia a confiar en exceso en el resultado;
- interpretar correctamente el resultado;
- decidir no utilizar el sistema, o descartar, invalidar o revertir su resultado;
- interrumpirlo mediante un procedimiento de parada que lo deje en un estado seguro.
La mayor parte de la IA jurídica que usan los despachos (redacción, investigación, revisión de contratos) no es de alto riesgo conforme al anexo III. El anexo III sí abarca la IA destinada a ayudar a una autoridad judicial a investigar e interpretar hechos y Derecho, y la IA usada en decisiones de migración y asilo, por lo que las herramientas orientadas a tribunales y al sector público pueden quedar incluidas. Por otra parte, el artículo 4 exige desde el 2 de febrero de 2025 que proveedores y responsables del despliegue garanticen la alfabetización en IA de su personal, sea cual sea el nivel de riesgo. Las modificaciones de 2026 trasladaron las fechas de alto riesgo del anexo III al 2 de diciembre de 2027; el detalle está en nuestro análisis de las modificaciones del Reglamento europeo de IA.
Incluso cuando el artículo 14 no vincula directamente a un despacho, su lista es una guía útil para diseñar la revisión: ¿puede el abogado revisor comprender, interpretar, invalidar y detener la herramienta?
¿Qué esperan la SRA y los tribunales de Inglaterra y Gales?
La SRA aplica su Code of Conduct for Solicitors vigente al uso de la IA. El apartado 3.5 mantiene al solicitor responsable del trabajo realizado a través de otros y exige una supervisión efectiva; el apartado 6.3 exige mantener la confidencialidad de los asuntos del cliente. El informe Risk Outlook de la SRA sobre la IA en el mercado jurídico (noviembre de 2023) afirma que los despachos siguen siendo responsables de los servicios que prestan con IA. Al autorizar en mayo de 2025 Garfield.Law, un despacho basado en IA, la SRA señaló que solicitors designados siguen siendo responsables de los resultados del despacho.
Los tribunales han sido más directos. En R (Ayinde) v London Borough of Haringey [2025] EWHC 1383 (Admin), dictada el 6 de junio de 2025, la Divisional Court (Dame Victoria Sharp P y Johnson J) abordó la cita de precedentes ficticios en escritos. Afirmó que los abogados que usan IA para investigar deben contrastarla con fuentes autorizadas, que quienes tienen responsabilidades de dirección en despachos y chambers deben implantar medidas prácticas, y que presentar material falso ante un tribunal puede dar lugar a la remisión al regulador o a un procedimiento por desacato (contempt of court).
Prueba HAQQ AI gratis
Experimenta la redacción e investigación legal con IA
¿Qué errores de la IA detecta la revisión humana?
Estos son los errores que vemos con más frecuencia cuando los abogados prueban la IA en asuntos reales, y cada uno requiere a alguien que conozca el Derecho y el expediente:
- Fuentes inventadas o mal descritas. Una sentencia, un artículo o una cita que no existe, o una sentencia real citada en apoyo de algo que no respalda. La base de datos de Charlotin contabiliza 2.202 resoluciones judiciales sobre esto. Nuestra auditoría de alucinaciones desglosa los casos por tribunal y sanción.
- Jurisdicción equivocada. Razonamiento de common law aplicado a un contrato de Derecho civil, o conceptos del RGPD importados en un acuerdo de tratamiento de datos saudí regido por la Ley saudí de Protección de Datos Personales.
- Interacciones pasadas por alto. Una cláusula de limitación de responsabilidad que parece estándar hasta que una excepción tres apartados después la modifica, o una carta complementaria que la IA nunca vio.
- Exposición de información confidencial. Documentos del cliente enviados a una herramienta de consumo cuyas condiciones le permiten conservar o reutilizar los datos introducidos. En United States v. Heppner (S.D.N.Y., febrero de 2026), se consideró que los documentos que un acusado generó con la versión de consumo de Claude no estaban protegidos ni por el secreto profesional ni por la doctrina del work product.
- Resultado demasiado seguro. Una cláusula marcada como "estándar" sin ningún razonamiento, lo que invita al revisor a saltársela. El artículo 14 lo llama sesgo de automatización.
También hay una lección anterior fuera de los despachos. En Moffatt v. Air Canada, 2024 BCCRT 149, el Civil Resolution Tribunal de Columbia Británica declaró a la aerolínea responsable de una política de reembolso inventada por el chatbot de su web, y rechazó el argumento de que el chatbot respondía de sus propias afirmaciones. La organización que despliega la IA responde por ella.
¿Cómo se diseña una revisión humana que funcione?
- Ponga el control dentro del flujo de trabajo. Los borradores, las alertas de riesgo y las marcas de revisión deben requerir un paso de aprobación antes de poder enviarse, presentarse o aplicarse. Un botón de aprobación en la herramienta es más difícil de saltarse que una política que la gente debe recordar.
- Muestre el razonamiento y las fuentes. Un revisor solo puede comprobar lo que ve: la cláusula o la fuente en la que se basa el resultado, la posición del playbook de la que se aparta y un enlace a la fuente.
- Señale la incertidumbre. Un resultado que indica cuándo los datos son inusuales o la respuesta es incierta recibe una lectura más atenta que uno que siempre suena seguro.
- Ajuste la profundidad de la revisión al riesgo. Diez minutos para un primer borrador de nota interna y una comprobación línea por línea de cada cita en un escrito judicial son ambos proporcionados.
- Mantenga una pista de auditoría. Registre lo que propuso la IA, lo que cambió el abogado, quién lo aprobó y cuándo. Ese registro es su prueba de supervisión conforme a las Reglas 5.1 y 5.3 y al apartado 3.5 del SRA Code.
- Limite lo que los agentes pueden hacer por sí solos. Si una herramienta puede enviar correos, presentar documentos o actualizar expedientes, decida de antemano qué acciones necesitan la aprobación de un abogado. Todo lo que vincule al cliente debería necesitarla.
¿Qué dicen los reguladores de la región MENA sobre la supervisión humana?
Ninguna ley del Golfo copia el artículo 14. En Arabia Saudí, la SDAIA recogió la supervisión humana y la rendición de cuentas en sus AI Ethics Principles (septiembre de 2023), que tienen carácter orientativo. En el DIFC, el artículo 10 de las Data Protection Regulations regula los datos personales tratados mediante sistemas autónomos y semiautónomos, incluida la IA. Las normas colegiales y profesionales de toda la región ya hacen responsable al abogado habilitado del asesoramiento y de los escritos presentados, sea cual sea la herramienta que produjo el borrador. Información jurídica general, no asesoramiento jurídico; consulte las normas vigentes de su propio regulador.
¿Cómo apoya HAQQ la revisión humana?
HAQQ está pensado para abogados que revisan antes de enviar. Justinian, el motor de IA jurídica de HAQQ, muestra las fuentes de cada respuesta para que puedan comprobarse, y un abogado da el visto bueno. En Legal AI Chat, los datos personales se sustituyen por marcadores antes de que una solicitud llegue a un modelo externo y se restauran antes de que usted vea la respuesta. Los despachos pueden elegir alojamiento en la UE, EE. UU. u Oriente Medio, una nube privada o un despliegue local, con SSO, control de acceso basado en roles y registros de auditoría.
Para empezar, ponga por escrito la regla de revisión de su despacho para cada tipo de resultado (nota interna, correo al cliente, marcas en un contrato, escrito judicial), designe quién aprueba cada uno y pruebe una herramienta conforme a esas reglas en un asunto cerrado antes de que toque uno vivo. Puede hacer esa prueba en HAQQ Legal AI Chat.
Fuentes
- Opinión Formal 512 de la ABA (29 de julio de 2024)
- Reglamento europeo de IA, artículo 14: supervisión humana
- Reglamento (UE) 2024/1689 en EUR-Lex
- SRA Code of Conduct for Solicitors
- SRA Risk Outlook: la IA en el mercado jurídico
- R (Ayinde) v Haringey [2025] EWHC 1383 (Admin)
- Base de datos AI Hallucination Cases (Damien Charlotin)
- Moffatt v. Air Canada, 2024 BCCRT 149
- IA y confidencialidad del cliente para abogados
- Por qué las conversaciones con IA no están amparadas por el secreto profesional



