Análisis jurídico completo para empresas y administraciones públicas. La guía oficial de la AESIA más el criterio de iusia para el asesoramiento práctico.
El artículo 14 del AI Act establece la supervisión humana como requisito obligatorio de los sistemas de alto riesgo. Sin embargo, es el requisito que con más frecuencia se cumple de forma puramente formal: la empresa designa a alguien como "supervisor" del sistema de IA, esa persona aprueba automáticamente los outputs del sistema sin análisis crítico real, y se considera que la obligación está satisfecha. No lo está.
La guía de la AESIA es muy clara en este punto: la supervisión humana del art. 14 no es una formalidad de designación — es un requisito de efectividad. El sistema debe diseñarse de forma que el supervisor pueda realmente entender lo que el sistema hace, detectar cuándo está funcionando mal, y detenerlo o anular sus outputs cuando sea necesario. Si el supervisor no tiene las herramientas técnicas, la información y la autoridad para hacer esto, no hay supervisión humana en el sentido del Reglamento.
Este requisito conecta directamente con el artículo 22 del RGPD, que exige intervención humana en las decisiones basadas en tratamiento automatizado. El art. 14 AI Act y el art. 22 RGPD son complementarios y no alternativos: ambos deben cumplirse cuando el sistema toma o influye en decisiones con efectos significativos sobre personas físicas. El incumplimiento de cualquiera de los dos puede generar sanción autónoma.
El artículo 14.4 del AI Act lista las cinco capacidades que los mecanismos de supervisión humana deben proporcionar a los supervisores asignados. Son capacidades tanto técnicas como cognitivas, y el proveedor es responsable de diseñar el sistema para que las haga posibles, mientras que el desplegador es responsable de garantizar que las personas asignadas a la supervisión las ejercen efectivamente.
La primera capacidad es la comprensión de las capacidades y limitaciones del sistema. El supervisor debe conocer qué puede hacer bien el sistema, en qué contextos tiende a cometer errores, y qué tipos de inputs producen outputs menos fiables. Esta comprensión debe provenir de la documentación técnica y las instrucciones de uso que el proveedor elabora conforme al art. 13, y de la formación específica que el desplegador proporciona a sus supervisores.
La segunda capacidad es la vigilancia del funcionamiento del sistema: la capacidad de detectar en tiempo real o casi real cuándo el sistema está produciendo outputs anómalos o incoherentes. El proveedor debe diseñar el sistema con interfaces que hagan visible el estado de funcionamiento del sistema, indicadores de confianza de los outputs, y alertas cuando el sistema detecta situaciones fuera de su distribución de entrenamiento.
La tercera capacidad es la conciencia del sesgo de automatización. Es la más difícil de garantizar porque no depende del sistema sino del comportamiento del supervisor. El sesgo de automatización es la tendencia psicológica de los humanos a confiar excesivamente en los outputs de sistemas automatizados, especialmente cuando esos sistemas tienen una alta tasa de acierto. La guía recomienda que el diseño del sistema incluya elementos de fricción deliberada que fuercen al supervisor a hacer una valoración activa antes de confirmar los outputs del sistema, en lugar de permitir la confirmación automática o con un solo clic.
La cuarta capacidad es la autoridad para ignorar, anular o revertir los outputs del sistema. El supervisor no solo debe tener la capacidad técnica de anular el output del sistema — debe tener también la autoridad organizativa para hacerlo sin necesitar aprobaciones adicionales que ralenticen el proceso. Si el procedimiento de anulación es tan complejo o lento que en la práctica nunca se usa, la supervisión humana es nominal.
La quinta capacidad es la posibilidad de intervención o detención del sistema mediante un botón de parada de emergencia o procedimiento equivalente. El sistema debe poder detenerse completamente cuando el supervisor así lo decida, sin que su detención genere problemas de seguridad o integridad en los sistemas o datos relacionados. La guía detalla los requisitos técnicos del mecanismo de parada de emergencia: debe ser accesible sin necesidad de herramientas adicionales, debe poder activarse en pocos segundos, y debe producir un estado seguro del sistema tras la detención.
El artículo 14 establece una división clara de responsabilidades en materia de supervisión humana. El proveedor es responsable de diseñar el sistema de forma que la supervisión humana efectiva sea técnicamente posible. El desplegador es responsable de implementar esa supervisión de forma efectiva en su contexto de uso específico. Ambos tienen obligaciones distintas pero complementarias, y el incumplimiento de cualquiera de los dos genera responsabilidad autónoma.
Las obligaciones del proveedor se concretan en el diseño: el sistema debe incluir, por diseño, las interfaces y funcionalidades que hagan posibles las cinco capacidades del art. 14.4. Además, las instrucciones de uso del art. 13 deben describir las medidas de supervisión humana recomendadas para el sistema específico, incluyendo el perfil de competencias que deben tener los supervisores y la frecuencia y profundidad de la revisión recomendada.
Las obligaciones del desplegador se concretan en la implementación: asignar personas con las competencias adecuadas para ejercer la supervisión, garantizar que esas personas han recibido la formación necesaria, establecer procedimientos internos de supervisión que se ejecuten efectivamente, y conservar los registros que demuestren que la supervisión se realiza. El art. 26.2 establece que el desplegador asigna la supervisión humana a personas físicas competentes, con la autoridad, la capacitación y los recursos necesarios para ejercerla.
El sesgo de automatización merece un análisis específico porque es el factor que más frecuentemente convierte la supervisión humana en una formalidad vacía. Cuando un sistema de IA tiene una alta tasa de acierto histórica, los supervisores tienden a reducir gradualmente la intensidad de su revisión y a confiar cada vez más en los outputs del sistema. Este proceso es casi inevitable sin medidas deliberadas de diseño que lo contrarresten.
La guía cita investigaciones en campos como la aviación, la medicina y la industria nuclear que documentan cómo el sesgo de automatización puede llevar a operadores humanos a no detectar errores evidentes del sistema porque su atención se ha desconectado del proceso. En el contexto de los sistemas de IA de alto riesgo, el sesgo de automatización es especialmente peligroso en sistemas que procesan grandes volúmenes de decisiones con consecuencias individuales aparentemente menores — selección de CVs, scoring de préstamos pequeños — pero donde el sesgo acumulado puede tener consecuencias discriminatorias significativas a escala.
Las contramedidas que el diseño del sistema puede incorporar incluyen: la presentación explícita de los niveles de confianza del modelo para cada output; la introducción de casos de prueba periódicos con errores conocidos que el supervisor debe detectar; la obligación de que el supervisor justifique explícitamente su decisión de confirmar un output del sistema cuando éste tenga consecuencias significativas; y la rotación periódica de los supervisores para evitar la habituación excesiva al sistema.
La intensidad y las características de la supervisión humana requerida varían significativamente según el sector de aplicación del sistema. La guía proporciona orientación específica para los sectores del Anexo III que presentan mayor complejidad.
En sistemas de RRHH, la supervisión humana debe garantizar que un reclutador o responsable de RRHH con competencia suficiente revisa todos los candidatos que el sistema ha marcado para exclusión antes de que esa exclusión sea efectiva. El sistema no puede excluir candidatos de forma autónoma sin revisión humana. La supervisión debe incluir además la verificación periódica de que el sistema no está generando patrones de exclusión sistemáticos de grupos protegidos.
En sistemas de scoring crediticio, la supervisión humana debe garantizar que las decisiones de denegación de crédito basadas en scoring automatizado son revisadas por un analista antes de comunicarse al solicitante, y que el solicitante tiene el derecho a solicitar la revisión de la decisión por una persona (art. 22.3 RGPD). El sistema no puede comunicar directamente a un cliente la denegación de su solicitud de crédito sin que una persona haya validado esa decisión.
En sistemas de diagnóstico médico, la supervisión humana tiene características específicas derivadas de la responsabilidad profesional del médico. El sistema puede asistir en el diagnóstico pero la decisión diagnóstica final siempre corresponde al médico. El sistema no puede modificar el historial clínico del paciente de forma autónoma ni generar prescripciones sin validación médica. La Instrucción 2/2026 del CGPJ establece un principio equivalente para los jueces que usan IA en la redacción de resoluciones.
La documentación de la supervisión humana sirve tanto para cumplir el requisito de logs del art. 12 como para demostrar a las autoridades supervisoras que la supervisión se realiza de forma efectiva. La guía recomienda que los sistemas generen automáticamente registros de cada intervención de supervisión: quién realizó la revisión, cuándo, qué output revisó, si confirmó o modificó el output, y, en su caso, el motivo de la modificación.
Estos registros tienen también valor probatorio en caso de reclamaciones de personas afectadas por las decisiones del sistema. Si una persona impugna una decisión de denegación de crédito o exclusión de un proceso de selección, la empresa debe poder demostrar que la decisión fue revisada por una persona antes de aplicarse. Sin registros de supervisión, esa demostración es imposible y la empresa asume la carga de la prueba en cualquier procedimiento.
El requisito de supervisión humana del art. 14 del AI Act tiene importantes conexiones con el derecho laboral español. Cuando el sistema de IA afecta a decisiones sobre trabajadores — evaluación del rendimiento, asignación de turnos, cálculo de retribuciones variables, decisiones sobre continuidad en el empleo — el artículo 26.7 del AI Act establece una obligación específica: el desplegador debe informar a los representantes de los trabajadores antes de poner en servicio el sistema.
Esta obligación de información sindical previa es adicional a las obligaciones de consulta que el Estatuto de los Trabajadores establece para la introducción de tecnologías que puedan afectar a las condiciones de trabajo. La disposición adicional primera de la LOPDGDD, modificada por la Ley 15/2022 de igualdad de trato, ya exige que las empresas informen a los representantes de los trabajadores sobre el uso de algoritmos en la gestión laboral. El art. 26.7 del AI Act añade una obligación específica sobre los sistemas de IA de alto riesgo que va más allá del mero uso de algoritmos en general.
La convergencia del art. 14 AI Act con el derecho laboral español crea una obligación integrada de supervisión humana con tres dimensiones: la técnica (el sistema debe estar diseñado para que la supervisión sea posible), la organizativa (el desplegador debe asignar supervisores competentes y con autoridad), y la participativa (los representantes de los trabajadores deben ser informados antes de la implantación del sistema). Las organizaciones que implanten sistemas de IA de alto riesgo en el ámbito laboral sin cumplir con las tres dimensiones pueden enfrentarse simultáneamente a sanciones del AI Act y a conflictos laborales.
El artículo 86 del AI Act introduce un derecho que complementa directamente el requisito de supervisión humana: el derecho de las personas físicas afectadas por una decisión tomada con el apoyo de un sistema de IA de alto riesgo a obtener una explicación de esa decisión. Este derecho existe cuando la decisión produce efectos significativos en la vida de la persona — y conecta directamente con el derecho a no ser objeto de decisiones basadas únicamente en tratamiento automatizado del artículo 22 del RGPD.
El derecho a la explicación del art. 86 impone al desplegador la obligación de proporcionar, a solicitud de la persona afectada, una explicación del papel desempeñado por el sistema de IA en el procedimiento de toma de decisiones y los principales elementos de la decisión adoptada. Esta explicación no puede ser una descripción técnica del funcionamiento del modelo — debe ser comprensible para la persona afectada y debe cubrir los factores específicos que han influido en la decisión relativa a esa persona.
Para cumplir con el derecho de explicación del art. 86, el desplegador necesita que el sistema incluya funcionalidades de explicabilidad que permitan generar explicaciones comprensibles para los usuarios finales. Estas funcionalidades deben estar diseñadas por el proveedor y documentadas en las instrucciones de uso del art. 13. El desplegador que no puede proporcionar explicaciones a las personas que las soliciten está incumpliendo el art. 86 del AI Act y, cuando aplique, el art. 22 del RGPD.
La Instrucción 2/2026 del Consejo General del Poder Judicial, publicada en el BOE el 14 de febrero de 2026 (BOE-A-2026-2205), es el primer instrumento normativo español específico sobre el uso de inteligencia artificial en la administración de justicia. Entre sus disposiciones, establece el marco de supervisión humana aplicable cuando los jueces y magistrados usan herramientas de IA para la redacción de resoluciones judiciales.
La Instrucción establece que los borradores generados por IA deben ser revisados exhaustivamente por el juez o magistrado antes de su firma, que el juez es plenamente responsable del contenido de la resolución con independencia de que haya sido asistida por IA, y que no puede delegarse en la herramienta de IA la valoración jurídica de los hechos ni la interpretación del derecho aplicable. Esta formulación es una implementación concreta del principio de supervisión humana del art. 14 del AI Act adaptada al contexto específico de la función judicial.
La Instrucción 2/2026 también establece que los sistemas de IA utilizados por los órganos jurisdiccionales deben ser aprobados por el CGPJ, que su uso debe quedar registrado en el expediente judicial, y que los litigantes tienen derecho a conocer si la resolución ha sido asistida por IA. Estas disposiciones son coherentes con los requisitos de logs del art. 12, de transparencia del art. 13, y de supervisión humana del art. 14 del AI Act.
El requisito de supervisión humana del art. 14 del AI Act tiene importantes conexiones con el derecho laboral español. Cuando el sistema de IA afecta a decisiones sobre trabajadores — evaluación del rendimiento, asignación de turnos, cálculo de retribuciones variables, decisiones sobre continuidad en el empleo — el artículo 26.7 del AI Act establece una obligación específica: el desplegador debe informar a los representantes de los trabajadores antes de poner en servicio el sistema.
Esta obligación de información sindical previa es adicional a las obligaciones de consulta que el Estatuto de los Trabajadores establece para la introducción de tecnologías que puedan afectar a las condiciones de trabajo. La disposición adicional primera de la LOPDGDD, modificada por la Ley 15/2022 de igualdad de trato, ya exige que las empresas informen a los representantes de los trabajadores sobre el uso de algoritmos en la gestión laboral. El art. 26.7 del AI Act añade una obligación específica sobre los sistemas de IA de alto riesgo que va más allá del mero uso de algoritmos en general.
La convergencia del art. 14 AI Act con el derecho laboral español crea una obligación integrada de supervisión humana con tres dimensiones: la técnica (el sistema debe estar diseñado para que la supervisión sea posible), la organizativa (el desplegador debe asignar supervisores competentes y con autoridad), y la participativa (los representantes de los trabajadores deben ser informados antes de la implantación del sistema). Las organizaciones que implanten sistemas de IA de alto riesgo en el ámbito laboral sin cumplir con las tres dimensiones pueden enfrentarse simultáneamente a sanciones del AI Act y a conflictos laborales.
El artículo 86 del AI Act introduce un derecho que complementa directamente el requisito de supervisión humana: el derecho de las personas físicas afectadas por una decisión tomada con el apoyo de un sistema de IA de alto riesgo a obtener una explicación de esa decisión. Este derecho existe cuando la decisión produce efectos significativos en la vida de la persona — y conecta directamente con el derecho a no ser objeto de decisiones basadas únicamente en tratamiento automatizado del artículo 22 del RGPD.
El derecho a la explicación del art. 86 impone al desplegador la obligación de proporcionar, a solicitud de la persona afectada, una explicación del papel desempeñado por el sistema de IA en el procedimiento de toma de decisiones y los principales elementos de la decisión adoptada. Esta explicación no puede ser una descripción técnica del funcionamiento del modelo — debe ser comprensible para la persona afectada y debe cubrir los factores específicos que han influido en la decisión relativa a esa persona.
Para cumplir con el derecho de explicación del art. 86, el desplegador necesita que el sistema incluya funcionalidades de explicabilidad que permitan generar explicaciones comprensibles para los usuarios finales. Estas funcionalidades deben estar diseñadas por el proveedor y documentadas en las instrucciones de uso del art. 13. El desplegador que no puede proporcionar explicaciones a las personas que las soliciten está incumpliendo el art. 86 del AI Act y, cuando aplique, el art. 22 del RGPD.
La Instrucción 2/2026 del Consejo General del Poder Judicial, publicada en el BOE el 14 de febrero de 2026 (BOE-A-2026-2205), es el primer instrumento normativo español específico sobre el uso de inteligencia artificial en la administración de justicia. Entre sus disposiciones, establece el marco de supervisión humana aplicable cuando los jueces y magistrados usan herramientas de IA para la redacción de resoluciones judiciales.
La Instrucción establece que los borradores generados por IA deben ser revisados exhaustivamente por el juez o magistrado antes de su firma, que el juez es plenamente responsable del contenido de la resolución con independencia de que haya sido asistida por IA, y que no puede delegarse en la herramienta de IA la valoración jurídica de los hechos ni la interpretación del derecho aplicable. Esta formulación es una implementación concreta del principio de supervisión humana del art. 14 del AI Act adaptada al contexto específico de la función judicial.
La Instrucción 2/2026 también establece que los sistemas de IA utilizados por los órganos jurisdiccionales deben ser aprobados por el CGPJ, que su uso debe quedar registrado en el expediente judicial, y que los litigantes tienen derecho a conocer si la resolución ha sido asistida por IA. Estas disposiciones son coherentes con los requisitos de logs del art. 12, de transparencia del art. 13, y de supervisión humana del art. 14 del AI Act.
Más recursos: calendario del AI Act tras el Ómnibus Digital · análisis del AI Act en 2026 · servicios para administraciones públicas (LexQuark).
Newsletter gratuita · Empresas y administraciones públicas · En español