Análisis jurídico completo para empresas y administraciones públicas. La guía oficial de la AESIA más el criterio de iusia para el asesoramiento práctico.
Una de las diferencias más relevantes entre el AI Act y el RGPD es la obligación de vigilancia poscomercialización del artículo 72. El RGPD no exige explícitamente que el responsable del tratamiento monitorice continuamente el impacto de sus sistemas de tratamiento de datos personales una vez están en marcha. El AI Act sí: los proveedores de sistemas de alto riesgo deben establecer, documentar e implementar un sistema de vigilancia poscomercialización que garantice que el sistema continúa cumpliendo los requisitos del Reglamento durante toda su vida operativa.
La Guía 13 de la AESIA, con 49 páginas, detalla los elementos que el sistema de vigilancia poscomercialización debe incluir, los indicadores de rendimiento que deben monitorizarse, los canales de retroalimentación de los desplegadores, y los umbrales que deben disparar acciones correctivas. La guía conecta explícitamente el sistema de vigilancia poscomercialización con la gestión de riesgos del art. 9 y con el sistema de notificación de incidentes graves del art. 73.
La vigilancia poscomercialización es especialmente crítica para sistemas de IA porque los modelos de IA son sistemas adaptativos cuyo comportamiento puede cambiar con el tiempo, sea porque los datos de entrada en producción se desvían de los datos de entrenamiento (distributional shift), porque el sistema se actualiza con nuevos datos, o porque el contexto de uso evoluciona. Un sistema que cumplía todos los requisitos del AI Act en el momento de su lanzamiento puede dejar de cumplirlos meses después si no se monitoriza y actualiza adecuadamente.
El art. 72.3 del AI Act exige que el proveedor elabore y documente un plan de vigilancia poscomercialización antes de la comercialización del sistema. Este plan debe integrarse en el sistema de gestión de calidad del art. 17 y estar disponible para las autoridades supervisoras junto con la documentación técnica del Anexo IV.
El plan debe especificar, como mínimo, los siguientes elementos. En primer lugar, los indicadores de rendimiento que se monitorizarán: las métricas específicas que el proveedor usará para verificar que el sistema continúa cumpliendo los requisitos del AI Act. Estos indicadores deben ser suficientemente específicos para detectar degradaciones relevantes del rendimiento antes de que produzcan consecuencias significativas.
En segundo lugar, la frecuencia de monitorización: cada cuánto se calculan y revisan los indicadores. La guía recomienda establecer una frecuencia de monitorización proporcional al nivel de riesgo del sistema y a la velocidad de cambio esperada del contexto de uso. Para sistemas de alto impacto en decisiones sobre personas, una monitorización semanal o incluso diaria puede ser necesaria. Para sistemas con impacto más limitado, una monitorización mensual puede ser suficiente.
En tercer lugar, los umbrales de acción: los valores de los indicadores que dispararán una acción correctiva. Los umbrales deben establecerse con suficiente margen para que las acciones puedan tomarse antes de que el rendimiento se degrade hasta un nivel inaceptable. Un umbral establecido exactamente en el nivel de rendimiento mínimo aceptable no es útil porque cuando se cruza ya es demasiado tarde.
En cuarto lugar, los procedimientos de acción correctiva: qué ocurre cuando un indicador supera un umbral. El plan debe establecer un procedimiento gradual de respuesta que incluya la investigación de la causa de la degradación, la implementación de medidas correctivas temporales para limitar el impacto mientras se investiga, y las acciones permanentes para corregir la causa raíz del problema.
La guía proporciona un catálogo de indicadores de rendimiento relevantes para los tipos de sistemas más frecuentes en el Anexo III. Para sistemas de selección de personal, los indicadores incluyen la tasa de apelaciones de candidatos rechazados (un aumento significativo puede indicar que el sistema está produciendo más rechazos cuestionables), la distribución demográfica de los candidatos aceptados y rechazados (para monitorizar posibles sesgos emergentes), y la concordancia entre las puntuaciones del sistema y las evaluaciones posteriores de los candidatos seleccionados.
Para sistemas de scoring crediticio, los indicadores incluyen la comparación entre el score asignado y el comportamiento crediticio real de los prestatarios (la tasa de impago predicha vs. la real), la distribución de los scores por grupos demográficos (para detectar sesgos), y la tasa de reclamaciones de los solicitantes denegados. Para sistemas de diagnóstico médico, los indicadores incluyen la concordancia entre el diagnóstico sugerido por el sistema y el diagnóstico final del médico, la tasa de casos en que el médico modifica el output del sistema, y cualquier evento adverso que pueda estar relacionado con el uso del sistema.
Para administraciones públicas que usan sistemas de IA en la gestión de prestaciones o servicios, la guía recomienda monitorizar la tasa de recursos administrativos contra las decisiones adoptadas con el apoyo del sistema, la distribución de las decisiones por grupos de población, y la coherencia de las decisiones con los criterios normativos aplicables.
Los proveedores no pueden monitorizar el rendimiento de sus sistemas en producción sin la cooperación de los desplegadores. El art. 26.5 del AI Act obliga a los desplegadores a informar al proveedor de los incidentes graves del art. 73. Pero la vigilancia poscomercialización requiere también información sobre el rendimiento ordinario del sistema — no solo sobre los incidentes graves.
La guía recomienda que los contratos entre proveedores y desplegadores incluyan cláusulas específicas sobre retroalimentación: el desplegador se compromete a proporcionar al proveedor, con la periodicidad acordada, datos agregados sobre el rendimiento del sistema en producción — tasas de aceptación/rechazo, distribución de puntuaciones, tasa de intervenciones del supervisor humano, y cualquier anomalía observada en el comportamiento del sistema. Esta retroalimentación periódica es la principal fuente de información del proveedor para el sistema de vigilancia poscomercialización.
El diseño del sistema debe facilitar esta retroalimentación. Los sistemas que no tienen mecanismos para recopilar y agregar datos de rendimiento en producción dificultarán enormemente la vigilancia poscomercialización. La guía recomienda diseñar desde el inicio los instrumentos de recopilación de datos de rendimiento como parte integral del sistema, no como una funcionalidad añadida posteriormente.
El plan de vigilancia poscomercialización debe establecer qué acciones se toman cuando los indicadores de rendimiento superan los umbrales establecidos. La guía distingue tres niveles de respuesta según la gravedad de la degradación detectada.
El primer nivel es la investigación interna: cuando un indicador supera su umbral de alerta pero aún no ha alcanzado el umbral de acción urgente, el proveedor inicia una investigación interna para determinar la causa de la desviación. El sistema puede continuar operando durante la investigación, pero el desplegador es informado de la investigación y de la necesidad de un nivel de supervisión humana más alto mientras se resuelve.
El segundo nivel es la acción correctiva urgente: cuando un indicador supera el umbral de acción urgente, el proveedor implementa medidas correctivas sin esperar a que la investigación esté completada — típicamente ajustar los umbrales del sistema para que más casos sean derivados a revisión humana — y notifica al desplegador de la situación y de las medidas adoptadas.
El tercer nivel es la suspensión del sistema: cuando la degradación del rendimiento es tan grave que el sistema no puede operar de forma segura, o cuando se detecta un problema que puede comprometer derechos fundamentales, el proveedor debe recomendar al desplegador la suspensión del sistema hasta que el problema esté corregido. En casos extremos, el proveedor puede necesitar retirar el sistema del mercado conforme al art. 20 del AI Act.
La vigilancia poscomercialización no es solo una obligación del proveedor. El art. 26 del AI Act establece obligaciones de monitorización también para el desplegador: monitorizar el funcionamiento del sistema con arreglo a las instrucciones de uso del proveedor y, cuando sea procedente, informar a los proveedores y a las autoridades supervisoras de cualquier riesgo grave identificado.
Para las Administraciones Públicas que usen sistemas de IA de alto riesgo, esta obligación de monitorización del desplegador tiene implicaciones organizativas significativas. La AAPP debe designar internamente a un responsable del seguimiento del sistema de IA, establecer un proceso de revisión periódica de los indicadores de rendimiento, y tener un canal interno claro para reportar anomalías al proveedor y, en su caso, a las autoridades supervisoras.
Cuando el proveedor actualiza el modelo de IA — re-entrena el modelo con nuevos datos, ajusta los hiperparámetros, o modifica la arquitectura — el plan de vigilancia poscomercialización debe contemplar la evaluación de si la actualización ha alterado el rendimiento del sistema de una forma que requiere acciones. Si la actualización constituye una modificación sustancial en el sentido del art. 43.4, el proveedor debe repetir la evaluación de conformidad antes de comercializar la versión actualizada del sistema.
La guía establece que el proceso de gestión de cambios del SGC del art. 17 y el plan de vigilancia poscomercialización del art. 72 deben estar coordinados: cuando el plan de vigilancia identifica una degradación del rendimiento que requiere una actualización del modelo, el proceso de gestión de cambios determina si esa actualización requiere nueva evaluación de conformidad. Esta coordinación evita que el ciclo de mejora del modelo — que es esencial para mantener la relevancia y el rendimiento del sistema — genere incumplimientos regulatorios involuntarios.
Las Administraciones Públicas tienen un papel dual en la vigilancia poscomercialización de sistemas de IA. Como desplegadoras de sistemas de alto riesgo adquiridos a proveedores, tienen la obligación de monitorizar el rendimiento del sistema conforme al art. 26 y de informar al proveedor de anomalías detectadas. Como autoridades de regulación sectorial, tienen la potestad de exigir a los proveedores que operen en su sector que refuercen la vigilancia poscomercialización cuando detectan problemas sistémicos en el uso de determinados tipos de sistemas de IA.
La AESIA está desarrollando un sistema de recogida de información sobre el rendimiento de los sistemas de IA de alto riesgo que complementa los logs del art. 12 y los informes de vigilancia poscomercialización del art. 72. Este sistema permitirá a la Agencia detectar patrones de incumplimiento o de riesgo sistémico en tipos específicos de sistemas de IA a partir de la información agregada de múltiples proveedores y desplegadores.
Los sistemas de IA usados en el ámbito judicial tienen características específicas que hacen la vigilancia poscomercialización especialmente compleja. La independencia judicial implica que no existe un mecanismo directo de retroalimentación desde los jueces que usan el sistema hacia el proveedor sobre los casos en que el sistema ha producido outputs cuestionables. La Instrucción 2/2026 del CGPJ no establece un mecanismo de reporting sistemático de los casos en que los jueces han modificado o rechazado los outputs de herramientas de IA.
La guía recomienda que los proveedores de sistemas de IA para el ámbito judicial establezcan, en coordinación con el CGPJ y las autoridades competentes, mecanismos de retroalimentación anónima que permitan a los jueces reportar casos problemáticos sin comprometer la confidencialidad del proceso judicial. Este tipo de mecanismo, similar a los sistemas de reporte de incidentes de seguridad anonimizados que existen en la aviación y en la medicina, es esencial para que la vigilancia poscomercialización de sistemas de IA judiciales sea efectiva.
Cuando el proveedor actualiza el modelo de IA — re-entrena el modelo con nuevos datos, ajusta los hiperparámetros, o modifica la arquitectura — el plan de vigilancia poscomercialización debe contemplar la evaluación de si la actualización ha alterado el rendimiento del sistema de una forma que requiere acciones. Si la actualización constituye una modificación sustancial en el sentido del art. 43.4, el proveedor debe repetir la evaluación de conformidad antes de comercializar la versión actualizada del sistema.
La guía establece que el proceso de gestión de cambios del SGC del art. 17 y el plan de vigilancia poscomercialización del art. 72 deben estar coordinados: cuando el plan de vigilancia identifica una degradación del rendimiento que requiere una actualización del modelo, el proceso de gestión de cambios determina si esa actualización requiere nueva evaluación de conformidad. Esta coordinación evita que el ciclo de mejora del modelo — que es esencial para mantener la relevancia y el rendimiento del sistema — genere incumplimientos regulatorios involuntarios.
Las Administraciones Públicas tienen un papel dual en la vigilancia poscomercialización de sistemas de IA. Como desplegadoras de sistemas de alto riesgo adquiridos a proveedores, tienen la obligación de monitorizar el rendimiento del sistema conforme al art. 26 y de informar al proveedor de anomalías detectadas. Como autoridades de regulación sectorial, tienen la potestad de exigir a los proveedores que operen en su sector que refuercen la vigilancia poscomercialización cuando detectan problemas sistémicos en el uso de determinados tipos de sistemas de IA.
La AESIA está desarrollando un sistema de recogida de información sobre el rendimiento de los sistemas de IA de alto riesgo que complementa los logs del art. 12 y los informes de vigilancia poscomercialización del art. 72. Este sistema permitirá a la Agencia detectar patrones de incumplimiento o de riesgo sistémico en tipos específicos de sistemas de IA a partir de la información agregada de múltiples proveedores y desplegadores.
Los sistemas de IA usados en el ámbito judicial tienen características específicas que hacen la vigilancia poscomercialización especialmente compleja. La independencia judicial implica que no existe un mecanismo directo de retroalimentación desde los jueces que usan el sistema hacia el proveedor sobre los casos en que el sistema ha producido outputs cuestionables. La Instrucción 2/2026 del CGPJ no establece un mecanismo de reporting sistemático de los casos en que los jueces han modificado o rechazado los outputs de herramientas de IA.
La guía recomienda que los proveedores de sistemas de IA para el ámbito judicial establezcan, en coordinación con el CGPJ y las autoridades competentes, mecanismos de retroalimentación anónima que permitan a los jueces reportar casos problemáticos sin comprometer la confidencialidad del proceso judicial. Este tipo de mecanismo, similar a los sistemas de reporte de incidentes de seguridad anonimizados que existen en la aviación y en la medicina, es esencial para que la vigilancia poscomercialización de sistemas de IA judiciales sea efectiva.
Para las organizaciones que tienen un Sistema de Gestión de Seguridad de la Información (SGSI) conforme a ISO 27001, la vigilancia poscomercialización de sistemas de IA del art. 72 puede integrarse de forma eficiente en los procesos existentes de gestión de riesgos y mejora continua del SGSI. La lógica del ciclo Plan-Do-Check-Act (PDCA) que estructura el SGSI es perfectamente compatible con el proceso de vigilancia poscomercialización del AI Act: el plan de vigilancia corresponde a la fase Plan, la monitorización de indicadores corresponde a la fase Do, la revisión de resultados y la detección de anomalías corresponde a la fase Check, y las acciones correctivas corresponden a la fase Act.
Esta integración evita la proliferación de sistemas paralelos de gestión — SGSI para ciberseguridad, SGC para el art. 17 del AI Act, vigilancia poscomercialización para el art. 72, EIPD para el RGPD — y centraliza la gestión del ciclo de vida de los sistemas en un marco único que es más eficiente y más fácil de auditar. La guía de la AESIA apoya explícitamente este enfoque integrado, siempre que todos los requisitos específicos de cada norma estén cubiertos por el sistema integrado.
La revisión anual de la dirección, que es obligatoria en ISO 27001, puede ampliarse para incluir la revisión del plan de vigilancia poscomercialización de todos los sistemas de IA de alto riesgo de la organización. Esta revisión debe evaluar los resultados de la monitorización del período, las acciones correctivas tomadas, los incidentes graves ocurridos y las lecciones aprendidas, y las modificaciones que deben realizarse en el plan de vigilancia para el período siguiente. El acta de esta revisión es un documento que las autoridades supervisoras pueden solicitar en una inspección como evidencia de que la vigilancia poscomercialización se realiza de forma efectiva y no solo formalmente.
Más recursos: calendario del AI Act tras el Ómnibus Digital · análisis del AI Act en 2026 · servicios para administraciones públicas (LexQuark).
Newsletter gratuita · Empresas y administraciones públicas · En español