es una fundación para desarrollar proyectos sociales de salud digital
La Agencia Española de Supervisión de Inteligencia Artificial (AESIA), con sede en A Coruña, es el organismo público que impulsa el uso seguro, ético y conforme a norma de la IA en España. ESIA se adelantó a la obligatoriedad europea establecida en el Reglamento de Inteligencia Artificial (AI Act) que exige que todos los Estados miembros cuenten con una autoridad supervisora en esta materia. Su creación supone una apuesta por el desarrollo tecnológico responsable, especialmente crucial en sectores como la salud, donde los sistemas de IA pueden tener impacto directo en la vida de los pacientes.
Misiones Principales de AESIA:
- Supervisión y control: Inspección de sistemas de IA de alto riesgo, incluyendo aplicaciones sanitarias
- Asesoramiento técnico: Consultoría especializada para implementación conforme a normativa
- Formación y divulgación: Creación de conocimiento y sensibilización sobre uso responsable de IA
- Coordinación europea: Colaboración con la Oficina Europea de IA y otras autoridades nacionales
- Promoción de innovación: Desarrollo de entornos de prueba (sandbox regulatorio) para sistemas de IA
En el ámbito sanitario —donde la IA puede influir en decisiones clínicas, la seguridad del paciente y la calidad asistencial— este enfoque conecta directamente con el Reglamento (UE) 2024/1689 (AI Act / RIA), que establece obligaciones reforzadas para los sistemas de alto riesgo, precisamente por su potencial impacto en salud y seguridad.
Imagen generada por IA con fines divulgativos
Documentación Técnica: Guías para el Cumplimiento Normativo
AESIA ha desarrollado un conjunto completo de guías prácticas que constituyen una herramienta fundamental para los profesionales sanitarios que trabajan con o implementan sistemas de IA. Estas guías, desarrolladas en colaboración con el sandbox regulatorio piloto español, proporcionan recomendaciones prácticas alineadas con el Reglamento Europeo de IA.
En diciembre de 2025 se publican 16 guías prácticas (más checklists asociadas) como resultado del sandbox regulatorio de IA impulsado por la Secretaría de Estado de Digitalización e IA con colaboración de AESIA. Se presentan como apoyo para organizaciones que desarrollan o despliegan IA de alto riesgo; no son vinculantes y se actualizarán conforme maduren estándares y directrices europeas.
En clave sanitaria: si tu hospital, servicio, startup o proveedor está trabajando con IA que puede afectar a pacientes (diagnóstico, priorización, monitorización, soporte a decisiones, automatización crítica…), estas guías son un “puente” práctico entre el texto legal y el “qué hago el lunes”.
Guías Introductorias
01 - Guía Introductoria al Reglamento de IA
Esta guía proporciona una visión general del Reglamento Europeo de IA, explicando los conceptos fundamentales, el ámbito de aplicación y las obligaciones principales. Es el punto de partida esencial para comprender el marco regulatorio que afecta a los sistemas de IA en el ámbito sanitario, desde herramientas de diagnóstico por imagen hasta sistemas de apoyo a la decisión clínica. La guía clarifica qué sistemas se consideran de alto riesgo y cuáles son las responsabilidades de proveedores y usuarios.
02 - Guía Práctica y Ejemplos para Entender el Reglamento de IA
Complementa la guía anterior con casos prácticos concretos y ejemplos aplicados a diferentes sectores, incluyendo sanidad. Mediante escenarios reales, ayuda a los profesionales a identificar cuándo un sistema de IA requiere evaluación de conformidad, cómo clasificar el nivel de riesgo de una aplicación sanitaria, y qué pasos seguir para el cumplimiento normativo. Incluye flowcharts y tablas de decisión que simplifican la aplicación práctica del reglamento.
Guías Técnicas Especializadas
03 - Guía de Evaluación de Conformidad
Describe los procedimientos técnicos necesarios para demostrar que un sistema de IA cumple con todos los requisitos del Reglamento. En el contexto sanitario, esto es especialmente relevante para dispositivos médicos con IA incorporada. La guía detalla las diferentes modalidades de evaluación según el nivel de riesgo, los organismos notificados competentes, la documentación requerida y los procedimientos de certificación que deben seguirse antes de la comercialización.
04 - Guía del Sistema de Gestión de la Calidad
Establece los requisitos para implementar un sistema robusto de gestión de la calidad en organizaciones que desarrollan o implementan IA de alto riesgo. Para entidades sanitarias, esto incluye la documentación de procesos, control de versiones de algoritmos, trazabilidad de cambios en modelos predictivos, y gestión de actualizaciones que puedan afectar al desempeño clínico. La guía proporciona marcos metodológicos alineados con estándares ISO aplicables al sector salud.
05 - Guía de Gestión de Riesgos
Fundamental para cualquier aplicación de IA en salud, esta guía detalla metodologías para identificar, evaluar y mitigar riesgos asociados a sistemas de inteligencia artificial. Aborda riesgos específicos del ámbito sanitario como errores diagnósticos, sesgos en poblaciones vulnerables, fallos en sistemas críticos de soporte vital, y problemas de interoperabilidad. Incluye matrices de riesgo, técnicas de análisis de modos de fallo, y estrategias de mitigación adaptadas al entorno clínico.
06 - Guía de Vigilancia Humana
La supervisión humana efectiva es crítica en sistemas de IA sanitarios donde las decisiones pueden afectar a la vida de los pacientes. Esta guía establece los requisitos para mantener control humano significativo sobre sistemas automatizados, incluyendo mecanismos de intervención, capacitación necesaria del personal sanitario, interfaces que faciliten la comprensión de las recomendaciones de IA, y protocolos para situaciones donde el sistema muestre comportamientos inesperados o incertidumbre elevada.
07 - Guía de Datos y Gobernanza de Datos
Los datos son el núcleo de cualquier sistema de IA en salud. Esta guía aborda requisitos de calidad, representatividad y protección de datos sanitarios utilizados para entrenar y operar sistemas de IA. Incluye aspectos como anonimización y pseudonimización conforme al RGPD, gestión de datos sensibles, requisitos de diversidad para evitar sesgos poblacionales, procedimientos de limpieza y validación de datasets clínicos, y trazabilidad de datos desde su origen hasta su uso en producción.
08 - Guía de Transparencia
Esencial para generar confianza entre profesionales y pacientes, esta guía establece los niveles de transparencia requeridos según el tipo de sistema de IA. En sanidad, esto incluye la obligación de informar a los pacientes cuando interactúan con sistemas de IA, proporcionar explicaciones comprensibles de las recomendaciones clínicas generadas por algoritmos, documentar las limitaciones conocidas del sistema, y establecer canales claros para consultas sobre el funcionamiento de la IA utilizada.
09 - Guía de Precisión
La precisión diagnóstica y terapéutica es fundamental en medicina. Esta guía define métricas y umbrales de desempeño que los sistemas de IA sanitarios deben alcanzar y mantener. Aborda la validación clínica de algoritmos, comparación con gold standards, análisis de sensibilidad y especificidad en diferentes subpoblaciones, detección de degradación del rendimiento a lo largo del tiempo, y procedimientos de recalibración cuando el desempeño cae por debajo de niveles aceptables.
10 - Guía de Solidez
Los sistemas de IA en entornos clínicos deben ser robustos ante variaciones en las condiciones de uso. Esta guía establece requisitos de resiliencia, incluyendo capacidad de funcionar con datos incompletos o ruidosos, resistencia a variaciones en protocolos de adquisición de datos (diferentes equipos de imagen, laboratorios), comportamiento predecible ante casos extremos, y mecanismos de failsafe que previenen decisiones peligrosas cuando el sistema detecta incertidumbre o condiciones fuera de su rango de entrenamiento.
11 - Guía de Ciberseguridad
La protección de sistemas de IA sanitarios contra amenazas cibernéticas es crítica dado que almacenan datos personales sensibles y pueden afectar decisiones clínicas. La guía establece requisitos de seguridad desde el diseño, incluyendo cifrado de datos en tránsito y en reposo, controles de acceso basados en roles, auditorías de seguridad, protocolos de respuesta ante brechas, protección contra ataques adversarios que podrían manipular predicciones del modelo, y continuidad del servicio ante incidentes.
12 - Guía de Registros
La trazabilidad completa es esencial tanto para auditorías regulatorias como para investigación de incidentes clínicos. Esta guía detalla qué información debe registrarse automáticamente durante la operación de sistemas de IA sanitarios: inputs utilizados para cada predicción, outputs generados, nivel de confianza de las recomendaciones, intervenciones humanas realizadas, versión del modelo en uso, y cualquier anomalía detectada. Establece periodos mínimos de retención y requisitos de accesibilidad para inspecciones.
13 - Guía de Vigilancia Poscomercialización
Una vez que un sistema de IA está en uso clínico, debe existir monitorización continua de su desempeño real. Esta guía establece sistemas de vigilancia que detecten degradación del rendimiento, aparición de sesgos no anticipados en poblaciones específicas, eventos adversos relacionados con recomendaciones de la IA, y feedback de profesionales sanitarios. Incluye procedimientos para reportar incidentes graves a AESIA y a las autoridades competentes en productos sanitarios cuando corresponda.
14 - Guía de Gestión de Incidentes
Cuando ocurren fallos o comportamientos inesperados en sistemas de IA sanitarios, la respuesta debe ser rápida y estructurada. Esta guía establece protocolos de gestión de incidentes que incluyen clasificación de severidad (especialmente crítica cuando hay riesgo para pacientes), cadenas de notificación interna y externa, procedimientos de investigación de causa raíz, medidas correctivas inmediatas, y comunicación transparente a usuarios afectados y autoridades regulatorias según la gravedad del incidente.
15 - Guía de Documentación Técnica
La documentación técnica completa es requisito obligatorio para sistemas de IA de alto riesgo. Esta guía especifica qué debe documentarse: arquitectura del sistema, datos de entrenamiento y validación con sus características estadísticas, métricas de desempeño alcanzadas en diferentes escenarios clínicos, análisis de riesgos y medidas de mitigación implementadas, procedimientos de mantenimiento y actualización, y limitaciones conocidas. Proporciona plantillas y ejemplos específicos para el sector sanitario.
Herramientas Prácticas de Implementación
16 - Manual de Checklist de Guías de Requisitos
Este manual práctico proporciona listas de verificación operativas que permiten a los profesionales sanitarios y equipos técnicos autoevaluar el cumplimiento de los requisitos establecidos en las guías anteriores. Cada checklist está estructurada de forma que permite identificar gaps de cumplimiento, priorizar acciones correctivas, y documentar el progreso hacia la conformidad regulatoria. Es una herramienta indispensable para la preparación de auditorías y evaluaciones de conformidad.
Compendio de Checklists y Ejemplos
Este archivo descargable en formato ZIP contiene todas las checklists en formatos editables, plantillas de documentación, y casos de ejemplo aplicados a diferentes tipos de sistemas de IA sanitarios. Incluye ejemplos de análisis de riesgos para sistemas de diagnóstico por imagen, plantillas de documentación técnica para algoritmos de predicción de riesgo, y modelos de planes de vigilancia poscomercialización adaptados al contexto hospitalario y de atención primaria.
Descargar Checklists y Ejemplos →
Implicaciones para el Sector Sanitario
Las guías de AESIA son especialmente relevantes para profesionales de la salud que desarrollan, implementan o utilizan sistemas de IA en contextos clínicos. Desde herramientas de apoyo al diagnóstico radiológico hasta sistemas de predicción de riesgo de readmisión hospitalaria, pasando por asistentes virtuales de triaje o algoritmos de optimización de tratamientos, todos estos sistemas pueden clasificarse como de alto riesgo según el Reglamento Europeo de IA.
El cumplimiento de estas guías no solo es una obligación legal, sino una garantía de calidad y seguridad para los pacientes. La documentación desarrollada por AESIA facilita que hospitales, centros de investigación, empresas de tecnología sanitaria y profesionales clínicos comprendan sus responsabilidades y dispongan de herramientas prácticas para cumplirlas.