¿Qué cambia para los médicos con la Ley Europea de IA? El Colegio de Médicos de Málaga publica una guía práctica

El Colegio de Médicos de Málaga (Commálaga) ha publicado AI Act y medicina. Guía práctica para médicos, elaborada por el vicepresidente primero de la corporación, el Dr. José Antonio Trujillo, con el objetivo de explicar las implicaciones que tiene para los profesionales sanitarios la nueva fase de aplicación del Reglamento Europeo de Inteligencia Artificial, efectiva desde el 2 de agosto.

El Reglamento entró en vigor el 1 de agosto de 2024, pero estableció un calendario progresivo para la aplicación de sus disposiciones. Desde el 2 de agosto de este año la Comisión Europea y las autoridades nacionales comienzan a aplicar nuevas normas y mecanismos de control, especialmente en materia de transparencia, identificación de contenidos generados o manipulados mediante Inteligencia Artificial (IA), gobernanza y supervisión.

La guía del Colegio traduce este marco normativo al ejercicio de la medicina y ofrece recomendaciones para emplear la IA de forma segura, ética y responsable. Su mensaje principal es que esta tecnología puede servir de apoyo al profesional pero nunca debe sustituir su juicio clínico ni convertir una recomendación algorítmica en una decisión automática.

Qué deben tener en cuenta los médicos

El documento aconseja utilizar únicamente herramientas autorizadas por la organización sanitaria para la que trabajen y conocer previamente su finalidad, limitaciones y población para la que han sido validadas. También advierte de que no deben introducirse datos identificativos ni información clínica de pacientes en aplicaciones de IA generativa que no hayan sido aprobadas institucionalmente.

Cualquier informe, resumen, recomendación o respuesta generada por IA debe ser revisada antes de incorporarse a la asistencia o a la historia clínica. El médico conserva en todo momento la responsabilidad sobre la decisión adoptada y debe poder cuestionar, ignorar, corregir o detener el funcionamiento de la herramienta cuando su resultado contradiga la valoración clínica o pueda entrañar un riesgo para el paciente.

La guía recomienda, además, dejar constancia del uso de la IA cuando haya influido de manera relevante en la asistencia y comunicar los posibles errores, sesgos, incidentes o pérdidas de rendimiento detectados. La supervisión humana, por tanto, debe ser efectiva y estar respaldada por formación suficiente, información comprensible y capacidad real de intervención.

El Dr. Trujillo subraya que la incorporación de estas herramientas no modifica las obligaciones ya existentes en materia de protección de datos, confidencialidad, secreto profesional, autonomía del paciente, historia clínica, seguridad asistencial y responsabilidad profesional.

Transparencia y derechos de los pacientes

La nueva fase de aplicación del Reglamento refuerza también la transparencia.

En el ámbito sanitario, la guía señala que el paciente debe conocer cuándo interviene de forma relevante una herramienta de IA, con qué finalidad se utiliza, qué papel desempeña y quién adopta la decisión final. También debe recibir información comprensible, saber cómo se protegen sus datos y poder solicitar una revisión humana cuando corresponda.

Cómo deben prepararse las instituciones sanitarias

El documento incluye un plan de actuación para las organizaciones sanitarias. Entre sus recomendaciones figuran elaborar un inventario de los sistemas y proyectos de IA utilizados, clasificarlos según su finalidad y nivel de riesgo, establecer políticas internas para la IA generativa, formar a los profesionales y crear procedimientos de supervisión y notificación de incidentes.

También propone constituir comités multidisciplinares de gobernanza, validar localmente el rendimiento de las herramientas antes de implantarlas y garantizar una alternativa asistencial cuando un sistema falle.

Las obligaciones específicas para los sistemas de alto riesgo se aplicarán posteriormente desde el 2 de diciembre de 2027 para los sistemas autónomos incluidos en el anexo III y desde el 2 de agosto de 2028 para los integrados en productos regulados, como determinados productos sanitarios. Este aplazamiento, advierte la guía, debe entenderse como un periodo de preparación y no como una autorización para utilizar herramientas clínicas sin control institucional.

La publicación se enmarca en el Commálaga Health Hub, iniciativa pionera promovida por el Colegio de Médicos de Málaga para favorecer la convergencia entre profesionales sanitarios, investigación biomédica, tecnología, emprendimiento y deontología, y consolidar a la institución como referente en salud e innovación tecnológica en el sur de Europa.