El Consejo Asesor Científico de las Academia Europeas (EASAC) y la Federación Europea de Academias de Medicina (FEAM) acaban de publicar un informe conjunto sobre el uso de la inteligencia artificial (IA) en la sanidad europea con recomendaciones dirigidas a aprovechar sus beneficios y garantizar, al mismo tiempo, una implantación segura, ética e inclusiva. Este documento pretende contribuir a la aplicación de las iniciativas legislativas europeas en marcha relacionadas con la IA y los datos sanitarios.

“La IA debe ser una herramienta que empodere al profesional sanitario, nunca que lo sustituya o desplace, y su despliegue debe ser proactivo y no reactivo. Todos los países europeos estamos de acuerdo en esto. Lo más difícil ha sido traducirlo en recomendaciones concretas que tuvieran sentido en 29 sistemas sanitarios nacionales muy distintos entre sí con niveles de digitalización, financiación y marcos regulatorios diferentes”, asegura el vicepresidente de la FEAM, el Prof. Luis Martí-Bonmatí, quien ha liderado el grupo de trabajo que ha elaborado este informe y que ha estado formado por 22 científicos europeos de prestigio.

En esta misma línea, David Ríos, miembro de la Real Academia de Ciencias de España, que ha participado en la elaboración del informe y ha trabajado especialmente en el apartado dedicado a la seguridad, subraya que “la medicina está cambiando completamente con la llegada de la IA y era necesario analizar qué riesgos plantea y cómo podemos afrontarlos”. Según el matemático, el informe recoge recomendaciones para mitigar esos riesgos y, entre otras cuestiones, “evitar que los algoritmos puedan ser injustos con determinados grupos de población”.

“El punto más controvertido quizás haya sido encontrar el equilibrio en Europa entre regulación e innovación”, asegura el Prof. Martí-Bonmatí, quien también es académico de número de Radiología y Radiodiagnóstico de la Real Academia Nacional de Medicina de España (RANME). “Todos coincidíamos en que la IA sanitaria de alto riesgo necesita una supervisión humana estricta, pero también sabemos que una regulación excesivamente rígida para su desarrollo e implementación frena la utilización de estas herramientas que aportan un valor clínico real”, reconoce.

Ríos añade que la seguridad tiene que formar parte del diseño de estos sistemas desde el principio: “No hay que elegir necesariamente los modelos más sencillos o fáciles de implementar, sino aquellos que sean más robustos. En un entorno hostil, un modelo necesita haber sido entrenado para enfrentarse a situaciones adversas y ser capaz de mantener su funcionamiento”.

De aquí que los autores del informe hayan apostado por la creación de “entornos controlados de experimentación regulatoria”, los llamados “regulatory sandboxes”. “Serían entornos controlados y seguros, de tiempo limitado, donde los innovadores pueden probar nuevas herramientas de IA bajo supervisión regulatoria, con garantías para los pacientes, mientras los reguladores aprenden cómo aplicar la normativa existente”, explica el Prof. Martí-Bonmatí. Otro punto de fricción, añade, fue “hasta qué punto exigir estándares comunes de interoperabilidad de datos entre países, respetando al mismo tiempo la autonomía de cada Estado miembro sobre su propio sistema de salud”.

Los sistemas de IA ya se utilizan en numerosos ámbitos de la asistencia sanitaria y tienen potencial para aportar importantes beneficios, especialmente en la atención clínica y la salud pública. Sin embargo, si no existen normas claras, también pueden generar problemas como filtraciones o usos indebidos de datos, sesgos en los algoritmos o una pérdida del control humano sobre determinadas decisiones.

Ríos advierte de que “estamos viendo aparecer problemas que antes no existían”. Por ejemplo, los sistemas de diagnóstico mediante imagen “pueden verse alterados por un virus informático que los infecte. Si un sistema ha sido manipulado, puede dejar de ser eficaz y generar diagnósticos erróneos”. Esto abre incluso la puerta, según el académico, a lo que podríamos denominar “terrorismo científico”: ataques dirigidos contra sistemas que pueden tener consecuencias sobre la salud de las personas.

El Prof. Martí-Bonmatí recuerda casos ya vividos: “Sobre uso indebido de datos, un ejemplo europeo sucedió cuando la Agencia de la Unión Europea para la Ciberseguridad (ENISA) analizó, en su panorama de amenazas de 2024, 487 incidentes de ciberseguridad en el sector sanitario europeo, de los que un 45% fueron ataques de ransomware y un 28% brechas de datos. Cuantos más datos de salud se integren en sistemas de IA, mayor es el volumen de exposición ante este tipo de incidentes, con consecuencias que van desde la interrupción de servicios clínicos hasta la exposición de información sensible de pacientes sin su consentimiento. Por eso los entornos seguros y la privacidad de los datos personales está muy presente en todo el informe”, sostiene.

A su juicio, en cuanto a la pérdida de control humano, un ejemplo es la disminución de capacidad de los endoscopistas para detectar pólipos de forma independiente tras habituarse a la IA. Al menos así se vio reflejado en un estudio multicéntrico realizado en cuatro centros de endoscopia de Polonia, dentro del ensayo ACCEPT. “Es lo que en el informe llamamos ‘pérdida de competencias’ o ‘deskilling’, que sucede cuando el profesional pierde práctica en la tarea que la IA hace por él; si el sistema falla o no está disponible, la seguridad del paciente puede verse comprometida”, advierte.

Por otro lado, la IA también puede agravar desigualdades que ya existen, incluidas las relacionadas con el entorno de cada paciente y su situación socioeconómica, así como aumentar las diferencias entre los países con más y menos recursos. Esto también podría deteriorar la confianza de la ciudadanía. “En el informe hemos señalado que los modelos de IA entrenados con datos y contextos limitados pueden generar resultados sesgados relacionados con el sexo, la edad o el país donde vive el paciente, perpetuando desigualdades sanitarias, si no se validan en poblaciones diferentes de aquellas con las que fueron entrenados”, apunta el académico de la RANME.

Según el Prof. Martí-Bonmatí, el informe es “deliberadamente equilibrado”: no dice que la IA tenga más ventajas que desventajas en abstracto, sino que su rentabilidad depende por completo de cómo se desarrolle, valide, implemente y gobierne cada sistema. Dicho esto, hay beneficios muy tangibles, asevera. “Para los radiólogos, la integración de la IA en el flujo de trabajo de imagen puede reforzar la precisión diagnóstica, ayudando en la detección de lesiones, reduciendo errores y apoyando una atención más eficiente y basada en la evidencia, además de ayudar a priorizar el listado de trabajo señalando los hallazgos y pacientes que requieren atención urgente”, recalca.

“Un estudio que citamos analizó cómo los grandes modelos de lenguaje cambian sus recomendaciones clínicas cuando se añaden descriptores de género o etnia al mismo caso clínico, lo que evidencia que estos sistemas pueden ‘aprender’ patrones de sesgo presentes en los datos históricos. El peligro concreto es doble: por un lado, si los datos de entrenamiento infrarrepresentan a un sexo en una determinada patología, el sistema puede ser menos preciso diagnosticando a ese grupo; por otro, si esos sesgos no se auditan y reportan de forma desagregada, por ejemplo, mediante las llamadas “model cards” que exigen informar del rendimiento del modelo por grupos (género, etnia o región), el sesgo puede pasar completamente inadvertido hasta que ya ha causado un daño real en la práctica clínica”, admite.

Ríos coincide en que el informe es “independiente y equilibrado” y pretende ofrecer una visión objetiva de la situación: “No es juzgar si la IA es buena o mala, sino identificar los riesgos y establecer recomendaciones para reducirlos. Tenemos que asumir que las reglas del juego han cambiado y que debemos adaptar nuestros sistemas y nuestra formación a esta nueva realidad”.

Ambos expertos coinciden también en la necesidad de preparar a los profesionales sanitarios. Ríos propuso incorporar al informe un apartado específico sobre la formación de los médicos: “Porque los profesionales sanitarios van a tener que convivir cada vez más con estas tecnologías y necesitan estar preparados. Tengo una hija que está estudiando Medicina y veo que en las facultades no siempre se enseña ni se advierte a los futuros médicos de estos problemas”, explica Ríos. “No se trata de convertir a los médicos en expertos en inteligencia artificial, pero sí de que conozcan sus posibilidades, sus limitaciones y los riesgos que puede tener utilizarla en un entorno sanitario”, añade.

El informe reclama políticas europeas que garanticen un acceso equitativo a estas tecnologías, una mayor transparencia —incluido el impacto medioambiental de la IA— y una participación activa de la sociedad. Solo así, según los autores, podrá contribuir a los objetivos de una sanidad universal y mantenerse alineada con los valores democráticos.

Sobre su impacto medioambiental, Ríos señala que su principal preocupación es el consumo energético, ya que los nuevos centros de datos están llegando incluso a construir sus propias centrales para abastecerse de energía. “Y hay otro aspecto que me parece importante: actualmente la IA es, en muchos casos, demasiado barata. Creo que llegará un momento en el que esto se estabilice y el precio de utilizar estos sistemas sea más acorde con el gasto energético real que conllevan. Eso también ayudará a que seamos más conscientes del coste de utilizar la IA”.