Expertos europeos reclaman una "supervisión humana estricta" para la IA sanitaria de alto riesgo

El Consejo Asesor Científico de las Academias Europeas (EASAC) y la Federación Europea de Academias de Medicina (FEAM) reclaman una "supervisión humana estricta" para la inteligencia artificial (IA) sanitaria de alto riesgo, en un informe conjunto que recoge recomendaciones para aprovechar sus beneficios y garantizar al mismo tiempo una implantación segura, ética e inclusiva.

"La IA debe ser una herramienta que empodere al profesional sanitario, nunca que lo sustituya o desplace, y su despliegue debe ser proactivo y no reactivo. Todos los países europeos estamos de acuerdo en esto. Lo más difícil ha sido traducirlo en recomendaciones concretas que tuvieran sentido en 29 sistemas sanitarios nacionales muy distintos entre sí con niveles de digitalización, financiación y marcos regulatorios diferentes", asegura el vicepresidente de la FEAM, el profesor Luis Martí-Bonmatí, quien ha liderado el grupo de trabajo que ha elaborado este informe y que ha estado formado por 22 científicos europeos de prestigio.

En esta misma línea, David Ríos, miembro de la Real Academia de Ciencias de España, que ha participado en la elaboración del informe y ha trabajado especialmente en el apartado dedicado a la seguridad, subraya que "la medicina está cambiando completamente con la llegada de la IA y era necesario analizar qué riesgos plantea y cómo podemos afrontarlos".

Según el matemático, el informe recoge recomendaciones para mitigar esos riesgos y, entre otras cuestiones, "evitar que los algoritmos puedan ser injustos con determinados grupos de población".

"El punto más controvertido quizás haya sido encontrar el equilibrio en Europa entre regulación e innovación", asegura el profesor Martí-Bonmatí, quien también es académico de número de Radiología y Radiodiagnóstico de la Real Academia Nacional de Medicina de España (RANME).

"Todos coincidíamos en que la IA sanitaria de alto riesgo necesita una supervisión humana estricta, pero también sabemos que una regulación excesivamente rígida para su desarrollo e implementación frena la utilización de estas herramientas que aportan un valor clínico real", reconoce.

HAY QUE PRIORIZAR LA SEGURIDAD EN EL DISEÑO

"No hay que elegir necesariamente los modelos más sencillos o fáciles de implementar, sino aquellos que sean más robustos. En un entorno hostil, un modelo necesita haber sido entrenado para enfrentarse a situaciones adversas y ser capaz de mantener su funcionamiento", advierte Ríos sobre la importancia de que la seguridad forme parte del diseño de estos sistemas desde el principio.

De aquí que los autores del informe hayan apostado por la creación de "entornos controlados de experimentación regulatoria", los llamados "regulatory sandboxes". "Serían entornos controlados y seguros, de tiempo limitado, donde los innovadores pueden probar nuevas herramientas de IA bajo supervisión regulatoria, con garantías para los pacientes, mientras los reguladores aprenden cómo aplicar la normativa existente", explica el profesor Martí-Bonmatí.

Otro punto de fricción, añade, fue "hasta qué punto exigir estándares comunes de interoperabilidad de datos entre países, respetando al mismo tiempo la autonomía de cada Estado miembro sobre su propio sistema de salud". Los sistemas de IA ya se utilizan en numerosos ámbitos de la asistencia sanitaria y tienen potencial para aportar importantes beneficios, especialmente en la atención clínica y la salud pública.

Sin embargo, si no existen normas claras, también pueden generar problemas como filtraciones o usos indebidos de datos, sesgos en los algoritmos o una pérdida del control humano sobre determinadas decisiones. Ríos advierte de que "estamos viendo aparecer problemas que antes no existían".

PUEDE AGRAVAR DESIGUALDADES QUE YA EXISTEN

Por otro lado, la IA también puede agravar desigualdades que ya existen, incluidas las relacionadas con el entorno de cada paciente y su situación socioeconómica, así como aumentar las diferencias entre los países con más y menos recursos. Esto también podría deteriorar la confianza de la ciudadanía.

"En el informe hemos señalado que los modelos de IA entrenados con datos y contextos limitados pueden generar resultados sesgados relacionados con el sexo, la edad o el país donde vive el paciente, perpetuando desigualdades sanitarias, si no se validan en poblaciones diferentes de aquellas con las que fueron entrenados", apunta el académico de la RANME.

Según Martí-Bonmatí, el informe es "deliberadamente equilibrado": no dice que la IA tenga más ventajas que desventajas en abstracto, sino que su rentabilidad depende por completo de cómo se desarrolle, valide, implemente y gobierne cada sistema. Dicho esto, hay beneficios muy tangibles, asevera.

"Para los radiólogos, la integración de la IA en el flujo de trabajo de imagen puede reforzar la precisión diagnóstica, ayudando en la detección de lesiones, reduciendo errores y apoyando una atención más eficiente y basada en la evidencia, además de ayudar a priorizar el listado de trabajo señalando los hallazgos y pacientes que requieren atención urgente", recalca.

El informe reclama políticas europeas que garanticen un acceso equitativo a estas tecnologías, una mayor transparencia -incluido el impacto medioambiental de la IA- y una participación activa de la sociedad. Solo así, según los autores, podrá contribuir a los objetivos de una sanidad universal y mantenerse alineada con los valores democráticos.

Sobre su impacto medioambiental, Ríos señala que su principal preocupación es el consumo energético, ya que los nuevos centros de datos están llegando incluso a construir sus propias centrales para abastecerse de energía.

"Y hay otro aspecto que me parece importante: actualmente la IA es, en muchos casos, demasiado barata. Creo que llegará un momento en el que esto se estabilice y el precio de utilizar estos sistemas sea más acorde con el gasto energético real que conllevan. Eso también ayudará a que seamos más conscientes del coste de utilizar la IA", concluye.