"La IA sanitaria no es infalible y requiere de supervisión humana"

La Inteligencia Artificial (IA) puede ser una gran aliada del ámbito sanitario, pero siempre debe de contar con supervisión humana, dados los riesgos que entraña también. Este fue uno de los mensajes que resonaron en la jornada 'Retos en Protección de Datos ante las TIC y la Inteligencia Artificial', celebrada por la Alianza de la Sanidad Privada Española (ASPE) y Alaro Avant, consultora especializada en Protección de Datos y Seguridad de la Información en hospitales y clínicas. 

La gerente del Hospital San Vicente (Madrid) y vocal de la Junta Directiva de ASPE, Luján Sanjuán, ha remarcado la importancia de emplear la IA sin olvidar que esta trabaja con los datos sanitarios de los pacientes, con los que es capaz de predecir diagnósticos y recomendar tratamientos. "En un entorno en constante evolución, los avances tecnológicos deben ir de la mano con la protección y privacidad", ha señalado durante la apertura del evento, donde también ha recordado que estos procesos deben ser transparentes y respetar los derechos de las personas sobre su información.

En la misma línea se ha pronunciado la oficial de protección de datos y directora del Departamento Legal de Alaro Avant, Natalia Olivares, quien ha recordado que los sistemas de IA tienen que incluir evaluaciones de riesgo. Un punto clave para garantizar la salvaguarda de la información de los pacientes, que define como "esencial". "Estrategias como la transparencia, la gestión de riesgos y la auditoría no solo permiten cumplir con el Reglamento General de Protección de Datos, sino que también mejoran la confianza de los usuarios y abren nuevas oportunidades de mercado", ha agregado.

Desafío de la inserción de tecnología en salud

La cita contó con 20 expertos para tratar los retos que afrontará el sector sanitario con la incorporación de las nuevas tecnologías. Un grupo que se dividió entre las cuatro mesas de debate con las que contó la jornada. No obstante, la reflexión más repetida fue que "la IA nunca es 100 por 100 infalible", por lo que necesita de supervisión humana para su aplicación. Motivo por el que es fundamental encontrar formas que ayuden a detectar un mal uso de esta, como sería un modelo de gobernanza efectivo para gestión de datos, un código ético que contemple sanciones y la mitigación de sesgos en dicha herramienta para evitar discriminaciones.

La primera de las mesas versó sobre la adecuación al Reglamento General de Protección de Datos de los tratamientos que incorporan la IA. En esta, sus dos participantes, Maite Sanz, experta en Identidad Digital e Inteligencia Artificial, y Paula Ortiz, cofundadora y directora ejecutiva de TheLegal.School, han destacado que las nuevas herramientas se deben acoplar siempre a la normativa, independientemente de la utilidad que tengan para el sector.

A continuación, Juan Díez, responsable de ciberseguridad para el sector estratégico sanitario, alimentario e investigación en Incibe; Richard Benjamins, fundador y director ejecutivo del Observatorio del Impacto Social y Ético de la IA (Odiseia), y David Castillo Salvador, director del Departamento Legal y Compliance en Fenin, han analizado la relación entre las Tecnologías de la Información y la Comunicación (TIC) y la seguridad de los pacientes. Según el segundo locutor, factores económicos y culturales están obstaculizando actualmente la implementación de sistemas de inteligencia artificial en el ámbito público.

También hubo hueco para la exposición de buenas prácticas en hospitales para el cumplimiento del Reglamento General de Protección de Datos. Una de ellas es el fomento de la colaboración activa entre los distintos agentes que conforman sector de la salud.