"La IA ya está sustituyendo a la actividad humana en la sanidad"

Desde hace unos meses, la inteligencia artificial (IA) acapara la atención pública con novedosas herramientas y aplicaciones que facilitan, o incluso sustituyen, tareas previamente realizadas por personas. La sanidad no se ha quedado atrás en estas innovaciones, y ya hemos visto como hospitales españoles incluyen esta nueva tecnología en su día a día. Sin embargo, un estudio publicado recientemente en la revista BMJ Global Health alerta sobre las posibles consecuencias negativas en nuestra salud si se continúa impletando la IA sin antes ser regulada.

David McCoy, uno de los autores del estudio y médico de Salud Pública en el International Institute for Global Health, alerta a Redacción Médica de una posible "deshumanización" de la asistencia sanitaria y una "sustitución" de sanitarios por inteligencia artificial.

¿Cuáles son los riesgos del uso de la inteligencia artificial en el ámbito médico?

En el estrecho campo de la Medicina hay múltiples preocupaciones que se entrecruzan. Entre ellas figuran la erosión de la privacidad y la subordinación de los derechos e intereses de los pacientes (y de las personas en general) a los intereses comerciales de poderosas empresas o a los intereses de los gobiernos en materia de vigilancia y control social. Muchos de los beneficios de la IA en Medicina dependen del uso de datos personales expansivos y prolongados en el tiempo. Actualmente no existen garantías suficientes de que los datos recopilados y utilizados ostensiblemente con fines médicos no pasen a formar parte de la vigilancia y recopilación más amplias y casi constantes de datos personales, que suponen profundas amenazas para la privacidad, la autonomía y la dignidad.

Además del riesgo de ceder grandes cantidades de datos personales (y su uso por parte de potentes sistemas impulsados por IA), vemos el riesgo de que los profesionales de la salud también cedan autoridad epistémica a las máquinas de forma que podrían "deshumanizar" la asistencia sanitaria y socavar el papel y el valor de los profesionales sanitarios humanos.

Aunque la IA puede aportar beneficios, su aplicación podría: a) erosionar el juicio y el control humanos independientes; b) reducir la cualificación de los profesionales sanitarios humanos o hacerlos redundantes; c) aumentar la amenaza y el impacto de los errores clínicos debido a la velocidad y la escala de los sistemas de IA; d) crear zonas grises sobre la responsabilidad clínica, la rendición de cuentas y la responsabilidad civil; y e) perpetuar y profundizar las desigualdades sociales existentes en la atención sanitaria debido a los conjuntos de datos no representativos utilizados para formular algoritmos y modelos de toma de decisiones en la atención sanitaria. También podría exacerbar la distribución desigual del acceso a las tecnologías sanitarias dependiendo de la renta de los países. No está nada claro que los beneficios de la IA superen los riesgos y perjuicios en el sector médico y asistencial.

Además, es imperativo que los médicos y otros profesionales de la salud también tengan en cuenta los riesgos y amenazas que van más allá de la Medicina, como destacamos en nuestro artículo.

¿Estarán seguros nuestros datos si utilizamos la inteligencia artificial en la sanidad?

No lo sabemos con certeza, pero es poco probable que estén seguros porque los sistemas reguladores actuales son inadecuados y se han registrado varios casos de filtración de datos.

¿Cómo empeora la IA las desigualdades sanitarias?

Puede ampliar las desigualdades existentes en el acceso a la asistencia sanitaria a través de barreras financieras, o mediante el uso de algoritmos y modelos de aprendizaje automático que se basan en sesgos y prejuicios existentes en los conjuntos de datos existentes. Por supuesto, también es posible que la IA reduzca las desigualdades sanitarias al permitir la prestación de asistencia sanitaria a poblaciones que carecen de acceso a profesionales sanitarios cualificados.

Sin embargo, es probable que las actuales estructuras sociales, políticas y económicas que generan concentraciones extremas de riqueza junto a una pobreza generalizada se reflejen en las repercusiones de la IA en la sociedad.

¿Qué debe tener en cuenta el personal sanitario cuando trabaja con inteligencia artificial?

Deben comprender los peligros y riesgos no solo de las herramientas de IA actuales, sino también de la trayectoria del desarrollo de la IA en general y su posible impacto en la forma en que se practica la Medicina, y cómo cambiará el poder en la sociedad. Esto implica reflexionar sobre la privacidad y la gobernanza de los datos, los derechos de propiedad intelectual, los mecanismos de rendición de cuentas y responsabilidad, y las repercusiones a largo plazo sobre el empleo humano en la Medicina y la atención sanitaria.

Es fundamental que las personas y los profesionales que no participan en el desarrollo de la IA realicen un balance de sus beneficios, oportunidades, riesgos y amenazas. Las personas que trabajan en el campo de la IA son inevitablemente parciales en su evaluación de los beneficios, oportunidades, riesgos y potenciales amenazas.

¿Por qué es importante que se ponga en marcha una regulación eficaz antes de continuar con el desarrollo de la inteligencia artificial general autoperfeccionable?

Porque el desarrollo de la inteligencia artificial general autoperfeccionable conlleva riesgos profundos y existenciales para la humanidad a múltiples niveles y de diferentes maneras. Es una caja de pandora, y necesitamos salvaguardas y aplicar el principio de precaución.

¿Cómo puede afectar la IA a los puestos de trabajo del personal sanitario? ¿Corren riesgo de ser sustituidos por la IA?

La IA ya está sustituyendo a la actividad humana en la sanidad, y la trayectoria es tal que cada vez más actividades que actualmente realizan los humanos pronto podrán ser realizadas por máquinas inteligentes más rápido y mejor. Con la IA entramos en un territorio nuevo. Los sistemas de IA podrían hacer innecesarias grandes cantidades de tareas realizadas por humanos, con la consecuencia de que muchos trabajos y profesiones podrían llegar a ser redundantes. Pero se está haciendo muy poco para anticipar los diferentes escenarios futuros posibles o probables y planificar el cambio.

Que estos cambios produzcan un beneficio neto o un perjuicio neto variará casi con toda seguridad de un grupo profesional a otro y de un lugar a otro, pero esto no es algo que los médicos clínicos puedan hacer por sí solos como individuos: es una cuestión colectiva, política y de sistemas.

¿No se está siendo lo suficientemente cauteloso con la inteligencia artificial debido a la predisposición hacia sus beneficios potenciales?

Sí. Creo que estamos un poco fascinados por los posibles beneficios, exaltados por una industria multimillonaria, y no abordamos las amenazas sociales, políticas y económicas relacionadas con la IA.