Europa aprueba su primera ley IA que advierte del "alto riesgo" sanitario

El Parlamento europeo ha aprobado este miércoles su primera ley de Inteligencia Artificial (IA), una normativa que en Bruselas afirman que “garantiza la seguridad y el respeto de los derechos fundamentales al tiempo que impulsa la innovación” y que, además, incluye la sanidad entre los “servicios públicos y privados esenciales” cuyos sistemas de IA se consideran “de alto riesgo” porque, entre otros motivos, “pueden ser muy perjudiciales para la salud”.

La ley europea de IA, que ha recibido 523 votos favorables de la Eurocámara, frente a 46 en contra y 49 abstenciones, obliga a los sistemas de inteligencia artificial sanitarios a “evaluar y reducir los riesgos, mantener registros de uso, ser transparentes y precisos y contar con supervisión humana”. Además, los usuarios tendrán derecho a presentar reclamaciones acerca del funcionamiento de estos modelos de IA, así como “a recibir explicaciones sobre las decisiones basadas en ellos que afecten a sus derechos”, detallan desde la Unión Europea.

El visto bueno del Parlamento europeo a la normativa supone la confirmación del acuerdo ya alcanzado con los Estados miembro el pasado diciembre, cuando se pactaron los pormenores de un reglamento cuyo objetivo es “proteger los derechos fundamentales, la democracia, el Estado de derecho y la sostenibilidad medioambiental frente a la IA que entraña un alto riesgo”.

En lo referente a las obligaciones para los sistemas de IA de alto riesgo entre los que Bruselas incluye la sanidad, además de “las infraestructuras críticas, la educación, la formación profesional, el empleo, determinados sistemas de las fuerzas de seguridad, la migración y la gestión aduanera, la justicia y los procesos democráticos”.

Aplicaciones de IA que atentan contra los derechos ciudadanos

Por otro lado, el reglamento prohíbe ciertas aplicaciones de IA “que atentan contra los derechos de la ciudadanía”, como los sistemas de categorización biométrica basados en características sensibles y la captura indiscriminada de imágenes faciales de internet o grabaciones de cámaras de vigilancia para crear bases de datos de reconocimiento facial.

No obstante, hay algunas excepciones como el uso de sistemas de identificación biométrica por parte de las fuerzas de seguridad, aunque sólo “en situaciones muy concretas y bien definidas” y bajo autorización judicial o administrativa previa, en casos como “la búsqueda selectiva de una persona desaparecida o la prevención de un atentado terrorista”.

Además, los sistemas de IA de uso general habrán de cumplir varios requisitos de transparencia, respetar la legislación europea sobre derechos de autor y publicar resúmenes detallados del contenido usado para entrenar sus modelos. Por último, se subraya que se habrán de poner a disposición de pymes y empresas emergencias “espacios controlados de pruebas y ensayos en condiciones reales a nivel nacional” para que puedan desarrollar sistemas innovadores de IA antes de comercializarlos.

Sanidad ya apuesta por la IA como apoyo clínico

A primeros de este mes, el Ministerio de Sanidad adjudicó a la firma UpToDate un contrato de más de 9.200 euros, IVA incluido, para conceder una licencia de suscripción on-line, on-site y off-site de varios sistemas de IA de apoyo a decisiones clínicas. Se trata de UpToDaTe Inc y UpToDaTe Advance, que se definen como sendas "soluciones fiables y basadas en evidencia para la atención médica moderna".

Sus creadores explican que se han diseñado para "satisfacer las necesidades del panorama médico que cambia rápidamente". Estas herramientas ofrecen contenido clínico, de medicamentos, de pacientes y de miembros para apoyar a los profesionales de la salud dondequiera que se preste la atención clínica. Hay dos millones de especialistas sanitarios que ya las están usando.