Europa ultima su norma IA en la empresa sanitaria mientras evalúa riesgos

Europa no le quita ojo a los últimos avances de la Inteligencia Artificial (IA), sobre todo en materia sanitaria. Esta nueva tecnología ha llegado de manera disruptiva en los últimos años y el Parlamento Europeo se encuentra en estos momentos negociando un reglamento para regular la misma. 

La propuesta de la Comisión tiene como objetivo es establecer un marco regulatorio sobre IA para garantizar la protección de los derechos fundamentales y la seguridad de los pacientes, así como la confianza en el desarrollo y la adopción de la IA. De hecho, numerosas voces del sector sanitario han expresado su temor a que esta herramienta afecte de manera negativa a la práctica clínica y al trabajo de los profesionales.

"Los beneficios potenciales de la IA para nuestras sociedades son múltiples, desde una mejor atención médica hasta una mejor educación", sostienen desde el Parlamento Europeo.

En este sentido, la propuesta del reglamento IA cuenta con elementos relevantes para el sector de la salud. Por ello, estudiar los riesgos de la misma será una de las principales labores que desempeñará el Parlamento: "Si bien la mayoría de los sistemas de IA plantearán riesgos bajos o nulos, ciertos sistemas de IA crean peligros que deben abordarse para evitar resultados indeseables. Es necesaria una acción legislativa para garantizar un mercado interior que funcione bien para los sistemas de IA y en el que se aborden adecuadamente tanto los beneficios como los riesgos".

Por ejemplo, se incluirán sistemas de identificación biométrica o decisiones de IA que afectan a las áreas de contratación, educación, atención sanitaria o aplicación de la ley. Concretamente, se facilitará el uso de sistemas de identificación biométrica remota, en tiempo real en espacios públicos; los sistemas de identificación biométrica remota, a posteriori, con la única excepción de usos policiales en investigaciones por delitos graves y con autorización judicial; los sistemas de categorización biométrica que utilicen ciertas características identitarias; los sistemas policiales predictivos; los sistemas de reconocimiento de emociones por las fuerzas de seguridad, en la gestión de fronteras, los lugares de trabajo o las instituciones de enseñanza; y el rastreo indiscriminado de imágenes faciales sacadas de Internet o de circuitos cerrados de televisión para crear bases de datos de reconocimiento facial.

Reglamento de maquinaria sanitaria

Por otro lado, esta normativa pone el foco en los productos de maquinaria sanitaria que cubren una amplia gama de dispositivos e implican a diferentes profesionales sanitarios. Por ello, la Directiva de Máquinas, que fue sustituida por el nuevo Reglamento de Máquinas, definió los requisitos de salud y seguridad para estos aparatos.

"Este reglamento garantiza que la nueva generación de maquinaria tenga seguridad para usuarios y consumidores, y fomente la innovación", indican desde Europa. "Si bien la propuesta de Ley de Inteligencia Artificial de la UE abordará los riesgos de seguridad de los sistemas de IA, el nuevo Reglamento de Maquinaria garantizará la integración segura del sistema de IA en la maquinaria en general", añaden.

Todo ello acompañado de diferentes normas orientadas también a fijar unas obligaciones para los proveedores y aquellos que despliegan herramientas basadas en IA. Serán ellos también los que tengan que registrar sus modelos en la base de datos de la UE antes de comercializarlos. Asimismo, los sistemas de IA generativa basados en esos modelos, como ChatGPT, tendrán que cumplir unos requisitos adicionales de transparencia —identificar el contenido como generado por IA, para ayudar, entre otras cosas, a distinguir las falsificaciones de las imágenes auténticas— y estar diseñados de forma que no puedan generar contenido ilegal. Además, deberán publicarse resúmenes detallados de los datos protegidos por derechos de autor que han sido utilizados para su desarrollo.