Decepciones y 'alucinaciones', entre las amenazas de la IA en sanidad

El ser humano comete fallos. La tecnología, también. A pesar de sus múltiples beneficios que demuestra en el ámbito sanitario, la incoporación de la Inteligencia Artificial puede representar ciertas amenazas. De hecho, lídera el top 10 de riesgos en cuanto la tecnología sanitaria para 2025. Esto se debe a que según la entidad presenta sesgos en sus datos y que sus soluciones pueden producir “respuestas falsas”, debido a factores como la desviación de datos y su incapacidad para adaptarse a nuevas condiciones. Otro problema es que pueden causar “una decepción” si los profesionales que la utilizan no tienen una expectativa realista, que pasa por una correcta “supervisión y preparación de los datos que se dan a la IA”.

Así lo refleja un informe elaborado por el Instituto de Prácticas Seguras de Medicación en Estados Unidos. Frente a la promesa de aumentar la eficiencia y precisión de los diagnósticos, tratamientos y servicios médicos, mejorando así los resultados clínicos, reduciendo los costes y minimizando las disparidades sanitarias, las mejoras asociadas a la Inteligencia Artificial, no están garantizadas y existe la posibilidad de que se produzcan daños evitables, según el documento..

Los sesgos presentes en los datos utilizados para entrenar el modelo de IA -o la falta de correspondencia entre esos datos y la población de pacientes objetivo- pueden dar lugar a resultados sanitarios dispares o a respuestas inadecuadas. Además, los sistemas predictivos producen lo que se dominan "alucinaciones" -respuestas falsas o engañosas- y su rendimiento varía con el tiempo debido a factores como la desviación de los datos y la "fragilidad" del modelo de IA, esto es, la incapacidad de adaptarse adecuadamente a condiciones nuevas. 

Por tanto, según el informe, "depositar demasiada confianza en un modelo de IA -y no examinar adecuadamente sus resultados- puede conducir a decisiones inadecuadas sobre la atención al paciente", pese al enorme potencial que encierra como herramienta avanzada para ayudar a los médicos y al personal sanitario. "Aprovechar la IA para mejorar la atención al paciente requiere que las organizaciones definan objetivos claros, evalúen y gestionen los riesgos, desarrollen planes de implementación eficaces, gestionen las expectativas y supervisen el rendimiento para detectar signos de degradación a lo largo del tiempo", advierten. 

Difícil manejo de dispositivos médicos 

Dicho documento sitúa también el foco en la atención domiciliaria, alternativa que cada vez más países están consolidando. Este cambio de asistencia, según indica, puede generar problemas específicos, especialmente cuando el paciente es responsable del manejo de un dispositivo médico complejo. Entre estos ejemplos se encuentran los respiradores, las máquinas de diálisis o las bombas de infusión, que hasta ahora se habían usado en centros de agudos bajo supervisión clínica.
 
El cumplimiento de prácticas clave de gestión de la tecnología sanitaria es fundamental, según el informe, para que el paciente esté seguro. Para conseguirlo, se quiere promover la evaluación de la usabilidad del dispositivo en el contexto de las capacidades del usuario, mitigando cualquier limitación física o estructural en el área de uso prevista, el suministro de los accesorios adecuados y la formación suficiente para el correcto funcionamiento y mantenimiento del dispositivo.Identificar una gran cantidad de errores por parte de los pacientes, como por ejemplo la configuración incorrecta o la falta de familiaridad con los dispositivos médicos.
 
La práctica de la asistencia sanitaria depende en gran medida de los conocimientos y de los profesionales sanitarios y cada vez cobra más importancia la disponibilidad y el rendimiento de los sistemas. El informe ha reflejado que, pese a que el uso de servicios de terceros tiene grandes ventajas, las operaciones de un proveedor de atención sanitaria se pueden ver amenazadas, degradando las operaciones. Algunos ejemplos destacados por la entidad son los casos de acceso no autorizado, interrupciones del servicio u otros acontecimientos relacionados con la ciberseguridad.

Cadenas de suministro y administraciones de fármacos 

 
El instituto estadounidense ha recabado los retos que deberá afrontar a partir de ahora la cadena de suministro, donde existen falsificaciones que pueden dañar la calidad de los productos. Un caso reciente destacado es que las jeringuillas de plástico fabricadas en China podrían ser defectuosas, lo que podría afectar a más de mil millones de productos en los centros sanitarios de Estados Unidos.
 
Un escenario que el organimos sigue estudiando con detenimiento son los incendios asociados a la administración de oxígeno suplementario en diversas áreas de atención al paciente, incluido el hogar. En este sentido, la institución analiza incendios que se han producido durante la desfibrilación, así como los asociados al uso de humidificadores calentados, fuentes de luz de fibra óptica y cables eléctricos dañados, por citar algunos ejemplos.
 
Para que los sistemas de alarma sean eficaces, defiende que los umbrales que activan una alarma deben ajustarse a niveles clínicamente relevantes. Los anestesiólogos pueden cambiar la configuración de la alarma según las circunstancias y durante un procedimiento, puede ser apropiado poner a cero los límites inferiores de la alarma.
 
La necesidad de suspender (o retener) la administración de un fármaco en función de las circunstancias clínicas es un requisito común, pero el instituto ha recordado que a veces es problemático durante el curso de la atención al paciente. En este aspecto, la institución ha remarcado que los errores asociados a las órdenes de retención pueden atribuirse a menudo a la incertidumbre sobre el significado de una orden de retención, cómo debe comunicarse la orden o qué proceso debe seguirse.

Líneas de infusión y productos adhesivos médicos

 
El hecho de no gestionar de forma correcta las líneas de infusión y los conectores puede causar graves daños al paciente. En este escenario, ECRI ha recordado que no son los únicos que pueden generar daños, ya que las infecciones relacionadas con la atención sanitaria y los tropiezos pueden tener las mismas consecuencias. Las infecciones asociadas a una gestión inadecuada de las vías pueden ser el resultado de la entrada de patógenos en el conector y la línea de infusión o incluso contaminantes ambientales que entran en contacto o la superficie externa de la vía de infusión.

La institución ha recordado la importancia de que las organizaciones deben contar con recursos para llevar a cabo una investigación exhaustiva para prevenir futuros errores de medicación u otros incidentes relacionados con la infusión.