El sesgo de la IA la hace incompatible en la atención a la salud mental

Una de cada cuatro personas sufrirá algún tipo de trastorno mental a lo largo de su vida y el coste acumulativo de este tipo de tratamientos superará los 16 billones de dólares en 2030, según la OMS. La Inteligencia Artificial puede convertirse en una poderosa aliada a la hora de atajar esa otra pandemia del siglo XXI, pero hoy por hoy, los sesgos en los algoritmos comprometen la eficacia de las terapias.

¿Está cerca el día en el que, en lugar de que haya un psicólogo o un psiquiatra en la consulta, sea un chatbot el que atienda a los pacientes y les ayude a recuperar la salud mental? Miriam Romero, profesora de Psicología e investigadora de la Universidad Europea, explica las razones por las cuales todavía queda camino por andar. La profesora explica que "la integración de la Inteligencia Artificial nos ofrece el potencial de analizar grandes volúmenes de datos, identificar patrones y hacer una monitorización continua, superando las limitaciones que tenemos los profesionales humanos para el análisis y seguimiento de los casos". Sin embargo, apunta que aún no se ha logrado desarrollar una IA que iguale nuestra capacidad de empatía y comprensión. "Aunque pueda simular ciertos aspectos de la interacción humana y ofrecer respuestas empáticas preprogramadas, la profundidad y autenticidad de las conexiones humanas reales son únicas, igual que es única la alianza terapéutica o conexión emocional entre el psicólogo y su paciente", pone de manifiesto. 

Sesgos de la IA en salud mental 

Según los expertos, una de las áreas en las que la IA aún tiene que mucho que mejorar, es el fenómeno conocido como confabulaciones o alucinaciones, que da lugar a respuestas plausibles pero que en realidad son falsas o inadecuadas. La profesora Romero hace hincapié en "los sesgos en los algoritmos, que tienen el potencial, no sólo de reproducir sino de amplificar estereotipos y prejuicios previos, comprometiendo la equidad y efectividad de la atención psicológica ofrecida" Y destaca la necesidad de fomentar "una cultura de mejora continua a través del aprendizaje automático y actualizaciones periódicas de los sistemas de IA, asegurando su adaptabilidad y relevancia a lo largo del tiempo". 

En cuanto a la creciente preocupación por que la tecnología asuma roles hasta ahora exclusivos del ámbito humano, la especialista de la Universidad Europea asegura que "estas inquietudes se están empezando a notar entre las personas que buscan ayuda psicológica, sobre todo en aquellas cuyas profesiones están más expuestas a la automatización". No obstante, se muestra optimista ante el futuro porque "el mercado laboral siempre ha estado en constante evolución, y si el trabajador cuenta con la capacidad de adaptación y de manejo emocional adecuados, podrá mitigar las preocupaciones y hacer frente a los posibles cambios".