Salud mental en la era de la inteligencia artificial: la necesidad de visibilizar los riesgos

Compartir:

La inteligencia artificial (IA) sin dudas está en boca de todos, y pareciera que nadie quiere quedarse afuera. En estos días, portales y redes sociales, difundieron una noticia sobre nuevas aplicaciones innovadoras que, a través del uso de modelos de IA, prometen asesoramientoy atención en materia de salud mental.

Para ilustrar al lector recordemos que, según un estudio elaborado en el año 2015 por laOMS y el Ministerio de Salud, en nuestro país 1 de cada 3 personas presenta un problemade salud mental a partir de los 20 años.

Por ende, hablamos de un público enorme y la viveza criolla de querer sumarse a esta olano está exenta, solo que se disfraza con un nuevo slogan: la democratización del acceso ala salud, utilizando el beneficio de alcance masivo de la IA.

Posiblemente, varios hemos cometido el error de buscar un síntoma o descripción de un resultado médico en un buscador de internet, sin la consulta previa a un profesional, y hemos vivenciado los efectos de angustia o miedo que el resultado puede generar si notenemos el debido asesoramiento.

Ahora bien, imaginemos que esto mismo sucede pero ahora con un chat conversacionalque utiliza modelos de IA y, por ende, cuenta con determinados datos que le permitepredecir la respuesta que nos va a ofrecer. 

En ambos supuestos, el camino nos lleva a la misma conclusión: nada reemplaza la intervención directa de un profesional de la salud capacitado para identificar la problemática y urgencia del caso.

A todo eso, además, se suma que en nuestro país no contamos regulación específica sobre IA y, por ende, no sabemos, entre algunas cosas, quiénes forman parte del desarrollo y ciclo de vida de estos sistemas, con qué datos cuenta para arrojar resultados de “escucha”; cómo se entrenó a los algoritmos y, por ende, la fiabilidad de las respuestas predictivas que arrojea sus usuarios.

Recordemos que frente a este caso público, estamos hablando de pacientes con problemáticas de salud mental, que llegan al extremo de acudir a una IA para satisfacer sus demandas. 

En este sentido, advertimos que estos servicios además de colocar al usuario/paciente enuna potencial situación de riesgo que podría agravar su cuadro de salud, en materia de derechos del consumidor, lo posiciona en una situación de hípervulnerabilidad, porque sumada la problemática de salud se transforma en un usuario de este modelo de IA con altas probabilidades de no estar en condiciones de ser consciente de cómo funciona esteservicio y, por ende, sus resultados.

Aquí, el efecto puede ser devastador y, es por ello, que en nuestro país en materia de salud contamos con normas específicas de protección como: la Convención sobre los Derechos de las Personas con Discapacidad y su Protocolo, la Ley Nacional de Derechos del Paciente, normas sobre confidencialidad de la historia clínica y previsiones frente a la responsabilidad penal y civil de los profesionales intervinientes, como así una Ley de Salud Mental donde se destaca la importancia de la mirada interdisciplinaria y, específicamente, el derecho a recibir una atención basada en fundamentos científicos ajustados a principios éticos.

La IA avanza en el mundo a pasos agigantados (no por nada se dice que estamostransitando la cuarta revolución industrial). Recientemente hemos sido testigos de las primeras regulaciones, como el caso de Europa, y se empiezan a dar discusiones acerca de cómo garantizar que estas tecnologías no dejen de lado los derechos humanos y, con ello, la dignidad de la persona como eje del sistema.

De la mano de estos avances, también observamos el desarrollo de investigaciones sobre cómo garantizar nuestros derechos en el ciclo de vida de la IA; políticas sobre gobernanza de datos; la protección de datos personales; garantizar el acceso a la información y a la libertad de expresión frente a determinadas IA que no sabemos cómo entrenan a sus algoritmos; la ética frente a los sesgos y la discriminación de algunos modelos de lenguaje; el rol y la responsabilidad empresarial; el reemplazo y automatización de tareas y así una lista interminable de desafíos.

Los servicios que utilizan IA en materia de salud mental, nos sirven hoy como caso testigo para visibilizar la importancia de que la inteligencia artificial se incorpore como política deestado, porque ya está entre nosotros y vino para quedarse y la ética no puede quedar ajena a la misma.

Por ello, debemos pensar en herramientas que reciban sus enormes beneficios pero que,en el camino hacia su desarrollo, no dejen de lado nuestros derechos.

*abogada especializada en derecho constitucional y tecnología.

También puede interesarte

Hallan fósil de dinosaurio de 230 millones de años tras lluvias en sur de Brasil

Sorpresa después de las inundacionesLas intensas lluvias que causaron inundaciones históricas en el sur de Brasil revelaron un...

«No fue un tuit feliz»: Milei criticó a Villarruel por su mensaje sobre Francia y volvió a cargar contra Kicillof

Javier Milei dio este viernes una extensa entrevista en un canal de streaming. Allí volvió a cargar contra...

Tini Stoessel irá a la boda de Oriana Sabatini y Paulo Dybala: habrá reencuentro con Rodrigo De Paul

Tini Stoessel acaba de llegar a la Argentina después de filmar una serie en México para estar presente...

La búsqueda de Loan. Luego de importantes contradicciones, piden un careo entre Laudelina Peña y su esposo, Bernardino Benítez

GOYA, Corrientes (De un enviado especial).-Tras las indagatorias que fueron tomadas en los últimos días, las contradicciones entre...