Hace unos meses tomé un pequeño webinar organizado por la Asociación Americana de Psiquiatría (APA) sobre insights en materia de Inteligencia Artificial y práctica clínica. A partir de las notas que hice durante la sesión, me gustaría compartirles algo de lo que se mencionó en esta actividad junto con algunas reflexiones propias del tema.
Pero antes de comenzar me parece importante hacer algunas distinciones sobre los diversos tipos de IAs que existen, aunque en el resto del artículo me referiré simplemente a ellas como “IAs”:
Inteligencia Artificial: Se refiere a los sistemas que pueden realizar tareas para las que normalmente se requeriría de inteligencia humana: hacer predicciones, dar recomendaciones o tomar decisiones.
Inteligencia Aumentada: Es una IA enfocada en realizar un rol de asistencia para la inteligencia humana, sus labores potencian en lugar de sustituir a las humanas.
Inteligencia Artificial Generativa: Son los algoritmos que se pueden usar para crear diversos tipos de contenido, desde escritura hasta imágenes, música, código, etc.
Large Language Model: Son modelos de lenguaje computacional que han sido entrenados con más de 10 billones de parámetros. Cada parámetro es un ajuste a las respuestas que este modelo ofrece a una determinada solicitud. Esto les permite responder de una forma natural y comprender la solicitud del usuario en función del contexto de la conversación, como ChatGPT.
Ahora si, comencemos.
¿Miedo a la IA?
Cada revolución tecnológica ha transformado la manera cómo trabajamos, aprendemos, amamos y nos relacionamos con los demás en sociedad.
Es esperable que una revolución tecnológica despierte el clásico temor del ser humano de ser reemplazado por la máquina, sin embargo, lo que la historia nos ha demostrado una y otra vez es que la relación entre humano y máquina es más la de una complementariedad que una de destierro.
El desarrollo de tecnologías produce también nuevos campos laborales y de estudio, es en estos nuevos campos en los que el ser humano ha encontrado desde siempre algo en lo que ocuparse.
Si bien no podemos negar que existe el riesgo de que se incremente la brecha de clases, esta brecha no es nueva y sigue siendo un problema a resolver. No es algo inherente a la IA sino a la estructura de las sociedades humanas y sus relaciones económicas.
IA y salud mental.
En el campo específico de la salud mental, el desarrollo de las IAs viene a ofrecer soluciones al déficit de psicólogos y psiquiatras.
Luego de la pandemia por COVID-19, quedó en evidencia que ante emergencias públicas y sociales, la salud mental brota como una necesidad para la que en este caso, en muchos lugares, el gremio se vio superado.
Durante la pandemia se evidenció cómo la demanda era mayor a la posibilidad de oferta y en ese sentido, el desarrollo de herramientas que permitan que los psicólogos puedan acercarse a una población mayor me parece una ventaja que no debe ser desestimada. Basta voltear a ver países como Estados Unidos para darse cuenta lo que la dificultad de acceso a servicios de salud mental puede provocar en cuanto a temas sociales y económicos.
Sin embargo, existen riesgos con la incursión de la IA en la labor clínica, empezando por la forma como en el imaginario de muchas personas la IA aparece como una solución mágica.
Muchas personas han experimentado tratando de convertir a ChatGPT en un psicoterapeuta al alcance de un click.
Actualmente, si le pides a ChatGPT que actúe como un terapeuta cognitivo conductual, arroja un mensaje a manera de “disclaimer” mencionando que su labor no reemplaza la atención profesional humana, y si le cuentas una situación clínica pidiéndole “ayuda” como si fuera un psicoterapeuta, elabora una serie de recomendaciones que apenas alcanzan a la consejería.
https://image.nostr.build/07701bfb1e9efa0da366b935aa4cecd78ef530303b050ea927e07a6701c44917.jpg
Sin embargo este uso de la IA no es el único disponible que puede interesarnos en cuestión de salud mental.
Concretamente ¿Qué pueden hacer las IAs actualmente en el campo de la salud mental?
Actualmente los alcances de la IA son muy variados, algunos implican mayores riesgos que otros, siendo algunos de estos alcances:
- Apoyar en labores de documentación clínica.
- Automatizar procesos administrativos como agendas de citas y pagos.
- Detectar posibles errores clínicos o problemas de calidad en los servicios (en los casos de clínicas privadas o públicas).
- Apoyar en revisión de literatura y labores de investigación.
- Automatizar procesos de diagnóstico basándose en historiales clínicos.
- Automatizar planes de tratamientos.
- Utilizar análisis del fenotipo digital de los individuos para detectar patrones de riesgo o potenciales diagnósticos.
Riesgos de la IA en la práctica clínica.
Acerca de las actividades mencionadas en el apartado anterior, mis principales preocupaciones son:
- El énfasis en las labores de diagnóstico y su automatización.
- La privacidad de la información de los pacientes.
Parece que el desarrollo de las IAs en temas clínicos está sesgado hacia el diagnóstico. Si bien esta es una posibilidad muy atractiva y que vale la pena explorar con cautela, soy escéptico de focalizar el desarrollo hacia esa parte de la labor clínica ya que el diagnóstico es apenas un punto de partida para las posibilidades de cura. Además de que todo diagnóstico siempre es provisional y susceptible a la corrección. No se si los desarrolladores que están trabajando en esas funciones tengan esto en cuenta o traten el diagnóstico como algo inamovible.
Por otra parte, sobre las labores de investigación y de administración, estas me parecen excelentes ya que en ellas hay menor riesgo de que la IA influya en una intervención clínica que pueda hacerle pasar un mal rato al paciente. Aunque no soy ingenuo y estoy bastante advertido de que los humanos somos los primeros en correr el riesgo de realizar una intervención clínica que no sea la más adecuada en ocasiones.
Sobre la privacidad y confidencialidad de los datos del paciente.
El riesgo de vulneración de información clínica privada de los pacientes es algo bastante real ya que la mayoría de las IAs disponibles al público envían los datos que se ingresan en ellas a los servidores de sus desarrolladores y muchas veces también a terceros.
Hay que recordar que en internet no existe garantía de privacidad, y siendo la confidencialidad de los pacientes uno de los pilares de la labor clínica, el uso de cualquier IA a la que se ingrese información de los mismos puede vulnerar la privacidad y ser susceptible de filtraciones.
En el webinar de la APA se hizo mucho énfasis en este punto acerca del uso de la información privada de los pacientes, recomendando que se le hiciera saber a estos y solicitar su consentimiento si el terapeuta utilizaba su información en alguna herramienta impulsada por Inteligencia Artificial.
Conclusión.
Las inteligencias artificiales llegaron para quedarse, son parte de una de las mayores revoluciones tecnológicas y nuestra generación tiene la oportunidad de estar presente y verlas evolucionar en tiempo real.
Es inevitable que estas tecnologías se conviertan en un tema al que psicólogos, psiquiatras y psicoanalistas tengamos que adentrarnos en algún momento. Es incluso parte de nuestra responsabilidad si queremos poder brindar una atención clínica capaz de responder (o decidir no hacerlo) a las demandas de la época.
Si bien psicología, psiquiatría y psicoanálisis son prácticas muy distintas una de la otra, estas cohabitan en un medio en el que las mismas personas sufrientes recurren a cada uno de ellos en búsqueda de alivio. Desde mi punto de vista, esto justifica que los psicoanalistas abordemos el tema dialogando en términos psicológicos y psiquiátricos, al menos provisionalmente, y también debemos ser muy cautelosos y no sobreanalizar el fenómeno desde la teoría psicoanalítica para no quedar en ridículo como muchas veces ocurre con los sobreanálisis.
Por el momento, basta con observar y describir lo que está ocurriendo en el medio.
Preguntas acerca del lugar singular que la IA tiene para cada uno de los sujetos a los que escuchemos en análisis, tocará explorarlas en la privacidad de los consultorios e ir construyendo con cautela desde esa trinchera.