La IA Está Llenando Los Huecos en el Cuidado de la Salud Mental, ¿Pero a Qué Costo?

Disclaimer: Esta historia tiene referencias sobre suicidio. Si tienes o has tenido pensamientos suicidas, llama al 988 o comunícate con una persona de confianza. 

Michelle Correa se describe como una persona ansiosa. Tiene 35 años y trabaja en una preparatoria en el área de la bahía. Le gusta tener el control, contar con certezas y estabilidad en su vida. Para aprender a manejar sus emociones, va a terapia. Y, claro, antes de sus citas con su psicólogo, se prepara.

“Muchas veces ensayo mi conversación antes de llegar a terapia o después de terapia me acuerdo de cosas que quería mencionar o se me pasó decir algo."

Para evitar que se le escapen las ideas y sentirse lista en las sesiones, Michelle usa una herramienta que es cada vez más común. 

“Uso ChatGPT para organizar mis pensamientos. A pesar de que voy a terapia y leo muchos libros de autoayuda, me gusta llegar al fondo de mi comportamiento, de mis emociones, de mi salud mental. Entonces, sí lo uso mucho para hacer preguntas de y por qué y para qué, de dónde viene esto, por qué me siento así, por qué reacciono de esta manera.” 

Sí, Michelle usa un chatbot como asistente terapéutico. Y no está sola. Para entenderlo, hay que saber que desde el lanzamiento de ChatGPT, en 2022, cada vez más personas lo incluyen en su día a día. Esta herramienta de inteligencia artificial se basa en lo que, técnicamente, se conoce como tecnología de modelos de lenguaje grande. A diferencia de los bots tradicionales que siguen reglas preprogramadas, ChatGPT -y otros- están diseñados para entender el contexto, mantener conversaciones fluidas y realizar tareas complejas como redactar, programar y buscar información.

Básicamente, la conversación simula una interacción humana y este estilo gana simpatizantes. En 2025, el 35% de estadounidenses habían usado ChatGPT, según el Pew Research Center. 

Para muchos latinos que enfrentan barreras económicas, largas listas de espera y una escasez de terapeutas que hablen español, los chatbots se han convertido en una de las opciones más accesibles para recibir apoyo en salud mental.

Y según el Dr. Karthik V. Sarma, de la Universidad de California en San Francisco, quien se especializa en el uso de la inteligencia artificial en la práctica psiquiátrica, existen muchas razones  por las cuales una persona recurriría a un chatbot.

“La terapia puede ser muy costosa. O, si estás tratando de encontrar un terapeuta que acepte tu seguro médico, puede haber una larga lista de espera. Pero además, especialmente si no te encuentras bien, si te sientes muy deprimido o muy ansioso, la idea de tener que buscar un terapeuta, revisar todos esos nombres, llamar a muchas personas para intentar conseguir una cita, ya de por sí puede ser abrumadora.”

La falta de atención culturalmente competente también se suma a la lista de razones para utilizar un chatbot; una persona hispana puede vivir en un lugar donde hay pocos terapeutas que hablen español o donde esos profesionales están muy solicitados.

A esto se suman los prejuicios culturales. Según la Alianza Nacional sobre Enfermedades Mentales, la comunidad latina vive bajo la frase “la ropa sucia se lava en casa”, y entonces hay quienes evitan buscar atención de salud mental por miedo a ser etiquetadas como “locas” o a avergonzar a sus familias.

El Dr. Sarma agrega que existe un nivel extra de comodidad al compartir información personal con una máquina en lugar de con otro ser humano.

“Hay personas que realmente no quieren hablar con otra persona sobre sus problemas y que se sienten más cómodas hablando con un chatbot”.

Lo que pocos saben es que cuando alguien que no habla inglés nativo utiliza un chatbot, este sistema no es culturalmente competente. Según un informe del MIT sobre modelos de lenguaje y usuarios vulnerables, los investigadores encontraron que los chatbots responden de manera diferente según el nivel de dominio del inglés, el nivel educativo y el país de origen del usuario. Cuando el modelo identifica que quien lo utiliza no es hablante nativo de inglés, tiende a responder de forma condescendiente o hasta burlona —a veces incluso imitando acentos — y también ofrece menos información que a los hablantes nativos.

Para los hispanos, esto significa que acceder a terapia mediante IA podría resultar perjudicial, ya que no es culturalmente sensible ni está preparada para interpretar los matices de quienes no tienen el inglés como lengua materna. Por ejemplo, Michelle conversa con el chatbot en inglés porque la traducción al español no suele ser precisa: el modelo está entrenado principalmente en inglés y tampoco capta las expresiones mexicanas que ella utiliza. Aunque dice que a veces se comunica en spanglish.

Un informe de la Universidad Texas A&M apunta a que incluso el lenguaje coloquial que una persona utiliza para describir sus condiciones psicológicas puede ser malinterpretado por los chatbots y conducir a diagnósticos erróneos. Estos modelos están entrenados con conjuntos de datos específicos y pueden no comprender otras expresiones culturales y dar respuestas inadecuadas o inapropiadas.

Michelle forma parte del 66% de los latinos que han utilizado herramientas de inteligencia artificial como ChatGPT o Gemini. Según un informe publicado por Youth Mental Health Tracker, alrededor del 10 % de los jóvenes latinos de entre 13 y 24 años reportaron haber utilizado IA para recibir apoyo en salud mental.

Como muchas personas, Michelle comenzó a utilizar inteligencia artificial hace aproximadamente un año para tareas relacionadas con el trabajo: generar imágenes para volantes, redactar correos electrónicos y revisar su gramática en inglés. Poco a poco, se convirtió en una especie de asistente para tareas cotidianas, hasta que empezó a compartir sus pensamientos y emociones.

El Dr. Sarma me explicó que uno de los usos más comunes entre quienes comienzan a usar IA es el apoyo emocional. Es una herramienta ideal para obtener alivio inmediato porque es gratuita, responde rápido y siempre está disponible.

“The fact that it's available, it answers very quickly . . .” 

“Y eso se abre a la posibilidad de que, ‘Son las 11 de la noche y acabo de pelearme con mi pareja. ¿Qué hago? Ya sé, le pregunto a ChatGPT." Michelle me confirmó que esa accesibilidad es uno de sus motivos para usar la herramienta. 

“Mis emociones son muy intensas que en el momento quiero encontrar una respuesta rápida, entonces sí me voy a ChatGPT rápido."

Hace poco, Michelle tuvo una ruptura romántica. En medio de eso, le pedí que me enseñe cómo usa la IA. En sus palabras, ChatGPT le ha ayudado a procesar con claridad una situación emocionalmente compleja y confusa.

“Entonces, por ejemplo, cuando tengo alguna interacción con mi ex, le narro a ChatGPT lo que pasó y él sabe de quién estoy hablando, sabe qué es esa persona para mí, cómo me siento yo para él.”  

Y el chatbot le responde … 

“Michelle, that sounds incredibly intense. Your nervous system went into overdrive’. Me dice, ‘Those aren't signs that you are weak or crazy. Those are signs that you were emotionally activated. And when we're activated, we start looking for relief.’

Para Michelle, esta respuesta valida sus sentimientos. Pero reconoce que la herramienta no es tan útil como una conversación con su terapeuta. 

“Porque pues no sabes para dónde va. Puedes empezar hablando de una cosa y terminas en otra. Y es muy diferente hablar de un tema con un profesional que te puede enseñar desde la experiencia propia, desde su vivencia desde las anécdotas de sus compañeros o de su familia, a hablar con un robot que no tiene sentimientos."

Y es precisamente en ese punto donde la herramienta pasa de ser un asistente para escuchar problemas a convertirse en un posible riesgo: el chatbot no es un terapeuta capacitado, sino un programa informático diseñado para responder a los usuarios, incluso cuando se trata de emociones o pensamientos negativos o peligrosos. 

Poco después del lanzamiento de los chatbots, en 2023 se reportaron dos casos de personas que hablaron sobre pensamientos suicidas con la máquina: un hombre de unos treinta años en Bélgica y una adolescente de 13 años en Colorado. Después de discutir sus ideas con estos sistemas ambos fallecieron por suicidio.

Aunque es difícil determinar qué lleva a una persona de una situación de sufrimiento al suicidio, expertos que estudian la IA, como el Dr. Sarma, están preocupados por la influencia de los modelos de lenguaje en la psique de las personas.

Sarma reconoce que es difícil medir cuánto daño causa un chatbot. Las personas con problemas de salud mental pueden no contar con los recursos, el conocimiento o la comprensión necesarios para valorar la importancia de hablar con un psicólogo capacitado, por lo que recurren al recurso más accesible, que, casualmente, en esta situación, es el de menor calidad.

“Tenemos que reconocer que el hecho de que las personas estén haciendo esto refleja una necesidad que no estamos siendo capaces de satisfacer de la manera correcta. Y creo que eso dice mucho sobre nuestra sociedad, sobre los recursos que tenemos y sobre los recursos que no estamos proporcionando a quienes los necesitan. Me parece que la mejor solución sería encontrar una forma de dar a las personas acceso al apoyo de salud mental que necesitan de una manera fácil, accesible y que no las arruine financieramente”.

Con estas preocupaciones en mente, busqué a la abogada Sarah Kay Wiley, de Tech Justice Law, un grupo de abogados y defensores comunitarios que ha representado casos relacionados con personas que desarrollaron relaciones de dependencia con herramientas de IA y cuyos resultados fueron fatales. 

Por ejemplo, en 2024, la organización asumió el caso García contra Character Technologies, la primera demanda que acusó a una empresa de IA de homicidio culposo por negligencia. Desde entonces, se han presentado alrededor de 20 demandas contra otras compañías, incluida OpenAI, la creadora de ChatGPT.

“Están diseñados con características que son muy problemáticas. Y es realmente preocupante que estas empresas estén utilizando a poblaciones enteras como conejillos de indias para sus productos. Tenemos muchas otras medidas de seguridad en vigor en otras industrias, donde se realizan controles antes de que un producto sea considerado seguro y se lance al público. Definitivamente debería haber una mayor regulación en cuanto a los estándares de seguridad que estas empresas deben cumplir antes de poner estos productos a disposición del público.”

Wiley se refiere a las actualizaciones constantes que estas empresas implementan en sus chatbots. Debido a lo lucrativa que es la industria, los desarrolladores intentan lanzar sus productos lo más rápido posible. Según el informe de Texas A&M sobre chatbots terapéuticos basados en IA, “se prevé que el mercado global de IA para la salud aumente casi ocho veces, pasando de 20.900 millones de dólares en 2024 a casi 150.mil millones en 2029”.

El informe concluye que, aunque los chatbots terapéuticos de IA pueden aumentar el acceso al tratamiento de salud mental, “existen en un vacío regulatorio lleno de riesgos,” y pide que la Administración de Alimentos y Medicamentos de Estados Unidos (FDA) los regule como dispositivos médicos.

“Sin duda, no son capaces de proporcionar la mejor ayuda, y todas las personas merecen la mejor ayuda posible”.

Aunque Michelle dice que el chatbot la ayuda a sentirse menos tímida y nerviosa, admite que ha desarrollado una relación complicada con la herramienta.

“Ahorita en este momento de mi vida lo estoy usando diario. Ya tenía unos cuatro meses sin utilizarlo, ya lo había borrado, ya lo había eliminado. Entonces, sí se hace medio adictivo.” 

Y ese es otro elemento que llama la atención de los expertos: su potencial característica adictiva.  

El Dr. Sarma es fundador de un grupo de investigación que estudia los efectos de la inteligencia artificial sobre la salud mental. Esta es una de las primeras iniciativas en el mundo que documenta un caso de psicosis asociado al uso de chatbots. Actualmente analizan registros de conversaciones para examinar la relación entre lo que las personas cuentan a los chatbots y cómo eso se corresponde con su tratamiento.

“Maybe we could learn more about mental illness . . . “ 

“Ojalá podamos aprender más sobre las enfermedades mentales, basándonos en lo que la gente comenta en su chat. Es una enorme fuente de información y representa lo que se piensa y cómo se interactúa con el mundo. Normalmente, no tenemos acceso a eso.”

Por su parte, Michelle está tratando de dejar de usar ChatGPT. Desde que comenzó a utilizarlo el año pasado como apoyo emocional, ha notado que le genera cierta dependencia. Incluso me dijo que siente que se está volviendo tonta. 

Para poder cambiar esto, va a Dialectical Behavioral Therapy. 

“Es precisamente herramientas para reemplazar ChatGPT en tiempo real conmigo misma. Entonces, espero no tener que usarlo ya como lo estoy usando ahorita.”