¿Los modelos de lenguaje de las IA son dañinos para la salud mental?

Según especialistas, esto se debe, en parte, al diseño de la IA. Su objetivo es mantener el interés de los usuarios. A diferencia de la televisión o la radio, la IA está diseñada para ser interactiva.

Para lograrlo, acaba imitando inadvertidamente las acciones de una persona muy carismática: repite lo que le dicen, está totalmente de acuerdo, elogia o valida todo lo que el usuario ha dicho con sus respuestas y luego hace preguntas de seguimiento para mantener la conversación fluida. La “adulación” de la IA es motivo de preocupación, incluso entre los desarrolladores de IA.

Según Jared Moore, especialista en ética de la IA y doctor en informática por la Universidad de Stanford, considerar el auge de los delirios basados en la IA como una mera moda tecnológica es un error.

ChatGPT revirtió recientemente una actualización después de que los usuarios señalaran que el chatbot era demasiado complaciente y adulador. “Es demasiado adulador”, reconoció el director ejecutivo Sam Altman en una publicación en X.

“Es como un diario que te responde. Te anima, refleja y valida la versión de la realidad que tú le proporcionas”, asegura Jessica Jackson, vicepresidenta de Desarrollo de Alianzas de Mental Health America. “Es un algoritmo diseñado para predecir lo que va a pasar y mantenerte interesado”.

Un informe de Milenio, reveló dos datos alarmantes:

<!-- [if !supportLists]-->·       <!--[endif]-->El 71% de los mexicanos encuestados utiliza o ha recurrido a la IA para consultar dudas sobre su bienestar emocional o salud mental.

<!-- [if !supportLists]-->·       <!--[endif]-->El riesgo oculto: Un 30% de los usuarios ha recibido consejos dañinos, erróneos o contraproducentes al tratar de gestionar crisis de ansiedad y depresión mediante chatbots.

Fuentes:

https://www.milenio.com/videos/ciencia-y-salud/mexicanos-recurren-ia-salud-mental-tecnologia-consejos-daninos

https://www.nationalgeographicla.com/ciencia/2025/09/psicosis-inducida-por-ia-como-una-charla-con-un-bot-puede-poner-en-riesgo-tu-salud-mental