Los peligros de usar Inteligencia Artificial como terapeutas

La demanda presentada esta semana contra OpenAI y Sam Altman, a raíz del suicidio de Adam Raine, un adolescente de 16 años que interactuó durante meses con ChatGPT, abre un debate que no podemos eludir: ¿qué ocurre cuando un joven en crisis reemplaza al terapeuta humano por un chatbot?

Los padres del menor acusan que la inteligencia artificial (IA)  “ayudó activamente a Adam a explorar métodos de suicidio”, y señalan que el modelo no interrumpió ninguna de las sesiones en las que se habló abiertamente de sus pensamientos más oscuros. Peor aún, sostienen que OpenAI se apresuró a comercializar su tecnología, multiplicando el valor de la compañía en tiempo récord, pese a conocer los riesgos de seguridad.

La compañía ha reconocido públicamente que sus sistemas “se quedan cortos” en situaciones sensibles. Si bien ChatGPT está programado para ofrecer recursos de ayuda cuando detecta ideas suicidas, esas salvaguardas funcionan mejor en intercambios breves y tienden a deteriorarse en conversaciones largas, justo el contexto donde un adolescente vulnerable puede aferrarse al chatbot como confidente. Adam lo sabía, y aprendió a evadir las restricciones pidiendo consejos “para escribir una historia”. Esa grieta técnica refleja un vacío mucho mayor: la ilusión de que un algoritmo puede suplir el lugar de un terapeuta humano.

La adolescencia es una etapa marcada por la necesidad de vínculos auténticos. Un chatbot puede ofrecer contención inmediata, pero carece de la intuición humana para leer silencios, contradicciones y señales no verbales que muchas veces salvan vidas. Y cuando la IA falla, porque inevitablemente fallará, el costo puede ser irreversible.

El caso de Adam no es solo una tragedia familiar; es un espejo de la fragilidad de nuestra época. Si los jóvenes buscan en la IA el acompañamiento que no encuentran en su entorno, es la sociedad la que está fallando: padres ausentes, sistemas de salud mental colapsados y comunidades que no logran sostener a quienes más lo necesitan.

La salud mental requiere escucha, acompañamiento y presencia real. En Grupo Cetep creemos que el bienestar se construye en comunidad, con profesionales preparados y redes humanas sólidas. Porque cuando se trata de salvar vidas, ningún algoritmo puede reemplazar la fuerza de un vínculo humano.