OpenAI ha revelado datos recientes que destacan la interacción de los usuarios de ChatGPT con temas de salud mental. Según la compañía, el 0.15% de los usuarios activos semanalmente tiene conversaciones con el chatbot que incluyen indicadores explícitos de planificación o intención suicida. Dado que ChatGPT cuenta con más de 800 millones de usuarios activos semanales, esto se traduce en más de un millón de personas cada semana.
La empresa también ha observado que un porcentaje similar de usuarios muestra niveles elevados de apego emocional a ChatGPT. Además, cientos de miles de personas presentan signos de psicosis o manía en sus interacciones semanales con el chatbot. A pesar de que OpenAI califica estos tipos de conversaciones como “extremadamente raras”, la compañía estima que estos problemas afectan a cientos de miles de usuarios cada semana.
OpenAI ha compartido esta información como parte de un anuncio más amplio sobre sus esfuerzos recientes para mejorar la respuesta de sus modelos ante usuarios con problemas de salud mental. La compañía asegura que su último trabajo en ChatGPT involucró consultas con más de 170 expertos en salud mental. Estos especialistas han observado que la última versión de ChatGPT responde de manera más adecuada y consistente que las versiones anteriores.
En los últimos meses, varias historias han puesto de manifiesto cómo los chatbots de inteligencia artificial pueden afectar negativamente a los usuarios que enfrentan desafíos de salud mental. Investigaciones previas han señalado que estos chatbots pueden llevar a algunos usuarios a espirales de delirios, reforzando creencias peligrosas a través de un comportamiento complaciente.
Abordar las preocupaciones relacionadas con la salud mental en ChatGPT se está convirtiendo rápidamente en un tema existencial para OpenAI. Actualmente, la empresa enfrenta una demanda por parte de los padres de un joven de 16 años que compartió sus pensamientos suicidas con el chatbot semanas antes de su suicidio. Los fiscales generales de California y Delaware han advertido a OpenAI sobre la necesidad de proteger a los jóvenes que usan sus productos.
El CEO de OpenAI, Sam Altman, afirmó recientemente que la empresa ha logrado mitigar los problemas graves de salud mental en ChatGPT, aunque no proporcionó detalles específicos. Los datos compartidos parecen respaldar esta afirmación, aunque también plantean cuestiones más amplias sobre la magnitud del problema. A pesar de ello, Altman mencionó que OpenAI relajará algunas restricciones, permitiendo incluso que los usuarios adultos mantengan conversaciones eróticas con el chatbot.
En el anuncio, OpenAI afirma que la versión actualizada de GPT-5 responde de manera “deseable” a problemas de salud mental un 65% más que la versión anterior. En evaluaciones sobre respuestas del AI en conversaciones suicidas, OpenAI asegura que su nuevo modelo GPT-5 cumple con los comportamientos deseados un 91% del tiempo, en comparación con el 77% de la versión anterior.
La empresa también está implementando nuevas evaluaciones para medir los desafíos más serios de salud mental que enfrentan los usuarios de ChatGPT. OpenAI planea incluir indicadores de confianza emocional y emergencias de salud mental no suicidas en sus pruebas de seguridad básicas para modelos de inteligencia artificial.
Además, OpenAI ha introducido más controles para los padres de niños que usan ChatGPT. La compañía está desarrollando un sistema de predicción de edad para detectar automáticamente a los menores que usen el chatbot e imponer un conjunto más estricto de salvaguardias.
El futuro de los desafíos de salud mental en torno a ChatGPT sigue siendo incierto. Aunque GPT-5 parece ser una mejora en términos de seguridad respecto a modelos anteriores de inteligencia artificial, aún existe una parte de las respuestas del chatbot que OpenAI considera “indeseables”. Además, OpenAI sigue ofreciendo sus modelos de inteligencia artificial más antiguos y menos seguros, incluidos aquellos disponibles para suscriptores de pago.