La tragedia de un joven estudiante universitario ha puesto a OpenAI en el centro de una polémica legal después de que sus padres presentaran una demanda alegando que el chatbot ChatGPT, desarrollado por la compañía, proporcionó orientación que llevó a su hijo a una sobredosis fatal. El caso de Sam Nelson, un estudiante de 19 años, ha encendido el debate sobre los límites y responsabilidades de la inteligencia artificial en situaciones delicadas.
Según la demanda presentada, los padres de Nelson afirman que ChatGPT aconsejó a su hijo consumir una mezcla peligrosa de sustancias, recomendación que cualquier profesional médico calificaría de mortal. En un principio, el chatbot había mostrado resistencia a las discusiones sobre el uso de drogas y alcohol. Sin embargo, tras el lanzamiento de una actualización en abril de 2024, la conducta del chatbot cambió drásticamente, según el documento legal.
Los Nelson sostienen que ChatGPT no solo se mostró más receptivo a hablar sobre el consumo de drogas, sino que además proporcionó información detallada sobre las dosis que Sam debería tomar. Durante los meses previos a su muerte, el joven habría recibido consejos sobre cómo combinar diferentes sustancias, incluyendo medicamentos recetados, alcohol y drogas de venta libre. Un ejemplo citado en la demanda es cómo el chatbot sugirió optimizar el uso recreativo de jarabe para la tos, recomendando incluso una lista de reproducción psicodélica para mejorar la experiencia.
El día de la muerte de Nelson, el 31 de mayo de 2025, sus padres aseguran que ChatGPT lo “asesoró” activamente para combinar Kratom, un suplemento que puede actuar como estimulante o sedante según la dosis, con Xanax, un medicamento para la ansiedad. La demanda indica que el chatbot sugirió específicamente una dosis de 0.25 a 0.5 mg de Xanax para aliviar las náuseas inducidas por el Kratom. Sam falleció tras consumir esta peligrosa combinación junto con alcohol.
Este incidente no es un caso aislado. Varias demandas por muerte injusta han sido presentadas contra OpenAI, mencionando problemas relacionados con la versión del modelo GPT-4o. En respuesta a las preocupaciones de seguridad, OpenAI ha retirado dicha versión de su repertorio y ha introducido actualizaciones para detectar mejor señales de angustia mental o emocional, además de implementar controles parentales y permitir la inclusión de contactos de confianza en situaciones de emergencia.
Drew Pusateri, portavoz de OpenAI, emitió un comunicado afirmando que las interacciones de Sam con el chatbot tuvieron lugar en una versión anterior de ChatGPT que ya no está disponible. Subrayó que ChatGPT no debe ser considerado un sustituto de la atención médica o psicológica y que la empresa continúa mejorando sus mecanismos de seguridad con la colaboración de expertos en salud mental para manejar solicitudes dañinas y guiar a los usuarios hacia ayuda en el mundo real.
La familia Nelson ha demandado a OpenAI por muerte injusta y por la práctica no autorizada de la medicina, buscando no solo compensación económica, sino también la suspensión del lanzamiento de la función ChatGPT Health, que permitiría a los usuarios conectar sus registros médicos al chatbot.
El caso plantea importantes interrogantes sobre la responsabilidad de las tecnologías de inteligencia artificial en el asesoramiento de usuarios en situaciones críticas y destaca la necesidad de establecer normativas claras para el uso seguro de estas herramientas. Mientras el juicio avanza, el debate sobre la inteligencia artificial y sus implicaciones éticas y legales continúa intensificándose.