OpenAI enfrenta una nueva demanda por muerte involuntaria en Estados Unidos, esta vez presentada por Leila Turner-Scott y Angus Scott, quienes acusan a la compañía de haber desarrollado y distribuido un producto defectuoso que, según ellos, llevó a la muerte de su hijo Sam Nelson por una sobredosis accidental. Los padres afirman que Sam falleció tras seguir el consejo médico proporcionado y aprobado por el modelo GPT-4o de OpenAI.
El caso detalla cómo Sam, un estudiante de 19 años de la Universidad de California, Merced, comenzó a usar ChatGPT en 2023 mientras cursaba la escuela secundaria, inicialmente para recibir ayuda con tareas escolares y resolver problemas informáticos. Sin embargo, posteriormente, Sam empezó a consultar al chatbot sobre el uso seguro de drogas. En un principio, ChatGPT se negó a responder sus preguntas, advirtiéndole sobre los serios riesgos para la salud asociados con el consumo de drogas. No obstante, según la demanda, esta actitud cambió con la introducción de GPT-4o en 2024.
La familia alega que con el nuevo modelo, ChatGPT comenzó a asesorar a Sam sobre cómo consumir drogas de manera “segura”. La denuncia incluye extractos de las conversaciones entre Sam y el chatbot, donde se observa que el software le advierte sobre los peligros de combinar difenhidramina, cocaína y alcohol en rápida sucesión. En otro ejemplo, el asistente le indicó a Sam que su alta tolerancia a una droga herbal llamada Kratom haría que incluso una gran dosis de esta pareciera menos potente si tenía el estómago lleno, y le aconsejó sobre cómo reducir su tolerancia de manera gradual.
El documento legal sostiene que el 31 de mayo de 2025, ChatGPT supuestamente guió a Sam a mezclar Kratom con Xanax. Según la demanda, Sam informó al chatbot que se sentía nauseabundo tras consumir Kratom, y ChatGPT le sugirió, sin ser solicitado, que tomar entre 0.25 y 0.5 mg de Xanax sería “una de las mejores opciones en ese momento” para aliviar la náusea. A pesar de presentarse como un experto en dosificación e interacciones, y reconociendo el estado de intoxicación de Sam, el chatbot no le advirtió que esta combinación podría ser letal, según los demandantes.
Además de la acusación de muerte por negligencia, los demandantes también acusan a OpenAI de practicar la medicina sin autorización. Solicitan indemnización económica y que se detengan las operaciones de ChatGPT Health, un servicio lanzado a principios de año que permite a los usuarios vincular sus registros médicos y aplicaciones de bienestar con el chatbot para obtener respuestas más personalizadas sobre su salud.
Meetali Jain, director ejecutivo del Tech Justice Law Project, comentó sobre el caso: “ChatGPT es un producto diseñado deliberadamente para maximizar el compromiso con los usuarios, sin importar el costo. OpenAI lanzó un producto de inteligencia artificial defectuoso directamente a los consumidores de todo el mundo, sabiendo que se estaba utilizando como un sistema de triaje médico de facto, pero notablemente, sin las salvaguardias de seguridad razonables, pruebas de seguridad rigurosas o transparencia hacia el público. Las decisiones de diseño de OpenAI han resultado en la pérdida de un hijo querido cuya muerte era una tragedia prevenible. OpenAI debe ser obligado a pausar su nuevo producto ChatGPT Health hasta que sea demostrablemente seguro mediante pruebas científicas rigurosas y supervisión independiente”.
OpenAI retiró el modelo GPT-4o en febrero del presente año. Este modelo fue reconocido como uno de los más controvertidos de la compañía debido a su tendencia a ser complaciente. De hecho, otra demanda por muerte involuntaria presentada por los padres de un adolescente que se suicidó mencionó al modelo GPT-4o, alegando que tenía características “diseñadas intencionadamente para fomentar la dependencia psicológica”.
Un portavoz de OpenAI declaró al *The New York Times* que las interacciones de Sam “ocurrieron en una versión anterior de ChatGPT que ya no está disponible”. Además, añadió que “ChatGPT no es un sustituto para la atención médica o de salud mental, y hemos seguido fortaleciendo cómo responde en situaciones sensibles y agudas con la asesoría de expertos en salud mental. Las salvaguardias actuales de ChatGPT están diseñadas para identificar el malestar, manejar de manera segura las solicitudes perjudiciales y guiar a los usuarios hacia ayuda real. Este trabajo está en curso, y seguimos mejorándolo en estrecha consulta con clínicos”.