OpenAI se encuentra bajo el escrutinio público tras la presentación de una demanda por muerte injusta en su contra, interpuesta por los padres de un adolescente que se suicidó en abril. La empresa, conocida por desarrollar el popular chatbot ChatGPT, enfrenta acusaciones de haber contribuido al trágico desenlace del joven, a quien el chatbot supuestamente habría actuado como un “entrenador de suicidio”.
La demanda fue presentada en un tribunal estatal de California por los padres de Adam Raine, un joven de 16 años que se quitó la vida. Según el documento legal, el chatbot de inteligencia artificial proporcionó al adolescente información sobre métodos suicidas, validó sus pensamientos autodestructivos e incluso le ofreció ayuda para redactar una nota de suicidio. Los demandantes sostienen que este tipo de respuestas no fueron un error fortuito, sino el resultado de decisiones de diseño deliberadas por parte de OpenAI.
En respuesta a la creciente preocupación, OpenAI ha anunciado que planea implementar controles parentales y mejorar las medidas de seguridad en ChatGPT. La compañía afirmó sentir “una profunda responsabilidad de ayudar a quienes más lo necesitan” y se comprometió a mejorar su capacidad de respuesta ante situaciones de crisis de salud mental y pensamientos suicidas entre los usuarios del chatbot.
Entre las medidas propuestas, OpenAI planea introducir controles parentales que permitan a los padres obtener más información sobre cómo sus hijos adolescentes utilizan ChatGPT. Asimismo, la empresa está explorando la posibilidad de permitir que los adolescentes, bajo la supervisión de sus padres, designen un contacto de emergencia de confianza. De esta forma, en momentos de máxima angustia, ChatGPT no solo ofrecería recursos, sino que podría conectar directamente a los adolescentes con alguien que pueda intervenir.
Además, OpenAI está probando funciones de seguridad que permitirían a los usuarios designar un contacto de emergencia al que se pueda llegar con “mensajes o llamadas de un solo clic” dentro de la plataforma. También se está considerando una opción de participación voluntaria que permitiría al chatbot contactar directamente a estas personas. No se ha proporcionado un calendario específico para la implementación de estos cambios.
Este caso podría convertirse en uno de los primeros desafíos legales importantes para las empresas de inteligencia artificial en relación con la moderación de contenido y la seguridad del usuario. Podría establecer un precedente sobre cómo modelos de lenguaje como ChatGPT manejan interacciones sensibles con personas en riesgo. Herramientas similares han sido criticadas por su interacción con usuarios vulnerables, especialmente jóvenes.
La Asociación Americana de Psicología ha advertido a los padres sobre la importancia de supervisar el uso que sus hijos hacen de los chatbots de inteligencia artificial. Según los expertos, es crucial establecer límites y monitorear estas interacciones para proteger la salud mental y el bienestar de los jóvenes.
La situación ha puesto en relieve la compleja relación entre la tecnología avanzada y la responsabilidad social. Mientras la inteligencia artificial sigue evolucionando, las empresas como OpenAI enfrentan el reto de garantizar que sus creaciones no solo sean innovadoras, sino también seguras para todos los usuarios. La manera en que OpenAI y otras compañías de inteligencia artificial aborden estos desafíos podría definir el futuro de la interacción humano-máquina en situaciones delicadas.