OpenAI ha anunciado el lanzamiento de una nueva función opcional para ChatGPT, diseñada para mejorar la seguridad y el bienestar de sus usuarios adultos. A partir de ahora, los usuarios mayores de 18 años podrán designar a un contacto de emergencia, denominado “Contacto de Confianza”, que será alertado en caso de que se detecten conversaciones en el chatbot que sugieran preocupaciones de seguridad, como temas relacionados con el autolesionamiento o el suicidio.
La iniciativa surge de un enfoque basado en recomendaciones de expertos, que sugiere que conectar a una persona en crisis con alguien de confianza puede marcar una diferencia significativa. OpenAI destaca que esta función pretende complementar las líneas de ayuda localizadas que ya están disponibles a través de ChatGPT, ofreciendo una capa adicional de apoyo para aquellos que puedan necesitarlo.
El proceso para activar esta función es sencillo. Cualquier usuario adulto de ChatGPT puede optar por ella añadiendo los datos de contacto de otro adulto en su configuración de cuenta. Es importante que el Contacto de Confianza acepte la invitación en un plazo de una semana desde que se le envía la solicitud. Además, tanto el usuario como el contacto designado tienen la opción de modificar o eliminar esta configuración en cualquier momento.
OpenAI ha subrayado que, aunque se envía una notificación al Contacto de Confianza, esta es “intencionalmente limitada” y no incluye detalles específicos de las conversaciones ni transcripciones. Si los sistemas automatizados de OpenAI detectan que un usuario está discutiendo sobre hacerse daño a sí mismo, ChatGPT instará al usuario a ponerse en contacto con su Contacto de Confianza para buscar ayuda y le informará de que el contacto podría ser notificado. Un pequeño equipo de personas especialmente capacitadas revisará la situación antes de que se envíe un breve mensaje por correo electrónico, SMS o notificación en la aplicación al Contacto de Confianza, si se determina que hay preocupaciones serias de seguridad.
Este desarrollo amplía las opciones de seguridad para adolescentes que ya estaban disponibles en la plataforma, tras la introducción de controles parentales de ChatGPT en septiembre. La medida se implementó después de un trágico caso en el que un joven de 16 años se quitó la vida tras confesar sus problemas al chatbot durante varios meses. Además, OpenAI sigue los pasos de otras empresas tecnológicas, como Meta, que ha implementado una función similar en Instagram que alerta a los padres si sus hijos buscan repetidamente temas de autolesión.
La implementación de esta función refleja un compromiso creciente por parte de OpenAI para abordar problemas de salud mental y seguridad en la era digital, proporcionando herramientas que buscan ofrecer apoyo y conectar a las personas en momentos críticos. Así, OpenAI continúa avanzando en su objetivo de garantizar que la tecnología no solo sea útil, sino también segura y responsable para sus usuarios en todo el mundo.