OpenAI ha anunciado la implementación de nuevas herramientas de seguridad para ChatGPT dirigidas a padres con hijos adolescentes. Este conjunto de medidas, que se está desplegando a nivel mundial, permite que tanto los padres como las fuerzas del orden reciban notificaciones si un adolescente, con edades comprendidas entre 13 y 18 años, participa en conversaciones con el chatbot sobre autolesiones o suicidio.
Estas actualizaciones llegan en un contexto legal complicado para OpenAI, que enfrenta demandas de padres que acusan a ChatGPT de haber contribuido a la muerte de su hijo. Según informes, el chatbot habría instigado al adolescente a ocultar objetos peligrosos en su habitación sin que los familiares lo notaran.
El nuevo sistema de seguridad modifica la experiencia de contenido para los adolescentes que usan ChatGPT. Al vincular las cuentas de padres e hijos, la cuenta del adolescente recibe automáticamente protecciones adicionales de contenido, reduciendo la exposición a material gráfico, desafíos virales, roles sexuales, románticos o violentos, y estándares de belleza extremos, para asegurar que la experiencia sea adecuada para su edad.
En caso de que un adolescente introduzca un mensaje relacionado con autolesiones o pensamientos suicidas, dicho mensaje será revisado por un equipo humano que decidirá si se debe notificar a los padres. Lauren Haber Jonas, responsable del bienestar juvenil en OpenAI, asegura que los padres serán contactados por todos los medios posibles, incluyendo mensajes de texto, correos electrónicos y notificaciones desde la aplicación de ChatGPT.
El tiempo de respuesta para estas notificaciones es de varias horas, lo que puede resultar frustrante para los padres cuando cada minuto es crucial para la seguridad del menor. OpenAI está trabajando para reducir este tiempo de espera. Las alertas que se envían a los padres indican de manera general que el adolescente pudo haber escrito un mensaje relacionado con suicidio o autolesiones, e incluyen estrategias de conversación sugeridas por expertos en salud mental para que los padres puedan abordar el tema con sus hijos.
Para que estas funciones de seguridad sean activadas, tanto la cuenta del padre como la del adolescente deben optar por participar en el sistema. Esto requiere que los padres envíen una invitación a sus hijos para la monitorización de la cuenta, la cual debe ser aceptada por el adolescente. Además, OpenAI podría contactar a las fuerzas del orden si los moderadores humanos determinan que un adolescente está en peligro y los padres no pueden ser contactados.
Otra de las actualizaciones significativas en ChatGPT es la capacidad de los padres para establecer restricciones horarias de uso para sus hijos. En lugar de limitar horas de uso al día, se puede bloquear el acceso a ChatGPT durante ciertos periodos, como desde las 8 pm hasta las 10 am.
Las nuevas herramientas también permiten a los padres realizar ajustes en la experiencia del chatbot para sus hijos, tales como excluir los datos del menor del entrenamiento del modelo, desactivar los recuerdos guardados del bot, y deshabilitar modos de voz e imagen.
A pesar de estas medidas, OpenAI reconoce que las protecciones no son infalibles y pueden ser eludidas si alguien lo intenta deliberadamente. La iniciativa de OpenAI se produce tras la muerte de otro adolescente que usaba un chatbot de Character.ai, lo que llevó a esa plataforma a implementar controles parentales similares.
Se espera que otras compañías de inteligencia artificial sigan el ejemplo de OpenAI en la implementación de herramientas de seguridad para adolescentes. Según el CEO de OpenAI, Sam Altman, el objetivo es que los usuarios puedan utilizar sus herramientas de manera segura dentro de límites amplios. Sin embargo, es improbable que estas protecciones en torno a la ideación suicida se extiendan a los adultos debido a preocupaciones relacionadas con la privacidad del usuario.