OpenAI ha implementado nuevas funciones de predicción de edad en ChatGPT, con el objetivo de proteger a los usuarios menores de edad de contenido sensible. Esta medida se suma a una serie de cambios anunciados previamente en diciembre, que buscan mejorar las interacciones con adolescentes en línea. Otras plataformas como Instagram, YouTube, TikTok y Roblox también han adoptado estrategias similares para verificar la edad de sus usuarios.
El modelo de predicción de edad de ChatGPT analiza señales de comportamiento y datos a nivel de cuenta, como la edad declarada por el usuario, la antigüedad de la cuenta, los patrones de uso y el horario de actividad. Con esta información, se determinan protecciones adicionales para aquellos usuarios que se estima son menores de 18 años. Estas medidas incluyen la restricción del acceso a contenido sensible, como la violencia gráfica, desafíos virales peligrosos, juegos de rol con contenido sexual o violento, representaciones de autolesiones y promovimiento de estándares de belleza extremos o dietas poco saludables.
Para los usuarios adultos que sean categorizados erróneamente como menores de edad, existe la opción de restaurar el acceso completo verificando su edad mediante una selfie. Aunque estas características de predicción de edad se están implementando globalmente, en la Unión Europea la función se habilitará en las próximas semanas para cumplir con los requisitos regionales.
La introducción de estas funciones de predicción de edad y las protecciones adicionales responde, en parte, a un creciente escrutinio sobre el impacto potencial de los chatbots en menores. Recientemente, ChatGPT fue mencionado en una demanda por el suicidio de un adolescente, y un comité del Senado discutió los posibles daños que pueden causar estos programas en los jóvenes.
Estas acciones reflejan un esfuerzo más amplio de las empresas tecnológicas para mitigar los riesgos asociados con el uso de sus plataformas por parte de menores. A medida que la tecnología se integra más profundamente en la vida diaria, las preocupaciones sobre la exposición de los jóvenes a contenido inapropiado han ganado más atención pública y regulatoria.
El enfoque de OpenAI no solo se dirige a proteger a los menores, sino también a mejorar la experiencia de todos los usuarios. Al implementar un sistema de verificación de edad más robusto, la compañía busca garantizar que su plataforma sea un espacio seguro y apropiado para cada grupo demográfico. La capacidad de ajustar la experiencia del usuario según su edad es un paso hacia una mejor personalización y seguridad en línea.
A medida que las tecnologías de inteligencia artificial continúan evolucionando, la responsabilidad de las empresas tecnológicas de proteger a sus usuarios se vuelve cada vez más crucial. La implementación de estas medidas por parte de OpenAI subraya un compromiso con la seguridad digital, un tema que no solo es relevante para los padres y educadores, sino también para los legisladores y la sociedad en general.
Con el tiempo, es probable que estas iniciativas de verificación de edad y protección se vuelvan estándares en el desarrollo de plataformas digitales, marcando un nuevo capítulo en la gestión de riesgos en línea. Mientras tanto, el diálogo sobre la mejor manera de equilibrar la innovación tecnológica con la protección del usuario continúa siendo una prioridad en el ámbito digital.