OpenAI ha implementado una nueva medida para notificar a los padres en caso de que sus hijos adolescentes sean expulsados de ChatGPT por violar las políticas de la compañía relacionadas con amenazas o actos de violencia. Este movimiento se produce en un esfuerzo por aumentar la seguridad y el control parental sobre el uso de inteligencia artificial por parte de los jóvenes.
El año pasado, OpenAI presentó controles parentales para ChatGPT, permitiendo a los padres vincular sus cuentas personales con las de sus hijos adolescentes. Estos controles ofrecen la posibilidad de establecer horarios de uso y reducir la exposición a contenido sensible. Además, alertan a los padres si el chatbot detecta señales de que el adolescente podría estar pensando en autolesionarse. Con la nueva actualización, la empresa ha ampliado su sistema de notificaciones para informar a los padres si su hijo podría representar un peligro para otras personas.
En un ejemplo compartido por la empresa, OpenAI envió una notificación a los padres titulada “Actualización importante” sobre la cuenta de su hijo. Al hacer clic en “Más información”, los padres podían acceder a un mensaje más detallado, explicando que la cuenta del adolescente había sido desactivada por infringir las políticas de uso relacionadas con actos de violencia.
Para desarrollar esta función, OpenAI trabajó en colaboración con Moonshot, una firma especializada en monitorear y contrarrestar la violencia en línea. Vidhya Ramalingam, fundadora de Moonshot, destacó la importancia de notificar a los padres cuando surge una preocupación seria, proporcionándoles contexto para que puedan intervenir a tiempo y buscar ayuda. Según Ramalingam, este tipo de acceso es solo una de las muchas medidas necesarias para mantener a los jóvenes más seguros mientras usan ChatGPT.
La decisión de implementar estas notificaciones se produjo después de que OpenAI enfrentara críticas por no alertar a las autoridades sobre el uso de ChatGPT por parte del sospechoso del tiroteo masivo de 2025 en Tumbler Ridge, Columbia Británica. Las autoridades canadienses convocaron a la empresa tras descubrirse que no informaron a las autoridades cuando se prohibió la cuenta del sospechoso. El director ejecutivo de OpenAI, Sam Altman, incluso se disculpó públicamente por este fallo.
Además de la nueva función de notificación, OpenAI ha introducido la opción de activar el Modo de Estudio directamente desde los controles parentales. Este modo permite que ChatGPT proporcione pistas antes de responder a las preguntas, con el objetivo de ayudar a los estudiantes a aprender y estudiar de manera más efectiva. Asimismo, el chatbot ahora mostrará recordatorios más frecuentes de pausas a los usuarios adolescentes que pasan mucho tiempo en ChatGPT, fomentando hábitos tecnológicos más saludables.
Con estas actualizaciones, OpenAI reafirma su compromiso con la seguridad y el bienestar de los jóvenes usuarios de su tecnología, asegurando que los padres estén informados y facultados para intervenir cuando sea necesario. La compañía continúa explorando nuevas maneras de mejorar sus protocolos de seguridad y garantizar que sus herramientas de inteligencia artificial se utilicen de manera responsable.