OpenAI ha anunciado el lanzamiento de un conjunto de herramientas de código abierto destinadas a ayudar a los desarrolladores a crear aplicaciones más seguras para adolescentes. Estas herramientas incluyen un conjunto de políticas de seguridad para adolescentes que pueden integrarse con el modelo de seguridad de código abierto de OpenAI, conocido como gpt-oss-safeguard.
El objetivo de estas nuevas políticas es facilitar a los desarrolladores el proceso de creación de aplicaciones seguras para adolescentes, sin la necesidad de empezar desde cero. Las políticas abordan temas críticos como la violencia gráfica, el contenido sexual, los ideales y comportamientos corporales nocivos, actividades y desafíos peligrosos, juegos de rol románticos o violentos, y bienes y servicios restringidos por edad.
Estas políticas de seguridad están diseñadas como prompts, lo que las hace compatibles con otros modelos además de gpt-oss-safeguard, aunque son probablemente más efectivas dentro del ecosistema de OpenAI. Para desarrollar estas herramientas, OpenAI colaboró con Common Sense Media y everyone.ai, dos organizaciones que actúan como guardianes de la seguridad en el ámbito de la inteligencia artificial.
Robbie Torney, jefe de IA y Evaluaciones Digitales en Common Sense Media, destacó la importancia de estas políticas basadas en prompts, las cuales establecen un “suelo de seguridad significativo” en todo el ecosistema. Al ser de código abierto, pueden adaptarse y mejorarse con el tiempo, afirmó Torney.
OpenAI reconoce que, aunque estas políticas no representan una solución completa a los desafíos complejos de la seguridad en inteligencia artificial, sí constituyen un avance significativo. Las políticas se basan en esfuerzos previos de la empresa, incluyendo salvaguardias a nivel de producto como controles parentales y predicción de edad. El año pasado, OpenAI actualizó sus directrices para sus modelos de lenguaje, conocidos como Model Spec, para abordar cómo deberían comportarse sus modelos de IA con usuarios menores de 18 años.
A pesar de estos avances, OpenAI ha enfrentado críticas y desafíos legales. La empresa está involucrada en varias demandas presentadas por las familias de personas que se suicidaron tras un uso intensivo de ChatGPT. Estas relaciones peligrosas suelen formarse después de que el usuario logra eludir las salvaguardias del chatbot, y ningún modelo es completamente impenetrable.
Sin embargo, estas nuevas políticas representan un paso adelante, especialmente porque pueden ser de gran ayuda para desarrolladores independientes. OpenAI subrayó en su blog que incluso los equipos experimentados a menudo enfrentan dificultades para traducir objetivos de seguridad en reglas operativas precisas. Esto puede llevar a brechas en la protección, aplicación inconsistente o filtrado excesivamente amplio. Por ello, las políticas claras y bien definidas son una base crítica para sistemas de seguridad efectivos.
Este esfuerzo de OpenAI se alinea con una tendencia creciente en la industria tecnológica hacia la creación de entornos digitales más seguros para los jóvenes, en medio de un entorno regulatorio cada vez más estricto. La medida llega en un momento en que los legisladores de varios países están considerando establecer estándares más estrictos para el uso de la inteligencia artificial por parte de menores, lo que subraya la importancia de iniciativas proactivas por parte de las empresas tecnológicas.
Al final, aunque el camino hacia una seguridad completa y efectiva en el ámbito de la inteligencia artificial es largo y complejo, iniciativas como las de OpenAI son esenciales para fomentar un entorno digital más seguro para todos, especialmente para los adolescentes.