Desarrollo responsable
OpenAI apuesta por una estrategia preventiva, integrando mejoras en investigación biomédica y biodefensa mientras limita el acceso a capacidades peligrosas. Desde la etapa de diseño, se definen políticas de uso y modelos de evaluación basados en el Preparedness Framework, para asegurar que los sistemas operen por debajo de umbrales de alto riesgo antes de su despliegue público.
Colaboración global
Para robustecer el ecosistema de seguridad biológica, la compañía trabaja estrechamente con entidades gubernamentales como US CAISI y UK AISI, además de laboratorios nacionales como Los Alamos. Expertos en bioseguridad y académicos participan en la conformación de escenarios de amenaza y validación de datos, asegurando una visión integral de posibles vectores de mal uso.
Entrenamiento seguro
Los modelos reciben entrenamiento para rechazar solicitudes que faciliten biorriesgos, ofreciendo únicamente información de alto nivel. En casos de peticiones duales, se evita detallar protocolos de experimentación y se promueven respuestas que fomenten la comprensión sin habilitar pasos prácticos que pudieran ser explotados por usuarios sin experiencia.
Monitoreo y aplicación
Se han desplegado sistemas de detección automática en todas las interfaces con IA de frontera, bloqueando respuestas sospechosas y activando revisiones humanas cuando es necesario. OpenAI aplica sanciones a cuentas que infrinjan las políticas de uso, e incluso colabora con autoridades legales en incidentes graves de mal uso biológico.
Pruebas adversariales
Equipos de red-teaming especializados en biorriesgos y en explotación de sistemas intentan vulnerar las defensas de extremo a extremo, identificando brechas en la seguridad. Estos ejercicios combinan pericia en biología y en ataques a modelos, fortaleciendo continuamente los protocolos de mitigación antes del lanzamiento de nuevas versiones.
Controles de seguridad
La protección de los modelos incluye control de acceso, endurecimiento de infraestructuras, filtrado de egresos y monitoreo constante. Además, programas dedicados de inteligencia de amenazas e iniciativas contra riesgos internos refuerzan la defensa en profundidad, impidiendo la exfiltración o el uso indebido de pesos y datos sensibles.
Comunidad y accesibilidad
OpenAI planea ampliar el alcance de sus herramientas de biología avanzada integrándolas en plataformas accesibles para investigadores de todo el mundo, con especial atención a las interfaces en español y la colaboración de la comunidad de chat gpt español, impulsando la co-creación de soluciones seguras y efectivas.
Cumbre futura
En julio, OpenAI reunirá a investigadores gubernamentales y ONGs en una cumbre de biodefensa para debatir riesgos de doble uso, compartir avances y explorar aplicaciones positivas de la IA en salud pública. El objetivo es fomentar alianzas público-privadas que fortalezcan la capacidad global de prevención y respuesta ante amenazas biológicas.
