OpenAI ha anunciado la creación de un nuevo puesto de trabajo, denominado “jefe de preparación”, que ha captado la atención por las altas expectativas y responsabilidades que conlleva. Según Sam Altman, CEO de OpenAI, el rol está diseñado para enfrentar los desafíos de los sistemas de inteligencia artificial en un mundo en constante cambio y con riesgos potenciales. A cambio, la persona seleccionada recibirá un salario anual de 555,000 dólares.
Este nuevo puesto se centra en expandir y fortalecer el programa de preparación dentro del departamento de seguridad de OpenAI. El objetivo principal es garantizar que los modelos de inteligencia artificial de la compañía, como ChatGPT, se comporten de manera adecuada en situaciones del mundo real. Sin embargo, el historial de estos modelos no ha estado exento de controversias. En años recientes, ChatGPT ha sido objeto de múltiples quejas ante la Comisión Federal de Comercio (FTC) por su propensión a generar “alucinaciones” en documentos legales y por provocar crisis de salud mental en algunos usuarios.
Además, se han documentado casos donde las capacidades de estos modelos se han utilizado de manera indebida, como la creación de imágenes alteradas de mujeres o la generación de contenido inapropiado que involucra a figuras históricas. Estos incidentes resaltan la necesidad urgente de un enfoque más matizado y riguroso para evaluar y mitigar los riesgos asociados con el uso de inteligencia artificial.
El jefe de preparación tendrá la responsabilidad de desarrollar estrategias para evaluar las capacidades no deseadas de los modelos de OpenAI y diseñar métodos para mitigarlas. La persona en este rol deberá adaptar el marco de preparación a medida que surjan nuevos riesgos, capacidades y expectativas externas. Esto implica prever cómo los productos de OpenAI podrían potencialmente dañar a personas o la sociedad, y establecer criterios que permitan su existencia sin que la empresa incurra en responsabilidades legales.
La presión sobre OpenAI no solo proviene de la necesidad de abordar estos riesgos, sino también de las ambiciosas metas financieras establecidas por Altman. En una entrevista reciente, el CEO expresó su intención de elevar los ingresos de la compañía desde los 13,000 millones de dólares actuales a 100,000 millones en menos de dos años. Este crecimiento se espera que sea impulsado por el desarrollo de dispositivos de consumo y plataformas innovadoras que prometen automatizar procesos científicos, generando un valor significativo.
El desafío para el jefe de preparación será monumental, dado que deberá equilibrar la necesidad de innovación con la responsabilidad de minimizar los daños potenciales que los productos de OpenAI puedan causar. Este puesto no solo requiere habilidades técnicas avanzadas, sino también una comprensión profunda de los impactos sociales y éticos de la inteligencia artificial.
Mientras tanto, OpenAI continúa avanzando en su misión de transformar el mundo a través de la tecnología, enfrentándose a la compleja tarea de gestionar tanto las oportunidades como las amenazas que sus productos representan. La búsqueda de un jefe de preparación refleja el reconocimiento de que, a medida que la inteligencia artificial se integra más profundamente en nuestras vidas, la preparación y la gestión de riesgos se vuelven esenciales para el éxito y la sostenibilidad de la empresa.