OpenAI, la empresa detrás de ChatGPT, está empleando a cientos de contratistas para leer los mensajes que los usuarios envían a su popular chatbot, según documentos internos filtrados. Estos contratistas tienen la tarea de revisar y evaluar las respuestas generadas por ChatGPT, un proceso que a menudo implica el acceso a información personal sensible proporcionada por los usuarios en sus conversaciones con el chatbot. Aunque OpenAI intenta anonimizar los mensajes antes de que lleguen a los revisores, la empresa reconoce que a veces pueden filtrarse detalles personales.
El objetivo principal de esta revisión humana es mejorar la calidad de las respuestas del chatbot, evitando que ChatGPT se antropomorfice o sea excesivamente complaciente, un problema que ha sido señalado en varias demandas legales. Estas prácticas revelan que el avance de los modelos de OpenAI no depende únicamente de la tecnología avanzada o de la experiencia de ingenieros altamente calificados, sino que también se basa en la intervención humana continua.
El proceso de revisión se lleva a cabo en varias etapas. Primero, los revisores leen el mensaje original del usuario, luego resumen lo que perciben como la intención del usuario, y finalmente evalúan las respuestas generadas por ChatGPT. Este sistema de evaluación no solo evalúa la calidad de la respuesta, sino que también proporciona retroalimentación detallada sobre el estilo y contenido de las respuestas.
A pesar de que los nombres de usuario están ocultos durante este proceso, los mensajes pueden contener información personal o sensible. OpenAI ha desarrollado un modelo de filtro de privacidad para detectar y eliminar información personal, aunque admite que este sistema no es infalible.
Esta práctica de revisión humana no es exclusiva de OpenAI. Otras empresas de inteligencia artificial, como Anthropic y Google, también emplean revisores humanos para mejorar sus modelos. Sin embargo, la revelación de que seres humanos están leyendo las conversaciones de los usuarios ha generado preocupaciones sobre la privacidad. Aunque OpenAI no ha informado explícitamente a sus usuarios de que sus conversaciones pueden ser revisadas por humanos, sí ofrece la opción de desactivar una configuración que permite que sus datos sean utilizados para mejorar el modelo.
Un aspecto llamativo de este proceso es el salario de los revisores. En América del Norte, los contratistas reciben más de 50 dólares por hora, una tasa significativamente más alta que la de otras labores similares en la industria tecnológica. Sin embargo, se espera que esta tarifa pueda cambiar con el tiempo.
Las implicaciones de esta práctica son significativas. Los revisores humanos han sido durante mucho tiempo una parte crucial, aunque oculta, de la moderación de contenido en redes sociales y del desarrollo de modelos de inteligencia artificial. Las revelaciones sobre la revisión humana de chats destacan la dependencia de estas tecnologías en la intervención humana para operar de manera efectiva y segura.
Expertos en la industria destacan la importancia de la transparencia en estas prácticas, señalando que los usuarios a menudo creen que están interactuando en privado con un chatbot, sin darse cuenta de que sus conversaciones podrían ser revisadas por personas reales. Esto contrasta con la moderación de contenido en redes sociales, donde los usuarios ya tienen una expectativa de supervisión y exposición pública.
En resumen, mientras que la inteligencia artificial continúa avanzando, queda claro que la intervención humana sigue siendo un componente esencial para asegurar que estas tecnologías funcionen de manera efectiva y responsable. La dependencia de la revisión humana plantea importantes preguntas sobre la privacidad y la ética que las empresas deberán abordar a medida que estas tecnologías se integren más en la vida cotidiana.