La reciente renuncia de Zoë Hitzig, investigadora de OpenAI, ha puesto de manifiesto preocupaciones en torno a la dirección que están tomando las tecnologías de inteligencia artificial. Hitzig, economista y poeta reconocida, trabajó durante dos años en OpenAI, ayudando a desarrollar y establecer los modelos de precios de sus modelos de IA. Su dimisión coincidió con el inicio de una nueva estrategia de la compañía: la introducción de publicidad en su chatbot, ChatGPT. En un ensayo publicado en The New York Times, Hitzig expresó su preocupación de que OpenAI podría estar repitiendo errores cometidos anteriormente por gigantes tecnológicos como Facebook.
Hitzig no condena la publicidad en sí, sino la forma en que podría comprometer la privacidad y confianza de los usuarios. Argumenta que los datos recopilados por ChatGPT, que incluyen confesiones personales sobre salud, relaciones y creencias religiosas, representan un archivo sin precedentes de la sinceridad humana. Esta acumulación de datos personales es lo que hace especialmente riesgosa la introducción de anuncios, según Hitzig.
La investigadora trazó un paralelismo con la historia inicial de Facebook, que prometió a los usuarios control sobre sus datos y la capacidad de votar sobre cambios de política. Con el tiempo, estas promesas se erosionaron, y la Comisión Federal de Comercio de Estados Unidos determinó que los cambios de privacidad implementados por Facebook, en realidad, redujeron el control de los usuarios. Hitzig teme que OpenAI podría seguir una trayectoria similar, donde las iteraciones futuras de sus modelos publicitarios podrían socavar los principios iniciales en búsqueda de mayores ingresos.
La introducción de anuncios en ChatGPT también ha desencadenado un debate más amplio en el sector. Mientras OpenAI avanza con su modelo de publicidad, su competidor Anthropic ha decidido mantener su chatbot Claude libre de anuncios. En una campaña durante el Super Bowl, Anthropic destacó su postura con el lema “Los anuncios están llegando a la IA. Pero no a Claude”, criticando cómo la publicidad podría interrumpir las conversaciones personales.
Sam Altman, CEO de OpenAI, calificó los anuncios de Anthropic como “divertidos” pero “claramente deshonestos”, defendiendo que su modelo busca hacer accesible la IA a usuarios que no pueden permitirse suscripciones. Según OpenAI, los anuncios en ChatGPT aparecerán al final de las respuestas, estarán claramente etiquetados y no influirán en las respuestas del chatbot. Además, la personalización de anuncios se habilitará por defecto, utilizando información de conversaciones pasadas, aunque los detalles personales no se compartirán con los anunciantes.
Hitzig, por su parte, ha propuesto alternativas estructurales para evitar la monetización basada en anuncios. Estas incluyen subsidios cruzados, consejos de supervisión independientes con autoridad vinculante sobre el uso de datos, y cooperativas de datos que permitan a los usuarios mantener el control sobre su información.
El anuncio de Hitzig coincide con otras salidas de alto perfil en la industria de la IA. Mrinank Sharma, líder del equipo de investigación de salvaguardias de Anthropic, y otros cofundadores de xAI también han renunciado recientemente, en medio de una creciente comercialización de la tecnología que ha generado tensiones entre los investigadores.
Estos eventos subrayan un momento de cambio en el sector de la inteligencia artificial, donde las decisiones sobre la monetización y el uso de datos personales están siendo rigurosamente examinadas. La salida de Hitzig y otros investigadores destacados resalta un conflicto de valores en la interfaz de la tecnología y la ética, un tema que continuará siendo relevante a medida que la IA se convierte en una parte cada vez más integral de la vida cotidiana.