Recientemente, se han descubierto fugas inusuales de conversaciones privadas de ChatGPT en el Google Search Console (GSC), un fenómeno que ha levantado preocupaciones sobre la privacidad de los usuarios. Normalmente, el GSC es utilizado por desarrolladores para supervisar el tráfico de búsqueda, pero desde septiembre, han comenzado a aparecer consultas extrañas, a veces de más de 300 caracteres, que parecen coincidir con conversaciones personales y confidenciales mantenidas con el chatbot de OpenAI.
Estas consultas, al parecer, provienen de personas que esperaban que sus interacciones con el chatbot se mantuvieran privadas mientras buscaban resolver problemas personales o empresariales. Jason Packer, propietario de Quantable, una firma de consultoría analítica, junto con Slobodan Manić, un consultor de optimización web, fueron los primeros en identificar este problema. Su investigación sugiere que OpenAI podría estar utilizando Google Search para obtener datos que normalmente no estarían disponibles, comprometiendo así la privacidad de los usuarios.
Pese a que OpenAI ha reconocido el problema y ha afirmado haber resuelto un fallo que afectó temporalmente a un pequeño número de consultas, la falta de confirmación sobre la supuesta recolección de datos por parte de OpenAI deja dudas sobre si la cuestión ha sido realmente solucionada. Google, por su parte, ha optado por no hacer comentarios al respecto.
Entre las consultas extrañas detectadas, se encontraron ejemplos como el de una usuaria que preguntaba a ChatGPT sobre el comportamiento de una persona que la molestaba para determinar si sentía algo por ella. Otro caso incluía a un gerente de oficina que compartía información de negocios mientras planeaba un anuncio de regreso a la oficina. En total, Packer revisó unas 200 consultas inusuales en un solo sitio, lo que para él sirve como recordatorio de que las entradas en los chatbots no son tan privadas como se podría pensar.
A pesar de que OpenAI no ha confirmado si está utilizando los resultados de búsqueda de Google, Packer y Manić encontraron que las consultas extrañas aparecían en sitios que tenían un alto rango en Google Search para la URL de ChatGPT, lo cual podría indicar que las consultas estaban siendo enviadas a Google Search.
La naturaleza de estas fugas difiere de un escándalo anterior en agosto, donde las consultas de ChatGPT aparecieron en el índice de búsqueda de Google después de que los usuarios marcaran una casilla que hacía públicas sus consultas. En este caso, las consultas fueron expuestas sin que los usuarios hicieran algo para compartirlas activamente, lo que plantea preguntas sobre las implicaciones de privacidad de OpenAI.
La resolución de OpenAI no ha abordado todas las inquietudes, y persisten preguntas sobre si las consultas de ChatGPT que activan búsquedas en Google están incluidas en el problema. Además, preocupa que el enfoque de OpenAI pueda estar contribuyendo a distorsionar el rendimiento de sitios en GSC, un fenómeno conocido como “crocodile mouth”, donde las impresiones aumentan pero las interacciones efectivas disminuyen.
Finalmente, la incertidumbre persiste en torno a si OpenAI ha dejado de enviar las consultas a Google Search por completo o si simplemente ha dejado de enrutar las consultas crudas a través de Google. La falta de claridad en la respuesta de OpenAI deja a los usuarios con dudas significativas sobre la seguridad de sus datos personales al interactuar con ChatGPT.