Las herramientas de inteligencia artificial (IA) como ChatGPT y las aplicaciones de Google han comenzado a citar a “Grokipedia”, una enciclopedia generada por inteligencia artificial creada por Elon Musk. Aunque aún se considera una fuente menor en comparación con plataformas establecidas como Wikipedia, su uso está en aumento, lo que ha suscitado preocupaciones sobre la precisión y la posible desinformación que podría derivarse de su contenido.
Desde su lanzamiento en octubre pasado, Grokipedia ha sido referenciada en más de 263,000 respuestas de ChatGPT, según Glen Allsopp, jefe de estrategia de marketing e investigación de la empresa de SEO Ahrefs. Aunque esto es una fracción en comparación con las 2.9 millones de respuestas que citan a Wikipedia, es notable considerando lo nueva que es la plataforma. Según Sartaj Rajpal, investigador de la plataforma de marketing Profound, Grokipedia recibe entre un 0.01 y 0.02 por ciento de todas las citas de ChatGPT al día, un número pequeño pero que ha crecido constantemente desde noviembre.
Además de ChatGPT, las herramientas de IA de Google como Gemini y AI Overviews también han comenzado a incluir referencias a Grokipedia. Ahrefs reporta que Grokipedia ha sido citada en alrededor de 8,600 respuestas de Gemini y 567 de AI Overviews, entre otras. Sin embargo, su uso es menos frecuente en comparación con fuentes más establecidas.
Un aspecto preocupante es la calidad y la fiabilidad de la información proporcionada por Grokipedia. A diferencia de Wikipedia, que es editada por humanos a través de un proceso transparente, Grokipedia es generada por el chatbot Grok de xAI. Este chatbot ha sido objeto de críticas por contenido inapropiado y sesgado, como artículos que minimizan aspectos controvertidos de la vida de Musk o que muestran puntos de vista racistas y transfóbicos. Además, el control editorial está a cargo de Grok, lo que lo hace susceptible a manipulaciones de datos conocidas como “LLM grooming”.
Jim Yu, CEO de la firma de análisis BrightEdge, señala que ChatGPT y AI Overviews utilizan Grokipedia principalmente para consultas no sensibles como definiciones enciclopédicas. Sin embargo, mientras que AI Overviews tiende a usar Grokipedia como referencia complementaria, ChatGPT le otorga mayor autoridad, a menudo citándola como una de las primeras fuentes para una consulta.
El uso de Grokipedia plantea riesgos significativos de desinformación. A pesar de que plataformas como ChatGPT muestran las fuentes utilizadas, lo que permite a los usuarios evaluar su fiabilidad, la naturaleza generada por IA de Grokipedia y su falta de supervisión humana la hacen poco confiable.
Beejoli Shah, portavoz de Perplexity, se abstuvo de comentar sobre los riesgos de citar material generado por IA como Grokipedia, mientras que xAI y Google no respondieron a las solicitudes de comentarios. Leigh McKenzie, director de visibilidad en línea en Semrush, advierte que tratar a Grokipedia como una referencia seria es preocupante, ya que su credibilidad es cuestionable.
A pesar de los esfuerzos de Musk por presentar Grokipedia como un éxito, su uso en plataformas como Google y OpenAI sigue siendo limitado debido a su fiabilidad cuestionable y la potencial propagación de contenido sesgado o incorrecto. La comunidad tecnológica observa de cerca cómo estas referencias podrían influir en la percepción pública y en la calidad de la información proporcionada por herramientas de IA ampliamente utilizadas.