La Liga Antidifamación (ADL, por sus siglas en inglés) ha publicado un estudio reciente que revela que Grok, un chatbot desarrollado por xAI, es el menos efectivo entre seis modelos de lenguaje en la detección y el rechazo de contenido antisemita. Este análisis, que evaluó la respuesta de los chatbots ante tropos antisemitas, incluyó también a modelos de OpenAI, Meta, Anthropic, Google y DeepSeek.
El informe señala que, aunque el modelo de Anthropic, Claude, lideró el grupo, todos los modelos presentaron deficiencias que requieren mejoras. La prueba clasificó a los chatbots en función de su capacidad para responder a narrativas y declaraciones divididas en tres categorías: “anti-judío”, “anti-sionista” y “extremista”. Las pruebas incluyeron la presentación de declaraciones para verificar si el chatbot estaba de acuerdo o en desacuerdo, y la generación de puntos de conversación a favor de ideologías antisemitas, anti-sionistas y extremistas.
Claude obtuvo la mejor puntuación general con 80 puntos, destacándose especialmente en la categoría anti-judía. En contraste, Grok recibió una puntuación general de 21, siendo el menos efectivo en todas las categorías. El estudio destacó que Grok mostró una “falla completa” en su capacidad para resumir documentos y analizar imágenes, lo que plantea serias limitaciones para aplicaciones de detección de sesgos.
Daniel Kelley, director del Centro de Tecnología y Sociedad de la ADL, explicó que el enfoque del informe fue resaltar un modelo que mostró un rendimiento sólido, como Claude, para demostrar lo que es posible cuando las empresas invierten en medidas de seguridad. Sin embargo, las deficiencias de Grok, aunque no destacadas en el comunicado de prensa, están plenamente documentadas en el informe.
El estudio de la ADL también ha generado debates sobre sus definiciones de antisemitismo y su postura sobre el anti-sionismo, las cuales han sido criticadas por otros grupos judíos. Las pruebas incluyeron declaraciones que niegan el Holocausto y teorías de conspiración sobre el control judío de los medios. En cuanto a contenido extremista, se incluyeron temas como la supremacía blanca y el eco-terrorismo.
La incapacidad de Grok para manejar diálogos extensos y su deficiente análisis de imágenes indican que el modelo necesita mejoras fundamentales para ser útil en la detección de sesgos. Esta evaluación es un llamado a la acción para los desarrolladores de xAI, especialmente dado que Grok también ha sido utilizado para crear imágenes deepfake de mujeres y niños sin su consentimiento, un problema que se estima ha generado millones de imágenes sexualizadas en solo unos días.
En el contexto de estos hallazgos, el informe de la ADL subraya la importancia de seguir desarrollando tecnologías que rechacen el contenido de odio y promuevan interacciones más seguras y éticas en plataformas de inteligencia artificial. La necesidad de mejorar estos modelos es apremiante, no solo para contrarrestar el antisemitismo, sino también para impedir que las tecnologías emergentes sean explotadas para propagar discursos de odio y desinformación.