Un juez federal de Estados Unidos ha dictaminado que la cancelación de más de 100 millones de dólares en subvenciones por parte del Departamento de Eficiencia Gubernamental (DOGE) fue inconstitucional. La decisión judicial, emitida por la jueza del distrito Colleen McMahon, destaca que el proceso de eliminación de subvenciones implicó el uso de ChatGPT para determinar si estaban relacionadas con diversidad, equidad e inclusión (DEI), lo cual fue considerado como un uso inapropiado de la tecnología por parte del gobierno.
La demanda, presentada en 2025 por grupos de humanidades, alegaba que el DOGE había utilizado características protegidas como base para descalificar subvenciones del Fondo Nacional para las Humanidades (NEH), lo cual contravenía principios constitucionales. En su fallo de 143 páginas, la jueza McMahon señala que el uso de ChatGPT por parte del DOGE para analizar las subvenciones fue un procedimiento defectuoso y discriminatorio.
Justin Fox, un miembro del personal del DOGE, testificó que utilizó ChatGPT para destacar por qué una subvención podría estar relacionada con DEI y para identificar cualquier mención al respecto. Fox no proporcionó una definición clara de DEI a ChatGPT, lo que llevó a una interpretación ambigua del término por parte de la inteligencia artificial. Además, Fox empleó términos de búsqueda a los que denominó “Códigos de Detección” para identificar subvenciones que clasificó como “las más locas” o “otras malas subvenciones”. Estos términos incluían palabras como “BIPOC”, “minorías”, “nativo”, “tribal”, “inmigrante”, “LGBTQ”, entre otros.
El fallo judicial indica que el DOGE consideró cientos de subvenciones como “desperdicio” debido a su relación con temas de importancia social, como los derechos civiles y la cultura indígena. La jueza McMahon enfatizó que estos temas son precisamente los que el Congreso ha señalado como esenciales para la misión del NEH.
La defensa del gobierno de que cualquier clasificación basada en puntos de vista fue obra de ChatGPT y no del gobierno fue rechazada por la jueza. Ella argumentó que no hay distinción entre las acciones del gobierno y el uso de ChatGPT, ya que esta herramienta fue escogida como instrumento oficial para el proyecto. Además, el uso de inteligencia artificial no exime al gobierno de conductas presumiblemente inconstitucionales.
La jueza McMahon concluyó que la eliminación de más de 1,400 subvenciones del NEH fue ilegal e inconstitucional, citando violaciones a la Primera Enmienda, la ley de protección igualitaria de la Quinta Enmienda y la falta de autoridad del DOGE. Se ordenó revertir la cancelación de estas subvenciones.
Este caso resalta los desafíos que enfrenta el uso de inteligencia artificial en procesos gubernamentales y la necesidad de garantizar que estas tecnologías se utilicen de manera ética y conforme a la ley. La decisión de la jueza McMahon subraya la importancia de una revisión humana significativa en la aplicación de herramientas de inteligencia artificial, especialmente cuando se trata de decisiones que afectan derechos fundamentales y la financiación de proyectos culturales y educativos.