Tres abogados privados que representaban al sistema penitenciario de Alabama han sido reprendidos públicamente por un juez federal tras presentar citas legales falsas generadas por una aplicación de inteligencia artificial. Los abogados Matthew Reeves, William Cranford y William Lunsford fueron sancionados después de que se descubriera que las referencias legales que presentaron eran completamente inventadas por ChatGPT, una herramienta popular de inteligencia artificial generativa.
La jueza federal de distrito Anna Manasco emitió una orden tajante en la que afirmó que las citas legales presentadas eran “alucinaciones” generadas por la aplicación y calificó el acto como “una imprudencia extrema”. A raíz de esto, los abogados fueron retirados del caso en el que representaban al Departamento de Correcciones de Alabama en una demanda presentada por un recluso. No obstante, se les permitirá continuar representando al sistema penitenciario en otros casos, incluyendo una demanda interpuesta por el Departamento de Justicia en 2020.
La jueza Manasco también ordenó a los abogados proporcionar una copia de la orden de sanción a todos sus clientes, abogados contrarios y jueces en cada caso en el que estén trabajando. Además, deben compartir la orden con cada abogado en su bufete, Butler Snow, una firma nacional de prestigio. Según la jueza, “fabricar autoridad legal es una falta grave que demanda sanciones serias”. Manasco también criticó al Departamento de Correcciones de Alabama por continuar empleando a los abogados a pesar de conocer su mala conducta.
La demanda que dio origen al uso de las citas falsas fue presentada en 2021 por un recluso de la Instalación Correccional Donaldson en Bessemer, quien fue apuñalado en múltiples ocasiones en 2019 y 2020. Las citas falsas salieron a la luz por primera vez en mayo, cuando el abogado del recluso presentó una moción cuestionando las referencias. Manasco intentó verificar las citas por su cuenta, pero no pudo encontrarlas, lo que llevó a una orden para que los abogados explicaran por qué no debían ser sancionados por hacer declaraciones falsas al tribunal.
William Lunsford, en una presentación del 19 de mayo, explicó que el abogado Matt Reeves utilizó ChatGPT para obtener citas legales sin verificar su precisión, lo que resultó en la presentación de información falsa. Lunsford expresó su profundo arrepentimiento por el error, calificándolo de “inaceptable y embarazoso”, y aseguró que no refleja el respeto que tienen por el sistema judicial.
La jueza Manasco señaló que los abogados de Butler Snow deberían haber sabido mejor y anunció que remitirá el asunto al Colegio de Abogados del Estado de Alabama. A pesar de las disculpas, Manasco enfatizó que el daño ya estaba hecho, describiendo el incidente como “equivalente a mala fe”.
En una declaración, Lunsford admitió que la utilización de la inteligencia artificial fue un “lapsus de juicio” y se comprometió a que no vuelva a ocurrir. Por su parte, Reeves asumió la responsabilidad total del error, admitiendo que no verificó las citas proporcionadas por ChatGPT antes de incluirlas en la moción. Afirmó que, en el futuro, se asegurará de revisar a fondo todas las presentaciones para verificar la precisión y confiabilidad de las citas.
El bufete Butler Snow revisó otros 52 casos federales para asegurarse de que no hubiera otras citas generadas por inteligencia artificial u otros problemas similares, y no encontró ninguna otra irregularidad. La firma también solicitó una evaluación independiente que corroboró la ausencia de problemas adicionales.
Este caso pone de manifiesto los riesgos del uso de herramientas de inteligencia artificial en procesos legales, subrayando la necesidad de una revisión cuidadosa y la verificación de las fuentes antes de presentar cualquier documento en un contexto judicial.