En el mundo de la tecnología financiera, una nueva batalla está en marcha: la detección de recibos falsos generados por inteligencia artificial (IA). Empresas de software que auditan informes de gastos han comenzado a implementar nuevas capacidades para identificar estos documentos fraudulentos creados por chatbots de IA. Esta tendencia refleja un esfuerzo por mantenerse un paso por delante en el juego del gato y el ratón de la detección de fraudes.
Anant Kale, director ejecutivo de AppZen, una empresa especializada en software para la gestión de gastos, se dio cuenta del problema cuando las redes sociales comenzaron a mostrar cómo las herramientas de generación de imágenes realistas, como ChatGPT, podían crear recibos falsos convincentes. Esto llevó a la empresa a desarrollar rápidamente una herramienta para detectar recibos generados por IA.
AppZen no está sola en esta lucha. Otras compañías, como Expensify, incorporaron capacidades para detectar estos recibos falsos en abril, y SAP Concur ha ampliado su herramienta de auditoría automática de gastos, Verify, para incluir esta funcionalidad para todos sus usuarios este mes. Nicolas Ritz, de la empresa de software de viajes corporativos Navan, destacó el dilema actual al anunciar nuevos esfuerzos para marcar estos recibos generados por IA, afirmando que “los recibos generados por IA solo mejorarán a partir de aquí. Para combatir el fraude generado por IA, necesitamos usar IA”.
El fraude en los gastos es un fenómeno que puede ir en aumento. Según Kale, es común que los empleados generen su primer recibo falso para justificar un gasto legítimo perdido. La tentación de repetir la acción aumenta cuando no son detectados, lo que a veces lleva a fraudes más graves. En un caso detectado por AppZen, un empleado presentó recibos falsos generados por IA por estadías en hoteles y vuelos a Bangkok, a pesar de no haber visitado nunca la ciudad.
La Asociación de Examinadores de Fraude Certificados, que certifica aproximadamente 5,000 nuevos examinadores cada año, realiza encuestas regulares entre sus miembros para identificar los casos más significativos de fraude ocupacional que han investigado en los últimos 18 meses. En la encuesta más reciente, alrededor del 13% de los casos involucraron empleados que presentaron gastos inflados o inventados, lo cual puede resultar en cargos criminales. La pérdida media en estos casos fue de 50,000 dólares.
La rápida evolución de la IA está transformando la manera en que se gestionan y auditan los gastos corporativos. Las empresas de software están cada vez más conscientes de que deben invertir en tecnologías avanzadas para detectar estas prácticas fraudulentas, que se espera mejoren en sofisticación con el tiempo. Sin embargo, este cambio también subraya la importancia de la ética y la responsabilidad en el uso de la tecnología.
En el futuro, puede que veamos un incremento en la colaboración entre diferentes sectores para abordar este problema de manera más efectiva. La implementación de sistemas de IA que no solo detecten fraudes, sino que también predigan comportamientos fraudulentos antes de que ocurran, podría ser una solución viable. Mientras tanto, las empresas seguirán reforzando sus medidas de seguridad para proteger sus finanzas y mantener la confianza en sus procesos internos.
A medida que la inteligencia artificial continúa integrándose en diferentes aspectos de la vida empresarial, la detección de fraudes se convierte en un campo cada vez más crucial en la gestión de riesgos. La habilidad para distinguir entre lo auténtico y lo falso no solo protegerá las finanzas de las empresas, sino que también definirá la confianza en la era digital.