OpenAI ha tomado medidas decisivas contra una red de estafas con base en Camboya que utilizaba su chatbot de inteligencia artificial, ChatGPT, para facilitar una variedad de esquemas fraudulentos. La operación, centrada en la ciudad de Poipet, involucraba actividades como inversiones falsas, estafas románticas, apuestas y suplantación de autoridades legales. Poipet, conocida por sus vínculos con la trata de personas y complejos de estafas, es el epicentro de esta red criminal que ha sido desmantelada en parte gracias a la intervención de OpenAI.
La empresa de inteligencia artificial ha identificado y prohibido una serie de cuentas coordinadas que operaban desde el sudeste asiático, específicamente desde Poipet. Estas cuentas utilizaban los modelos de OpenAI para crear personajes ficticios en línea y generar mensajes que se enviaban a las víctimas. Además, se utilizaban para crear contenido promocional y asistir en diversas actividades operativas diarias.
El contenido promocional engañoso incluía anuncios en redes sociales que ofrecían trabajos de “chatter” en Poipet, apuntando principalmente a usuarios en Bangladesh e India. Estos anuncios prometían sueldos base de 800 dólares con bonos adicionales, junto con boletos de avión, alojamiento gratuito, comidas y visas de trabajo en Camboya. Sin embargo, todo esto formaba parte de un plan para atraer a personas a un entorno de explotación laboral.
OpenAI colaboró con WhatsApp, propiedad de Meta, para investigar estas operaciones. “La operación refleja una realidad importante sobre las redes de estafas modernas: los grupos criminales organizados rara vez se limitan a un solo tipo de estafa”, declaró OpenAI. “En lugar de eso, emplean narrativas, personajes y tácticas que consideran más efectivas para engañar a sus víctimas”.
Los actores detrás de esta red llevaban a cabo diversas estafas en paralelo, combinando técnicas de diferentes esquemas para aumentar la efectividad de sus actividades ilícitas. Esto incluía el uso de identidades falsas en plataformas de citas para ganar la confianza de las víctimas antes de atraparlas en inversiones fraudulentas relacionadas con criptomonedas y comercio de oro. Además, mantenían conversaciones románticas prolongadas con objetivos utilizando identidades sintéticas o haciéndose pasar por representantes de plataformas de apuestas que ofrecían bonos y ganancias ficticias.
Algunos miembros de la red también suplantaban a agencias de aplicación de la ley para inducir un falso sentido de urgencia, informando a las víctimas que debían pagar multas por delitos graves inexistentes. Para llevar a cabo estas estafas, la red creaba perfiles de citas falsos, supuestos expertos en inversiones y personajes de aplicación de la ley fraudulentos. También generaban imágenes de documentos falsificados, como pasaportes, avisos legales, confirmaciones de compra de acciones e interfaces de plataformas de apuestas.
El modus operandi de los estafadores seguía un enfoque de tres pasos llamado ping-zing-sting. Primero, se realizaba un contacto inicial a través de plataformas de mensajería como WhatsApp y Telegram. Luego, se establecía un lazo de confianza antes de instruir a las víctimas para que hicieran depósitos, pagaran tarifas de activación o resolvieran multas inexistentes. Las víctimas recibían capturas de pantalla falsas de transferencias o información de cuentas como prueba de pago.
Además, algunos contenidos generados por las cuentas de la red eran coherentes con el tráfico de personas y el trabajo forzado asociados a grupos delictivos organizados en Asia Oriental. Estos actores atraían a personas con promesas falsas de trabajos lucrativos, solo para confiscar sus pasaportes y obligarlas a trabajar en condiciones similares a la esclavitud.
Si bien se desconoce la escala completa de las pérdidas financieras asociadas con esta red, las comunicaciones de los estafadores sugieren que la operación podría haber interactuado con cientos de objetivos a través de múltiples tipos de estafas. Las conversaciones de los usuarios mencionaban a víctimas individuales que perdieron miles de dólares, aunque estas afirmaciones no han sido verificadas de manera independiente.
Este desarrollo destaca cómo los actores de amenazas están desarrollando capacidades ofensivas aumentadas por IA que les permiten aumentar drásticamente la velocidad y el alcance de sus campañas. Al mismo tiempo, los modelos de frontera se han visto implicados en la focalización de sistemas reales e individuos durante evaluaciones cibernéticas al estilo de Capture-the-Flag (CTF).