Investigadores de seguridad han revelado recientemente una vulnerabilidad que permitió a ChatGPT, una herramienta de inteligencia artificial desarrollada por OpenAI, extraer datos sensibles de bandejas de entrada de Gmail sin que los usuarios fueran alertados. Aunque OpenAI ya ha solucionado esta falla, el incidente subraya los riesgos asociados con la delegación de tareas a agentes de inteligencia artificial.
Esta brecha de seguridad, denominada “Shadow Leak”, fue detallada por la firma de seguridad Radware, que logró explotar un defecto en el funcionamiento de los agentes de inteligencia artificial. Estos agentes, diseñados para actuar en nombre de los usuarios sin necesidad de supervisión constante, pueden navegar por la web y acceder a correos electrónicos, calendarios y otros documentos personales si se les otorga permiso.
El ataque se llevó a cabo mediante una técnica conocida como “inyección de comandos”, que consiste en introducir instrucciones ocultas en contenido al que el agente tiene acceso. Estos comandos pueden ser invisibles a simple vista para los humanos, como texto blanco sobre fondo blanco. En esta ocasión, los investigadores de Radware insertaron una inyección de comandos en un correo electrónico dirigido a una bandeja de entrada de Gmail a la que el agente, denominado Deep Research, tenía acceso. Una vez que el usuario interactuaba con Deep Research, el agente ejecutaba las instrucciones ocultas, buscando correos electrónicos relacionados con recursos humanos y detalles personales para luego enviarlos a los atacantes sin que el usuario lo notara.
La ejecución exitosa de este tipo de ataques requiere un alto nivel de habilidad y persistencia, ya que es necesario superar numerosos obstáculos técnicos. Los investigadores describieron el proceso como un “montaña rusa de intentos fallidos y bloqueos frustrantes” hasta lograr el avance deseado.
A diferencia de la mayoría de las inyecciones de comandos, Shadow Leak se ejecutó directamente en la infraestructura en la nube de OpenAI, lo que lo hizo indetectable para las defensas cibernéticas estándar. Radware advirtió que otras aplicaciones conectadas a Deep Research, como Outlook, GitHub, Google Drive y Dropbox, podrían ser vulnerables a ataques similares.
Los investigadores enfatizaron que, aunque su estudio fue meramente conceptual, las técnicas utilizadas podrían aplicarse para extraer datos comerciales altamente sensibles, como contratos, notas de reuniones o registros de clientes, de otras aplicaciones vinculadas a Deep Research.
OpenAI ha reaccionado rápidamente a las advertencias de Radware y ha corregido la vulnerabilidad reportada. Sin embargo, el incidente pone de relieve la importancia de una supervisión constante y rigurosa en el desarrollo y despliegue de tecnologías de inteligencia artificial, especialmente aquellas que manejan datos personales y confidenciales.
El creciente uso de agentes de inteligencia artificial en tareas cotidianas plantea un dilema: aunque ofrecen una eficiencia sin precedentes, también abren la puerta a nuevas formas de explotación y abuso. La comunidad de seguridad cibernética y los desarrolladores de IA deben trabajar en conjunto para anticipar y mitigar estos riesgos, asegurando que las innovaciones tecnológicas se implementen de manera segura y ética.
Este caso de Shadow Leak sirve como recordatorio de que, aunque la tecnología puede facilitarnos la vida, también conlleva responsabilidades y desafíos que deben ser abordados con seriedad y diligencia. La protección de la información personal y la integridad de los sistemas digitales debe ser siempre una prioridad en el desarrollo de nuevas herramientas tecnológicas.