La creciente adopción de la inteligencia artificial está creando también nuevas oportunidades para los ciberdelincuentes. FortiGuard Labs, el equipo de investigación e inteligencia de amenazas de Fortinet ha analizado un caso de LLMjacking, una técnica mediante la que los atacantes utilizan credenciales cloud robadas para acceder a modelos de IA.
En el caso investigado, los atacantes comprometieron una cuenta de Amazon Web Services (AWS), crearon una nueva identidad y utilizaron el acceso obtenido para contratar y consumir modelos fundacionales. El coste económico que acarrea para la empresa víctima de estas prácticas puede ser considerable: investigaciones citadas por FortiGuard Labs estiman que el uso fraudulento de determinados modelos podría generar costes superiores a 46.000 dólares diarios y, en algunos casos, superar los 100.000.
Además, las consecuencias pueden ir más allá, ya que el acceso ilícito a estos modelos puede revenderse a terceros, convirtiendo las credenciales comprometidas en una fuente de ingresos para los atacantes. FortiGuard Labs señala que lo que comenzó como un robo oportunista de credenciales ha evolucionado hacia una cadena de suministro comercial para el acceso ilícito a modelos de IA.
¿Cómo detectar que alguien está utilizando la IA de tu empresa?
Uno de los retos del LLMjacking es que el atacante utiliza credenciales válidas y servicios cloud legítimos, por lo que su actividad puede confundirse con un uso autorizado. Por ello, FortiGuard Labs recomienda:
- Mantener un registro completo de la actividad cloud para conocer quién crea nuevas identidades, credenciales o contrata servicios.
- Reducir el uso de credenciales IAM permanentes y con amplios privilegios, priorizando credenciales de corta duración cuando sea posible.
- Contextualizar los nuevos usos de servicios de IA y buscar otras señales asociadas, como nuevas identidades, direcciones IP desconocidas, intentos de identificar usuarios o recursos del sistema o múltiples accesos denegados.
- Contar con capacidades que permitan detectar anomalías a lo largo de toda la cadena de ataque, desde el compromiso inicial de la identidad hasta el uso de los modelos.
En definitiva, la investigación pone el foco en un nuevo riesgo asociado a la expansión de la IA generativa: las credenciales que dan acceso a estos servicios tienen un valor económico para los atacantes, lo que convierte la protección de las identidades, la visibilidad y la detección de comportamientos anómalos en elementos cada vez más relevantes para las organizaciones.