Cibercriminales Usan la Herramienta de IA v0 de Vercel para Crear Páginas de Inicio de Sesión Falsas a Gran Escala
Ciberdelincuentes desconocidos han sido observados utilizando v0, una herramienta de inteligencia artificial generativa (IA) de Vercel, para diseñar páginas de inicio de sesión falsas que imitan a sus homólogas legítimas.
"Esta observación señala una nueva evolución en la utilización de la IA generativa por parte de los actores de amenaza, quienes han demostrado la capacidad de generar un sitio de phishing funcional a partir de simples indicaciones de texto," dijeron los investigadores de inteligencia de amenazas de Okta, Houssem Eddine Bordjiba y Paula De la Hoz declararon.
v0 es una oferta impulsada por IA de Vercel que permite a los usuarios crear páginas de aterrizaje básicas y aplicaciones de pila completa utilizando comandos en lenguaje natural.
El proveedor de servicios de identidad dijo que ha observado a estafadores utilizando la tecnología para desarrollar réplicas convincentes de las páginas de inicio de sesión asociadas con múltiples marcas, incluida una cliente no revelada. Tras una divulgación responsable, Vercel ha bloqueado el acceso a estos sitios de phishing.
Los actores de amenazas detrás de la campaña también han sido encontrados por alojar otros recursos como los logotipos de las empresas impersonadas en la infraestructura de Vercel, probablemente en un esfuerzo por abusar de la confianza asociada con la plataforma de desarrolladores y evadir la detección.
A diferencia de los kits de phishing tradicionales que requieren un cierto esfuerzo para establecerse, herramientas como v0 — y sus clones de código abierto en GitHub — permiten a los atacantes generar páginas falsas simplemente escribiendo un comando. Es más rápido, más fácil y no requiere habilidades de codificación. Esto hace que sea sencillo incluso para actores de amenaza poco calificados construir sitios de phishing convincentes a gran escala.
"La actividad observada confirma que los actores de amenazas de hoy están experimentando activamente y utilizando las principales herramientas de IA generativa para agilizar y mejorar sus capacidades de phishing," dijeron los investigadores.
"El uso de una plataforma como v0.dev de Vercel permite a los actores de amenaza emergentes producir rápidamente páginas de phishing descuidadas y de alta calidad, aumentando la velocidad y escala de sus operaciones."
Este desarrollo llega en un momento en que los actores maliciosos continúan aprovechándose de grandes modelos de lenguaje (LLM) para auxiliares en sus actividades criminales, construyendo versiones sin censura de estos modelos diseñadas explícitamente para fines ilícitos. Uno de esos LLM que ha ganado popularidad en el paisaje del cibercrimen es WhiteRabbitNeo, que se publicita como un "Modelo de IA sin censura para equipos de (Dev) SecOps."
"Los ciberdelincuentes están gravitando cada vez más hacia LLM sin censura, LLM diseñados para ciberdelincuentes y el jailbreak de LLM legítimos," dijo el investigador de Cisco Talos, Jaeson Schultz.
"Los LLM sin censura son modelos desalineados que operan sin las restricciones de los guardrails. Estos sistemas generan con gusto respuestas sensibles, controvertidas o potencialmente dañinas en respuesta a solicitudes del usuario. Como resultado, los LLM sin censura son perfectos para el uso de los ciberdelincuentes."
Esto se enmarca en un cambio más grande que estamos viendo: el phishing está siendo potenciado por la IA de más maneras que antes. Correos electrónicos falsos, voces clonadas, incluso videos deepfake están apareciendo en ataques de ingeniería social. Estas herramientas ayudan a los atacantes a escalar rápidamente, convirtiendo pequeñas estafas en grandes campañas automatizadas. Ya no se trata solo de engañar a los usuarios; se trata de construir sistemas enteros de engaño.
¿Te pareció interesante este artículo? Síguenos para leer más contenido exclusivo que publicamos.
Comments ()