FraudGPT: La IA villana de ChatGPT
Con el auge de los modelos de IA generativa, el panorama de las amenazas ha cambiado drásticamente. Ahora, las actividades recientes en Dark Web Forum muestran evidencia del surgimiento de FraudGPT, que ha estado circulando en los canales de Telegram desde el 22 de julio de 2023.
El equipo de investigación de amenazas de Netenrich descubrió una nueva herramienta potencial de inteligencia artificial llamada “FraudGPT”. Este es un bot de IA, destinado exclusivamente a fines ofensivos, como la elaboración de correos electrónicos de phishing selectivo, la creación de herramientas de craqueo, tarjetas, etc. La herramienta se vende actualmente en varios mercados de la Dark Web y en la plataforma Telegram.
Como lo demuestra el contenido promocionado, un actor de amenazas puede redactar un correo electrónico que, con un alto nivel de confianza, atraerá a los destinatarios para que hagan clic en el enlace malicioso proporcionado. Esta astucia jugaría un papel vital en las campañas de phishing de compromiso de correo electrónico comercial (BEC) en las organizaciones.
Esto también ayuda a los atacantes a escribir correos electrónicos atractivos y maliciosos a sus objetivos.
Como se ve en la imagen de arriba, está claro que esta herramienta también ayuda a seleccionar los servicios/sitios más específicos, que pueden defraudar aún más a las víctimas.
La tarifa de suscripción para FraudGPT comienza en $ 200 por mes y sube a $ 1,700 por año .
Algunas de las características incluyen:
- Escribir código malicioso
- Crear malware indetectable
- Buscar contenedores que no sean VBV
- Crear páginas de phishing
- Crear herramientas de piratería
- Encuentra grupos, sitios, mercados
- Escribir páginas/cartas fraudulentas
- Encuentre fugas, vulnerabilidades
- Aprende a programar/hackear
- Encuentra sitios cardables
- Fideicomiso disponible 24/7
- Más de 3000 ventas/reseñas confirmadas
Perfiles de actores de amenazas
Antes de lanzar FraudGPT, el mismo actor de amenazas creó su Canal de Telegram el 23 de junio de 2023.
El actor de amenazas afirmó ser un proveedor verificado en varios mercados subterráneos de la Dark Web, como EMPIRE, WHM, TORREZ, WORLD, ALPHABAY y VERSUS .
Como todos estos mercados son estafados con frecuencia, se puede suponer que el actor de amenazas había decidido iniciar un canal de Telegram para ofrecer sus servicios sin problemas, sin los problemas de las estafas de salida del mercado Dark Web.
El actor de amenazas había anunciado actividades de piratería, como:
Al rastrear la identidad del actor de amenazas tal como está registrado en un foro de Dark Web, encontramos que la dirección de correo electrónico del actor de amenazas es:
Proyecto similar: WormGPT
Al igual que FraudGPT, WormGPT se lanzó el 13 de julio de 2023. Este tipo de alternativas maliciosas a ChatGPT continúan atrayendo a delincuentes y a los ineptos menos expertos en tecnología para atacar a las víctimas con fines de lucro.
Los delincuentes no dejarán de innovar, así que nosotros tampoco podemos
A medida que pasa el tiempo, los delincuentes encontrarán nuevas formas de mejorar sus capacidades delictivas utilizando las herramientas que inventamos. Si bien las organizaciones pueden crear ChatGPT (y otras herramientas) con garantías éticas, no es difícil volver a implementar la misma tecnología sin esas garantías.
En este caso, seguimos hablando de phishing, que es el intento inicial de entrar en un entorno. Las herramientas convencionales aún pueden detectar el phishing habilitado por IA y, lo que es más importante, también podemos detectar acciones posteriores del actor de la amenaza.
La implementación de una estrategia de defensa en profundidad con toda la telemetría de seguridad disponible para un análisis rápido se ha vuelto aún más esencial para encontrar estas amenazas de rápido movimiento antes de que un correo electrónico de phishing se convierta en ransomware o exfiltración de datos.
Fuente: netenrich