FraudGPT y WormGPT son las versiones maliciosas de ChatGPT, dos modelos de IA creados para ayudar a los ciberdelincuentes a diseñar y lanzar todo tipo de ciberataques. En las siguientes líneas explicamos qué son y cómo funcionan estas alternativas a ChatGPT maliciosas.
Contenido del artículo
¿Qué son FraudGPT y WormGPT?
FraudGPT y WormGPT son dos IA generativas que funcionan de la misma forma que ChatGPT, pero sin las restricciones para evitar usos ilegales o con fines maliciosos que sus desarrolladores le han implementado, por lo que los usuarios de FraudGPT y WormGPT pueden preguntar y pedir a estos modelos de IA que les ayuden a crear cualquier tipo de código o texto malicioso.
FraudGPT y WormGPT son dos chatbots que han sido entrenados con datos de malware y hacking (de la misma forma que se suministra información para ChatGPT en su entrenamiento), cuya finalidad es ayudar a cualquier ciberdelincuente a diseñar y crear sus ciberataques, desde la creación de código malicioso, pasando por textos para ataques de phishing, hasta la creación de páginas web fraudulentas.
Estos modelos de lenguaje masivos (LLM por sus siglas en inglés) representan uno de los peligros de la IA y fueron detectados por primera vez en 2023 y 2021, respectivamente, por diversos expertos (como IJSR CSEIT o Netenrich), se distribuyen tanto a través de la Dark Web como por grupos de Telegram y lo hacen como un servicio de suscripción mensual o anual. Además, los modelos se van actualizando y mejorando (lo que también va incrementando su precio). En el momento de su detección, FraudGPT costaba 200 dólares al mes o 1.700 dólares al año, mientras que WormGPT tiene una tarifa de 60-100 dólares al mes o 550 dólares año, existiendo una versión más nueva y personalizable por 5.000 dólares.
La autoría o, al menos, quien vende FraudGPT y WormGPT lo hace bajo el seudónimo de CanandianKinping.
¿Cómo funciona FraudGPT?
FraudGPT se presenta como la variante sin restricciones de ChatGPT, capaz de crear malware indetectable, crear páginas y textos de phishing, indicar dónde es mejor incrustar los enlaces maliciosos, encontrar vulnerabilidades e incluso aprender a hackear.
Su funcionamiento es muy similar a ChatGPT, de hecho su apariencia es prácticamente la misma, por lo que lo único que hay que hacer es introducir el correspondiente prompt y esperar la respuesta del modelo.
Desde escribir un texto para phishing, hasta localizar objetivos o vulnerabilidades gracias al análisis de datos con inteligencia artificial, FraudGPT representa no solo un peligro, sino un mal uso de la inteligencia artificial con el potencial de causar mucho daño que el que ya causa la falta de transparencia habitual en la IA. Gracias a este LLM malicioso, no es necesario tener grandes conocimientos técnicos para diseñar y llevar a cabo un ciberataque, la IA prácticamente te guiará paso a paso para hacerlo.
¿Cómo funcionar WormGPT?
WormGPT fue descubierto en marzo de 2021 en diferentes foros de hackers. Como FraudGPT, se caracteriza por no tener ningún tipo de restricción que le impida contestar a las peticiones con fines maliciosos de sus usuarios.
WormGPT también funciona de forma muy similar a ChatGPT, puesto que está basado en GPT-J, un modelo de código abierto desarrollado por Eleuther AI en 2021, que tiene una capacidad similar a la de GPT-3. Por lo tanto, mediante prompts se le puede pedir que escriba correos convincentes para llevar a cabo ataques de phishing en diferentes idiomas o que elabore el código para un malware.
¿Qué riesgos suponen FraudGPT y WormGPT para la ciberseguridad?
Sin duda, uno de los riesgos más evidentes de FraudGPT y WormGPT para la ciberseguridad es su capacidad para crear textos de phishing y sitios fraudulentos con facilidad y evitando los errores que nos permitían reconocer estos productos con más facilidad, como los errores gramaticales o de traducción. Ahora, estos errores no serán tan habituales y puede que incluso desaparezcan por completo.
Así mismo, también permiten que personas con pocos conocimientos técnicos e informáticos, pueda acceder a unas herramientas con las que llevar a cabo diferentes tipos de ciberataques en cuestión de minutos; basta con saber hacer el prompt adecuado para obtener resultados que pueden emplearse en un ataque casi de forma inmediata.
FraudGPT, cómo hemos visto, se vende también con la capacidad para encontrar vulnerabilidades y los objetivos más idóneos, lo que supone una ventaja para los cibercriminales, que pueden ahorrar tiempo buscando y seleccionando objetivos.
Como ya ocurre con la inteligencia artificial y los derechos de autor o la privacidad, FraudGPT y WormGPT añaden otro problema más a los peligros de la IA y ponen de manifiesto la doble relación que existe entre inteligencia artificial y ciberseguridad; por un lado, la primera puede ayudar a reforzar la segunda, pero, por otro lado, la IA mal usada puede ser un riesgo significativo para la seguridad de empresas, organizaciones y particulares.
¿Cómo podemos protegernos ante las alternativas a ChatGPT maliciosas?
IA generativas como FraudGPT y WormGPT hacen que sea más difícil detectar los ataques de ingeniería social, como el phishing, por lo que a la hora de protegernos contra estas alternativas a ChatGPT maliciosas, especialmente en las empresas y organizaciones, se pueden poner en práctica las siguientes medidas:
- Formar y concienciar a los empleados sobre los ataques de ingeniería social y sus diferentes modalidades, incluyendo información sobre cómo los modelos maliciosos de IA se están utilizando para perfeccionar estos ataques.
- Llevar a cabo simulaciones o pruebas de pentesting para comprobar qué empleados tienen más probabilidades de caer en estas trampas.
- Establecer medidas de autenticación de doble factor para minimizar las posibilidades de robo de credenciales.
- Establecer un protocolo para informar sobre los ataques de phishing o sospechas de los mismos a los responsables de ciberseguridad de la empresa u organización.
- Establecer un protocolo para confirmar la autenticidad de determinados correos electrónicos (por ejemplo, correos en los que se solicitan datos o transferencias de dinero).
- Configurar la autenticación y conformidad de mensajes basadas en dominios para evitar la suplantación del dominio de la organización.
- Usar filtros antispam en el correo.
- Instalar y mantener actualizadas las soluciones de seguridad y antimalware.
En definitiva, se trata de implementar medidas y buenas prácticas que minimicen las probabilidades de ser víctimas de ciberataques diseñados a través de FraudGPT y WormGPT.
