La carrera por utilizar ChatGPT para la ciberdelincuencia ha multiplicado por siete el número de hackers que hablan de cómo manipular el chatbot en internet, según revela un estudio de la empresa de ciberseguridad NordVPN.

El número de nuevos mensajes en foros de la Dark Web sobre la herramienta de inteligencia artificial pasó de 120 en enero a 870 en febrero, lo que supone un aumento del 625%.

Los hilos sobre ChatGPT aumentaron un 145% (de 37 a 91 en un mes), ya que la explotación del bot se convirtió en el tema más candente de la Dark Web.

A principios de enero, muchos hilos se centraban en cómo los malos actores podían animar a ChatGPT a producir malware básico, una vulnerabilidad que su creador OpenAI ha solucionado desde entonces.

Un mes después, la tendencia entre la comunidad de hackers es actuar de forma más agresiva, con mensajes que esbozan planes para hacerse con el control del chatbot y utilizarlo para sembrar el caos.

Los títulos del foro de la Dark Web (oculto a los motores de búsqueda normales y visitado por hackers anónimos de todo el mundo) incluyen Cómo romper ChatGPT, ChatGPT jailbreak 2.0, ChatGPT: progresión del malware y ChatGPT como herramienta de phishing.

Con ChatGPT a sus espaldas, los delincuentes podrían aprovechar su inteligencia artificial para cometer fraudes (como estafas románticas) a escala industrial, dirigiéndose a múltiples víctimas simultáneamente.

Una vez que un hacker se ha hecho con el control del chatbot, puede eliminar sus restricciones de seguridad y utilizarlo para crear malware y correos electrónicos de phishing, promover discursos de odio o incluso difundir propaganda.

En palabras de Marijus Briedis, experto en ciberseguridad de NordVPN: “Los chatbots como ChatGPT pueden facilitarnos la vida de muchas maneras, como realizar tareas escritas repetitivas, resumir temas complejos o sugerir un itinerario de vacaciones”.

“Para los ciberdelincuentes, sin embargo, la revolucionaria IA puede ser la pieza que falta en el rompecabezas para una serie de estafas”.

“La ingeniería social, en la que se anima a un objetivo a hacer clic en un archivo falso o descargar un programa malicioso a través de correos electrónicos, mensajes de texto o chats online, consume mucho tiempo a los hackers. Sin embargo, una vez que se ha explotado un bot, estas tareas pueden externalizarse por completo, estableciendo una línea de producción de fraudes”.

“El uso del aprendizaje automático por parte de ChatGPT también significa que los intentos de estafa, como los correos electrónicos de phishing, a menudo identificables por errores ortográficos, pueden mejorarse para ser más realistas y persuasivos.

Preocupantemente, en el último mes las discusiones en la web oscura han evolucionado de simples “trucos” y soluciones -diseñadas para animar a ChatGPT a hacer algo divertido o inesperado- a tomar el control completo de la herramienta y convertirla en un arma”.

ChatGPT es la aplicación de más rápido crecimiento en el mundo y alcanzó los 100 millones de usuarios en dos meses1 . Su tecnología de IA está siendo probada por Microsoft con el objetivo de mejorar su motor de búsqueda Bing.

NordVPN recomienda los siguientes consejos para mantener a raya a los chatbots:

No introduzca demasiados detalles personales. Los chatbots de IA están diseñados para aprender de cada conversación que tienen, mejorando sus habilidades en la interacción “humana”, pero también construyendo un perfil suyo más preciso que puede ser almacenado. Si le preocupa el uso que puedan hacer de sus datos, evite darles información personal.
Mucho phishing.

Es probable que la inteligencia artificial ofrezca oportunidades adicionales a los estafadores en línea y se puede esperar un aumento de los ataques de phishing a medida que los hackers utilizan bots para elaborar estafas cada vez más realistas. Las características tradicionales del phishing, como la mala ortografía o gramática en un correo electrónico, pueden estar en vías de desaparición, así que compruebe la dirección del remitente y busque incoherencias en los enlaces o nombres de dominio.

Utiliza un antivirus. Los hackers ya han manipulado con éxito chatbots para crear malware básico, por lo que merece la pena contar con una herramienta como la Protección contra amenazas, que puede alertarle de archivos sospechosos y mantenerlo a salvo si los descarga.