¿Cómo puede un ciberdelincuente explotar ChatGPT?
Zoom en Chat(bot)GPT
ChatGPT fue desarrollado por OpenAI en noviembre de 2022. Este sistema, basado en inteligencia artificial, utiliza un modelo de procesamiento de lenguaje natural, llamado GPT (Generative Pre – trained Transformer). La herramienta es capaz de generar respuestas claras sobre un tema enviado por el usuario a gran velocidad.
Uso #1 – Crea un malware de una manera muy rápida y fácil
Escribir el código fuente del malware, indetectable por el software antivirus, ha sido históricamente una tarea de mucho trabajo. Posteriormente el proceso se facilitó gracias a, por ejemplo, la presencia de muchos tutoriales en línea en Youtube. Pero hoy en día, ¡es posible hacerlo en segundos usando ChatGPT!
Esto ahorra tiempo a los hackers, a la vez que les da acceso a casi todo el conocimiento disponible públicamente sobre hacking, como por ejemplo cómo eludir los EDR.
Uso #2 – Amplificación de la ingeniería social
ChatGPT también puede ser utilizado por los atacantes en la elaboración de sus estrategias, herramientas y vectores de ataque o compromiso.
Por ejemplo, se le puede pedir a ChatGPT que escriba correos electrónicos de spam y phishing, incluyendo un código malicioso y una cadena de infección. ¡El resultado es de calidad y se genera en menos de 1 minuto!
Esta técnica tiene dos beneficios clave para los ciberdelincuentes:
- Mejora de la autenticidad, personalización y calidad de los mensajes que a menudo faltan hoy en día y pueden ser pistas para identificar mensajes maliciosos.
- Un ahorro de tiempo significativo, permitiendo a los ciberdelincuentes centrarse en los aspectos puramente técnicos del ataque.
Uso #3 – Explotar nuevas vulnerabilidades
ChatGPT también podría ser de gran ayuda para los ciberdelincuentes al facilitar el descubrimiento de nuevas vulnerabilidades. Todavía es necesario que el robot pueda mantenerse actualizado rápidamente e indexar más y más contenido sobre la amenaza cibernética. Por lo tanto, el componente más mínimo expuesto o mal protegido representa más que nunca una amenaza real, porque es una puerta de entrada potencial para un atacante.
Tomemos un ejemplo: en respuesta a la consulta «El sitio web de la empresa X está alojado en Y, dime la vulnerabilidad de seguridad más reciente que puedo explotar para lanzar un ataque», el hacker obtendrá mucha información para ayudarlo.
ChatGPT allana el camino para los script kiddies
Los scripts kiddies son hackers neófitos que simplemente ejecutan programas diseñados por hackers experimentados, sin realmente entenderlos o dominarlos. Por lo tanto, las técnicas de ataque y defensa que ahora son accesibles para todos en ChatGPT pueden traer al campo de juego muchos perfiles de atacantes menos experimentados (y quién sabe, ¡incluso podría dar ideas a personal malicioso!).
Uso de ChatGPT en los negocios: los riesgos
Riesgo #1 – Uso de datos sin propiedad intelectual
Por ejemplo, simplemente copiar y pegar el contenido generado en el asistente virtual ChatGPT (sin haberse tomado el tiempo de verificar la información producida) amplifica el riesgo de plagio.
Riesgo #2 – Fuentes que son difíciles de verificar
Otro problema: el uso de ChatGPT no permite controlar las fuentes de la información generada. Por lo tanto, las respuestas proporcionadas por el asistente virtual son más difíciles de verificar, y dado que a menudo parecen más exitosas, los usuarios pueden verse tentados a considerarlas demasiado rápido como una verdad absoluta.
Riesgo #3 – Intensificar las fugas de información
Finalmente, ChatGPT puede hacer que la información confidencial se comparta involuntariamente (o no) con el bot, sin saber cómo se explotará después. ¡Imagine que sus datos financieros o los datos personales de sus clientes son accesibles a través de la herramienta!
¿Cómo protegerse de los usos maliciosos de ChatGPT?
Consejo # 1 – Fortalezca sus mejores prácticas de seguridad de TI
Con ChatGPT, el trabajo de los hackers se facilita enormemente: el tiempo ahorrado en la creación de malware y correos electrónicos de phishing (por ejemplo) les permitirá desarrollar ataques más complejos y difíciles de detectar. Por lo tanto, las mejores prácticas de seguridad deberán tener alta prioridad para minimizar la superficie de ataque.
Tres mejores prácticas para adoptar
- Gestione las vulnerabilidades y tenga un potente proceso de gestión de parches
- Implemente un SOC de próxima generación capaz de responder eficazmente a amenazas conocidas y aún desconocidas de bases de datos de firmas.
- Fortalezca la conciencia del personal sobre el auge de la ingeniería social y el phishing y apóyeles en nuevos usos.
Consejo # 2 – Monitorear constantemente las nuevas tácticas de los atacantes
La vigilancia es una parte esencial del refuerzo de la ciberseguridad: permite determinar el nivel de sofisticación técnica de los ataques y no quedarse atrás ante su creciente nivel de madurez y capacidad para causar daños.
Por lo tanto, es necesario poner en marcha:
- una vigilancia de las vulnerabilidades, para anticiparse a los nuevos fallos de los componentes.;
- Una vigilancia operativa y estratégica, para seguir de cerca los nuevos métodos de los atacantes (para profundizar en este tema, consulte el marco MITRE) ;
- Una supervisión legal, para estar al tanto de las leyes relativas a los ataques relacionados con la IA (por ejemplo, fuga de información confidencial).
La llegada de herramientas como ChatGPT ha creado enormes oportunidades para acelerar y mejorar la vida cotidiana. Sin embargo, la adopción de estas herramientas debe ir acompañada de un control de los riesgos, tanto relacionados con malas prácticas como con intenciones reales de daño. La vigilancia tecnológica es una vez más esencial para un CISO.
Tristan Savalle • CISO, Advens
Profesionales de ciberseguridad: ChatGPT, ¿una herramienta para explotar?
ChatGPT tiene el potencial de hacer dudar a los profesionales de la ciberseguridad. De hecho, este revolucionario asistente virtual puede causar preocupaciones legítimas, pero también puede ser de gran utilidad en su trabajo diario.
ChatGPT es un tema importante, y es por eso que Advens pronto invertirá en él, ¡para evolucionar sus prácticas de seguridad! ¿Te gustaría formar parte de esta nueva aventura?
