Los ciberdelincuentes le dicen a ChatGPT que cree código malicioso

Reeditado por Platón

seguidores: 0

Los ciberdelincuentes le están diciendo a ChatGPT que cree código malicioso PlatoBlockchain Data Intelligence. Búsqueda vertical. Ai.

Los ciberdelincuentes están comenzando a utilizar la popular tecnología ChatGPT de OpenAI para desarrollar rápida y fácilmente código con fines maliciosos.

Un giro alrededor de los sitios de piratería clandestinos descubrió instancias iniciales de malhechores que desarrollaban herramientas de amenazas cibernéticas utilizando la interfaz de modelo de lenguaje grande (LLM) que la compañía presentó a fines de noviembre y la abrió para uso público, según el equipo de seguridad de la información Check Point Research.

Una buena mano [de ayuda] para terminar el guión con un buen alcance

Similar al ascenso de modelos como servicio En el mundo de la ciberdelincuencia, ChatGPT abre otra vía para que delincuentes menos calificados lancen ataques cibernéticos fácilmente, dijeron los investigadores en un reporte Viernes.

“Como sospechábamos, algunos de los casos mostraron claramente que muchos ciberdelincuentes que usan OpenAI no tienen ninguna habilidad de desarrollo”, escribieron. “Aunque las herramientas que presentamos en este informe son bastante básicas, es solo cuestión de tiempo hasta que los actores de amenazas más sofisticados mejoren la forma en que usan las herramientas basadas en IA para hacer el mal”.

No olvidemos que ChatGPT también es conocido por generar código con errores: Stack Overflow tiene software prohibido generado por el sistema de IA porque a menudo tiene fallas graves. Pero la tecnología está mejorando y el mes pasado un informe del gobierno finlandés prevenido Los sistemas de inteligencia artificial ya están en uso para la ingeniería social y en cinco años podrían generar un gran aumento en los ataques.

Aprendizaje automático de ChatGPT capacidades permitir que la herramienta basada en texto interactúe de manera conversacional, con los usuarios escribiendo una pregunta y recibiendo una respuesta en un formato de diálogo. La tecnología también puede responder preguntas de seguimiento y desafiar las respuestas de los usuarios.

La sofisticación de la oferta de OpenAI ha generado tanto preocuparse como entusiasmo, con instituciones educativas, organizadores de conferencias y otros grupos moviéndose para prohibir el uso de ChatGPT para todo, desde documentos escolares hasta trabajos de investigación.

Los analistas en diciembre demostrado cómo se puede usar ChatGPT para crear un flujo de infección completo, desde correos electrónicos de phishing hasta ejecutar un shell inverso. También usaron el chatbot para crear malware de puerta trasera que puede ejecutar secuencias de comandos dinámicamente creadas por la herramienta de IA. Al mismo tiempo, mostraron cómo puede ayudar a los profesionales de la ciberseguridad en su trabajo.

Ahora los ciberdelincuentes lo están probando.

Un hilo titulado "ChatGPT - Beneficios del malware" apareció el 29 de diciembre en un foro clandestino de piratería ampliamente utilizado, escrito por una persona que dijo que estaba experimentando con la interfaz para recrear cepas y técnicas de malware comunes. El escritor mostró el código de un ladrón de información basado en Python que busca y copia tipos de archivos y los carga en un servidor FTP codificado.

Check Point confirmó que el código era de un malware de ladrón básico.

En otra muestra, el escritor usó ChatGPT para crear un fragmento de Java simple que descarga un cliente SSH y telnet común que se ejecuta en secreto en un sistema que usa PowerShell.

“Este individuo parece ser un actor de amenazas orientado a la tecnología, y el propósito de sus publicaciones es mostrar a los ciberdelincuentes menos capacitados técnicamente cómo utilizar ChatGPT con fines maliciosos, con ejemplos reales que pueden usar de inmediato”, escribieron los investigadores.

El 21 de diciembre, una persona que se hace llamar USDoD publicó una herramienta de cifrado escrita en Python que incluye varias operaciones de cifrado, descifrado y firma. Escribió que la tecnología de OpenAI le dio una "buena [ayuda] mano para terminar el guión con un buen alcance".

Los investigadores escribieron que USDoD tiene habilidades de desarrollo limitadas pero está activo en la comunidad clandestina con un historial de venta de acceso a organizaciones comprometidas y bases de datos robadas.

Otro hilo de discusión publicado en un foro en la víspera de Año Nuevo habló sobre lo fácil que es usar ChatGPT para crear un mercado web oscuro para intercambiar herramientas ilegales como malware o drogas y datos robados como cuentas y tarjetas de pago.

El escritor del hilo publicó un código creado con ChatGPT que utiliza API de terceros para obtener precios actualizados de criptomonedas como Bitcoin, Monero y Ethereum para el sistema de pago del mercado.

Esta semana, los delincuentes hablaron en foros clandestinos sobre otras formas de aprovechar ChatGPT para varios esquemas, incluido su uso con la tecnología Dall-E 2 de OpenAI para crear arte para vender en línea a través de sitios legítimos como Etsy y crear un libro electrónico o un capítulo breve sobre un tema específico. que se pueden vender en línea.

Para obtener más información sobre cómo se puede abusar de ChatGPT, los investigadores le preguntaron a ChatGPT. En su respuesta, ChatGPT habló sobre el uso de la tecnología de inteligencia artificial para crear correos electrónicos de phishing y publicaciones en redes sociales convincentes para engañar a las personas para que proporcionen información personal o para que hagan clic en enlaces maliciosos o para crear videos y audio que podrían usarse para desinformación.

ChatGPT también defendió a su creador.

“Es importante tener en cuenta que OpenAI en sí no es responsable de ningún abuso de su tecnología por parte de terceros”, dijo el chatbot. “La empresa toma medidas para evitar que su tecnología se use con fines maliciosos, como exigir a los usuarios que acepten los términos del servicio que prohíben el uso de su tecnología con fines ilegales o dañinos”. ®