Os cibercriminosos estão dizendo ao ChatGPT para criar código malicioso

Republicado por Platão

seguidores: 0

Os cibercriminosos estão dizendo ao ChatGPT para criar código malicioso PlatoBlockchain Data Intelligence. Pesquisa vertical. Ai.

Os cibercriminosos estão começando a usar a popular tecnologia ChatGPT da OpenAI para desenvolver código de forma rápida e fácil para fins maliciosos.

Uma reviravolta em sites de hackers clandestinos revelou instâncias iniciais de criminosos desenvolvendo ferramentas de ameaças cibernéticas usando a interface de modelo de linguagem grande (LLM) que a empresa revelou no final de novembro e a abriu para uso público, de acordo com a Check Point Research.

Uma boa [ajuda] para terminar o roteiro com um bom escopo

Semelhante à ascensão de modelos como serviço no mundo do crime cibernético, o ChatGPT abre outro caminho para criminosos menos qualificados lançarem ataques cibernéticos com facilidade, disseram os pesquisadores em um Denunciar Sexta-feira.

“Como suspeitávamos, alguns dos casos mostraram claramente que muitos cibercriminosos que usam OpenAI não têm nenhuma habilidade de desenvolvimento”, escreveram eles. “Embora as ferramentas que apresentamos neste relatório sejam bastante básicas, é apenas uma questão de tempo até que agentes de ameaças mais sofisticados aprimorem a maneira como usam ferramentas baseadas em IA para o mal.”

Não vamos esquecer que o ChatGPT também é conhecido por gerar códigos com bugs – o Stack Overflow tem software proibido gerado pelo sistema de IA porque geralmente apresenta falhas graves. Mas a tecnologia está melhorando e no mês passado um relatório do governo finlandês advertido Os sistemas de IA já estão em uso para engenharia social e em cinco anos podem gerar um grande aumento nos ataques.

Aprendizado de máquina do ChatGPT capacidades permitem que a ferramenta baseada em texto interaja de forma conversacional, com os usuários digitando uma pergunta e recebendo uma resposta em formato de diálogo. A tecnologia também pode responder a perguntas de acompanhamento e desafiar as respostas dos usuários.

A sofisticação da oferta da OpenAI gerou tanto preocupar-se como entusiasmo, com instituições educacionais, organizadores de conferências e outros grupos movendo-se para proibir o uso do ChatGPT para tudo, desde trabalhos escolares até trabalhos de pesquisa.

Os analistas em dezembro demonstraram como o ChatGPT pode ser usado para criar todo um fluxo de infecção, desde e-mails de phishing até a execução de um shell reverso. Eles também usaram o chatbot para criar um malware backdoor que pode executar scripts dinamicamente criados pela ferramenta AI. Ao mesmo tempo, eles mostraram como isso pode ajudar os profissionais de segurança cibernética em seu trabalho.

Agora, os cibercriminosos estão testando.

Um tópico intitulado “ChatGPT – Benefícios do Malware” apareceu em 29 de dezembro em um fórum de hackers clandestino amplamente usado, escrito por uma pessoa que disse estar experimentando a interface para recriar variedades e técnicas comuns de malware. O escritor mostrou o código de um ladrão de informações baseado em Python que procura e copia tipos de arquivo e os carrega em um servidor FTP codificado.

A Check Point confirmou que o código era de um malware ladrão básico.

Em outro exemplo, o escritor usou o ChatGPT para criar um snippet Java simples que baixa um cliente SSH e telnet comum que é executado secretamente em um sistema usando o PowerShell.

“Esse indivíduo parece ser um agente de ameaças orientado para a tecnologia, e o objetivo de suas postagens é mostrar aos cibercriminosos menos capazes tecnicamente como utilizar o ChatGPT para fins maliciosos, com exemplos reais que eles podem usar imediatamente”, escreveram os pesquisadores.

Em 21 de dezembro, uma pessoa que se autodenomina USDoD postou uma ferramenta de criptografia escrita em Python que inclui várias operações de criptografia, descriptografia e assinatura. Ele escreveu que a tecnologia da OpenAI deu a ele uma “boa mão [ajudando] para terminar o script com um bom escopo”.

Os pesquisadores escreveram que o USDoD tem habilidades de desenvolvimento limitadas, mas é ativo na comunidade clandestina com um histórico de venda de acesso a organizações comprometidas e bancos de dados roubados.

Outro tópico de discussão publicado em um fórum na véspera de Ano Novo falou sobre como é fácil usar o ChatGPT para criar um mercado da dark web para negociar ferramentas ilegais como malware ou drogas e dados roubados como contas e cartões de pagamento.

O escritor do tópico publicou algum código criado com ChatGPT que usa APIs de terceiros para obter preços atualizados para criptomoedas como Bitcoin, Monero e Ethereum para o sistema de pagamento do mercado.

Esta semana, criminosos falaram em fóruns clandestinos sobre outras maneiras de aproveitar o ChatGPT para vários esquemas, incluindo usá-lo com a tecnologia Dall-E 2 da OpenAI para criar arte para vender online por meio de sites legítimos como o Etsy e criar um e-book ou capítulo curto sobre um tópico específico que podem ser vendidos online.

Para obter mais informações sobre como o ChatGPT pode ser abusado, os pesquisadores perguntaram ao ChatGPT. Em sua resposta, o ChatGPT falou sobre o uso da tecnologia AI para criar e-mails de phishing convincentes e postagens de mídia social para induzir as pessoas a fornecer informações pessoais ou clicar em links maliciosos ou criar vídeo e áudio que possam ser usados para desinformação.

O ChatGPT também defendeu seu criador.

“É importante observar que a própria OpenAI não é responsável por qualquer abuso de sua tecnologia por terceiros”, disse o chatbot. “A empresa toma medidas para evitar que sua tecnologia seja usada para fins maliciosos, como exigir que os usuários concordem com os termos de serviço que proíbem o uso de sua tecnologia para fins ilegais ou prejudiciais.” ®