I criminali informatici stanno dicendo a ChatGPT di creare codice dannoso

Ripubblicato da Platone

Seguaci: 0

I criminali informatici stanno dicendo a ChatGPT di creare codice dannoso PlatoBlockchain Data Intelligence. Ricerca verticale. Ai.

I criminali informatici stanno iniziando a utilizzare la famosissima tecnologia ChatGPT di OpenAI per sviluppare rapidamente e facilmente codice per scopi dannosi.

Un giro intorno ai siti di hacking sotterranei ha scoperto casi iniziali di miscredenti che sviluppano strumenti di minaccia informatica utilizzando l'interfaccia del modello di linguaggio di grandi dimensioni (LLM) che la società ha svelato alla fine di novembre e l'ha aperta all'uso pubblico, secondo il gruppo di infosec Check Point Research.

Una bella mano [aiutante] per finire la sceneggiatura con una buona portata

Simile all'ascesa di modelli as-a-service nel mondo del crimine informatico, ChatGPT apre un'altra strada per i truffatori meno qualificati per lanciare facilmente attacchi informatici, hanno affermato i ricercatori in un rapporto Venerdì.

"Come sospettavamo, alcuni dei casi hanno mostrato chiaramente che molti criminali informatici che utilizzano OpenAI non hanno alcuna capacità di sviluppo", hanno scritto. "Sebbene gli strumenti che presentiamo in questo rapporto siano piuttosto basilari, è solo una questione di tempo prima che attori delle minacce più sofisticati migliorino il modo in cui usano gli strumenti basati sull'intelligenza artificiale per fare del male".

Non dimentichiamo che ChatGPT è anche noto per la generazione di codice difettoso – Stack Overflow ha software vietato generato dal sistema di intelligenza artificiale perché spesso presenta gravi difetti. Ma la tecnologia sta migliorando e il mese scorso un rapporto del governo finlandese avvertito I sistemi di intelligenza artificiale sono già in uso per l'ingegneria sociale e in cinque anni potrebbero provocare un'enorme ondata di attacchi.

L'apprendimento automatico di ChatGPT funzionalità consentire allo strumento basato su testo di interagire in modo conversazionale, con gli utenti che digitano una domanda e ricevono una risposta in un formato di dialogo. La tecnologia può anche rispondere a domande di follow-up e mettere in discussione le risposte degli utenti.

La raffinatezza dell'offerta di OpenAI ha generato altrettanto preoccuparsi come entusiasmo, con istituzioni educative, organizzatori di conferenze e altri gruppi che si stanno muovendo per vietare l'uso di ChatGPT per qualsiasi cosa, dai documenti scolastici al lavoro di ricerca.

Gli analisti a dicembre dimostrato come ChatGPT può essere utilizzato per creare un intero flusso di infezione, dalle e-mail di phishing all'esecuzione di una shell inversa. Hanno anche utilizzato il chatbot per creare malware backdoor in grado di eseguire dinamicamente script creati dallo strumento AI. Allo stesso tempo, hanno mostrato come può aiutare i professionisti della sicurezza informatica nel loro lavoro.

Ora i criminali informatici lo stanno testando.

Un thread intitolato "ChatGPT - Vantaggi del malware" è apparso il 29 dicembre su un forum di hacking clandestino ampiamente utilizzato, scritto da una persona che ha affermato di star sperimentando l'interfaccia per ricreare ceppi e tecniche di malware comuni. L'autore ha mostrato il codice di un ladro di informazioni basato su Python che cerca e copia i tipi di file e li carica su un server FTP hardcoded.

Check Point ha confermato che il codice proveniva da un semplice malware stealer.

In un altro esempio, l'autore ha utilizzato ChatGPT per creare un semplice frammento Java che scarica un comune client SSH e telnet che viene eseguito segretamente su un sistema che utilizza PowerShell.

"Questo individuo sembra essere un attore di minacce orientato alla tecnologia e lo scopo dei suoi post è mostrare ai criminali informatici meno tecnicamente capaci come utilizzare ChatGPT per scopi dannosi, con esempi reali che possono utilizzare immediatamente", hanno scritto i ricercatori.

Il 21 dicembre, una persona che si fa chiamare USDoD ha pubblicato uno strumento di crittografia scritto in Python che include varie operazioni di crittografia, decrittografia e firma. Ha scritto che la tecnologia di OpenAI gli ha dato una "bella mano [d'aiuto] per finire la sceneggiatura con un buon ambito".

I ricercatori hanno scritto che USDoD ha capacità di sviluppo limitate ma è attivo nella comunità clandestina con una storia di vendita dell'accesso a organizzazioni compromesse e database rubati.

Un altro thread di discussione pubblicato su un forum alla vigilia di Capodanno ha parlato di quanto sia facile utilizzare ChatGPT per creare un mercato del dark web per scambiare strumenti illegali come malware o droghe e dati rubati come account e carte di pagamento.

L'autore del thread ha pubblicato del codice creato con ChatGPT che utilizza API di terze parti per ottenere prezzi aggiornati per criptovalute come Bitcoin, Monero ed Ethereum per il sistema di pagamento del mercato.

Questa settimana, i miscredenti hanno parlato su forum clandestini di altri modi per sfruttare ChatGPT per vari schemi, incluso l'utilizzo con la tecnologia Dall-E 2 di OpenAI per creare opere d'arte da vendere online attraverso siti legittimi come Etsy e la creazione di un ebook o un breve capitolo su un argomento specifico che possono essere venduti online.

Per ottenere maggiori informazioni su come si può abusare di ChatGPT, i ricercatori hanno chiesto a ChatGPT. Nella sua risposta, ChatGPT ha parlato dell'utilizzo della tecnologia AI per creare convincenti e-mail di phishing e post sui social media per indurre le persone a fornire informazioni personali o fare clic su collegamenti dannosi o per creare video e audio che potrebbero essere utilizzati per disinformazione.

ChatGPT ha anche difeso il suo creatore.

"È importante notare che la stessa OpenAI non è responsabile per eventuali abusi della sua tecnologia da parte di terzi", ha affermato il chatbot. "L'azienda adotta misure per impedire che la sua tecnologia venga utilizzata per scopi dannosi, come richiedere agli utenti di accettare termini di servizio che vietano l'uso della sua tecnologia per scopi illegali o dannosi". ®