ChatGPT inizierà a scrivere malware killer?

ChatGPT non ha scritto questo articolo, l'ho fatto io. Né l'ho chiesto per rispondere alla domanda dal titolo: lo farò. Ma immagino che sia proprio quello che potrebbe dire ChatGPT. Fortunatamente, sono rimasti alcuni errori grammaticali per dimostrare che non sono un robot. Ma questo è proprio il tipo di cosa che ChatGPT potrebbe fare anche per sembrare reale.

Questa attuale tecnologia robotica hipster è un fantasioso autorisponditore che è abbastanza buono da produrre risposte ai compiti, documenti di ricerca, risposte legali, diagnosi mediche e una miriade di altre cose che hanno superato il "test dell'olfatto" se trattate come se fossero opera di attori umani. Ma si aggiungerà in modo significativo alle centinaia di migliaia di campioni di malware che vediamo ed elaboriamo quotidianamente o sarà un falso facilmente individuabile?

In un duello macchina contro macchina che i tecnorati bramano da anni, ChatGPT sembra un po' "troppo bello" per non essere visto come un serio concorrente che potrebbe inceppare i macchinari avversari. Con sia l'attaccante che il difensore che utilizzano i più recenti modelli di machine learning (ML), questo doveva accadere.

Tranne che, per costruire un buon macchinario antimalware, non è solo robot su robot. È sempre stato necessario un intervento umano: lo abbiamo stabilito molti anni fa, con dispiacere dei fornitori di soli ML che entrano nella mischia del marketing, il tutto insistendo nel confondere le acque riferendosi ai loro prodotti solo ML come utilizzando "AI".

Sebbene i modelli ML siano stati utilizzati per front-end di triage grossolani fino ad analisi più complesse, non sono all'altezza di essere un grande pulsante rosso "uccidi malware". Il malware non è così semplice.

Ma per essere sicuri, ho contattato alcuni dei guru del machine learning di ESET e ho chiesto:

D. Quanto sarà efficace il malware generato da ChatGPT o è possibile?

R. Non siamo molto vicini al "malware completo generato dall'intelligenza artificiale", sebbene ChatGPT sia abbastanza bravo nel suggerire il codice, generare esempi di codice e frammenti, eseguire il debug e ottimizzare il codice e persino automatizzare la documentazione.

D. E le funzionalità più avanzate?

R. Non sappiamo quanto sia efficace nell'offuscamento. Alcuni degli esempi riferirsi a linguaggi di scripting come Python. Ma abbiamo visto ChatGPT "invertire" il significato di codice disassemblato collegato a IDA Pro, il che è interessante. Tutto sommato, è probabilmente uno strumento utile per assistere un programmatore, e forse è un primo passo verso la creazione di malware più completo, ma non ancora.

D. Quanto è bello adesso?

R. ChatGPT è davvero impressionante, considerando che si tratta di un Large Language Model, e le sue capacità sorprendono anche i creatori di tali modelli. Tuttavia, attualmente è molto superficiale, commette errori, crea risposte che sono più vicine alle allucinazioni (cioè risposte fabbricate) e non è veramente affidabile per qualcosa di serio. Ma sembra che stia guadagnando terreno rapidamente, a giudicare dallo sciame di tecnici che mettono le dita dei piedi nell'acqua.

D. Cosa può fare in questo momento: qual è il "frutto basso" per la piattaforma?

R. Per ora, vediamo tre probabili aree di adozione e utilizzo dannoso:

• Out-phishing i phisher

Se pensi che il phishing sia sembrato convincente in passato, aspetta. Dal sondare più fonti di dati e mescolarle senza soluzione di continuità per vomitare e-mail appositamente create che saranno molto difficili da rilevare in base al loro contenuto, e le percentuali di successo promettono di essere migliori nell'ottenere clic. E non sarai in grado di eliminarli frettolosamente a causa di errori linguistici sciatti; la loro conoscenza della tua lingua madre è probabilmente migliore della tua. Dal momento che un'ampia fascia degli attacchi più sgradevoli inizia con qualcuno che fa clic su un collegamento, aspettati che l'impatto correlato aumenti.

• Automazione della negoziazione del riscatto

Gli operatori di ransomware che parlano in modo fluido sono probabilmente rari, ma l'aggiunta di un po' di brillantezza ChatGPT alle comunicazioni potrebbe ridurre il carico di lavoro degli aggressori che sembrano legittimi durante le negoziazioni. Ciò significherà anche meno errori che potrebbero consentire ai difensori di individuare le vere identità e posizioni degli operatori.

• Le truffe telefoniche migliorano

Con la generazione del linguaggio naturale sempre più, beh, i truffatori naturali e cattivi sembreranno essere della tua zona e avere in mente i tuoi migliori interessi. Questo è uno dei primi passaggi di inserimento in una truffa sulla fiducia: sembrare più sicuri facendo sembrare che siano una delle tue persone.

Se tutto questo suona come potrebbe essere in futuro, non scommetterci. Non succederà tutto in una volta, ma i criminali stanno per migliorare molto. Vedremo se la difesa è all'altezza della sfida.

• Distribuzione di contenuti basati su SEO e PR. Ricevi amplificazione oggi.
• Platoblockchain. Web3 Metaverse Intelligence. Conoscenza amplificata. Accedi qui.
• Fonte: https://www.welivesecurity.com/2023/02/20/will-chatgpt-start-writing-killer-malware/