Cybercriminelen vertellen ChatGPT om kwaadaardige code te maken

Heruitgegeven door Plato

volgers: 0

Cybercriminelen vertellen ChatGPT om kwaadaardige code PlatoBlockchain Data Intelligence te maken. Verticaal zoeken. Ai.

Cybercriminelen beginnen OpenAI's razend populaire ChatGPT-technologie te gebruiken om snel en gemakkelijk code te ontwikkelen voor kwaadaardige doeleinden.

Een rondgang langs ondergrondse hacksites bracht de eerste gevallen aan het licht van onverlaten die tools voor cyberdreiging ontwikkelden met behulp van de LLM-interface (Large Language Model) die het bedrijf eind november onthulde en openstelde voor openbaar gebruik, volgens infosec-outfit Check Point Research.

Een mooie [helpende] hand om het script met een mooie strekking af te ronden

Vergelijkbaar met de opkomst van as-a-service-modellen in de wereld van cybercriminaliteit opent ChatGPT een andere weg voor minder ervaren boeven om gemakkelijk cyberaanvallen uit te voeren, aldus de onderzoekers in een verslag Vrijdag.

"Zoals we vermoedden, toonden sommige gevallen duidelijk aan dat veel cybercriminelen die OpenAI gebruiken helemaal geen ontwikkelingsvaardigheden hebben", schreven ze. "Hoewel de tools die we in dit rapport presenteren vrij eenvoudig zijn, is het slechts een kwestie van tijd totdat meer geavanceerde bedreigingsactoren de manier verbeteren waarop ze op AI gebaseerde tools ten kwade gebruiken."

Laten we niet vergeten dat ChatGPT ook berucht is vanwege het genereren van buggy-code - Stack Overflow wel verboden software gegenereerd door het AI-systeem omdat het vaak ernstige gebreken vertoont. Maar de techniek gaat steeds beter en vorige maand rapporteerde een Finse regering waarschuwde AI-systemen worden al gebruikt voor social engineering en kunnen binnen vijf jaar een enorme golf van aanvallen veroorzaken.

Machine learning van ChatGPT mogelijkheden de op tekst gebaseerde tool in staat stellen op een gemoedelijke manier te communiceren, waarbij gebruikers een vraag typen en een antwoord krijgen in dialoogvorm. De technologie kan ook vervolgvragen beantwoorden en de antwoorden van gebruikers uitdagen.

De verfijning van het aanbod van OpenAI heeft evenveel opgeleverd zorgen als enthousiasme, met onderwijsinstellingen, organisatoren van conferenties en andere groepen die het gebruik van ChatGPT willen verbieden voor alles, van schoolkranten tot onderzoekswerk.

De analisten in december gedemonstreerd hoe ChatGPT kan worden gebruikt om een volledige infectiestroom te creëren, van phishing-e-mails tot het uitvoeren van een omgekeerde shell. Ze gebruikten de chatbot ook om backdoor-malware te bouwen die dynamisch scripts kan uitvoeren die door de AI-tool zijn gemaakt. Tegelijkertijd lieten ze zien hoe het cyberbeveiligingsprofessionals kan helpen bij hun werk.

Nu testen cybercriminelen het.

Een thread met de titel "ChatGPT - Benefits of Malware" verscheen op 29 december op een veelgebruikt ondergronds hackforum, geschreven door een persoon die zei dat ze aan het experimenteren waren met de interface om veelvoorkomende malwarestammen en -technieken na te bootsen. De schrijver liet de code zien van een op Python gebaseerde informatie-dief die bestandstypen zoekt, kopieert en uploadt naar een hardgecodeerde FTP-server.

Check Point bevestigde dat de code afkomstig was van eenvoudige stealer-malware.

In een ander voorbeeld gebruikte de schrijver ChatGPT om een eenvoudig Java-fragment te maken dat een gemeenschappelijke SSH- en telnet-client downloadt die in het geheim wordt uitgevoerd op een systeem met PowerShell.

"Deze persoon lijkt een technisch georiënteerde bedreigingsactor te zijn, en het doel van zijn berichten is om minder technisch bekwame cybercriminelen te laten zien hoe ze ChatGPT kunnen gebruiken voor kwaadaardige doeleinden, met echte voorbeelden die ze onmiddellijk kunnen gebruiken", schreven de onderzoekers.

Op 21 december plaatste een persoon die zichzelf USDoD noemde een in Python geschreven versleutelingstool die verschillende bewerkingen voor versleuteling, ontsleuteling en ondertekening omvat. Hij schreef dat de technologie van OpenAI hem een "leuke [helpende] hand gaf om het script met een mooie reikwijdte af te ronden".

De onderzoekers schreven dat USDoD beperkte ontwikkelingsvaardigheden heeft, maar actief is in de ondergrondse gemeenschap met een geschiedenis van het verkopen van toegang tot gecompromitteerde organisaties en gestolen databases.

Een andere discussiethread die op oudejaarsavond op een forum werd gepubliceerd, ging over hoe gemakkelijk het is om ChatGPT te gebruiken om een darkweb-marktplaats te creëren voor de handel in illegale tools zoals malware of drugs en gestolen gegevens zoals accounts en betaalkaarten.

De schrijver van de thread heeft code gepubliceerd die is gemaakt met ChatGPT en die API's van derden gebruikt om actuele prijzen te krijgen voor cryptocurrency zoals Bitcoin, Monero en Ethereum voor het betalingssysteem van de markt.

Deze week spraken onverlaten op ondergrondse fora over andere manieren om ChatGPT te gebruiken voor verschillende plannen, waaronder het gebruik ervan met OpenAI's Dall-E 2-technologie om kunst te maken om online te verkopen via legitieme sites zoals Etsy en het maken van een e-boek of kort hoofdstuk over een specifiek onderwerp die online verkocht kunnen worden.

Om meer informatie te krijgen over hoe ChatGPT kan worden misbruikt, vroegen de onderzoekers aan ChatGPT. In zijn antwoord sprak ChatGPT over het gebruik van de AI-technologie om overtuigende phishing-e-mails en posts op sociale media te maken om mensen te misleiden om persoonlijke informatie weg te geven of om op kwaadaardige links te klikken of om video en audio te maken die kunnen worden gebruikt voor verkeerde informatie.

ChatGPT verdedigde ook zijn maker.

"Het is belangrijk op te merken dat OpenAI zelf niet verantwoordelijk is voor misbruik van zijn technologie door derden", aldus de chatbot. "Het bedrijf onderneemt stappen om te voorkomen dat zijn technologie wordt gebruikt voor kwaadaardige doeleinden, door gebruikers bijvoorbeeld te verplichten akkoord te gaan met de servicevoorwaarden die het gebruik van hun technologie voor illegale of schadelijke doeleinden verbieden." ®