Cyberskurkar säger åt ChatGPT att skapa skadlig kod

Återutgiven av Platon

anhängare: 0

Cyberskurkar säger åt ChatGPT att skapa skadlig kod PlatoBlockchain Data Intelligence. Vertikal sökning. Ai.

Cyberkriminella börjar använda OpenAI:s omåttligt populära ChatGPT-teknik för att snabbt och enkelt utveckla kod för skadliga syften.

En snurr runt underjordiska hacksajter avslöjade initiala tillfällen av skurkar som utvecklade verktyg för cyberhot med hjälp av gränssnittet för stora språkmodeller (LLM) som företaget presenterade i slutet av november och öppnade det för allmänt bruk, enligt infosec-outfiten Check Point Research.

En trevlig [hjälpande] hand för att avsluta manuset med en fin omfattning

Liknar uppkomsten av as-a-service-modeller i cyberbrottsvärlden öppnar ChatGPT upp en annan väg för mindre skickliga skurkar att enkelt starta cyberattacker, sa forskarna i en rapport Fredag.

"Som vi misstänkte visade några av fallen tydligt att många cyberbrottslingar som använder OpenAI inte har någon utvecklingsförmåga alls", skrev de. "Även om verktygen som vi presenterar i den här rapporten är ganska grundläggande, är det bara en tidsfråga tills mer sofistikerade hotaktörer förbättrar sättet de använder AI-baserade verktyg för dåligt."

Låt oss inte glömma att ChatGPT också är ökänt för att generera buggykod – Stack Overflow har förbjuden programvara genereras av AI-systemet eftersom det ofta är allvarligt defekt. Men tekniken förbättras och förra månaden en finsk regeringsrapport varnade AI-system används redan för social ingenjörskonst och kan om fem år leda till en enorm ökning av attacker.

ChatGPT:s maskininlärning kapacitet gör det möjligt för det textbaserade verktyget att interagera på ett konversationssätt, med användare som skriver en fråga och får svar i ett dialogformat. Tekniken kan också svara på följdfrågor och utmana användarnas svar.

Det sofistikerade i OpenAI:s erbjudande har genererat lika mycket oro som entusiasm, med utbildningsinstitutioner, konferensarrangörer och andra grupper som flyttade för att förbjuda användningen av ChatGPT för allt från skoluppsatser till forskningsarbete.

Analytikerna i december demonstreras hur ChatGPT kan användas för att skapa ett helt infektionsflöde, från nätfiske-e-postmeddelanden till att köra ett omvänt skal. De använde också chatbot för att bygga bakdörr skadlig kod som dynamiskt kan köra skript skapade av AI-verktyget. Samtidigt visade de hur det kan hjälpa cybersäkerhetsproffs i deras arbete.

Nu testar cyberkriminella det.

En tråd med titeln "ChatGPT – Benefits of Malware" dök upp den 29 december på ett flitigt använt underjordiskt hackingforum skrivet av en person som sa att de experimenterade med gränssnittet för att återskapa vanliga skadliga stammar och tekniker. Skribenten visade koden för en Python-baserad informationsstöldare som söker efter och kopierar filtyper och laddar upp dem till en hårdkodad FTP-server.

Check Point bekräftade att koden kom från en grundläggande skadlig programvara.

I ett annat exempel använde författaren ChatGPT för att skapa ett enkelt Java-kodavsnitt som laddar ner en vanlig SSH- och telnet-klient som körs i hemlighet på ett system som använder PowerShell.

"Den här individen verkar vara en teknikorienterad hotaktör, och syftet med hans inlägg är att visa mindre tekniskt kapabla cyberkriminella hur man använder ChatGPT för skadliga syften, med verkliga exempel som de omedelbart kan använda", skrev forskarna.

Den 21 december publicerade en person som kallar sig USDoD ett krypteringsverktyg skrivet i Python som inkluderar olika kryptering, dekryptering och signering. Han skrev att OpenAI:s teknologi gav honom en "snäll [hjälpande] hand för att avsluta manuset med en fin omfattning."

Forskarna skrev att USDoD har begränsade utvecklingsförmåga men är aktiv i det underjordiska samhället med en historia av att sälja tillgång till komprometterade organisationer och stulna databaser.

En annan diskussionstråd som publicerades på ett forum på nyårsafton pratade om hur lätt det är att använda ChatGPT för att skapa en mörk webbmarknad för att handla med illegala verktyg som skadlig programvara eller droger och stulen data som konton och betalkort.

Trådens författare publicerade en del kod skapad med ChatGPT som använder tredje parts API:er för att få uppdaterade priser för sådana kryptovalutor som Bitcoin, Monero och Ethereum för marknadsplatsens betalningssystem.

Den här veckan pratade skurkar på underjordiska forum om andra sätt att utnyttja ChatGPT för olika system, inklusive att använda den med OpenAI:s Dall-E 2-teknik för att skapa konst att sälja online via legitima webbplatser som Etsy och skapa en e-bok eller ett kort kapitel om ett specifikt ämne som kan säljas online.

För att få mer information om hur ChatGPT kan missbrukas frågade forskarna ChatGPT. I sitt svar pratade ChatGPT om att använda AI-tekniken för att skapa övertygande nätfiske-e-post och inlägg på sociala medier för att lura människor att ge bort personlig information eller att klicka på skadliga länkar eller för att skapa video och ljud som kan användas för desinformation.

ChatGPT försvarade också sin skapare.

"Det är viktigt att notera att OpenAI själv inte är ansvarig för eventuellt missbruk av sin teknologi av tredje part", sa chatboten. "Företaget vidtar åtgärder för att förhindra att dess teknik används i skadliga syften, som att kräva att användare godkänner användarvillkor som förbjuder användning av dess teknologi för olagliga eller skadliga ändamål." ®