Küberkelmid käsivad ChatGPT-l pahatahtlikku koodi luua

Taasavaldanud Platon

järgijaid: 0

Küberkelmid käsivad ChatGPT-l luua pahatahtliku koodi PlatoBlockchain Data Intelligence. Vertikaalne otsing. Ai.

Küberkurjategijad hakkavad kasutama OpenAI metsikult populaarset ChatGPT tehnoloogiat, et pahatahtlikel eesmärkidel kiiresti ja lihtsalt koodi välja töötada.

Maa-aluste häkkimissaitide ümber käimine paljastas infoseci üksuse Check Point Research andmetel esialgsed juhtumid, kus kurjategijad töötasid välja küberohutööriistu, kasutades suure keelemudeli (LLM) liidest, mille ettevõte avalikustas novembri lõpus ja avas selle avalikuks kasutamiseks.

Kena [abistav] käsi stsenaariumi kena ulatusega lõpetamiseks

Sarnaselt tõusuga teenusena kasutatavad mudelid Küberkuritegevuse maailmas avab ChatGPT veel ühe võimaluse vähem kvalifitseeritud kelmidele küberrünnakute hõlpsaks käivitamiseks, ütlesid teadlased aru Reedel.

"Nagu kahtlustasime, näitasid mõned juhtumid selgelt, et paljudel OpenAI-d kasutavatel küberkurjategijatel pole üldse arendusoskusi," kirjutasid nad. "Kuigi selles aruandes esitatud tööriistad on üsna lihtsad, on ainult aja küsimus, kuni keerukamad ohus osalejad parandavad viisi, kuidas nad AI-põhiseid tööriistu halvaks kasutavad."

Ärgem unustagem, et ChatGPT on kurikuulus ka vigase koodi genereerimise poolest – Stack Overflow on keelatud tarkvara AI-süsteemi poolt loodud, kuna see on sageli tõsiselt vigane. Kuid tehnoloogia paraneb ja eelmisel kuul Soome valitsuse aruanne hoiatas AI-süsteeme kasutatakse juba sotsiaalseks inseneriks ja viie aasta pärast võivad rünnakud tohutult suureneda.

ChatGPT masinõpe võimeid võimaldavad tekstipõhisel tööriistal suhelda vestluse teel, kus kasutajad sisestavad küsimuse ja saavad vastuse dialoogivormingus. Tehnoloogia suudab vastata ka järelküsimustele ja vaidlustada kasutajate vastuseid.

OpenAI pakkumise keerukus on loonud sama palju muretsema entusiastlikult, kui haridusasutused, konverentside korraldajad ja teised grupid hakkavad keelustama ChatGPT kasutamist kõigeks alates koolitöödest kuni uurimistööni.

Analüütikud detsembris Näidatud kuidas saab ChatGPT-d kasutada kogu nakkusvoo loomiseks, alates andmepüügimeilidest kuni pöördkesta käitamiseni. Samuti kasutasid nad vestlusrobotit tagaukse pahavara loomiseks, mis suudab AI-tööriista loodud skripte dünaamiliselt käitada. Samal ajal näitasid nad, kuidas see võib küberturvalisuse proffe nende töös aidata.

Nüüd katsetavad seda küberkurjategijad.

Lõim pealkirjaga "ChatGPT – pahavara eelised" avanes 29. detsembril laialdaselt kasutatavas maa-aluses häkkimisfoorumis, mille kirjutas inimene, kes ütles, et katsetab liidest, et taastada levinud pahavara tüved ja tehnikad. Kirjutaja näitas Pythonil põhineva teabevarasti koodi, mis otsib ja kopeerib failitüüpe ning laadib need üles kõvakoodiga FTP-serverisse.

Check Point kinnitas, et kood pärineb tavalisest varguse pahavarast.

Teises näites kasutas kirjutaja ChatGPT-d, et luua lihtne Java-jupp, mis laadib alla tavalise SSH- ja telneti-kliendi, mida käitatakse salaja PowerShelli kasutavas süsteemis.

"See isik näib olevat tehnoloogiale orienteeritud ohutegija ja tema postituste eesmärk on näidata tehniliselt vähem võimekatele küberkurjategijatele, kuidas ChatGPT-d pahatahtlikel eesmärkidel kasutada, koos tõeliste näidetega, mida nad saavad kohe kasutada," kirjutasid teadlased.

21. detsembril postitas end USDoD-ks nimetav inimene Pythonis kirjutatud krüpteerimistööriista, mis sisaldab erinevaid krüpteerimis-, dekrüpteerimis- ja allkirjastamistoiminguid. Ta kirjutas, et OpenAI tehnoloogia andis talle "kena [abi]käe skripti viimistlemiseks kena ulatusega".

Teadlased kirjutasid, et USDoD-l on piiratud arendusoskused, kuid ta on aktiivne maa-aluses kogukonnas, müües juurdepääsu ohustatud organisatsioonidele ja varastatud andmebaasidele.

Teises uusaastaõhtul foorumis avaldatud arutelulõimes räägiti sellest, kui lihtne on kasutada ChatGPT-d tumeda veebituru loomiseks, et kaubelda ebaseaduslike tööriistadega, nagu pahavara või narkootikumid, ja varastatud andmetega, nagu kontod ja maksekaardid.

Lõime kirjutaja avaldas ChatGPT-ga loodud koodi, mis kasutab kolmanda osapoole API-sid, et saada turu maksesüsteemi jaoks ajakohaseid hindu selliste krüptovaluutade jaoks nagu Bitcoin, Monero ja Ethereum.

Sel nädalal rääkisid kurjategijad põrandaalustel foorumitel muudest viisidest, kuidas ChatGPT-d erinevate skeemide jaoks kasutada, sealhulgas kasutada seda koos OpenAI Dall-E 2 tehnoloogiaga kunsti loomiseks, mida müüa veebis seaduslike saitide (nt Etsy) kaudu, ja e-raamatu või lühikese peatüki loomist konkreetsel teemal. mida saab internetis müüa.

ChatGPT-i kuritarvitamise kohta lisateabe saamiseks küsisid teadlased ChatGPT-d. ChatGPT rääkis oma vastuses tehisintellekti tehnoloogia kasutamisest veenvate andmepüügimeilide ja sotsiaalmeediapostituste loomiseks, et meelitada inimesi välja andma isiklikku teavet või klõpsama pahatahtlikke linke või looma videot ja heli, mida saaks kasutada valeinformatsiooniks.

ChatGPT kaitses ka oma loojat.

"Oluline on märkida, et OpenAI ise ei vastuta oma tehnoloogia kuritarvitamise eest kolmandate osapoolte poolt," ütles vestlusbot. "Ettevõte astub samme, et takistada oma tehnoloogia kasutamist pahatahtlikel eesmärkidel, näiteks nõudes kasutajatelt nõustumist teenusetingimustega, mis keelavad selle tehnoloogia kasutamise ebaseaduslikel või kahjulikel eesmärkidel." ®