Cybercrooks Are Telling ChatGPT To Create Malicious Code

Ponovno objavil Platon

Spremljevalci: 0

Cybercrooks are telling ChatGPT to create malicious code PlatoBlockchain Data Intelligence. Vertical Search. Ai.

Kibernetski kriminalci začenjajo uporabljati izjemno priljubljeno tehnologijo OpenAI ChatGPT za hitro in preprosto razvijanje kode za zlonamerne namene.

Vrtenje okoli podzemnih hekerskih mest je odkrilo začetne primere nepridipravov, ki so razvijali orodja za kibernetsko grožnjo z uporabo vmesnika velikega jezikovnega modela (LLM), ki ga je podjetje predstavilo konec novembra in ga odprlo za javno uporabo, glede na informacijsko zaščito Check Point Research.

Lepa [pomoč] roka za dokončanje scenarija z lepim obsegom

Podobno kot vzpon modeli kot storitev v svetu kibernetske kriminalitete ChatGPT odpira še eno pot za manj usposobljene prevarante, da zlahka izvedejo kibernetske napade, so povedali raziskovalci v poročilo Petek.

"Kot smo domnevali, so nekateri primeri jasno pokazali, da številni kibernetski kriminalci, ki uporabljajo OpenAI, nimajo nobenih razvojnih sposobnosti," so zapisali. "Čeprav so orodja, ki jih predstavljamo v tem poročilu, precej osnovna, je samo vprašanje časa, kdaj bodo bolj izpopolnjeni akterji groženj izboljšali način, kako uporabljajo orodja, ki temeljijo na AI, za zlo."

Ne pozabimo, da je ChatGPT razvpit tudi po ustvarjanju hroščaste kode – Stack Overflow ima prepovedano programsko opremo generira sistem umetne inteligence, ker ima pogosto resne napake. Toda tehnologija se izboljšuje in prejšnji mesec je finska vlada objavila poročilo Opozoril Sistemi umetne inteligence se že uporabljajo za socialni inženiring in v petih letih bi lahko povzročili velik porast napadov.

Strojno učenje ChatGPT Zmogljivosti besedilnemu orodju omogoči pogovorno interakcijo, pri čemer uporabniki vnesejo vprašanje in prejmejo odgovor v obliki dialoga. Tehnologija lahko odgovarja tudi na dodatna vprašanja in izziva odgovore uporabnikov.

Prefinjenost ponudbe OpenAI je ustvarila toliko skrbi kot navdušenje, z izobraževalnimi ustanovami, organizatorji konferenc in drugimi skupinami, ki si prizadevajo prepovedati uporabo ChatGPT za vse, od šolskih člankov do raziskovalnega dela.

Analitiki decembra Dokazano kako se lahko ChatGPT uporabi za ustvarjanje celotnega toka okužbe, od lažnega predstavljanja e-pošte do izvajanja obratne lupine. Klepetalni robot so uporabili tudi za izdelavo zakulisne zlonamerne programske opreme, ki lahko dinamično izvaja skripte, ustvarjene z orodjem AI. Hkrati so pokazali, kako lahko strokovnjakom za kibernetsko varnost pomaga pri njihovem delu.

Zdaj ga preizkušajo kibernetski kriminalci.

Nit z naslovom »ChatGPT – Prednosti zlonamerne programske opreme« se je pojavila 29. decembra na široko uporabljanem podzemnem hekerskem forumu, ki jo je napisala oseba, ki je rekla, da eksperimentirajo z vmesnikom za poustvarjanje običajnih vrst in tehnik zlonamerne programske opreme. Pisatelj je pokazal kodo krajca informacij, ki temelji na Pythonu, ki išče in kopira vrste datotek ter jih nalaga v kodiran strežnik FTP.

Check Point je potrdil, da je bila koda iz osnovne zlonamerne programske opreme.

V drugem vzorcu je pisec uporabil ChatGPT za ustvarjanje preprostega izrezka Java, ki prenese običajnega odjemalca SSH in telnet, ki se na skrivaj izvaja v sistemu z uporabo PowerShell.

"Zdi se, da je ta posameznik tehnološko usmerjen igralec groženj in namen njegovih objav je tehnično manj sposobnim kiberkriminalcem pokazati, kako uporabiti ChatGPT za zlonamerne namene, z resničnimi primeri, ki jih lahko takoj uporabijo," so zapisali raziskovalci.

21. decembra je oseba, ki se imenuje USDoD, objavila orodje za šifriranje, napisano v Pythonu, ki vključuje različne operacije šifriranja, dešifriranja in podpisovanja. Zapisal je, da mu je tehnologija OpenAI dala "lepo [pomoč] roko, da dokonča scenarij z lepim obsegom."

Raziskovalci so zapisali, da ima USDoD omejene razvojne sposobnosti, vendar je aktiven v podzemni skupnosti z zgodovino prodaje dostopa do ogroženih organizacij in ukradenih baz podatkov.

Druga nit razprave, objavljena na forumu na silvestrovo, je govorila o tem, kako enostavno je uporabiti ChatGPT za ustvarjanje temnega spletnega trga za trgovanje z nezakonitimi orodji, kot je zlonamerna programska oprema ali zdravila, ter ukradenimi podatki, kot so računi in plačilne kartice.

Avtor teme je objavil nekaj kode, ustvarjene s ChatGPT, ki uporablja API-je tretjih oseb za pridobivanje posodobljenih cen za kriptovalute, kot so Bitcoin, Monero in Ethereum, za plačilni sistem na trgu.

Ta teden so se nepridipravi na podtalnih forumih pogovarjali o drugih načinih, kako uporabiti ChatGPT za različne sheme, vključno z njegovo uporabo s tehnologijo OpenAI Dall-E 2 za ustvarjanje umetnosti za spletno prodajo prek zakonitih spletnih mest, kot je Etsy, in ustvarjanje e-knjige ali kratkega poglavja o določeni temi ki se lahko prodaja na spletu.

Da bi dobili več informacij o tem, kako se lahko ChatGPT zlorabi, so raziskovalci vprašali ChatGPT. ChatGPT je v svojem odgovoru govoril o uporabi tehnologije umetne inteligence za ustvarjanje prepričljivih e-poštnih sporočil z lažnim predstavljanjem in objav v družabnih medijih, da bi ljudi pretentali, da bi izdali osebne podatke ali kliknili zlonamerne povezave ali ustvarili video in zvok, ki bi se lahko uporabili za dezinformacije.

ChatGPT je tudi branil svojega ustvarjalca.

"Pomembno je omeniti, da OpenAI sam ni odgovoren za kakršno koli zlorabo svoje tehnologije s strani tretjih oseb," je dejal chatbot. "Podjetje sprejema ukrepe za preprečevanje uporabe njegove tehnologije za zlonamerne namene, kot je zahteva od uporabnikov, da se strinjajo s pogoji storitve, ki prepovedujejo uporabo njegove tehnologije za nezakonite ali škodljive namene." ®