Cybercrooks Are Telling ChatGPT To Create Malicious Code

Újra kiadta Platón

Követő: 0

Cybercrooks are telling ChatGPT to create malicious code PlatoBlockchain Data Intelligence. Vertical Search. Ai.

A kiberbűnözők kezdik használni az OpenAI rendkívül népszerű ChatGPT technológiáját, hogy gyorsan és egyszerűen fejlesszenek kódot rosszindulatú célokra.

A Check Point Research infosec szervezet szerint a földalatti hackeroldalak körüli pörgés során feltárták azokat a kezdeti eseteket, amikor gonosztevők kiberfenyegetési eszközöket fejlesztettek ki a nagy nyelvi modell (LLM) interfész segítségével, amelyet a vállalat november végén mutatott be, és megnyitotta azt nyilvános használatra.

Egy szép [segítő] kéz a forgatókönyv szép terjedelmével történő befejezéséhez

Hasonló a felemelkedéséhez mint szolgáltatás modellek a kiberbűnözés világában a ChatGPT egy újabb utat nyit meg a kevésbé képzett szélhámosok számára, hogy könnyen indíthassanak kibertámadásokat. jelentést Péntek.

„Ahogy gyanítottuk, az esetek egy része egyértelműen azt mutatta, hogy sok OpenAI-t használó kiberbűnözőnek egyáltalán nincs fejlesztési készsége” – írták. „Bár az ebben a jelentésben bemutatott eszközök meglehetősen alapvetőek, csak idő kérdése, hogy a kifinomultabb fenyegetés szereplők fejlesztik az AI-alapú eszközök rossz felhasználásának módját.”

Ne felejtsük el, hogy a ChatGPT arról is híres, hogy hibás kódokat generál – a Stack Overflow tiltott szoftver az AI-rendszer generálja, mert gyakran súlyos hibás. De a technológia fejlődik, és a múlt hónapban egy finn kormány jelentést figyelmeztetett A mesterséges intelligenciarendszereket már használják a szociális tervezésre, és öt éven belül hatalmas támadások növekedéséhez vezethetnek.

A ChatGPT gépi tanulása képességek lehetővé teszi a szöveg alapú eszköz számára, hogy párbeszédes módon kommunikáljon, a felhasználók begépeljenek egy kérdést, és párbeszédes formátumban kapjanak választ. A technológia további kérdésekre is válaszolhat, és megkérdőjelezi a felhasználók válaszait.

Az OpenAI kínálatának kifinomultsága ennyit generált aggódik lelkesedéssel, az oktatási intézmények, konferencia-szervezők és más csoportok megtiltják a ChatGPT használatát az iskolai dolgozatoktól a kutatási munkákig.

Az elemzők decemberben igazolták hogyan használható a ChatGPT egy teljes fertőzési folyamat létrehozására, az adathalász e-mailektől a fordított shell futtatásáig. A chatbotot használták arra is, hogy olyan backdoor rosszindulatú programokat hozzanak létre, amelyek képesek dinamikusan futtatni az AI-eszköz által létrehozott szkripteket. Ugyanakkor megmutatták, hogyan segítheti a kiberbiztonsági szakemberek munkáját.

Most a kiberbűnözők tesztelik.

A „ChatGPT – A rosszindulatú programok előnyei” című szál december 29-én bukkant fel egy széles körben használt földalatti hackerfórumon, amelyet egy olyan személy írt, aki azt mondta, hogy kísérleteznek a felülettel, hogy újra létrehozzák a rosszindulatú programok általános törzseit és technikáit. Az író megmutatta egy Python-alapú információlopó kódját, amely fájltípusokat keres és másol, majd feltölti azokat egy keménykódolt FTP-szerverre.

A Check Point megerősítette, hogy a kód egy alaplopó rosszindulatú programtól származik.

Egy másik példában az író a ChatGPT-t használta egy egyszerű Java-kódrészlet létrehozására, amely letölt egy közös SSH- és telnet-klienst, amely titkosan fut egy PowerShell-t használó rendszeren.

"Ez az egyén technológia-orientált fenyegetés-aktornak tűnik, és posztjainak célja, hogy megmutassa a technikailag kevésbé alkalmas számítógépes bűnözőknek, hogyan használják fel a ChatGPT-t rosszindulatú célokra, valódi példákkal, amelyeket azonnal felhasználhatnak" - írták a kutatók.

December 21-én egy magát USDoD-nek nevező személy egy Python nyelven írt titkosító eszközt tett közzé, amely különféle titkosítási, visszafejtési és aláírási műveleteket tartalmaz. Azt írta, hogy az OpenAI technológiája „szép [segítő] kezet nyújtott neki, hogy szép körrel fejezze be a forgatókönyvet”.

A kutatók azt írták, hogy az USDoD korlátozott fejlesztési készségekkel rendelkezik, de aktív a földalatti közösségben, és már korábban is értékesített hozzáférést feltört szervezetekhez és ellopott adatbázisokhoz.

Egy szilveszterkor egy fórumon közzétett másik vitaszál arról szólt, hogy milyen egyszerű a ChatGPT segítségével sötét webes piacteret létrehozni illegális eszközök, például rosszindulatú programok vagy drogok, valamint ellopott adatok, például számlák és fizetési kártyák kereskedelmére.

A szál írója közzétett néhány ChatGPT-vel létrehozott kódot, amely harmadik fél API-kat használ, hogy naprakész árakat kapjon olyan kriptovalutákhoz, mint a Bitcoin, a Monero és az Ethereum a piac fizetési rendszeréhez.

Ezen a héten a gonosztevők földalatti fórumokon beszéltek a ChatGPT különböző sémákhoz való hasznosításának egyéb módjairól, beleértve az OpenAI Dall-E 2 technológiájával való felhasználását olyan művészeti alkotások létrehozására, amelyet legális webhelyeken, például az Etsy-n keresztül értékesítenek, és e-könyvet vagy rövid fejezetet egy adott témáról. amit online lehet eladni.

A ChatGPT-vel kapcsolatban a kutatók megkérdezték a ChatGPT-t, hogy több információt kapjanak arról, hogyan lehet visszaélni a ChatGPT-vel. Válaszában a ChatGPT arról beszélt, hogy a mesterséges intelligencia technológiájával meggyőző adathalász e-maileket és közösségi médiás bejegyzéseket hoznak létre, hogy rávegyék az embereket személyes adatok megadására vagy rosszindulatú hivatkozásokra kattintva, vagy félretájékoztatásra felhasználható videó- és hanganyag létrehozására.

A ChatGPT is megvédte alkotóját.

„Fontos megjegyezni, hogy maga az OpenAI nem felelős azért, ha harmadik felek visszaélnek technológiájával” – mondta a chatbot. "A vállalat lépéseket tesz annak megakadályozására, hogy technológiáját rosszindulatú célokra használják fel, például megköveteli a felhasználóktól, hogy fogadják el azokat a szolgáltatási feltételeket, amelyek tiltják technológiájának illegális vagy káros célokra történő használatát." ®