Fenyegetés szereplők lovaglás a a ChatGPT népszerűsége egy újabb másoló hackereszközt indítottak el, amely a valódi generatív mesterségesintelligencia-alapú alkalmazáshoz hasonló charbot szolgáltatásokat kínál, de kifejezetten a rosszindulatú tevékenységek népszerűsítésére irányul.
A Netenrich kutatói felfedték, hogy a kutatók a Dark Weben egy AI-vezérelt, „FraudGPT” elnevezésű hackereszköz hirdetéseit találták, amelyet előfizetéses alapon árulnak, és szombat óta keringenek a Telegramon. egy bejegyzésben július 25-én jelent meg. A FraudGPT havi 200 dollártól kezdődik és évi 1,700 dollárig megy, és célja, hogy segítse a hackereket gonosz üzleteikben az AI segítségével. A színész állítása szerint eddig több mint 3,000 megerősített eladása és értékelése van a FraudGPT-ről.
Egy másik hasonló, AI-vezérelt hackereszköz, WormGPT, július 13-a óta van forgalomban, és a SlashNext jelentésében részletesen ismertette. A ChatGPT-hez hasonlóan ezek is kialakulóban vannak ellenséges AI Az eszközök is nagy adatforrásokon betanított modelleken alapulnak, és a kapott bemenet alapján emberszerű szöveget tudnak generálni.
Az eszközök „úgy tűnik, az elsők között vannak arra való hajlamok között, hogy a fenyegetés szereplői generatív mesterséges intelligencia funkciókat építsenek be eszközeikbe” – mondja John Bambenek, a Netenrich fő fenyegetésvadásza a Dark Readingnek. "Ezt megelőzően a fenyegetettségről szóló vitánk elméleti jellegű volt."
A FraudGPT-t – amelyet a hirdetésekben „korlátozások, szabályok és határok nélküli robotként” emlegetnek – egy fenyegető szereplő értékesíti, aki azt állítja magáról, hogy ellenőrzött eladó a különböző földalatti Dark Web piactereken, köztük az Empire, a WHM, a Torrez, a World. , AlphaBay és Versus.
A kiberbűnözők már mesterséges intelligencia chatbotokkal felvértezve
Mind a WormGPT, mind a FraudGPT segíthet a támadóknak abban, hogy előnyükre használják az AI-t az adathalász kampányok kidolgozásakor, olyan üzenetek generálásakor, amelyek célja, hogy az áldozatokat rákényszerítsék az üzleti e-mail-kompromittálásra (BEC), valamint más e-mail-alapú csalásokra.
A FraudGPT ezenkívül segíthet a fenyegetés szereplőinek egy csomó egyéb rossz dologban is, mint például: rosszindulatú kód írása; észlelhetetlen rosszindulatú programok létrehozása; nem VBV tárolók megtalálása; adathalász oldalak létrehozása; építési hacker eszközök; hackercsoportok, webhelyek és piacok felkutatása; átverő oldalak és levelek írása; szivárgások és sebezhetőségek feltárása; és megtanulni kódolni vagy feltörni.
Ennek ellenére úgy tűnik, hogy a támadók segítése meggyőző adathalász kampányok létrehozásában továbbra is az egyik fő felhasználási eset az olyan eszközöknél, mint a FraudGPT, Netenrich szerint. Az eszköz jártasságát még a Sötét Weben megjelent promóciós anyagokban is megemlítették, amelyek bemutatják, hogy a FraudGPT hogyan tud olyan e-mail-vázlatot készíteni, amely „rábírja a címzetteket, hogy kattintsanak a mellékelt rosszindulatú hivatkozásra” – mondta Krishnan.
Jailbreak ChatGPT Ethical Guardrails
Míg A ChatGPT is kihasználható mint hackereszköz a társadalmilag tervezett e-mailek írásához, etikai biztosítékok korlátozzák ezt a felhasználást. A mesterséges intelligencia által vezérelt eszközök, például a WormGPT és a FraudGPT növekvő elterjedése azonban azt mutatja, hogy „nem nehéz feladat ugyanazt a technológiát ezen biztosítékok nélkül újra alkalmazni” – írta Krishnan.
Valójában a FraudGPT és a WormGPT még több bizonyítéka annak, amit egy biztonsági szakértő „generatív mesterséges intelligencia-jailbreaking for dumiáknak” nevez, amelyben a rossz szereplők visszaélnek generatív AI-alkalmazásokkal, hogy megkerüljék. etikus védőkorlátok a generatív mesterséges intelligencia számára, amely ellen az OpenAI aktívan harcolt – ez a csata többnyire felfelé ívelt.
„Ez egy folyamatos küzdelem” – mondja Pyry Avist, a Hoxhunt társalapítója és technológiai igazgatója. "Szabályok jönnek létre, szabályokat szegnek meg, új szabályok születnek, ezeket a szabályokat megszegik, és így tovább."
Bár nem lehet „csak megmondani a ChatGPT-nek, hogy hozzon létre egy meggyőző adathalász e-mailt és a vezérigazgatótól küldött hitelesítő adatgyűjtési sablont”, valaki „játszhatja magát a vezérigazgatónak, és könnyedén írhat egy sürgős e-mailt a pénzügyi csapatnak, amelyben a számla kifizetésének módosítását kéri. ," mondja.
Védekezés a mesterséges intelligencia által támogatott számítógépes fenyegetésekkel szemben
Valójában a generatív AI-eszközök a bűnözők számára ugyanazokat az alapvető funkciókat biztosítják, mint a technológiai szakembereknek: „lehetővé teszik a nagyobb sebességű és léptékű működést” – mondja Bambenek. "A támadók mostantól gyorsan generálhatnak adathalász kampányokat, és egyszerre többet indíthatnak el."
Mivel az adathalászat továbbra is az egyik elsődleges módja annak, hogy a kibertámadások kezdetben belépjenek a vállalati rendszerbe, hogy további rosszindulatú tevékenységeket hajtsanak végre, elengedhetetlen a hagyományos biztonsági védelem alkalmazása ellene. Ezek a védelmek továbbra is képesek észlelni a mesterséges intelligencia által támogatott adathalászatot, és ami még fontosabb, a fenyegetettség szereplőjének ezt követő lépéseit.
„Ez alapvetően nem változtat az adathalász kampány dinamikáján, sem a működési környezeten” – mondja Bambenek. „Amíg nem egy feltört fiókból származó adathalászattal van dolgunk, a hírnevű rendszerek továbbra is képesek észlelni a nem hiteles feladók adathalászatát, azaz elgépelt domaineket, ingyenes webes e-mail fiókokból származó számlákat stb.”
Egy mélyreható védelmi stratégia megvalósítása a gyors elemzéshez rendelkezésre álló összes biztonsági telemetriával is segíthet a szervezeteknek azonosítani az adathalász támadást, mielőtt a támadók kompromittálnák az áldozatot, és továbblépnének a támadás következő fázisába.
„A védőknek nem kell minden egyes dolgot észlelniük, amit a támadó tesz a fenyegetési láncban, csak észlelniük kell valamit a támadás utolsó szakasza előtt – azaz a zsarolóprogramokat vagy az adatok kiszűrését. - ezért elengedhetetlen egy erős biztonsági adatelemző program” – mondja Bambenek.
Más biztonsági szakemberek is támogatják a használatát AI-alapú biztonsági eszközök, amelyek száma növekszik, harcolni az ellenséges mesterséges intelligencia ellen, gyakorlatilag tűzzel oltva a tüzet a fenyegetettség fokozott kifinomultsága ellen.
- SEO által támogatott tartalom és PR terjesztés. Erősödjön még ma.
- PlatoData.Network Vertical Generative Ai. Erősítse meg magát. Hozzáférés itt.
- PlatoAiStream. Web3 Intelligence. Felerősített tudás. Hozzáférés itt.
- PlatoESG. Autóipar / elektromos járművek, Carbon, CleanTech, Energia, Környezet, Nap, Hulladékgazdálkodás. Hozzáférés itt.
- BlockOffsets. A környezetvédelmi ellentételezési tulajdon korszerűsítése. Hozzáférés itt.
- Forrás: https://www.darkreading.com/threat-intelligence/fraudgpt-malicious-chatbot-for-sale-dark-web
- :van
- :is
- $ UP
- 000
- 13
- 25
- 7
- 700
- a
- képesség
- Szerint
- Fiók
- Fiókok
- át
- cselekvések
- aktívan
- tevékenység
- szereplők
- hirdetések
- Előny
- ellenséges
- ellen
- AI
- célzó
- Minden termék
- Alphabay
- Is
- között
- an
- analitika
- és a
- Másik
- app
- megjelenik
- megjelent
- alkalmazások
- VANNAK
- fegyveres
- AS
- At
- támadás
- elérhető
- Rossz
- alapján
- alap
- Csata
- BE
- BEC
- óta
- előtt
- bizottság
- Bot
- határait
- Törött
- Épület
- üzleti
- üzleti e-mail kompromisszum
- de
- by
- kéri
- Kampány
- Kampányok
- TUD
- esetek
- vezérigazgató
- lánc
- változik
- chatbot
- ChatGPT
- keringő
- Keringés
- követelések
- kettyenés
- Társalapító
- kód
- elleni küzdelem
- kompromisszum
- Veszélyeztetett
- Magatartás
- MEGERŐSÍTETT
- kontextus
- hagyományos
- Mag
- teremt
- készítette
- létrehozása
- HITELEZÉS
- bűnözők
- CTO
- cyber
- sötét
- Sötét olvasmány
- Sötét web
- dátum
- Adatelemzés
- foglalkozó
- Védők
- igényes
- bizonyítani
- mutatja
- részlet
- kimutatására
- nehéz
- vita
- do
- nem
- Nem
- domainek
- ne
- vázlat
- szinkronizált
- dinamika
- e
- könnyen
- hatás
- e-mailek
- csiszolókő
- Empire
- Vállalkozás
- belépés
- alapvető
- stb.
- etikai
- Még
- Minden
- bizonyíték
- kiszűrés
- szakértő
- tény
- Eső
- messze
- GYORS
- tett
- Jellemzők
- harc
- harcoló
- utolsó
- utolsó szakaszai
- finanszíroz
- megtalálása
- természet
- vezetéknév
- A
- talált
- Ingyenes
- ból ből
- funkciók
- alapvetően
- további
- Nyereség
- generál
- generáló
- nemző
- Generatív AI
- Goes
- nagyobb
- Csoportok
- Növekvő
- csapkod
- hacker
- hackerek
- hacker
- Aratás
- Legyen
- tekintettel
- he
- segít
- segít
- Hogyan
- azonban
- HTTPS
- vadász
- i
- azonosítani
- végre
- in
- Beleértve
- <p></p>
- kezdetben
- bemenet
- bele
- IT
- János
- jpg
- július
- éppen
- táj
- nagy
- indít
- indított
- Szivárgás
- tanulás
- mint
- LIMIT
- korlátozások
- LINK
- Hosszú
- Fő
- malware
- piacterek
- piacok
- anyag
- üzenetek
- modellek
- Hónap
- több
- többnyire
- mozog
- Szükség
- Új
- következő
- Most
- számok
- of
- Ajánlatok
- on
- ONE
- folyamatban lévő
- -ra
- OpenAI
- működik
- működik
- or
- szervezetek
- Más
- mi
- vázolt
- oldalak
- fizetés
- mert
- fázis
- Adathalászat
- adathalász támadás
- adathalász kampány
- Plató
- Platón adatintelligencia
- PlatoData
- kiküldött
- elsődleges
- Fő
- Előzetes
- gyárt
- tehetséges alkalmazottal
- Program
- kellene támogatnia,
- támogatása
- promóciós
- ad
- közzétett
- gyorsan
- ransomware
- Olvasás
- igazi
- kap
- címzettek
- maradványok
- jelentést
- kutatók
- Revealed
- Vélemények
- lovaglás
- szabályok
- s
- biztosítékok
- Mondott
- eladás
- értékesítés
- azonos
- szombat
- azt mondja,
- Skála
- Átverés
- csalások
- biztonság
- küldött
- Szolgáltatások
- hasonló
- egyszerre
- óta
- egyetlen
- Webhely (ek)
- So
- eddig
- társadalmilag
- eladott
- Valaki
- valami
- Források
- kifejezetten
- sebesség
- állapota
- kezdődik
- Még mindig
- Stratégia
- erős
- Küzdelem
- előfizetés
- későbbi
- ilyen
- mellékelt
- rendszer
- Systems
- csapat
- Technológia
- Telegram
- mondd
- megmondja
- sablon
- mint
- hogy
- A
- azok
- Őket
- elméleti
- Ott.
- Ezek
- ők
- dolog
- dolgok
- ezt
- azok
- fenyegetés
- fenyegetés szereplői
- nak nek
- szerszám
- szerszámok
- tartják számon
- kiképzett
- sürgős
- használ
- segítségével
- különféle
- eladó
- ellenőrzött
- Ellen
- Áldozat
- áldozatok
- sérülékenységek
- volt
- módon
- háló
- Mit
- amikor
- ami
- WHO
- lesz
- val vel
- nélkül
- világ
- ír
- írás
- írt
- év
- még
- te
- A te
- zephyrnet