Trusselskuespillere rir på populariteten til ChatGPT har lansert enda et copycat-hackerverktøy som tilbyr lignende charbot-tjenester som den virkelige generative AI-baserte appen, men som er rettet spesifikt mot å fremme ondsinnet aktivitet.
Forskere har funnet annonser lagt ut på Dark Web for et AI-drevet hackerverktøy kalt "FraudGPT", som selges på abonnementsbasis og har sirkulert på Telegram siden lørdag, avslørte forskere fra Netenrich i et innlegg publisert 25. juli. FraudGPT starter på $200 per måned og går opp til $1,700 per år, og det er rettet mot å hjelpe hackere med å drive sin ondsinnede virksomhet ved hjelp av AI. Skuespilleren hevder å ha mer enn 3,000 bekreftede salg og anmeldelser så langt for FraudGPT.
Et annet lignende, AI-drevet hackerverktøy, WormGPT, har vært i omløp siden 13. juli, og ble beskrevet i detalj i en rapport fra SlashNext. Som ChatGPT, disse dukker opp motstridende AI verktøy er også basert på modeller trent på store datakilder, og de kan generere menneskelignende tekst basert på innspillene de mottar.
Verktøyene "ser ut til å være blant de første tilbøyelighetene til at trusselaktører bygger generative AI-funksjoner inn i verktøyene sine," forteller John Bambenek, hovedtrusseljeger hos Netenrich, til Dark Reading. "Før dette har diskusjonen vår om trussellandskapet vært teoretisk."
FraudGPT – som i annonser blir omtalt som en «bot uten begrensninger, regler, [og] grenser» – selges av en trusselaktør som hevder å være en verifisert leverandør på forskjellige underjordiske Dark Web-markedsplasser, inkludert Empire, WHM, Torrez, World , AlphaBay og Versus.
Cyberkriminelle nå bevæpnet med AI Chatbots
Både WormGPT og FraudGPT kan hjelpe angripere med å bruke AI til sin fordel når de lager phishing-kampanjer, genererer meldinger rettet mot å presse ofre til å falle for business email compromise (BEC) og annen e-postbasert svindel, for det første.
FraudGPT kan også hjelpe trusselaktører med å gjøre en rekke andre dårlige ting, for eksempel: å skrive ondsinnet kode; skape uoppdagbar skadelig programvare; finne ikke-VBV-binger; opprette phishing-sider; bygge hacking verktøy; finne hackergrupper, nettsteder og markeder; skrive svindelsider og -brev; finne lekkasjer og sårbarheter; og lære å kode eller hacke.
Likevel ser det ut til at det å hjelpe angripere med å lage overbevisende phishing-kampanjer fortsatt er en av de viktigste brukssakene for et verktøy som FraudGPT, ifølge Netenrich. Verktøyets dyktighet på dette ble til og med omtalt i reklamemateriell som dukket opp på Dark Web som demonstrerer hvordan FraudGPT kan produsere et utkast til e-post som "vil lokke mottakere til å klikke på den medfølgende ondsinnede lenken," sa Krishnan.
Jailbreaking ChatGPTs etiske rekkverk
Samtidig som ChatGPT kan også utnyttes som et hackerverktøy for å skrive sosialt konstruerte e-poster, er det etiske sikkerhetstiltak som begrenser denne bruken. Imidlertid viser den økende utbredelsen av AI-drevne verktøy som WormGPT og FraudGPT at "det ikke er en vanskelig prestasjon å implementere den samme teknologien på nytt uten disse sikkerhetstiltakene," skrev Krishnan.
Faktisk er FraudGPT og WormGPT enda flere bevis på det en sikkerhetsekspert kaller "generativ AI-jailbreaking for dummies", der dårlige skuespillere misbruker generative AI-apper for å omgå etiske rekkverk for generativ AI som OpenAI aktivt har bekjempet - en kamp som stort sett har vært oppoverbakke.
"Det har vært en pågående kamp," sier Pyry Avist, medgründer og CTO hos Hoxhunt. "Regler er opprettet, regler blir brutt, nye regler er opprettet, disse reglene blir brutt, og videre og videre."
Selv om man ikke "bare kan fortelle ChatGPT å lage en overbevisende phishing-e-post og innsamlingsmal for legitimasjon sendt fra administrerende direktør", kan noen "late seg til å være administrerende direktør og enkelt skrive en presserende e-post til finansteamet og kreve at de endrer en fakturabetaling ," han sier.
Forsvar mot AI-aktiverte cybertrusler
Faktisk, over hele linja gir generative AI-verktøy kriminelle de samme kjernefunksjonene som de gir teknologifagfolk: "evnen til å operere i større hastighet og skala," sier Bambenek. "Angripere kan nå generere phishing-kampanjer raskt og lansere flere samtidig."
Siden phishing fortsatt er en av de viktigste måtene nettangripere får innledende tilgang til et bedriftssystem for å utføre ytterligere ondsinnet aktivitet, er det viktig å implementere konvensjonell sikkerhetsbeskyttelse mot det. Disse forsvarene kan fortsatt oppdage AI-aktivert phishing, og, enda viktigere, påfølgende handlinger fra trusselaktøren.
"I utgangspunktet endrer ikke dette dynamikken i hva en phishing-kampanje er, og heller ikke konteksten den opererer i," sier Bambenek. "Så lenge du ikke har å gjøre med phishing fra en kompromittert konto, kan omdømmesystemer fortsatt oppdage phishing fra uautentiske avsendere, dvs. domener som er skrevet feil, fakturaer fra gratis web-e-postkontoer, etc."
Implementering av en dybdeforsvarsstrategi med all sikkerhetstelemetri tilgjengelig for rask analyse kan også hjelpe organisasjoner med å identifisere et phishing-angrep før angripere kompromitterer et offer og går videre til neste fase av angrepet, sier han.
«Forsvarere trenger ikke å oppdage hver eneste ting en angriper gjør i en trusselkjede, de må bare oppdage noe før de siste stadiene av et angrep – det vil si løsepengevare eller dataeksfiltrering - så det er viktig å ha et sterkt sikkerhetsdataanalyseprogram, sier Bambenek.
Andre sikkerhetseksperter fremmer også bruk AI-baserte sikkerhetsverktøy, hvor antallet vokser, å bekjempe motstridende AI, faktisk bekjempe ild med ild for å bekjempe den økte sofistikeringen av trussellandskapet.
- SEO-drevet innhold og PR-distribusjon. Bli forsterket i dag.
- PlatoData.Network Vertical Generative Ai. Styrk deg selv. Tilgang her.
- PlatoAiStream. Web3 Intelligence. Kunnskap forsterket. Tilgang her.
- PlatoESG. Bil / elbiler, Karbon, CleanTech, Energi, Miljø, Solenergi, Avfallshåndtering. Tilgang her.
- BlockOffsets. Modernisering av eierskap for miljøkompensasjon. Tilgang her.
- kilde: https://www.darkreading.com/threat-intelligence/fraudgpt-malicious-chatbot-for-sale-dark-web
- : har
- :er
- $OPP
- 000
- 13
- 25
- 7
- 700
- a
- evne
- Ifølge
- Logg inn
- kontoer
- tvers
- handlinger
- aktivt
- aktivitet
- aktører
- annonser
- Fordel
- motstandere
- mot
- AI
- sikte
- Alle
- Alphabay
- også
- blant
- an
- analytics
- og
- En annen
- app
- vises
- dukket opp
- apps
- ER
- væpnet
- AS
- At
- angripe
- tilgjengelig
- dårlig
- basert
- basis
- Battle
- BE
- BEC
- vært
- før du
- borde
- Bot
- grenser
- Brutt
- Bygning
- virksomhet
- bedriftens e-postkompromiss
- men
- by
- Samtaler
- Kampanje
- Kampanjer
- CAN
- saker
- konsernsjef
- kjede
- endring
- chatbot
- ChatGPT
- sirkulerende
- Sirkulasjon
- krav
- klikk
- Med-grunnlegger
- kode
- bekjempe
- kompromiss
- kompromittert
- Gjennomføre
- BEKREFTET
- kontekst
- konvensjonell
- Kjerne
- skape
- opprettet
- Opprette
- KREDENSISJON
- kriminelle
- CTO
- cyber
- mørk
- Mørk lesning
- mørk Web
- dato
- Data Analytics
- håndtering
- Defenders
- krevende
- demonstrere
- demonstrerer
- detalj
- oppdage
- vanskelig
- diskusjon
- do
- gjør
- ikke
- domener
- ikke
- Utkast
- dubbet
- dynamikk
- e
- lett
- effekt
- emalje
- e-post
- Emery
- Empire
- Enterprise
- entry
- avgjørende
- etc
- etisk
- Selv
- Hver
- bevis
- eksfiltrering
- Expert
- Faktisk
- Falling
- langt
- FAST
- feat
- Egenskaper
- slåss
- slåss
- slutt~~POS=TRUNC
- siste etapper
- finansiere
- finne
- Brann
- Først
- Til
- funnet
- Gratis
- fra
- funksjoner
- fundamentalt
- videre
- Gevinst
- generere
- genererer
- generative
- Generativ AI
- Går
- større
- Gruppens
- Økende
- hack
- hacker
- hackere
- hacking
- høsting
- Ha
- å ha
- he
- hjelpe
- hjelpe
- Hvordan
- Men
- HTTPS
- jeger
- i
- identifisere
- iverksette
- in
- Inkludert
- økt
- innledende
- inngang
- inn
- IT
- John
- jpg
- Juli
- bare
- landskap
- stor
- lansere
- lansert
- Lekkasjer
- læring
- i likhet med
- BEGRENSE
- begrensninger
- LINK
- Lang
- Hoved
- malware
- markeds
- Markets
- materiale
- meldinger
- modeller
- Måned
- mer
- for det meste
- flytte
- Trenger
- Ny
- neste
- nå
- tall
- of
- Tilbud
- on
- ONE
- pågående
- videre til
- OpenAI
- betjene
- opererer
- or
- organisasjoner
- Annen
- vår
- skissert
- sider
- betaling
- for
- fase
- phishing
- phishing-angrep
- phishing-kampanje
- plato
- Platon Data Intelligence
- PlatonData
- postet
- primære
- Principal
- Før
- produsere
- fagfolk
- program
- fremme
- fremme
- reklame
- gi
- publisert
- raskt
- ransomware
- Lesning
- ekte
- motta
- mottakere
- forblir
- rapporterer
- forskere
- Avslørt
- Anmeldelser
- riding
- regler
- s
- sikringstiltak
- Sa
- salg
- salg
- samme
- lørdag
- sier
- Skala
- Svindel
- svindel
- sikkerhet
- sendt
- Tjenester
- lignende
- samtidig
- siden
- enkelt
- Nettsteder
- So
- så langt
- sosialt
- solgt
- Noen
- noe
- Kilder
- spesielt
- fart
- stadier
- starter
- Still
- Strategi
- sterk
- Struggle
- abonnement
- senere
- slik
- medfølgende
- system
- Systemer
- lag
- Teknologi
- Telegram
- fortelle
- forteller
- mal
- enn
- Det
- De
- deres
- Dem
- teoretiske
- Der.
- Disse
- de
- ting
- ting
- denne
- De
- trussel
- trusselaktører
- til
- verktøy
- verktøy
- spioner
- trent
- som haster
- bruke
- ved hjelp av
- ulike
- leverandør
- verifisert
- Versus
- Offer
- ofre
- Sikkerhetsproblemer
- var
- måter
- web
- Hva
- når
- hvilken
- HVEM
- vil
- med
- uten
- verden
- skrive
- skriving
- skrev
- år
- ennå
- Du
- Din
- zephyrnet