KOMMENTAR
Som eksperter på nettsikkerhet spådd for et år siden, har kunstig intelligens (AI) vært en sentral aktør i 2023-landskapet for nettkriminalitet, og har ført til en økning i angrep samtidig som den har bidratt til forbedringer i forsvaret mot fremtidige angrep. Nå, på vei inn i 2024, forventer eksperter over hele bransjen at AI vil ha enda mer innflytelse på nettsikkerhet.
De Google Cloud Cybersecurity Forecast 2024 ser generativ AI og store språkmodeller som bidrar til en økning i ulike former for nettangrep. Mer enn 90 % av kanadiske administrerende direktører i en KPMG-undersøkelse tror generativ AI vil gjøre dem mer sårbare for brudd. Og en britisk regjeringsrapport sier at AI utgjør en trussel mot landets neste valg.
Mens AI-relaterte trusler fortsatt er i de tidlige stadiene, øker volumet og sofistikeringen av AI-drevne angrep hver dag. Organisasjoner må forberede seg på det som venter.
4 måter nettkriminelle bruker kunstig intelligens på
Det er fire hovedmåter motstandere bruker allment tilgjengelige AI-verktøy som ChatGPT, Dall-E og Midjourney: automatiserte phishing-angrep, etterligningsangrep, sosiale ingeniørangrep og falske kundestøtte chatbots.
Spear-phishing-angrep får et stort løft fra AI. Tidligere var det lettere å identifisere phishing-forsøk utelukkende fordi mange var fulle av dårlig grammatikk og stavefeil. Kresne lesere kunne oppdage slik merkelig, uønsket kommunikasjon, forutsatt at den sannsynligvis ble generert fra et land der engelsk ikke er hovedspråket.
ChatGPT eliminerte stort sett tipset. Ved hjelp av ChatGPT kan en nettkriminell skrive en e-post med perfekt grammatikk og engelsk bruk, stilt på språket til en legitim kilde. Nettkriminelle kan sende ut automatisert kommunikasjon som etterligner for eksempel en myndighet i en bank som ber om at brukere logger på og oppgir informasjon om 401(k)-kontoene deres. Når en bruker klikker på en lenke for å begynne å gi informasjon, tar hackeren kontroll over kontoen.
Hvor populært er dette trikset? SlashNext Status for phishing-rapport 2023 tilskrev en økning på 1,265 2022 % i ondsinnede phishing-e-poster siden fjerde kvartal XNUMX, hovedsakelig til målrettede kompromitterte forretningse-poster ved hjelp av AI-verktøy.
Etterligningsangrep er også på vei oppover. Ved å bruke ChatGPT og andre verktøy, utgir svindlere seg for ekte individer og organisasjoner, utfører identitetstyveri og svindel. Akkurat som med phishing-angrep, bruker de chatbots til å sende talemeldinger som utgir seg for å være en pålitelig venn, kollega eller familiemedlem i et forsøk på å få informasjon eller tilgang til en konto.
Et eksempel fant sted i Saskatchewan, Canada, tidlig i 2023. Et eldre ektepar mottok en telefon fra noen som utgir seg for å være barnebarnet deres og hevdet at han hadde vært i en bilulykke og ble holdt i fengsel. Innringeren formidlet en historie om at han hadde blitt skadet, hadde mistet lommeboken og trengte 9,400 dollar i kontanter for å gjøre opp med eieren av den andre bilen for å unngå å bli siktet. Besteforeldrene dro til banken deres for å ta ut pengene, men unngikk å bli svindlet da en banktjenestemann overbeviste dem om at forespørselen ikke var legitim.
Mens bransjeeksperter trodde at denne sofistikerte bruken av AI-stemmekloningsteknologi ville utvikle seg i løpet av noen år, var det få som forventet at den skulle bli så effektiv så raskt.
Cyberkriminelle bruker ChatGPT og andre AI-chatbots for å utføre sosiale ingeniørangrep som skaper kaos. De bruker en kombinasjon av stemmekloning og deepfake-teknologi for å få det til å se ut som om noen sier noe brennende.
Dette skjedde natten før Chicagos borgermestervalg tilbake i februar. En hacker laget en dypfalsk video og la den ut på X, tidligere kjent som Twitter, og viste kandidaten Paul Vallas som angivelig kommer med falske brennende kommentarer og spruter ut kontroversielle politiske standpunkter. Videoen genererte tusenvis av visninger før den ble fjernet fra plattformen.
Den siste taktikken, falske chatbots for kundeservice, eksisterer, men de er sannsynligvis et år eller to unna å få stor popularitet. En uredelig bankside kan opprettes ved å bruke en kundeservice chatbot som virker menneskelig. Chatboten kan brukes til å manipulere intetanende ofre til å overlevere sensitiv personlig informasjon og kontoinformasjon.
Hvordan cybersikkerhet kjemper tilbake
Den gode nyheten er at AI også brukes som et sikkerhetsverktøy for å bekjempe AI-drevet svindel. Her er tre måter cybersikkerhetsindustrien slår tilbake på.
Utvikler sin egen adversarielle AI
I hovedsak er dette å skape "god AI" og trene den til å bekjempe "dårlig AI." Ved å utvikle sine egne generative adversarial networks (GANs), kan cyberfirmaer lære hva de kan forvente i tilfelle et angrep. GAN-er består av to nevrale nettverk: en generator som lager nye dataprøver og en diskriminator, som skiller de genererte prøvene fra de originale prøvene.
Ved å bruke disse teknologiene kan GAN-er generere nye angrepsmønstre som ligner tidligere sett angrepsmønstre. Ved å trene en modell på disse mønstrene, kan systemene lage spådommer om hva slags angrep vi kan forvente å se og måtene nettkriminelle utnytter disse truslene på.
Anomali Deteksjon
Dette er å forstå grunnlinjen for hva normal oppførsel er og deretter identifisere når noen avviker fra den oppførselen. Når noen logger på en konto fra et annet sted enn vanlig, eller hvis regnskapsavdelingen på mystisk vis bruker et PowerShell-system som vanligvis brukes av programvareutviklere, kan det være en indikator på et angrep. Mens cybersikkerhetssystemer lenge har brukt denne modellen, kan de ekstra teknologiske hestekreftene AI-modellene besitter mer effektivt flagge meldinger som er potensielt mistenkelige.
Deteksjonsrespons
Ved å bruke AI-systemer kan cybersikkerhetsverktøy og -tjenester som administrert deteksjon og respons (MDR) bedre oppdage trusler og kommunisere informasjon om dem til sikkerhetsteam. AI hjelper sikkerhetsteam raskere å identifisere og adressere legitime trusler ved å motta informasjon som er kortfattet og relevant. Mindre tid brukt på å jage falske positiver og forsøk på å tyde sikkerhetslogger hjelper teamene med å lansere mer effektive svar.
konklusjonen
AI-verktøy åpner samfunnets øyne for nye muligheter innen praktisk talt alle arbeidsfelt. Etter hvert som hackere drar full nytte av teknologier for store språkmodeller, vil industrien måtte holde tritt for å holde AI-trusselen under kontroll.
- SEO-drevet innhold og PR-distribusjon. Bli forsterket i dag.
- PlatoData.Network Vertical Generative Ai. Styrk deg selv. Tilgang her.
- PlatoAiStream. Web3 Intelligence. Kunnskap forsterket. Tilgang her.
- PlatoESG. Karbon, CleanTech, Energi, Miljø, Solenergi, Avfallshåndtering. Tilgang her.
- PlatoHelse. Bioteknologisk og klinisk etterretning. Tilgang her.
- kilde: https://www.darkreading.com/vulnerabilities-threats/how-ai-shaping-future-cybercrime
- : har
- :er
- :hvor
- 1
- 2022
- 2023
- 2024
- 400
- 7
- a
- Om oss
- adgang
- ulykke
- Logg inn
- Regnskap og administrasjon
- kontoer
- tvers
- la til
- adresse
- Fordel
- motstandere
- mot
- fremover
- AI
- AI-modeller
- AI-systemer
- også
- an
- og
- vises
- ER
- kunstig
- kunstig intelligens
- Kunstig intelligens (AI)
- AS
- At
- angripe
- Angrep
- forsøk
- forsøker
- forsøk
- myndighet
- Automatisert
- tilgjengelig
- unngå
- unngås
- borte
- tilbake
- dårlig
- Bank
- Baseline
- BE
- fordi
- bli
- vært
- før du
- atferd
- være
- antatt
- Bedre
- øke
- brudd
- men
- by
- ring
- Caller
- CAN
- Canada
- Canadian
- kandidat
- bil
- bære
- bærer
- Kontanter
- sentral
- CEOs
- Chaos
- avgifter
- chatbot
- chatbots
- ChatGPT
- Chicago
- hevder
- Cloud
- kollega
- bekjempe
- kombinasjon
- vanligvis
- kommunisere
- Kommunikasjon
- kommunikasjon
- medvirkende
- kontroll
- kontroversiell
- overbevist
- kunne
- land
- Par
- opprettet
- skaper
- Opprette
- kunde
- Kundeservice
- Kundeservice
- cyber
- cyberattacks
- cybercrime
- CYBERKRIMINELL
- nettkriminelle
- Cybersecurity
- dall sin
- dato
- dag
- dechiffrere
- Forsvar
- Avdeling
- oppdage
- Gjenkjenning
- utvikle
- utviklere
- utvikle
- forskjellig
- do
- kjøring
- Tidlig
- enklere
- Effektiv
- effektivt
- eldre
- Valg
- eliminert
- emalje
- e-post
- Ingeniørarbeid
- Engelsk
- feil
- Selv
- Event
- Hver
- hver dag
- eksempel
- eksisterer
- forvente
- forventet
- eksperter
- utnytte
- øyne
- vendt
- forfalskning
- falsk
- familie
- Februar
- Noen få
- felt
- slåss
- bedrifter
- Til
- Varsel
- tidligere
- skjemaer
- fire
- Fjerde
- svindel
- uredelig
- venn
- fra
- Fuller
- framtid
- få
- generere
- generert
- generative
- Generativ AI
- generator
- få
- få
- god
- Regjeringen
- grammatikk
- hacker
- hackere
- HAD
- late
- skjedde
- Ha
- he
- Overskrift
- Held
- hjelpe
- hjelper
- her.
- hans
- Hvordan
- HTML
- HTTPS
- menneskelig
- Hurt
- identifisere
- identifisering
- Identitet
- if
- forbedringer
- in
- Øke
- økende
- Indikator
- individer
- industri
- industri eksperter
- påvirke
- informasjon
- Intelligens
- inn
- er n
- IT
- fengsel
- jpg
- bare
- Hold
- Type
- kjent
- KPMG
- landskap
- Språk
- stor
- i stor grad
- Siste
- lansere
- LÆRE
- legitim
- mindre
- utnytte
- i likhet med
- Sannsynlig
- LINK
- plassering
- logg
- Lang
- Se
- ser ut som
- tapte
- Hoved
- større
- gjøre
- skadelig
- fikk til
- mange
- MDR
- medlem
- meldinger
- MidJourney
- modell
- modeller
- penger
- mer
- mye
- Trenger
- nødvendig
- nettverk
- nevrale
- nevrale nettverk
- Ny
- nyheter
- neste
- natt
- normal
- normalt
- nå
- of
- offisiell
- on
- åpning
- or
- organisasjoner
- original
- Annen
- ut
- enn
- egen
- eieren
- Fred
- Past
- mønstre
- paul
- perfekt
- personlig
- phishing
- phishing-angrep
- Sted
- plattform
- plato
- Platon Data Intelligence
- PlatonData
- spiller
- politikk
- dårlig
- Populær
- popularitet
- positurer
- besitter
- muligheter
- postet
- potensielt
- PowerShell
- Spådommer
- Forbered
- pen
- tidligere
- primære
- sannsynligvis
- gi
- Fjerdedel
- raskt
- raskt
- RE
- lesere
- ekte
- mottatt
- mottak
- relevant
- fjernet
- rapporterer
- anmode
- ber om
- svar
- svar
- pepret
- Rise
- s
- sier
- sier
- svindlere
- svindel
- sikkerhet
- se
- sett
- Sees
- send
- sensitive
- tjeneste
- Tjenester
- bosette
- forme
- siden
- nettstedet
- Himmel
- selskap
- Sosialteknikk
- Samfunnet
- Software
- Programvareutviklere
- utelukkende
- Noen
- noe
- sofistikert
- raffinement
- kilde
- staving
- brukt
- Spot
- stadier
- Begynn
- Still
- Story
- slik
- støtte
- mistenkelig
- system
- Systemer
- Ta
- tar
- lag
- teknologisk
- Technologies
- Teknologi
- enn
- Det
- De
- Fremtiden
- tyverier
- deres
- Dem
- seg
- deretter
- Disse
- de
- tror
- denne
- De
- tusener
- trussel
- trusler
- tre
- tid
- til
- tok
- verktøy
- verktøy
- Kurs
- klarert
- to
- Uk
- Britisk regjering
- etter
- forståelse
- Uoppfordret
- bruk
- bruke
- brukt
- Bruker
- Brukere
- ved hjelp av
- vanlig
- ulike
- ofre
- video
- visninger
- nesten
- Voice
- volum
- Sårbar
- lommebok
- var
- var det ikke
- måter
- we
- gikk
- var
- Hva
- når
- hvilken
- mens
- bred
- vil
- med
- trekke seg
- Arbeid
- ville
- skrive
- X
- år
- år
- zephyrnet