KOMMENTAR
Som cybersikkerhedseksperter forudsagt for et år siden, har kunstig intelligens (AI) været en central aktør i 2023 cyberkriminalitetslandskabet, hvilket har drevet en stigning i angreb og samtidig bidraget til forbedringer i forsvaret mod fremtidige angreb. Nu, på vej ind i 2024, forventer eksperter på tværs af branchen, at AI vil øve endnu mere indflydelse på cybersikkerhed.
Google Cloud Cybersecurity Forecast 2024 ser generativ kunstig intelligens og store sprogmodeller, der bidrager til en stigning i forskellige former for cyberangreb. Mere end 90 % af canadiske administrerende direktører i en KPMG-afstemning tror generativ AI vil gøre dem mere sårbare over for brud. Og en britisk regeringsrapport siger, at AI udgør en trussel mod landets næste valg.
Mens AI-relaterede trusler stadig er i deres tidlige stadier, stiger mængden og sofistikeringen af AI-drevne angreb hver dag. Organisationer skal forberede sig på, hvad der venter forude.
4 måder cyberkriminelle udnytter AI på
Der er fire hovedmåder, hvorpå modstandere bruger almindeligt tilgængelige AI-værktøjer som ChatGPT, Dall-E og Midjourney: automatiserede phishing-angreb, efterligningsangreb, social engineering-angreb og falske kundesupport-chatbots.
Spear-phishing-angreb får et stort løft fra AI. Tidligere var det nemmere at identificere phishing-forsøg, udelukkende fordi mange var fyldt med dårlig grammatik og stavefejl. Kræsne læsere kunne få øje på en sådan mærkelig, uopfordret kommunikation, forudsat at den sandsynligvis var genereret fra et land, hvor engelsk ikke er det primære sprog.
ChatGPT eliminerede stort set tippet. Ved hjælp af ChatGPT kan en cyberkriminel skrive en e-mail med perfekt grammatik og engelsk brug, stylet på en legitim kildes sprog. Cyberkriminelle kan udsende automatiseret kommunikation, der for eksempel efterligner en myndighed i en bank, der anmoder brugere om at logge ind og give oplysninger om deres 401(k)-konti. Når en bruger klikker på et link for at begynde at give oplysninger, tager hackeren kontrol over kontoen.
Hvor populært er dette trick? SlashNext Status for phishing-rapport 2023 tilskrev en stigning på 1,265 % i ondsindede phishing-e-mails siden fjerde kvartal af 2022 hovedsagelig til målrettede forretnings-e-mail kompromitterer ved hjælp af AI-værktøjer.
Efterligningsangreb er også i fremgang. Ved at bruge ChatGPT og andre værktøjer efterligner svindlere rigtige personer og organisationer, udfører identitetstyveri og bedrageri. Ligesom med phishing-angreb bruger de chatbots til at sende talebeskeder, der foregiver at være en betroet ven, kollega eller familiemedlem i et forsøg på at få information eller adgang til en konto.
Et eksempel fandt sted i Saskatchewan, Canada, i begyndelsen af 2023. Et ældre ægtepar modtog et opkald fra en, der efterlignede deres barnebarn, og hævdede, at han havde været i en bilulykke og blev holdt i fængsel. Den, der ringer, formidlede en historie om, at han var kommet til skade, havde mistet sin tegnebog og havde brug for 9,400 dollars i kontanter for at afgøre med ejeren af den anden bil for at undgå at blive anklaget. Bedsteforældrene gik til deres bank for at hæve pengene, men undgik at blive snydt, da en bankembedsmand overbeviste dem om, at anmodningen ikke var legitim.
Mens brancheeksperter mente, at denne sofistikerede brug af AI-stemmekloningsteknologi ville udvikle sig i løbet af få år, var der få, der forventede, at den ville blive så effektiv så hurtigt.
Cyberkriminelle bruger ChatGPT og andre AI-chatbots til at udføre social engineering-angreb, der skaber kaos. De bruger en kombination af stemmekloning og deepfake-teknologi for at få det til at se ud som om, nogen siger noget ophidsende.
Dette skete natten før Chicagos borgmestervalg tilbage i februar. En hacker oprettet en deepfake video og postede det til X, tidligere kendt som Twitter, og viste kandidat Paul Vallas angiveligt at komme med falske brand-kommentarer og udstøde kontroversielle politiske holdninger. Videoen genererede tusindvis af visninger, før den blev fjernet fra platformen.
Den sidste taktik, falske chatbots til kundeservice, eksisterer, men de er sandsynligvis et år eller to fra at vinde stor popularitet. En svigagtig bankside kunne oprettes ved hjælp af en kundeservice chatbot, der virker menneskelig. Chatbotten kan bruges til at manipulere intetanende ofre til at udlevere følsomme personlige oplysninger og kontooplysninger.
Hvordan cybersikkerhed kæmper tilbage
Den gode nyhed er, at AI også bliver brugt som et sikkerhedsværktøj til at bekæmpe AI-drevet svindel. Her er tre måder, hvorpå cybersikkerhedsindustrien kæmper tilbage.
Udvikler deres egen modstandsdygtige AI
I bund og grund er dette at skabe "god AI" og træne den til at bekæmpe "dårlig AI". Ved at udvikle deres egne generative adversarial networks (GAN'er), kan cyberfirmaer lære, hvad de kan forvente i tilfælde af et angreb. GAN'er består af to neurale netværk: en generator, der skaber nye dataprøver og en diskriminator, som adskiller de genererede prøver fra de originale prøver.
Ved at bruge disse teknologier kan GAN'er generere nye angrebsmønstre, der ligner tidligere sete angrebsmønstre. Ved at træne en model på disse mønstre kan systemer komme med forudsigelser om, hvilken slags angreb vi kan forvente at se, og hvordan cyberkriminelle udnytter disse trusler.
Anomali detektion
Dette er at forstå grundlinjen for, hvad normal adfærd er, og derefter identificere, hvornår nogen afviger fra denne adfærd. Når nogen logger ind på en konto fra et andet sted end normalt, eller hvis regnskabsafdelingen på mystisk vis bruger et PowerShell-system, der normalt bruges af softwareudviklere, kan det være en indikator på et angreb. Mens cybersikkerhedssystemer længe har brugt denne model, kan de tilføjede teknologiske hestekræfter AI-modeller mere effektivt markere meddelelser, der er potentielt mistænkelige.
Detektionsrespons
Ved at bruge AI-systemer kan cybersikkerhedsværktøjer og -tjenester som managed detection and response (MDR) bedre opdage trusler og kommunikere oplysninger om dem til sikkerhedsteams. AI hjælper sikkerhedsteams med hurtigere at identificere og adressere legitime trusler ved at modtage information, der er kortfattet og relevant. Mindre tid brugt på at jagte falske positiver og forsøg på at dechifrere sikkerhedslogfiler hjælper teams med at lancere mere effektive svar.
Konklusion
AI-værktøjer åbner samfundets øjne for nye muligheder inden for stort set alle arbejdsområder. Efterhånden som hackere drager større fordel af store sprogmodelteknologier, bliver industrien nødt til at holde trit for at holde AI-truslen under kontrol.
- SEO Powered Content & PR Distribution. Bliv forstærket i dag.
- PlatoData.Network Vertical Generative Ai. Styrk dig selv. Adgang her.
- PlatoAiStream. Web3 intelligens. Viden forstærket. Adgang her.
- PlatoESG. Kulstof, CleanTech, Energi, Miljø, Solenergi, Affaldshåndtering. Adgang her.
- PlatoHealth. Bioteknologiske og kliniske forsøgs intelligens. Adgang her.
- Kilde: https://www.darkreading.com/vulnerabilities-threats/how-ai-shaping-future-cybercrime
- :har
- :er
- :hvor
- 1
- 2022
- 2023
- 2024
- 400
- 7
- a
- Om
- adgang
- ulykke
- Konto
- Bogføring og administration
- Konti
- tværs
- tilføjet
- adresse
- Fordel
- kontradiktorisk
- mod
- forude
- AI
- AI modeller
- AI-systemer
- også
- an
- ,
- kommer til syne
- ER
- kunstig
- kunstig intelligens
- Kunstig intelligens (AI)
- AS
- At
- angribe
- Angreb
- forsøg
- forsøger
- Forsøg på
- myndighed
- Automatiseret
- til rådighed
- undgå
- undgås
- væk
- tilbage
- Bad
- Bank
- Baseline
- BE
- fordi
- bliver
- været
- før
- adfærd
- være
- troede
- Bedre
- boost
- brud
- men
- by
- ringe
- Caller
- CAN
- Canada
- Canadian
- kandidat
- bil
- bære
- regnskabsmæssige
- Kontanter
- central
- direktører
- Chaos
- afgifter
- chatbot
- chatbots
- ChatGPT
- Chicago
- hævder
- Cloud
- kollega
- bekæmpe
- kombination
- almindeligt
- kommunikere
- Kommunikation
- Kommunikation
- bidrager
- kontrol
- kontroversielle
- overbevist
- kunne
- land
- Par
- oprettet
- skaber
- Oprettelse af
- kunde
- Kundeservice
- Kunde support
- Cyber
- cyberangreb
- cyberkriminalitet
- CYBERKRIMINAL
- cyberkriminelle
- Cybersecurity
- dalls
- data
- dag
- dechifrere
- Forsvar
- Afdeling
- opdage
- Detektion
- udvikle
- udviklere
- udvikling
- forskellige
- do
- kørsel
- Tidligt
- lettere
- Effektiv
- effektivt
- Ældre
- Valg
- elimineret
- emails
- Engineering
- Engelsk
- fejl
- Endog
- begivenhed
- Hver
- hver dag
- eksempel
- eksisterer
- forvente
- forventet
- eksperter
- udnytte
- Øjne
- vender
- falsk
- falsk
- familie
- februar
- få
- felt
- kampene
- firmaer
- Til
- Forecast
- tidligere
- formularer
- fire
- Fjerde
- bedrageri
- svigagtig
- ven
- fra
- Fuller
- fremtiden
- vinder
- generere
- genereret
- generative
- Generativ AI
- generator
- få
- få
- godt
- Regering
- grammatik
- hacker
- hackere
- havde
- aflevering
- skete
- Have
- he
- Overskrift
- Held
- hjælpe
- hjælper
- link.
- hans
- Hvordan
- HTML
- HTTPS
- menneskelig
- Hurt
- identificere
- identificere
- Identity
- if
- forbedringer
- in
- Forøg
- stigende
- Indikator
- enkeltpersoner
- industrien
- industri eksperter
- indflydelse
- oplysninger
- Intelligens
- ind
- isn
- IT
- fængsel
- jpg
- lige
- Holde
- Venlig
- kendt
- KPMG
- landskab
- Sprog
- stor
- vid udstrækning
- Efternavn
- lancere
- LÆR
- legitim
- mindre
- løftestang
- ligesom
- Sandsynlig
- LINK
- placering
- log
- Lang
- Se
- ligner
- tabte
- Main
- større
- lave
- ondsindet
- lykkedes
- mange
- MDR
- medlem
- beskeder
- MidJourney
- model
- modeller
- penge
- mere
- meget
- Behov
- behov
- net
- neurale
- neurale netværk
- Ny
- nyheder
- næste
- nat
- normal
- Normalt
- nu
- of
- officiel
- on
- åbning
- or
- organisationer
- original
- Andet
- ud
- i løbet af
- egen
- ejer
- Tempo
- forbi
- mønstre
- paul
- perfekt
- personale
- Phishing
- phishing-angreb
- Place
- perron
- plato
- Platon Data Intelligence
- PlatoData
- spiller
- politik
- fattige
- Populær
- popularitet
- udgør
- have
- muligheder
- indsendt
- potentielt
- PowerShell
- Forudsigelser
- Forbered
- smuk
- tidligere
- primære
- sandsynligvis
- give
- Kvarter
- hurtigt
- hurtigt
- RE
- læsere
- ægte
- modtaget
- modtagende
- relevant
- fjernet
- indberette
- anmode
- anmoder
- svar
- reaktioner
- gået igennem
- Rise
- s
- siger
- siger
- Snydere
- svindel
- sikkerhed
- se
- set
- Sees
- send
- følsom
- tjeneste
- Tjenester
- bilægge
- forme
- siden
- websted
- Himmel
- Social
- Samfundsteknologi
- Samfund
- Software
- Softwareudviklere
- Alene
- Nogen
- noget
- sofistikeret
- raffinement
- Kilde
- stavning
- brugt
- Spot
- etaper
- starte
- Stadig
- Historie
- sådan
- support
- mistænksom
- systemet
- Systemer
- Tag
- tager
- hold
- teknologisk
- Teknologier
- Teknologier
- end
- at
- Fremtiden
- tyverier
- deres
- Them
- selv
- derefter
- Disse
- de
- tror
- denne
- dem
- tusinder
- trussel
- trusler
- tre
- tid
- til
- tog
- værktøj
- værktøjer
- Kurser
- betroet
- to
- Uk
- Britiske regering
- under
- forståelse
- uopfordret
- Brug
- brug
- anvendte
- Bruger
- brugere
- ved brug af
- sædvanlig
- forskellige
- ofre
- video
- visninger
- næsten
- Voice
- bind
- Sårbar
- tegnebog
- var
- var ikke
- måder
- we
- gik
- var
- Hvad
- hvornår
- som
- mens
- bred
- vilje
- med
- tilbagekalde
- Arbejde
- ville
- skriver
- X
- år
- år
- zephyrnet