Er AI-utviklede trusler FUD eller virkelighet?

I det øyeblikket generative AI-applikasjoner kom på markedet, endret det tempoet i virksomheten – ikke bare for sikkerhetsteam, men også for nettkriminelle. I dag kan det å ikke omfavne AI-innovasjoner bety å falle bak konkurrentene dine og sette cyberforsvaret ditt i en ulempe mot cyberangrep drevet av AI. Men når vi diskuterer hvordan AI vil eller ikke vil påvirke nettkriminalitet, er det viktig at vi ser på ting gjennom en pragmatisk og nøktern linse – ikke tilfører hype som leser mer som science fiction.

Dagens AI-fremskritt og modenhet signaliserer et betydelig sprang fremover for bedriftssikkerhet. Cyberkriminelle kan ikke enkelt matche størrelsen og omfanget av virksomheters ressurser, ferdigheter og motivasjon, noe som gjør det vanskeligere for dem å holde tritt med den nåværende hastigheten til AI-innovasjon. Privat ventureinvestering i AI eksploderte til 93.5 milliarder dollar i 2021 — de slemme gutta har ikke det kapitalnivået. De har heller ikke arbeidskraften, datakraften og innovasjonene som gir kommersielle selskaper eller myndigheter mer tid og mulighet til å feile raskt, lære raskt og få det riktig først.

Gjør ingen feil, men: Cyberkriminalitet vil ta igjen. Dette er ikke første gang sikkerhetsindustrien har hatt et kort forsprang – da løsepengevare begynte å få flere forsvarere til å ta i bruk endepunktdeteksjons- og responsteknologier, trengte angripere litt tid på å finne ut hvordan de kunne omgå og unngå disse oppdagelsene. Den midlertidige "utsettelsesperioden" ga bedrifter tid til bedre skjerme seg. Det samme gjelder nå: Bedrifter må maksimere sin ledelse i AI-kappløpet, fremme trusselsdeteksjons- og responsevnene og utnytte hastigheten og presisjonen som nåværende AI-innovasjoner gir dem.

Så hvordan endrer AI nettkriminalitet? Vel, det vil ikke endre det vesentlig når som helst snart, men det vil skalere det i visse tilfeller. La oss ta en titt på hvor ondsinnet bruk av AI vil og ikke vil ha den mest umiddelbare innvirkningen.

Helautomatiserte Malware-kampanjer: FUD

De siste månedene har vi sett påstander angående ulike ondsinnede brukstilfeller av AI, men bare fordi et scenario er mulig, gjør det ikke det sannsynlig. Ta for eksempel helautomatiske malware-kampanjer – logikk sier at det er mulig å utnytte AI for å oppnå dette resultatet, men gitt at ledende teknologiselskaper ennå ikke har vært banebrytende i helautomatiserte programvareutviklingssykluser, er det usannsynlig at økonomisk begrensede cyberkriminalitetsgrupper vil oppnå dette tidligere . Selv delvis automatisering kan muliggjøre skalering av nettkriminalitet, men en taktikk vi allerede har sett brukt i Bazar-kampanjer. Dette er ikke en innovasjon, men en utprøvd teknikk som forsvarerne allerede tar på.

AI-Engineered Phishing: Reality (But Context Is Key)

Et annet brukstilfelle å vurdere er AI-konstruerte phishing-angrep. Ikke bare er dette mulig, men vi begynner allerede å se disse angrepene i naturen. Denne neste generasjonen phishing kan oppnå høyere nivåer av overtalelsesevne og klikkfrekvens, men en menneskeskapt phish og AI-konstruert phish driver fortsatt mot det samme målet. Med andre ord, en AI-konstruert phish er fortsatt en phish som søker etter et klikk, og den krever samme deteksjons- og responsberedskap.

Men selv om problemet forblir det samme, er omfanget svært forskjellig. AI fungerer som en kraftmultiplikator for å skalere phishing-kampanjer, så hvis en bedrift ser en økning i innkommende phishing-e-poster – og de ondsinnede e-postene er betydelig mer overbevisende – så ser den sannsynligvis på en høy klikkrate sannsynlighet og potensial for kompromiss. AI-modeller kan også øke målrettingseffektiviteten, hjelpe angripere med å finne ut hvem som er det mest mottakelige målet for en spesifikk phish i en organisasjon og til slutt oppnå en høyere avkastning fra kampanjene deres. Phishing-angrep har historisk sett vært blant de mest vellykkede taktikkene som angripere har brukt for å infiltrere bedrifter. Skaleringen av denne typen angrep understreker den kritiske rollen som EDR-, MDR-, XDR- og IAM-teknologier spiller for å oppdage unormal atferd før den oppnår effekt.

AI-forgiftningsangrep: FUD-aktig

AI-forgiftningsangrep, med andre ord programmatisk manipulering av koden og dataene som AI-modeller er bygget på, kan være den "hellige gral" av angrep for nettkriminelle. Virkningen av et vellykket forgiftningsangrep kan variere alt fra feilinformasjonsforsøk til Die Hard 4.0. Hvorfor? For ved å forgifte modellen kan en angriper få den til å oppføre seg eller fungere på den måten de vil, og den er ikke lett å oppdage. Disse angrepene er imidlertid ikke enkle å utføre – de krever tilgang til dataene AI-modellen trener på på treningstidspunktet, noe som ikke er en liten prestasjon. Etter hvert som flere modeller blir åpen kildekode, vil risikoen for disse angrepene øke, men den vil foreløpig forbli lav.

Det ukjente

Selv om det er viktig å skille hypen fra virkeligheten, er det også viktig å sikre at vi stiller de riktige spørsmålene om AIs innvirkning på trussellandskapet. Det er mange ukjente angående AIs potensial – hvordan det kan endre motstandernes mål og mål er noe vi ikke må overse. Det er fortsatt ukjent hvordan nye evner kan bidra til å tjene nye formål for motstandere og rekalibrere deres motiver.

Vi ser kanskje ikke en umiddelbar økning i nye AI-aktiverte angrep, men skaleringen av nettkriminalitet takket være AI vil ha en betydelig innvirkning på organisasjoner som ikke er forberedt. Hastighet og skala er iboende kjennetegn ved AI, og akkurat som forsvarere søker å dra nytte av dem, er det også angripere. Sikkerhetsteam er allerede underbemannet og overveldet – å se en økning i ondsinnet trafikk eller hendelsesreaksjoner er en betydelig vekt lagt på arbeidsmengden deres.

Dette bekrefter mer enn noen gang behovet for at bedrifter investerer i deres forsvar, bruke AI for å drive hastighet og presisjon i deres trusseldeteksjons- og responsevner. Bedrifter som drar nytte av denne "utsettelsesperioden" vil finne seg mye mer forberedt og motstandsdyktig for den dagen angripere faktisk fanger opp i AI-cyberkappløpet.

• SEO-drevet innhold og PR-distribusjon. Bli forsterket i dag.
• PlatoData.Network Vertical Generative Ai. Styrk deg selv. Tilgang her.
• PlatoAiStream. Web3 Intelligence. Kunnskap forsterket. Tilgang her.
• PlatoESG. Bil / elbiler, Karbon, CleanTech, Energi, Miljø, Solenergi, Avfallshåndtering. Tilgang her.
• BlockOffsets. Modernisering av eierskap for miljøkompensasjon. Tilgang her.
• kilde: https://www.darkreading.com/dr-tech/are-ai-engineered-threats-fud-or-reality-