Är AI-utvecklade hot FUD eller verklighet?

I samma ögonblick som generativa AI-applikationer kom ut på marknaden förändrade det affärstakten – inte bara för säkerhetsteam, utan även för cyberbrottslingar. Att inte anamma AI-innovationer idag kan innebära att du hamnar efter dina konkurrenter och att ditt cyberförsvar missgynnas mot cyberattacker som drivs av AI. Men när vi diskuterar hur AI kommer eller inte kommer att påverka cyberbrottslighet, är det viktigt att vi tittar på saker och ting genom en pragmatisk och sober lins – inte matas in i en hype som läser mer som science fiction.

Dagens AI-framsteg och mognad signalerar ett betydande steg framåt för företagssäkerhet. Cyberkriminella kan inte lätt matcha storleken och omfattningen av företags resurser, kompetens och motivation, vilket gör det svårare för dem att hänga med i den nuvarande hastigheten för AI-innovation. Privat riskinvestering i AI exploderad till 93.5 miljarder dollar 2021 — skurkarna har inte den nivån av kapital. De har inte heller den arbetskraft, datorkraft och innovationer som ger kommersiella företag eller myndigheter mer tid och möjlighet att misslyckas snabbt, lära sig snabbt och göra rätt först.

Gör dock inga misstag: Cyberbrottslighet kommer ikapp. Det här är inte första gången säkerhetsindustrin har haft ett kort försprång - när ransomware började driva fler försvarare att anta slutpunktsdetektering och svarsteknik, behövde angripare lite tid för att ta reda på hur de skulle kringgå och undvika dessa upptäckter. Den interimistiska "graciationsperioden" gav företag tid till bättre skydda sig. Samma sak gäller nu: Företag måste maximera sin ledning i AI-kapplöpningen, förbättra sina hotdetektions- och svarsmöjligheter och utnyttja den hastighet och precision som nuvarande AI-innovationer ger dem.

Så hur förändrar AI cyberbrottslighet? Tja, det kommer inte att ändra det väsentligt när som helst snart, men det kommer att skala det i vissa fall. Låt oss ta en titt på var skadlig användning av AI kommer och inte kommer att ha den mest omedelbara effekten.

Helautomatiska kampanjer för skadlig programvara: FUD

Under de senaste månaderna har vi sett påståenden om olika fall av skadlig användning av AI, men bara för att ett scenario är möjligt gör det inte det troligt. Ta till exempel helt automatiserade skadlig programvara – logiken säger att det är möjligt att utnyttja AI för att uppnå det resultatet, men med tanke på att ledande teknikföretag ännu inte har banat väg för helt automatiserade programvaruutvecklingscykler, är det osannolikt att ekonomiskt begränsade cyberbrottsgrupper kommer att uppnå detta tidigare . Även partiell automatisering kan möjliggöra skalning av cyberbrottslighet, men en taktik som vi redan har sett användas i Bazar-kampanjer. Detta är inte en innovation, utan en beprövad teknik som försvarare redan tar sig an.

AI-Engineered Phishing: Reality (But Context Is Key)

Ett annat användningsfall att överväga är AI-konstruerade nätfiskeattacker. Detta är inte bara möjligt, utan vi börjar redan se dessa attacker i det vilda. Den här nästa generationens nätfiske kan uppnå högre nivåer av övertygelse och klickfrekvens, men en mänskligt utvecklad nätfiske och AI-konstruerad nätfiske driver fortfarande mot samma mål. Med andra ord är en AI-konstruerad nätfiske fortfarande en nätfiske som söker efter ett klick, och den kräver samma upptäckt och svarsberedskap.

Men även om problemet förblir detsamma, är skalan väldigt olika. AI fungerar som en kraftmultiplikator för att skala nätfiskekampanjer, så om ett företag ser en ökning av inkommande nätfiske-e-postmeddelanden – och dessa skadliga e-postmeddelanden är betydligt mer övertygande – så är det troligtvis en hög klickfrekvens och risk för kompromisser. AI-modeller kan också öka inriktningseffektiviteten, hjälpa angripare att avgöra vem som är det mest mottagliga målet för ett specifikt nätfiske inom en organisation och i slutändan nå en högre ROI från sina kampanjer. Nätfiskeattacker har historiskt sett varit bland de mest framgångsrika taktik som angripare har använt för att infiltrera företag. Skalningen av denna typ av attack understryker den avgörande roll som EDR-, MDR-, XDR- och IAM-tekniker spelar för att upptäcka avvikande beteende innan det får effekt.

AI-förgiftningsattacker: FUD-ish

AI-förgiftningsattacker, med andra ord att programmässigt manipulera koden och data som AI-modellerna bygger på, kan vara den "heliga gralen" av attacker för cyberbrottslingar. Effekten av en framgångsrik förgiftningsattack kan sträcka sig allt från desinformationsförsök till Die Hard 4.0. Varför? För genom att förgifta modellen kan en angripare få den att bete sig eller fungera på vilket sätt de vill, och det är inte lätt att upptäcka. Dessa attacker är dock inte lätta att utföra – de kräver att man får tillgång till data som AI-modellen tränar på vid träningstillfället, vilket inte är en liten bedrift. I takt med att fler modeller blir öppen källkod ökar risken för dessa attacker, men den kommer att förbli låg tills vidare.

Det okända

Även om det är viktigt att skilja hajpen från verkligheten, är det också viktigt att se till att vi ställer rätt frågor om AI:s inverkan på hotbilden. Det finns massor av okända angående AI:s potential – hur det kan förändra motståndarnas mål och mål är något vi inte får förbise. Det är fortfarande okänt hur nya förmågor kan hjälpa till att tjäna nya syften för motståndare och omkalibrera deras motiv.

Vi kanske inte ser en omedelbar ökning i nya AI-aktiverade attacker, men skalningen av cyberbrottslighet tack vare AI kommer att ha en betydande inverkan på organisationer som inte är förberedda. Hastighet och skala är inneboende egenskaper hos AI, och precis som försvarare försöker dra nytta av dem, så är det också angripare. Säkerhetsteamen är redan underbemannade och överväldigade – att se en ökning av skadlig trafik eller incidentrespons är en stor tyngd på deras arbetsbörda.

Detta bekräftar mer än någonsin behovet för företag att investera i sitt försvar, använder AI för att driva hastighet och precision deras förmåga att upptäcka och bemöta hot. Företag som drar nytta av denna "fritidsperiod" kommer att finna sig mycket mer förberedda och motståndskraftiga inför den dag som angripare faktiskt kommer ikapp AI-cyberkapplöpningen.

• SEO-drivet innehåll och PR-distribution. Bli förstärkt idag.
• PlatoData.Network Vertical Generative Ai. Styrka dig själv. Tillgång här.
• PlatoAiStream. Web3 Intelligence. Kunskap förstärkt. Tillgång här.
• Platoesg. Fordon / elbilar, Kol, CleanTech, Energi, Miljö, Sol, Avfallshantering. Tillgång här.
• BlockOffsets. Modernisera miljökompensation ägande. Tillgång här.
• Källa: https://www.darkreading.com/dr-tech/are-ai-engineered-threats-fud-or-reality-