Ali so grožnje, ustvarjene z umetno inteligenco, FUD ali resničnost?

V trenutku, ko so generativne aplikacije AI prišle na trg, so spremenile tempo poslovanja – ne samo za varnostne ekipe, ampak tudi za kibernetske kriminalce. Če danes ne sprejmete inovacij z umetno inteligenco, lahko zaostajate za konkurenco in postavite svojo kibernetsko obrambo v slabši položaj pred kibernetskimi napadi, ki jih poganja umetna inteligenca. Toda ko razpravljamo o tem, kako bo ali ne bo umetna inteligenca vplivala na kibernetski kriminal, je pomembno, da na stvari gledamo skozi pragmatično in trezno lečo – ne da bi se napajali s pompom, ki se bere bolj kot znanstvena fantastika.

Današnji napredek in zrelost umetne inteligence nakazujeta pomemben korak naprej za varnost podjetij. Kibernetski kriminalci se ne morejo zlahka ujemati z velikostjo in obsegom virov, spretnosti in motivacije podjetij, zaradi česar težje sledijo trenutni hitrosti inovacij AI. Zasebna tvegana naložba v AI eksplodirala na 93.5 milijarde dolarjev leta 2021 — slabi fantje nimajo te ravni kapitala. Prav tako nimajo delovne sile, računalniške moči in inovacij, ki bi komercialnim podjetjem ali vladi omogočile več časa in priložnosti za hiter neuspeh, hitro učenje in prvo, kar je prav.

Da ne bo pomote: kibernetski kriminal bo dohitel. To ni prvič, da je imela varnostna industrija kratkotrajno prednost – ko je izsiljevalska programska oprema začela spodbujati več zagovornikov, da sprejmejo tehnologije zaznavanja in odzivanja na končne točke, so napadalci potrebovali nekaj časa, da so ugotovili, kako zaobiti ta zaznavanja in se jim izogniti. To vmesno "obdobje odloga" je podjetjem dalo čas za bolje se zaščitijo. Enako velja zdaj: podjetja morajo povečati svojo prednost v tekmi z umetno inteligenco, izboljšati svoje zmožnosti odkrivanja groženj in odzivanja ter izkoristiti hitrost in natančnost, ki jim jo omogočajo trenutne inovacije umetne inteligence.

Kako torej umetna inteligenca spreminja kibernetski kriminal? No, kmalu ga ne bo bistveno spremenil, vendar ga bo v določenih primerih povečal. Oglejmo si, kje bo zlonamerna uporaba umetne inteligence imela najbolj takojšen učinek in kje ne.

Popolnoma avtomatizirane akcije zlonamerne programske opreme: FUD

V zadnjih mesecih smo bili priča trditvam o različnih primerih zlonamerne uporabe umetne inteligence, vendar samo zato, ker je scenarij možen, še ne pomeni, da je verjeten. Vzemimo na primer popolnoma avtomatizirane kampanje zlonamerne programske opreme – logika pravi, da je mogoče uporabiti AI za dosego tega rezultata, vendar glede na to, da vodilna tehnološka podjetja še niso pionirja popolnoma avtomatiziranih razvojnih ciklov programske opreme, je malo verjetno, da bodo finančno omejene skupine kibernetske kriminalitete to dosegle prej . Tudi delna avtomatizacija lahko omogoči povečanje kibernetske kriminalitete, vendar je to taktika, ki smo jo že videli v Bazarske akcije. To ni inovacija, ampak a preizkušena tehnika ki jih branilci že prevzemajo.

Lažno predstavljanje z umetno inteligenco: resničnost (toda kontekst je ključen)

Drug primer uporabe, ki ga je treba upoštevati, so napadi lažnega predstavljanja, ustvarjeni z umetno inteligenco. Ne samo, da je ta možen, ampak te napade že začenjamo opažati v naravi. Ta naslednja generacija lažnega predstavljanja lahko doseže višjo stopnjo prepričljivosti in stopnje klikov, vendar lažno predstavljanje, ki ga je ustvaril človek, in lažno predstavljanje, ki ga je ustvaril AI, še vedno vodita k istemu cilju. Z drugimi besedami, lažno predstavljanje, ustvarjeno z AI, je še vedno lažno predstavljanje, ki išče klik, in zahteva enako zaznavanje in pripravljenost na odziv.

Čeprav problem ostaja enak, je obseg močno drugačen. Umetna inteligenca deluje kot množitelj sile za povečanje lažnih kampanj, tako da, če podjetje opaža skok vhodnih lažnih e-poštnih sporočil – in so ta zlonamerna e-poštna sporočila bistveno bolj prepričljiva –, potem verjetno gleda na visoko verjetnost klikov in potencial za ogrožanje. Modeli umetne inteligence lahko tudi povečajo učinkovitost ciljanja, s čimer pomagajo napadalcem ugotoviti, kdo je najbolj dovzetna tarča za določeno lažno predstavljanje v organizaciji, in na koncu dosežejo višjo donosnost naložbe iz svojih kampanj. Napadi z lažnim predstavljanjem so bili v preteklosti med najuspešnejšimi taktikami, ki so jih napadalci uporabili za infiltracijo v podjetja. Skaliranje te vrste napada poudarja kritično vlogo, ki jo imajo tehnologije EDR, MDR, XDR in IAM pri odkrivanju nenormalnega vedenja, preden doseže učinek.

Napadi z zastrupitvijo z umetno inteligenco: FUD-ish

Napadi zastrupitve z umetno inteligenco, z drugimi besedami, programsko manipuliranje s kodo in podatki, na katerih so zgrajeni modeli AI, je lahko »sveti gral« napadov za kibernetske kriminalce. Vpliv uspešnega napada z zastrupitvijo se lahko giblje od poskusov napačnih informacij do Die Hard 4.0. Zakaj? Ker lahko napadalec z zastrupitvijo modela povzroči, da se obnaša ali deluje na kakršen koli način, ki ga želi, in tega ni zlahka zaznati. Vendar pa teh napadov ni lahko izvesti – zahtevajo dostop do podatkov, na katerih se model AI uri v času usposabljanja, kar ni majhen podvig. Ko bo več modelov postalo odprtokodnih, se bo tveganje za te napade povečalo, vendar bo zaenkrat ostalo nizko.

Neznano

Medtem ko je pomembno ločiti hype od resničnosti, je pomembno tudi zagotoviti, da postavljamo prava vprašanja o vplivu umetne inteligence na pokrajino groženj. Glede potenciala umetne inteligence je veliko neznank – ne smemo spregledati, kako lahko spremeni cilje in cilje nasprotnikov. Še vedno ni znano, kako lahko nove sposobnosti pomagajo služiti novim namenom za nasprotnike in ponovno umeriti njihove motive.

Morda ne bomo videli takojšnjega porasta novih napadov, ki jih podpira umetna inteligenca, vendar bo imelo povečanje kibernetske kriminalitete zaradi umetne inteligence znaten vpliv na organizacije, ki niso pripravljene. Hitrost in obseg sta bistveni značilnosti umetne inteligence in tako kot si branilci želijo izkoristiti njuno korist, imajo tudi napadalci. Varnostne ekipe imajo že tako premalo osebja in so preobremenjene – skok v zlonamernem prometu ali odziv na incidente predstavlja precejšnjo težo za njihovo delovno obremenitev.

To bolj kot kdaj koli prej potrjuje, da morajo podjetja vlagati v svojo obrambo, uporaba umetne inteligence za doseganje hitrosti in natančnosti v njihovih zmožnostih odkrivanja groženj in odzivanja. Podjetja, ki izkoristijo to »obdobje odloga«, bodo veliko bolj pripravljena in odporna na dan, ko bodo napadalci dejansko dohiteli kibernetsko tekmo z umetno inteligenco.

• Distribucija vsebine in PR s pomočjo SEO. Okrepite se še danes.
• PlatoData.Network Vertical Generative Ai. Opolnomočite se. Dostopite tukaj.
• PlatoAiStream. Web3 Intelligence. Razširjeno znanje. Dostopite tukaj.
• PlatoESG. Avtomobili/EV, Ogljik, CleanTech, Energija, Okolje, sončna energija, Ravnanje z odpadki. Dostopite tukaj.
• BlockOffsets. Posodobitev okoljskega offset lastništva. Dostopite tukaj.
• vir: https://www.darkreading.com/dr-tech/are-ai-engineered-threats-fud-or-reality-