Ovatko tekoälyn suunnittelemat uhkat FUD- vai todellisuus?

Sillä hetkellä, kun generatiiviset tekoälysovellukset tulivat markkinoille, se muutti liiketoiminnan vauhtia – ei vain turvallisuustiimien, vaan myös kyberrikollisten kannalta. Tänä päivänä tekoälyinnovaatioiden hyväksymättä jättäminen voi tarkoittaa kilpailijoidensa jälkeen jäämistä ja kyberpuolustuksen asettamista epäedulliseen asemaan tekoälyn tuottamia kyberhyökkäyksiä vastaan. Mutta kun keskustellaan siitä, kuinka tekoäly vaikuttaa tai ei vaikuta tietoverkkorikollisuuteen, on tärkeää, että katsomme asioita pragmaattisen ja hillittyjen linssien läpi – emme syötä enemmän tieteiskirjallisuutta muistuttavaa hypeä.

Tämän päivän tekoälyn edistysaskel ja kypsyys ovat merkki merkittävästä harppauksesta yritysturvallisuuden kannalta. Kyberrikolliset eivät pysty helposti vastaamaan yritysten resurssien, taitojen ja motivaation kokoa ja laajuutta, minkä vuoksi heidän on vaikeampi pysyä AI-innovoinnin vauhdissa. Yksityinen pääomasijoitus tekoälyyn räjähti 93.5 miljardiin dollariin vuonna 2021 – pahiksilla ei ole tällaista pääomaa. Heillä ei myöskään ole työvoimaa, laskentatehoa ja innovaatioita, jotka antaisivat kaupallisille yrityksille tai hallitukselle enemmän aikaa ja mahdollisuuksia epäonnistua nopeasti, oppia nopeasti ja saada asiat kuntoon ensin.

Älä kuitenkaan tee virhettä: tietoverkkorikollisuus saa kiinni. Tämä ei ole ensimmäinen kerta, kun tietoturvateollisuudella on ollut lyhyt etu – kun kiristysohjelmat alkoivat saada enemmän puolustajia ottamaan käyttöön päätepisteiden tunnistus- ja vastaustekniikoita, hyökkääjät tarvitsivat jonkin aikaa selvittääkseen, kuinka nämä havainnot voidaan kiertää ja välttää. Tuo väliaikainen "armonaika" antoi yrityksille aikaa suojelevat itseään paremmin. Sama pätee nytkin: yritysten on maksimoitava johtoasemansa tekoälykilpailussa kehittämällä uhkien havaitsemis- ja reagointivalmiuksiaan ja hyödyntämällä nykyisten tekoälyinnovaatioiden tarjoamaa nopeutta ja tarkkuutta.

Joten miten tekoäly muuttaa kyberrikollisuutta? No, se ei muuta sitä olennaisesti lähiaikoina, mutta se skaalaa sitä tietyissä tapauksissa. Katsotaanpa, missä tekoälyn haitallisella käytöllä on välitön vaikutus ja missä ei.

Täysin automatisoidut haittaohjelmakampanjat: FUD

Viime kuukausina olemme nähneet väitteitä erilaisista tekoälyn haitallisista käyttötapauksista, mutta vain siksi, että skenaario on mahdollinen, se ei tee siitä todennäköistä. Otetaan esimerkiksi täysin automatisoidut haittaohjelmakampanjat – logiikka sanoo, että tekoälyä on mahdollista hyödyntää tämän tuloksen saavuttamiseksi, mutta koska johtavat teknologiayritykset eivät ole vielä olleet täysin automatisoitujen ohjelmistokehityssyklien edelläkävijöitä, on epätodennäköistä, että taloudellisesti rajoittuneet kyberrikollisryhmät saavuttavat tämän nopeammin. . Jopa osittainen automatisointi voi mahdollistaa tietoverkkorikollisuuden skaalaamisen, mutta taktiikka, jota olemme jo nähneet Bazar-kampanjat. Tämä ei ole innovaatio, vaan a kokeiltu ja oikea tekniikka joita puolustajat ovat jo ottamassa vastaan.

Tekoälyn kehittämä tietojenkalastelu: todellisuus (mutta konteksti on avain)

Toinen harkittava käyttötapaus ovat tekoälyn suunnittelemat tietojenkalasteluhyökkäykset. Tämä ei ole vain mahdollista, vaan alamme jo nähdä näitä hyökkäyksiä luonnossa. Tämä seuraavan sukupolven tietojenkalastelu voi saavuttaa korkeamman vakuuttavuuden ja napsautussuhteen, mutta ihmisen kehittämä phish ja tekoälyn kehittämä phish ajavat silti kohti samaa tavoitetta. Toisin sanoen tekoälyn suunnittelema phish on edelleen napsautusta etsivä phish, ja se vaatii saman tunnistus- ja vastausvalmiuden.

Vaikka ongelma pysyy samana, mittakaava on kuitenkin hyvin erilainen. Tekoäly toimii voimankertojana tietojenkalastelukampanjoiden mittakaavassa, joten jos yritys näkee piikin saapuvien tietojenkalasteluviestien määrässä – ja nämä haitalliset sähköpostit ovat huomattavasti vakuuttavampia –, se todennäköisesti tarkastelee korkeaa napsautussuhdetta ja mahdollisuutta tehdä kompromisseja. Tekoälymallit voivat myös lisätä kohdistuksen tehokkuutta auttaen hyökkääjiä määrittämään, kuka on alttiin kohde tietylle kalastelulle organisaatiossa, ja saavuttaa lopulta korkeamman sijoitetun pääoman tuottoprosenttia kampanjoistaan. Tietojenkalasteluhyökkäykset ovat historiallisesti olleet yksi menestyneimmistä taktiikoista, joita hyökkääjät ovat käyttäneet tunkeutuessaan yrityksiin. Tämän tyyppisten hyökkäysten skaalaus korostaa EDR-, MDR-, XDR- ja IAM-tekniikoiden tärkeää roolia poikkeavan käyttäytymisen havaitsemisessa ennen kuin se saavuttaa vaikutuksen.

AI-myrkytyshyökkäykset: FUD-ish

AI-myrkytyshyökkäykset, toisin sanoen koodin ja datan, jolle tekoälymallit rakennetaan, ohjelmoitu manipulointi, voi olla kyberrikollisten hyökkäyksiä "pyhä malja". Onnistuneen myrkytyshyökkäyksen vaikutukset voivat vaihdella mistä tahansa väärän tiedon antamisesta Die Hard 4.0. Miksi? Koska myrkyttämällä mallin hyökkääjä voi saada sen käyttäytymään tai toimimaan haluamallaan tavalla, eikä se ole helposti havaittavissa. Nämä hyökkäykset eivät kuitenkaan ole helppoja toteuttaa – ne edellyttävät pääsyn tietoihin, joita tekoälymalli harjoittelee harjoittelun aikana, mikä ei ole pieni saavutus. Mitä enemmän malleja tulee avoimeen lähdekoodiin, näiden hyökkäysten riski kasvaa, mutta pysyy toistaiseksi alhaisena.

Tuntematon

Vaikka on tärkeää erottaa hype todellisuudesta, on myös tärkeää varmistaa, että kysymme oikeita kysymyksiä tekoälyn vaikutuksesta uhkamaisemaan. Tekoälyn potentiaaliin liittyy paljon tuntemattomia – emme saa unohtaa, kuinka se voi muuttaa vastustajien tavoitteita. On edelleen epäselvää, kuinka uudet kyvyt voivat auttaa palvelemaan uusia tarkoituksia vastustajille ja kalibroimaan heidän motiiveitaan.

Emme ehkä näe välitöntä piikkiä uusissa tekoälyn tukemissa hyökkäyksissä, mutta tekoälyn ansiosta tapahtuva tietoverkkorikollisuuden skaalaus vaikuttaa merkittävästi organisaatioihin, jotka eivät ole valmistautuneet. Nopeus ja mittakaava ovat tekoälyn luontaisia ​​ominaisuuksia, ja aivan kuten puolustajat haluavat hyötyä niistä, niin myös hyökkääjät. Turvatiimeillä on jo nyt liian vähän henkilökuntaa ja ylikuormitettuja – haitallisen liikenteen tai häiriötilanteiden reagointitoimien piikin näkeminen lisää heidän työtaakkaansa huomattavasti.

Tämä vahvistaa enemmän kuin koskaan yritysten tarvetta investoida puolustukseensa, tekoälyn avulla ajaa nopeutta ja tarkkuutta uhkien havaitsemis- ja reagointivalmiuksissaan. Yritykset, jotka hyödyntävät tätä "armonaikaa", huomaavat olevansa paljon valmistautuneempia ja sitkeämpiä päivään, jolloin hyökkääjät todella saavat kiinni tekoälyn kyberkilpassa.

• SEO-pohjainen sisällön ja PR-jakelu. Vahvista jo tänään.
• PlatoData.Network Vertical Generatiivinen Ai. Vahvista itseäsi. Pääsy tästä.
• PlatoAiStream. Web3 Intelligence. Tietoa laajennettu. Pääsy tästä.
• PlatoESG. Autot / sähköautot, hiili, CleanTech, energia, ympäristö, Aurinko, Jätehuolto. Pääsy tästä.
• BlockOffsets. Ympäristövastuun omistuksen nykyaikaistaminen. Pääsy tästä.
• Lähde: https://www.darkreading.com/dr-tech/are-ai-engineered-threats-fud-or-reality-