Zijn door AI ontworpen bedreigingen FUD of realiteit?

Zijn door AI ontworpen bedreigingen FUD of realiteit?

Tijdstempel: 24 juli 2023 4:05 uur
Zijn door AI ontworpen bedreigingen FUD of werkelijkheid? PlatoBlockchain-gegevensintelligentie. Verticaal zoeken. Ai.

Vanaf het moment dat generatieve AI-toepassingen op de markt kwamen, veranderde het tempo van zakendoen – niet alleen voor beveiligingsteams, maar ook voor cybercriminelen. Tegenwoordig kan het niet omarmen van AI-innovaties betekenen dat u achterloopt op uw concurrenten en dat uw cyberverdediging wordt benadeeld tegen cyberaanvallen die worden aangedreven door AI. Maar als we bespreken hoe AI wel of geen invloed zal hebben op cybercriminaliteit, is het belangrijk dat we de zaken door een pragmatische en nuchtere lens bekijken – en niet inspelen op een hype die meer op sciencefiction lijkt.

De huidige ontwikkelingen en volwassenheid op het gebied van AI betekenen een aanzienlijke sprong voorwaarts voor de bedrijfsbeveiliging. Cybercriminelen kunnen de omvang en schaal van de middelen, vaardigheden en motivatie van ondernemingen niet gemakkelijk evenaren, waardoor het voor hen moeilijker wordt om de huidige snelheid van AI-innovatie bij te houden. Private venture-investeringen in AI explodeerde tot 93.5 miljard dollar in 2021 – de slechteriken beschikken niet over dat kapitaalniveau. Ze beschikken ook niet over de mankracht, de rekenkracht en de innovaties die commerciële bedrijven of de overheid meer tijd en mogelijkheden bieden om snel te falen, snel te leren en het als eerste goed te doen.

Maar vergis u niet: cybercriminaliteit zal een inhaalslag maken. Dit is niet de eerste keer dat de beveiligingsindustrie een korte voorsprong heeft: toen ransomware steeds meer verdedigers ertoe aanzette om eindpuntdetectie- en responstechnologieën te gebruiken, hadden aanvallers wat tijd nodig om erachter te komen hoe ze deze detecties konden omzeilen en ontwijken. Die tussentijdse ‘gratieperiode’ gaf bedrijven de tijd om dit te doen zichzelf beter beschermen. Hetzelfde geldt nu: bedrijven moeten hun voorsprong in de AI-race maximaliseren, hun detectie- en responsmogelijkheden voor bedreigingen vergroten en gebruik maken van de snelheid en precisie die de huidige AI-innovaties hen bieden.

Hoe verandert AI cybercriminaliteit? Nou, het zal er niet snel substantieel verandering in brengen, maar het zal het in bepaalde gevallen wel opschalen. Laten we eens kijken waar kwaadwillig gebruik van AI wel en niet de meest directe impact zal hebben.

Volledig geautomatiseerde malwarecampagnes: FUD

De afgelopen maanden hebben we claims gezien met betrekking tot verschillende kwaadaardige toepassingen van AI, maar het feit dat een scenario mogelijk is, maakt het nog niet waarschijnlijk. Neem bijvoorbeeld volledig geautomatiseerde malwarecampagnes: de logica zegt dat het mogelijk is om AI in te zetten om dat resultaat te bereiken, maar gezien het feit dat toonaangevende technologiebedrijven nog moeten pionieren met volledig geautomatiseerde softwareontwikkelingscycli, is het onwaarschijnlijk dat financieel beperkte cybercriminaliteitsgroepen dit eerder zullen bereiken. . Zelfs gedeeltelijke automatisering kan echter de schaalvergroting van cybercriminaliteit mogelijk maken, een tactiek die we al eerder hebben toegepast Bazar-campagnes. Dit is geen innovatie, maar een beproefde techniek waar verdedigers al mee aan de slag gaan.

Door AI ontworpen phishing: realiteit (maar context is cruciaal)

Een ander gebruiksscenario om te overwegen zijn door AI ontworpen phishing-aanvallen. Dit is niet alleen mogelijk, maar we beginnen deze aanvallen al in het wild te zien. Deze volgende generatie phishing kan een hoger niveau van overtuigingskracht en klikfrequentie bereiken, maar door mensen ontworpen phishing en door AI ontworpen phishing streven nog steeds hetzelfde doel na. Met andere woorden: een door AI ontworpen phish is nog steeds een phish die op zoek is naar een klik, en vereist dezelfde detectie- en responsbereidheid.

Hoewel het probleem hetzelfde blijft, is de omvang echter enorm verschillend. AI werkt als een krachtvermenigvuldiger om phishing-campagnes op te schalen, dus als een onderneming een piek ziet in het aantal inkomende phishing-e-mails – en die kwaadaardige e-mails zijn aanzienlijk overtuigender – dan heeft het waarschijnlijk te maken met een hoge klikfrequentie en een potentieel voor compromissen. AI-modellen kunnen ook de effectiviteit van de targeting vergroten, waardoor aanvallers kunnen bepalen wie het meest gevoelige doelwit is voor een specifieke phishing binnen een organisatie en uiteindelijk een hogere ROI uit hun campagnes kunnen halen. Phishing-aanvallen behoren historisch gezien tot de meest succesvolle tactieken die aanvallers hebben gebruikt om bedrijven te infiltreren. De schaalvergroting van dit soort aanvallen benadrukt de cruciale rol die EDR-, MDR-, XDR- en IAM-technologieën spelen bij het detecteren van afwijkend gedrag voordat het impact heeft.

AI-vergiftigingsaanvallen: FUD-achtig

AI-vergiftigingsaanvallen, met andere woorden, het programmatisch manipuleren van de code en gegevens waarop AI-modellen zijn gebouwd, kan de ‘heilige graal’ van aanvallen voor cybercriminelen zijn. De impact van een succesvolle vergiftigingsaanval kan variëren van pogingen tot desinformatie Die Hard 4.0. Waarom? Omdat een aanvaller, door het model te vergiftigen, het zich op elke gewenste manier kan laten gedragen of functioneren, en dit is niet gemakkelijk te detecteren. Deze aanvallen zijn echter niet eenvoudig uit te voeren; ze vereisen toegang tot de gegevens waarop het AI-model traint op het moment van de training, wat geen sinecure is. Naarmate meer modellen open source worden, zal het risico op deze aanvallen toenemen, maar voorlopig laag blijven.

Het onbekende

Hoewel het belangrijk is om de hype van de realiteit te scheiden, is het ook belangrijk om ervoor te zorgen dat we de juiste vragen stellen over de impact van AI op het dreigingslandschap. Er zijn veel onzekerheden over het potentieel van AI. Hoe het de doelen en doelstellingen van tegenstanders kan veranderen, mogen we niet over het hoofd zien. Het blijft onbekend hoe nieuwe vaardigheden kunnen helpen nieuwe doelen voor tegenstanders te dienen en hun motieven opnieuw te kalibreren.

We zien misschien niet meteen een piek in nieuwe AI-aanvallen, maar de schaalvergroting van cybercriminaliteit dankzij AI zal een substantiële impact hebben op organisaties die niet voorbereid zijn. Snelheid en schaal zijn intrinsieke kenmerken van AI, en net zoals verdedigers ervan proberen te profiteren, proberen aanvallers dat ook te doen. Beveiligingsteams zijn nu al onderbezet en overweldigd. Het zien van een piek in het kwaadaardig verkeer of de respons op incidenten betekent een aanzienlijke extra belasting van hun werklast.

Dit bevestigt meer dan ooit de noodzaak voor bedrijven om te investeren in hun defensie, AI gebruiken om snelheid en precisie te stimuleren in hun mogelijkheden voor het detecteren en reageren op bedreigingen. Bedrijven die profiteren van deze ‘grace period’ zullen merken dat ze veel beter voorbereid en veerkrachtiger zijn op de dag dat aanvallers daadwerkelijk de achterstand in de AI-cyberrace inhalen.

Tijdstempel:

Meer van Donkere lezing