A mesterséges intelligencia aranykora… vagy biztonsági fenyegetések?

A mesterséges intelligencia aranykora… vagy biztonsági fenyegetések?

Időbélyeg: 5. július 2023. 1:00
A Golden Age of AI … or Security Threats? PlatoBlockchain Data Intelligence. Vertical Search. Ai.

A mesterséges intelligencia aranykorát éljük? Nehéz jósolni – és valószínűleg meggondolatlan. Ki akarja megjósolni egy ilyen új technológia jövőjét?

Néhány dolgot azonban biztosan állíthatunk. A mesterséges intelligenciának a kreatív munkákra való alkalmazása sokat tesz, a szinkronjátéktól a forgatókönyvek első vázlatáig. A mesterséges intelligencia azonban valószínűleg akkor lesz a leghasznosabb, ha szorgalmakkal foglalkozik. Ez jó hír a fejlesztők számára, ha az ígéret megegyezik a korai kísérletekkel – az első kódvázlatok könnyen létrehozhatók, és készen állnak a fejlesztők számára a finomításra és az iterációra.

Fontos azonban emlékezni erre nem minden kódoló dolgozik törvényes üzletért. Just as cybersecurity threat actors have emulated their targets in becoming more businesslike, they’re also adopting new technologies and techniques. We can expect AI to help in the development of malware and other threats in the coming years, whether we’re entering a golden age of AI or not.

Kódex készítése és csalások

Az egyik tendencia, amelyet az elmúlt években tapasztaltunk, a „szolgáltatásként” kínálat növekedése. A korai hackerek trükközők és huncutkodók voltak, telefonrendszereket csaptak be, vagy káoszt okoztak, többnyire szórakozásból. Ez alapvetően megváltozott. A fenyegetés szereplői professzionálisak, és gyakran árulják termékeiket mások számára.

Az AI nagyon jól illeszkedik ebbe a munkamódszerbe. Az AI képes kódot létrehozni bizonyos problémák megoldására, és módosítani tudja a kódot, hogy megcélozza a sebezhetőségeket, vagy átveheti a meglévő kódot és megváltoztathatja azt, így azt nem lehet olyan könnyen észlelni a meghatározott mintákat kereső biztonsági intézkedésekkel.

A mesterséges intelligencia visszaéléseinek lehetősége azonban nem ér véget. Sok adathalász e-mailt hatékony szűrőeszközök észlelnek, és a kéretlen mappákba kerülnek. Azok, akik eljutnak a postaládába, gyakran nyilvánvalóan átverések, és olyan rosszul vannak megírva, hogy szinte érthetetlenek. A mesterséges intelligencia azonban megtörheti ezt a mintát, és több ezer hihető e-mailt hozhat létre, amelyek elkerülhetik az észlelést, és elég jól megírtak ahhoz, hogy megtévesszék a szűrőket és a végfelhasználókat.

A támadás célzottabb formáját, a lándzsás adathalászatot is forradalmasíthatja ez a technológia. Persze könnyű figyelmen kívül hagyni a főnöködtől kapott e-mailt, amelyben készpénz átutalására vagy sürgős ajándékkártyák vásárlására kérnek fel – a kiberbiztonsági képzés segít az alkalmazottaknak elkerülni az effajta átverést. De mi a helyzet egy mély hamis telefonhívással vagy videocsevegéssel? Az AI képes arra, hogy a sugárzott megjelenéseket és podcastokat meggyőző szimulákrummá alakítsa, amit sokkal nehezebb figyelmen kívül hagyni.

Küzdelem az AI kibertámadásai ellen

A mesterséges intelligencia által az ellenségnek nyújtott előnyök ellen két fő módja van: jobb AI és jobb képzés - És mindkettőre szükség lesz.

Az AI új generációjának megjelenése új fegyverkezési versenyt indított el. Ahogy a kiberbűnözők ezt használják a támadásaik fejlesztésére, úgy a biztonsági csapatoknak is használniuk kell védelmük fejlesztéséhez.

AI nélkül a védelem a túlhajszolt embereken és bizonyos előre programozott minták megfigyelésén alapul a támadások megelőzése érdekében. A mesterséges intelligencia védelmi eszközei képesek lesznek előre jelezni a támadási vektorokat, és pontosan meghatározni a hálózat és a rendszerek érzékeny területeit. Képesek lesznek elemezni a rosszindulatú kódokat is, így jobban megérthetik, hogyan működnek az új támadások, és hogyan lehet őket megelőzni.

A mesterséges intelligencia rövid időn belül vészleállításként is működhet – a hálózatot letiltja, ha hiba észlel, és lezárja a teljes rendszert. Bár az üzletmenet-folytonosság szempontjából nem ideális, ez sokkal kevésbé káros lehet, mint egy adatszivárgás.

De az AI elleni küzdelem nem az egyetlen megoldás. Szükségünk van emberi intelligenciára is. Bármilyen okos és célzott is, az adathalász támadások ellen a legjobb védekezés egy alkalmazott vagy ügyfél, aki tudja, mit kell keresnie, és elég gyanakvó ahhoz, hogy ne fogadja el a csalit. A robusztus biztonsági politikák és a bevált gyakorlatok kiberhigiéniája továbbra is kulcsfontosságú lesz a támadások elleni védekezésben.

Ez azt jelenti, hogy a képzést frissíteni kell, hogy tartalmazza az AI-támadás jeleit… bármiek is legyenek ezek. A képzésnek az MI-vel együtt kell fejlődnie – néhány évente egyszeri képzés már nem fogja megszakítani, ha a képzés gyorsan elavult.

Míg az AI-vezérelt kibertámadás lehetséges jelei gyorsan változnak, a támadások általában a következők:

  • Gyors és skálázható, több sebezhetőséget kihasználva rövid időn belül.
  • Alkalmazkodó és kitérő, taktikák és technikák megváltoztatása az észlelés és válasz elkerülése érdekében.
  • Célzott és személyre szabott, mesterséges intelligencia segítségével meggyőző adathalász e-maileket vagy social engineering kampányokat készít.
  • Megtévesztő és manipulatív, mesterséges intelligencia segítségével hamis vagy módosított tartalmak létrehozására, például mélyhamisításra, hangklónozásra vagy szöveggenerálásra.
  • Lopakodó és kitartó, észrevétlenül rejtőzködik sokáig a hálózati infrastruktúrában.

Ezek a jelek nem teljes körűek, és előfordulhat, hogy egyes mesterséges intelligencia által vezérelt támadások nem mutatják mindegyiket. Azonban jelzik milyen szintű fenyegetést jelent a mesterséges intelligencia a kiberbiztonságra nézve.

A mesterséges intelligencia által vezérelt kibertámadások elleni hatékony küzdelem érdekében a vállalkozásoknak túl kell gondolniuk az egyes rossz szereplőkön, és fel kell készülniük az államilag támogatott szereplők vagy bűnszervezetek összehangolt támadásaira, amelyek a mesterséges intelligencia segítségével kockázatalapú megközelítést alkalmazva kifinomult kampányokat indíthatnak. Nekik is kellene a proaktív stratégia amely rendszeres biztonsági auditokat, biztonsági mentéseket, titkosítást és incidensreagálási terveket foglal magában. Ez legkönnyebben egy jól ismert biztonsági tanúsítvány, például a PCI-DSS megszerzésével érhető el.

Végezetül elengedhetetlen, hogy a szervezetek javítsák saját mesterséges intelligencia-rendszereik kiberbiztonságát az integritásuk, bizalmasságuk és elérhetőségük biztosításával, valamint az ellenséges támadások, az adatmérgezés és a modelllopás kockázatának csökkentésével.

Ezek a stratégiák segítenek megvédeni a vállalkozásokat, de nem lehetnek önállóak – a biztonságnak együttműködésen kell alapulnia. Más szervezetekkel, kutatókkal és hatóságokkal való együttműködés révén az információk, a bevált gyakorlatok és a tanulható hibák megosztása érdekében a vállalkozások jobban felkészültek az AI biztonsági fenyegetések új hullámára.

A mesterséges intelligencia új fenyegetés és a régebbi fenyegetések folytatása. A vállalkozásoknak fejleszteniük kell a kiberfenyegetésekkel szembeni fellépés módját, amint ezek a fenyegetések egyre kifinomultabbak és egyre több lesz, de sok alapelem változatlan marad. Ezek helyes betartása továbbra is kritikus. A biztonsági csapatoknak nem kell elfordulniuk a régi ötletektől, hanem azokra kell építeniük, hogy megőrizzék vállalkozásuk biztonságát.

Időbélyeg:

Még több Sötét olvasmány