Az AI-algoritmusok torzítása veszélyt jelent a felhőbiztonságra?

A mesterséges intelligencia (AI) a 2010-es évek óta segíti az embereket az IT-biztonsági műveletekben, hatalmas mennyiségű adatot elemezve gyorsan, hogy észlelje a rosszindulatú viselkedés jeleit. Mivel a vállalati felhőkörnyezetek terabájtnyi adatot állítanak elő elemzésre, a felhőléptékű fenyegetésészlelés az AI-tól függ. De Megbízható-e az AI? Vagy fog rejtett elfogultság elmulasztott fenyegetésekhez és adatszivárgáshoz vezet?

Elfogultság a Cloud Security AI algoritmusaiban

Az elfogultság kockázatokat jelenthet a használt AI-rendszerekben felhő biztonsági. Vannak olyan lépések, amelyeket az emberek megtehetnek e rejtett fenyegetés mérséklésére, de először is hasznos megérteni, hogy milyen típusú elfogultság létezik, és honnan származnak.

• Képzési adatok torzítása: Tegyük fel, hogy a mesterséges intelligencia és a gépi tanulási (ML) algoritmusok betanításához használt adatok nem sokfélék, vagy nem reprezentatívak a teljes fenyegetési környezetre. Ebben az esetben az MI figyelmen kívül hagyhatja a fenyegetéseket, vagy rosszindulatúnak minősítheti a jóindulatú viselkedést. Előfordulhat például, hogy egy földrajzi régióból származó fenyegetések felé torzított adatokra kiképzett modell nem azonosítja a különböző régiókból származó fenyegetéseket.
• Algoritmikus torzítás: Az AI-algoritmusok maguk is bevezethetik az elfogultság formájukat. Például egy mintaillesztést használó rendszer hamis pozitív eredményt adhat, ha egy jóindulatú tevékenység megegyezik egy mintával, vagy nem észleli az ismert fenyegetések finom eltéréseit. Egy algoritmus véletlenül is beállítható úgy, hogy előnyben részesítse a téves pozitívakat, ami éber kimerültséghez vezet, vagy a hamis negatívokat részesítse előnyben, lehetővé téve a fenyegetések átjutását.
• Kognitív torzítás: Az embereket személyes tapasztalatok és preferenciák befolyásolják az információfeldolgozás és az ítélethozatal során. Így működik az elménk. Az egyik kognitív elfogultság az, hogy előnyben részesítjük azokat az információkat, amelyek alátámasztják jelenlegi hiedelmeinket. Amikor az emberek mesterséges intelligencia-modelleket hoznak létre, képeznek és finomhangolnak, ezt a kognitív torzítást át tudják vinni az MI-re, így a modell figyelmen kívül hagyja az új vagy ismeretlen fenyegetéseket, például a nulladik napi exploitokat.

Az AI Bias által a felhőbiztonságot fenyegető veszélyek

A mesterséges intelligencia torzítását a felhőbiztonságot fenyegető rejtett fenyegetésként említjük, mert gyakran nem tudjuk, hogy az elfogultság jelen van, hacsak nem keresünk rá kifejezetten – vagy amíg nem késő, és adatszivárgás történik. Íme néhány dolog, ami rosszul sülhet el, ha nem kezeljük az elfogultságot:

• Pontatlan fenyegetésészlelés és elmulasztott fenyegetések: Ha a betanítási adatok nem átfogóak, változatosak és nem aktuálisak, az AI-rendszer egyes fenyegetéseket túlsúlyba helyezhet, míg másokat alulészl vagy kihagy.
• Figyelmeztető fáradtság: A hamis pozitív üzenetek túltermelése túlterhelheti a biztonsági csapatot, és esetleg figyelmen kívül hagyhatja a valódi fenyegetéseket, amelyek elvesznek a riasztások mennyiségében.
• Új fenyegetésekkel szembeni sebezhetőség: Az AI-rendszerek eredendően elfogultak, mert csak azt látják, amire kiképezték őket. Azok a rendszerek, amelyeket nem tartanak naprakészen a folyamatos frissítéssel, és amelyek folyamatos tanulási képességgel vannak felszerelve, nem védik meg a felhőkörnyezeteket az újonnan megjelenő fenyegetésektől.
• A bizalom eróziója: A mesterséges intelligencia elfogultsága miatti fenyegetésészlelés és válaszadás ismétlődő pontatlansága alááshatja az érdekelt felek és a biztonsági műveleti központ (SOC) csapatának az AI-rendszerekbe vetett bizalmát, és hosszú távon kihat a felhőalapú biztonsági helyzetre és a hírnévre.
• Jogi és szabályozási kockázat: Az elfogultság természetétől függően a mesterséges intelligencia rendszer megsértheti a magánélet védelmére, a méltányosságra vagy a diszkriminációra vonatkozó jogi vagy szabályozási követelményeket, ami pénzbírságot és jó hírnév-károsodást eredményezhet.

Az elfogultság enyhítése és a felhőbiztonság erősítése

Míg az AI biztonsági eszközökben az emberek az elfogultság forrásai, az emberi szakértelem elengedhetetlen az olyan mesterséges intelligencia felépítéséhez, amely megbízhatóan védi a felhőt. Íme olyan lépések, amelyeket a biztonsági vezetők, az SOC-csapatok és az adatkutatók megtehetnek az elfogultság csökkentése, a bizalom erősítése, valamint a mesterséges intelligencia által kínált fokozott fenyegetésészlelés és gyorsított válaszok megvalósítása érdekében.

• A biztonsági csapatok és személyzet oktatása a sokszínűségről: Az AI-modellek tanulnak az elemzők által a fenyegetések értékelése során hozott osztályozásokból és döntésekből. Ha megértjük elfogultságainkat, és hogyan befolyásolják döntéseinket, az segíthet az elemzőknek elkerülni az elfogult besorolást. A biztonsági vezetők azt is biztosíthatják, hogy az SOC-csapatok sokféle tapasztalatot képviseljenek az elfogultságból eredő vakfoltok elkerülése érdekében.
• Az edzési adatok minőségének és integritásának kezelése: Alkalmazzon robusztus adatgyűjtési és előfeldolgozási gyakorlatokat annak biztosítására, hogy a képzési adatok torzításmentesek legyenek, valós felhő forgatókönyveket képviseljenek, és lefedjék a kiberfenyegetések és rosszindulatú viselkedések átfogó skáláját.
• Figyelembe kell venni a felhő infrastruktúra sajátosságait: A képzési adatoknak és algoritmusoknak figyelembe kell venniük a nyilvános felhőspecifikus sebezhetőségeket, beleértve a hibás konfigurációkat, a több bérlés kockázatát, az engedélyeket, az API-tevékenységet, a hálózati tevékenységet, valamint az emberek és nem emberek tipikus és rendellenes viselkedését.
• Tartsa az embereket „középen”, miközben a mesterséges intelligencia kiaknázásával küzd az elfogultság ellen: Szánjon egy emberi csapatot az elemzők és mesterséges intelligencia-algoritmusok munkájának nyomon követésére és értékelésére az esetleges torzítások szempontjából, hogy megbizonyosodjon arról, hogy a rendszerek elfogulatlanok és igazságosak. Ugyanakkor speciális mesterséges intelligencia modelleket is alkalmazhat a betanítási adatok és algoritmusok torzításának azonosítására.
• Fektessen be a folyamatos monitorozásba és frissítésbe: A kiberfenyegetések és a fenyegetés szereplői gyorsan fejlődnek. Az AI-rendszereknek folyamatosan tanulniuk kell, és a modelleket rendszeresen frissíteni kell az új és újonnan megjelenő fenyegetések észlelése érdekében.
• Az AI több rétegének alkalmazása: Minimalizálhatja a torzítás hatását, ha a kockázatot több mesterségesintelligencia-rendszerre osztja fel.
• Törekedjen a magyarázhatóságra és az átláthatóságra: Minél összetettebbek az AI algoritmusai, annál nehezebb megérteni, hogyan hoznak döntéseket vagy előrejelzéseket. Fogadjon el magyarázható mesterséges intelligencia technikákat, hogy láthatóvá tegye a mesterséges intelligencia kimenetelének okait.
• Maradjon naprakész a feltörekvő technikákkal az AI torzítás csökkentésében: Ahogy haladunk a mesterséges intelligencia területén, az elfogultság észlelésére, számszerűsítésére és kezelésére szolgáló technikák felfutásának lehetünk tanúi. Az olyan innovatív módszerek, mint a kontradiktórius elfogultság megszüntetése és a kontrafaktuális méltányosság egyre nagyobb lendületet kapnak. Ezekkel a legújabb technikákkal lépést tartani a legfontosabb az igazságos és hatékony AI-rendszerek fejlesztésében a felhőbiztonság érdekében.
• Kérdezze meg felügyelt felhőbiztonsági szolgáltatóját az elfogultságról: A fenyegetések észlelésére és reagálására szolgáló mesterséges intelligencia-rendszerek felépítése, betanítása és karbantartása nehéz, költséges és időigényes. Sok vállalkozás szolgáltatóhoz fordul SOC-műveletének bővítése érdekében. Használja ezeket a kritériumokat annak értékelésére, hogy egy szolgáltató mennyire kezeli a mesterséges intelligencia torzítását.

Az Elvihető

Tekintettel a vállalati felhőkörnyezetek nagyságrendjére és összetettségére, a mesterséges intelligencia használata a fenyegetések észlelésére és reagálására elengedhetetlen, akár házon belüli, akár külső szolgáltatásokban. Az emberi intelligenciát, szakértelmet és intuíciót azonban soha nem helyettesítheti mesterséges intelligenciával. A mesterséges intelligencia torzításának elkerülése és a felhőkörnyezet védelme érdekében szerelje fel a képzett kiberbiztonsági szakembereket hatékony, méretezhető mesterséges intelligencia-eszközökkel, amelyeket szigorú irányelvek és emberi felügyelet szabályoz.