Er skjevhet i AI-algoritmer en trussel mot skysikkerhet?

Kunstig intelligens (AI) har hjulpet mennesker i IT-sikkerhetsoperasjoner siden 2010-tallet, ved å analysere enorme mengder data raskt for å oppdage signalene om ondsinnet oppførsel. Med bedriftsskymiljøer som produserer terabyte med data som skal analyseres, avhenger trusseldeteksjon i skyskalaen av AI. Men kan den AI stole på? Eller vil skjult skjevhet føre til tapte trusler og datainnbrudd?

Bias i Cloud Security AI-algoritmer

Bias kan skape risiko i AI-systemer som brukes til sky sikkerhet. Det er skritt mennesker kan ta for å redusere denne skjulte trusselen, men først er det nyttig å forstå hvilke typer skjevheter som finnes og hvor de kommer fra.

• Treningsdataskjevhet: Anta at dataene som brukes til å trene AI og maskinlæringsalgoritmer (ML) ikke er mangfoldige eller representative for hele trussellandskapet. I så fall kan AI overse trusler eller identifisere godartet oppførsel som ondsinnet. For eksempel kan det hende at en modell som er trent på data rettet mot trusler fra én geografisk region, ikke identifiserer trusler som stammer fra forskjellige regioner.
• Algoritmisk skjevhet: AI-algoritmer kan selv introdusere deres form for skjevhet. For eksempel kan et system som bruker mønstertilpasning gi falske positiver når en godartet aktivitet samsvarer med et mønster eller ikke klarer å oppdage subtile variasjoner i kjente trusler. En algoritme kan også stilles inn utilsiktet for å favorisere falske positiver, noe som fører til varslingstretthet, eller for å favorisere falske negativer, slik at trusler kan komme gjennom.
• Kognitiv skjevhet: Folk blir påvirket av personlige erfaringer og preferanser når de behandler informasjon og foretar vurderinger. Det er hvordan sinnet vårt fungerer. En kognitiv skjevhet er å favorisere informasjon som støtter vår nåværende tro. Når folk lager, trener og finjusterer AI-modeller, kan de overføre denne kognitive skjevheten til AI, noe som fører til at modellen overser nye eller ukjente trusler som nulldagsutnyttelser.

Trusler mot skysikkerhet fra AI Bias

Vi omtaler AI-bias som en skjult trussel mot skysikkerhet fordi vi ofte ikke vet at bias er tilstede med mindre vi spesifikt ser etter det – eller før det er for sent og et datainnbrudd har skjedd. Her er noen av tingene som kan gå galt hvis vi ikke klarer å ta opp skjevhet:

• Unøyaktig trusseldeteksjon og tapte trusler: Når treningsdata ikke er omfattende, varierte og aktuelle, kan AI-systemet overprioritere noen trusler mens det underoppdager eller savner andre.
• Varseltretthet: Overproduksjon av falske positiver kan overvelde sikkerhetsteamet, og potensielt få dem til å overse ekte trusler som går seg vill i mengden av varsler.
• Sårbarhet for nye trusler: AI-systemer er iboende partiske fordi de bare kan se det de har blitt opplært til å se. Systemer som ikke holdes oppdatert via kontinuerlig oppdatering og utstyrt med evnen til å lære kontinuerlig, vil ikke beskytte skymiljøer mot nye trusler.
• Erosjon av tillit: Gjentatte unøyaktigheter i trusseldeteksjon og respons på grunn av AI-bias kan undergrave tilliten mellom interessenter og sikkerhetsoperasjonssenter (SOC) til AI-systemene, noe som påvirker skysikkerhetsstillingen og omdømmet på lang sikt.
• Juridisk og regulatorisk risiko: Avhengig av arten av skjevheten, kan AI-systemet bryte juridiske eller regulatoriske krav rundt personvern, rettferdighet eller diskriminering, noe som resulterer i bøter og skade på omdømmet.

Redusere skjevheter og styrke skysikkerheten

Mens mennesker er kilden til skjevheter i AI-sikkerhetsverktøy, er menneskelig ekspertise avgjørende for å bygge AI som kan stole på for å sikre skyen. Her er trinn som sikkerhetsledere, SOC-team og dataforskere kan ta for å redusere skjevheter, fremme tillit og realisere den forbedrede trusseldeteksjonen og akselererte responsen som AI tilbyr.

• Lær sikkerhetsteam og ansatte om mangfold: AI-modeller lærer av klassifiseringene og beslutningene analytikere tar når de vurderer trusler. Å forstå våre skjevheter og hvordan de påvirker våre beslutninger kan hjelpe analytikere med å unngå partiske klassifiseringer. Sikkerhetsledere kan også sørge for at SOC-team representerer et mangfold av erfaringer for å forhindre blindsoner som skyldes skjevheter.
• Ta hensyn til kvaliteten og integriteten til treningsdata: Bruk robust datainnsamling og forbehandlingspraksis for å sikre at treningsdata er fri for skjevheter, representerer virkelige skyscenarier og dekker et omfattende spekter av cybertrusler og ondsinnet atferd.
• Redegjør for særegenhetene ved skyinfrastruktur: Treningsdata og algoritmer må imøtekomme offentlige skyspesifikke sårbarheter, inkludert feilkonfigurasjoner, risikoer for flere leieforhold, tillatelser, API-aktivitet, nettverksaktivitet og typisk og unormal oppførsel til mennesker og ikke-mennesker.
• Hold mennesker "i midten" mens du utnytter AI for å bekjempe skjevhet: Dediker et menneskelig team til å overvåke og evaluere arbeidet til analytikere og AI-algoritmer for potensiell skjevhet for å sikre at systemene er objektive og rettferdige. Samtidig kan du bruke spesialiserte AI-modeller for å identifisere skjevheter i treningsdata og algoritmer.
• Invester i kontinuerlig overvåking og oppdatering: Cybertrusler og trusselaktører utvikler seg raskt. AI-systemer må lære seg kontinuerlig, og modeller bør oppdateres jevnlig for å oppdage nye og nye trusler.
• Bruk flere lag med AI: Du kan minimere virkningen av skjevhet ved å spre risikoen over flere AI-systemer.
• Tilstrebe forklarbarhet og åpenhet: Jo mer komplekse AI-algoritmene dine er, desto vanskeligere er det å forstå hvordan de tar avgjørelser eller spådommer. Bruk forklarbare AI-teknikker for å gi innsikt i resonnementet bak AI-utfall.
• Hold deg oppdatert på nye teknikker for å redusere AI-bias: Etter hvert som vi gjør fremgang i AI-domenet, er vi vitne til en økning i teknikker for å oppdage, kvantifisere og adressere skjevheter. Innovative metoder som motstridende de-biasing og kontrafaktisk rettferdighet får fart. Å holde seg à jour med disse nyeste teknikkene er avgjørende for å utvikle rettferdige og effektive AI-systemer for skysikkerhet.
• Spør leverandøren av administrerte skysikkerhetstjenester om skjevhet: Å bygge, trene og vedlikeholde AI-systemer for trusseldeteksjon og respons er vanskelig, dyrt og tidkrevende. Mange bedrifter henvender seg til tjenesteleverandører for å utvide sin SOC-virksomhet. Bruk disse kriteriene for å evaluere hvor godt en tjenesteleverandør adresserer skjevhet i AI.

Den Takeaway

Gitt omfanget og kompleksiteten til bedriftsskymiljøer, er bruk av AI for trusseldeteksjon og respons avgjørende, enten det er interne eller eksterne tjenester. Du kan imidlertid aldri erstatte menneskelig intelligens, ekspertise og intuisjon med AI. For å unngå AI-bias og beskytte skymiljøene dine, utstyr dyktige cybersikkerhetseksperter med kraftige, skalerbare AI-verktøy styrt av sterke retningslinjer og menneskelig tilsyn.