AWS CISO: pöörake tähelepanu sellele, kuidas AI teie andmeid kasutab

Ettevõtted võtavad IT-protsesside automatiseerimiseks, turvaohtude tuvastamiseks ja klienditeeninduse eesliinifunktsioonide ülevõtmiseks üha enam kasutusele generatiivset AI-d. An IBMi uuring 2023. aastal leidis, et 42% suurettevõtetest kasutas aktiivselt tehisintellekti ja veel 40% uuris või katsetas tehisintellekti.

Tehisintellekti ja pilve vältimatus ristumiskohas peavad ettevõtted mõtlema, kuidas AI-tööriistu pilves kaitsta. Üks inimene, kes on selle peale palju mõelnud, on Chris Betz, kellest sai eelmise aasta augustis Amazon Web Services CISO.

Enne AWS-i oli Betz Capital One'i tegevasepresident ja CISO. Betz töötas ka ettevõttes Lumen Technologies vanemasepresidendi ja turvajuhina ning Apple'i, Microsofti ja CBS-i turvaülesannete täitmisel.

Dark Reading rääkis hiljuti Betziga sellest AI töökoormuste turvalisus pilves. Järgneb selle vestluse muudetud versioon.

Tume lugemine: millised on suured väljakutsed AI töökoormuse tagamisel pilves?

Chris Betz: Kui räägin paljude klientidega generatiivsest tehisintellektist, algavad need vestlused sageli sõnadega: „Mul on tõesti tundlikud andmed ja ma tahan pakkuda oma klientidele võimalust. Kuidas seda turvalisel ja turvalisel viisil teha? Hindan seda vestlust väga, sest on nii oluline, et meie kliendid keskenduksid tulemusele, mida nad püüavad saavutada.

Tume lugemine: mille pärast kliendid kõige rohkem mures on?

Betz: Vestlust tuleb alustada kontseptsiooniga, et "teie andmed on teie andmed". Meil on suur eelis, kuna saan tugineda IT-infrastruktuurile, mis teeb väga head tööd andmete hoidmisel seal, kus need on. Nii et esimene nõuanne, mille ma annan, on järgmine: saage aru, kus teie andmed asuvad. Kuidas seda kaitstakse? Kuidas seda generatiivses AI mudelis kasutatakse?

Teine asi, millest me räägime, on see, et interaktsioonid generatiivse AI mudeliga kasutavad sageli nende klientide kõige tundlikumaid andmeid. Kui küsite generatiivselt tehisintellekti mudelilt konkreetse tehingu kohta, kasutate teavet selle tehinguga seotud inimeste kohta.

Tume lugemine: kas ettevõtted on mures nii selle pärast, mida tehisintellekt oma ettevõttesiseste andmete ja kliendiandmetega teeb?

Betz: Kliendid soovivad enim kasutada generatiivset tehisintellekti oma klientidega suhtlemisel ja kaevandamisel ning kasutada ära tohutut sisemist andmehulka ning muuta see tööle kas sisemiste töötajate või klientide jaoks. Ettevõtetele on nii oluline, et nad hallaksid neid uskumatult tundlikke andmeid turvalisel ja turvalisel viisil, sest need on nende ettevõtete eluks.

Ettevõtted peavad mõtlema, kus nende andmed on ja kuidas need on kaitstud, kui nad esitavad tehisintellekti viipasid ja millal nad saavad vastuseid.

Tume lugemine: kas vastuste kvaliteet ja andmete turvalisus on omavahel seotud?

Betz: AI kasutajad peavad alati mõtlema, kas nad saavad kvaliteetseid vastuseid. Turvalisuse põhjus on see, et inimesed usaldavad oma arvutisüsteeme. Kui panete kokku selle keeruka süsteemi, mis kasutab kliendile millegi edastamiseks generatiivset tehisintellekti mudelit, peab klient usaldama, et tehisintellekt annab talle tegutsemiseks õiget teavet ja kaitseb nende teavet.

Tume lugemine: kas AWS saab jagada konkreetseid viise selle kohta, kuidas see kaitseb pilves tehisintellekti rünnakute eest? Ma mõtlen kiirele süstimisele, mürgistusrünnakutele, võistlevatele rünnakutele ja muule sellisele.

Betz: Kuna AWS oli juba paigas, oli AWS väljakutsele vastu astumiseks hästi ette valmistatud, kuna oleme tehisintellektiga aastaid koostööd teinud. Meil on suur hulk sisemisi AI-lahendusi ja mitmeid teenuseid, mida pakume otse oma klientidele ning turvalisus on olnud nende lahenduste väljatöötamisel peamiseks kaalutluseks. Seda meie kliendid küsivad ja seda nad ootavad.

Ühe suuremahulise pilveteenuse pakkujana on meil laialdane ülevaade arenevatest turvavajadustest kogu maailmas. Meie jäädvustatud ohuteave koondatakse ja seda kasutatakse praktilise ülevaate väljatöötamiseks, mida kasutatakse kliendi tööriistades ja teenustes, näiteks GuardDuty. Lisaks kasutatakse meie ohuteavet klientide nimel automatiseeritud turbetoimingute genereerimiseks, et hoida nende andmeid turvaliselt.

Tume lugemine: oleme palju kuulnud küberturvalisuse müüjatest, kes kasutavad tehisintellekti ja masinõpet ohtude tuvastamiseks, otsides nende süsteemides ebatavalist käitumist. Milliseid muid viise kasutavad ettevõtted tehisintellekti enda turvalisuse tagamiseks?

Betz: Olen näinud, kuidas kliendid teevad generatiivse tehisintellektiga hämmastavaid asju. Oleme näinud, kuidas nad kasutavad CodeWhispereri (AWS-i AI-toega koodigeneraatori) eeliseid, et kiiresti prototüüpida ja tehnoloogiaid arendada. Olen näinud, kuidas meeskonnad kasutavad nende abistamiseks CodeWhispererit luua turvaline kood ja tagame, et tegeleme koodilünkadega.

Samuti ehitasime generatiivseid AI-lahendusi, mis on ühenduses mõne meie sisemise turvasüsteemiga. Nagu võite ette kujutada, tegelevad paljud turvameeskonnad suure hulga teabega. Generatiivne AI võimaldab neid andmeid sünteesida, et muuta need väga kasutatavaks nii ehitajatele kui ka turvameeskondadele, et mõista, mis süsteemides toimub, küsida paremaid küsimusi ja koondada need andmed kokku.

Kui hakkasin mõtlema küberjulgeoleku talentide puudus, generatiivne AI ei aita tänapäeval mitte ainult tarkvaraarenduse kiirust ja turvalist kodeerimist parandada, vaid aitab ka andmeid koondada. See aitab meid jätkuvalt, sest see võimendab meie inimvõimeid. AI aitab meil koondada teavet keeruliste probleemide lahendamiseks ning viia andmed turvainseneride ja analüütikuteni, et nad saaksid hakata paremaid küsimusi esitama.

Tume lugemine: kas näete tehisintellektile ja pilvele spetsiifilisi turbeohte?

Betz: Olen veetnud palju aega koos turvateadlastega, et uurida tipptasemel generatiivseid tehisintellekti rünnakuid ja seda, kuidas ründajad seda vaatavad. Ma mõtlen selles ruumis kahte tüüpi asju. Esimene klass on see, et näeme pahatahtlikke osalejaid, kes hakkavad kasutama generatiivset tehisintellekti, et saada kiiremini ja paremini oma tegevustes. Selle näiteks on sotsiaaltehnoloogia sisu.

Ründajad kasutavad ka AI-tehnoloogiat, et aidata koodi kiiremini kirjutada. See on väga sarnane kaitsega. Osa selle tehnoloogia võimsusest seisneb selles, et see muudab teatud tegevuste klassi lihtsamaks ja see kehtib ründajate, aga ka kaitsjate kohta.

Teine valdkond, mida ma näen, et teadlased hakkavad rohkem uurima, on tõsiasi, et need generatiivsed AI mudelid on kood. Sarnaselt teistele koodidele on neil nõrku külgi. On oluline, et me mõistaksime, kuidas neid kaitsta ja veenduda, et need eksisteerivad keskkonnas, millel on kaitse.

• SEO-põhise sisu ja PR-levi. Võimenduge juba täna.
• PlatoData.Network Vertikaalne generatiivne Ai. Jõustage ennast. Juurdepääs siia.
• PlatoAiStream. Web3 luure. Täiustatud teadmised. Juurdepääs siia.
• PlatoESG. Süsinik, CleanTech, Energia, Keskkond päikeseenergia, Jäätmekäitluse. Juurdepääs siia.
• PlatoTervis. Biotehnoloogia ja kliiniliste uuringute luureandmed. Juurdepääs siia.
• Allikas: https://www.darkreading.com/cloud-security/aws-ciso-cloud-customers-need-secure-ai-workloads