AWS CISO: Ügyeljen arra, hogy az AI hogyan használja fel adatait

A vállalatok egyre gyakrabban alkalmazzák a generatív AI-t az IT-folyamatok automatizálása, a biztonsági fenyegetések észlelése és az ügyfélszolgálati funkciók átvétele érdekében. An IBM felmérés 2023-ban azt találta, hogy a nagyvállalatok 42%-a használ aktívan mesterséges intelligenciát, további 40%-uk pedig az MI-t kutatja vagy kísérletezik vele.

A mesterséges intelligencia és a felhő elkerülhetetlen metszéspontjában a vállalkozásoknak el kell gondolkodniuk azon, hogyan biztosítsák az AI-eszközöket a felhőben. Az egyik ember, aki sokat gondolkodott ezen, az Chris Betz, aki tavaly augusztusban lett az Amazon Web Services CISO-ja.

Az AWS előtt Betz a Capital One ügyvezető alelnöke és CISO-ja volt. Betz emellett a Lumen Technologies vezető alelnökeként és biztonsági igazgatóként, valamint az Apple-nél, a Microsoftnál és a CBS-nél dolgozott biztonsági beosztásokban.

A Dark Reading nemrégiben beszélt Betz-szel a az AI munkaterhelések biztonsága a felhőben. A beszélgetés szerkesztett változata következik.

Sötét olvasás: Melyek azok a nagy kihívások, amelyek az AI-munkaterhelések felhőben történő biztosításával kapcsolatosak?

Chris Betz: Amikor sok ügyfelünkkel a generatív AI-ról beszélek, ezek a beszélgetések gyakran azzal kezdődnek, hogy „Ezek az igazán érzékeny adatok birtokában vagyok, és egy képességet szeretnék átadni ügyfeleimnek. Hogyan tehetem meg ezt biztonságosan?” Nagyon nagyra értékelem ezt a beszélgetést, mert nagyon fontos, hogy ügyfeleink az elérni kívánt eredményre összpontosítsanak.

Sötét olvasat: Mi miatt aggódnak a legjobban az ügyfelek?

Betz: A beszélgetést azzal a koncepcióval kell kezdeni, hogy „az Ön adatai az Ön adatai”. Nagy előnyünk van abban, hogy olyan informatikai infrastruktúrára építhetek, amely igazán jó munkát végez az adatok ott tartásában, ahol vannak. Tehát az első tanácsom a következő: Értse meg, hol vannak az adatai. Hogyan védik? Hogyan használják a generatív AI-modellben?

A második dolog, amiről beszélünk, az az, hogy a generatív mesterséges intelligencia modellekkel folytatott interakciók gyakran az ügyfelek legérzékenyebb adatait használják fel. Amikor egy generatív AI-modellt kérdezünk egy adott tranzakcióról, akkor az adott tranzakcióban részt vevő személyekre vonatkozó információkat használjuk fel.

Sötét olvasat: Aggasztják a vállalatokat amiatt, hogy az AI mit tesz a belső vállalati adataikkal és az ügyfelek adataival?

Betz: Az ügyfelek leginkább a generatív mesterséges intelligencia használatára vágynak az ügyfeleikkel folytatott interakcióik során, valamint a bányászatban, és kihasználják a hatalmas mennyiségű adatot, amellyel belsőleg rendelkeznek, és ezzel működőképessé teszik akár a belső alkalmazottak, akár az ügyfelek számára. Nagyon fontos a vállalatok számára, hogy ezeket a hihetetlenül érzékeny adatokat biztonságos módon kezeljék, mert ez a vállalkozásuk éltető eleme.

A vállalatoknak át kell gondolniuk, hogy hol vannak az adataik, és hogyan védik azokat, amikor mesterséges intelligenciát kérnek, és mikor kapnak vissza válaszokat.

Sötét olvasat: A válaszok minősége és az adatok biztonsága összefügg?

Betz: Az AI-felhasználóknak mindig el kell gondolkodniuk azon, hogy minőségi válaszokat kapnak-e. A biztonság oka az, hogy az emberek megbízzanak számítógépes rendszereikben. Ha ezt az összetett rendszert állítja össze, amely egy generatív mesterségesintelligencia-modellt használ, hogy eljuttasson valamit az ügyfélhez, akkor az ügyfélnek bíznia kell abban, hogy az AI megfelelő információkat ad neki a cselekvéshez, és megvédi az információit.

Sötét olvasat: Vannak konkrét módok arra, hogy az AWS megosszon azzal kapcsolatban, hogyan védi meg a felhőben az AI elleni támadásokat? Az azonnali injekcióra, mérgező támadásokra, ellenséges támadásokra gondolok, ilyesmi.

Betz: A már meglévő erős alapokkal az AWS felkészült volt a kihívásra, mivel évek óta dolgozunk együtt az AI-val. Számos belső mesterségesintelligencia-megoldásunk van, és számos szolgáltatást kínálunk közvetlenül ügyfeleinknek, és a biztonság fontos szempont volt e megoldások fejlesztése során. Ezt kérdezik ügyfeleink, és ezt várják el.

Az egyik legnagyobb felhőszolgáltatóként széles körű rálátásunk van a változó biztonsági igényekre szerte a világon. Az általunk rögzített fenyegetettségi intelligenciát összesítjük, és olyan gyakorlati ismeretek kidolgozására használjuk fel, amelyeket az ügyféleszközökön és szolgáltatásokon belül használunk, mint pl. GuardDuty. Ezenkívül fenyegetésintelligenciainkat automatizált biztonsági műveletek generálására használjuk az ügyfelek nevében, hogy megőrizzük adataik biztonságát.

Sötét olvasat: Sokat hallottunk már arról, hogy a kiberbiztonsági szolgáltatók mesterséges intelligencia és gépi tanulás segítségével észlelik a fenyegetéseket azáltal, hogy rendszereik szokatlan viselkedését keresik. Milyen más módszereket használnak a vállalatok a mesterséges intelligencia segítségével a biztonságuk érdekében?

Betz: Láttam, hogy az ügyfelek csodálatos dolgokat művelnek a generatív mesterséges intelligencia segítségével. Láttuk, hogy kihasználják a CodeWhisperer (AWS mesterséges intelligencia által vezérelt kódgenerátor) előnyeit a prototípus gyors prototípusának és fejlesztésének érdekében. Láttam, hogy csapatok CodeWhisperert használnak a segítségükre biztonságos kódot építeni és gondoskodjunk arról, hogy a kód hiányosságait kezeljük.

Olyan generatív AI-megoldásokat is építettünk, amelyek kapcsolatban állnak néhány belső biztonsági rendszerünkkel. Elképzelhető, hogy sok biztonsági csapat hatalmas mennyiségű információval foglalkozik. A generatív mesterséges intelligencia lehetővé teszi ezen adatok szintézisét, hogy mind az építők, mind a biztonsági csapatok nagyon jól használhatóak legyenek, hogy megértsék, mi történik a rendszerekben, jobb kérdéseket tegyenek fel, és összegyűjtsék ezeket az adatokat.

Amikor elkezdtem gondolkodni a kiberbiztonsági tehetséghiány, a generatív mesterséges intelligencia manapság nemcsak a szoftverfejlesztés sebességének növelésében és a biztonságos kódolás javításában segít, hanem az adatok összesítésében is. Továbbra is segíteni fog nekünk, mert felerősíti emberi képességeinket. Az AI segít összegyűjteni az információkat az összetett problémák megoldásához, és segít eljuttatni az adatokat a biztonsági mérnökökhöz és elemzőkhöz, hogy jobb kérdéseket tegyenek fel.

Sötét olvasat: Látsz olyan biztonsági fenyegetést, amely kifejezetten az AI-ra és a felhőre vonatkozik?

Betz: Sok időt töltöttem biztonsági kutatókkal azzal, hogy megvizsgáljam a legmodernebb generatív mesterséges intelligencia-támadásokat, és azt, hogy a támadók hogyan néznek rájuk. Kétféle dologra gondolok ezen a téren. Az első osztály az, hogy azt látjuk, hogy a rosszindulatú szereplők generatív AI-t kezdenek használni, hogy gyorsabbak és jobbak legyenek abban, amit már csinálnak. A social engineering tartalom jó példa erre.

A támadók mesterséges intelligencia technológiát is használnak a kód gyorsabb írásának elősegítésére. Ez nagyon hasonló ahhoz, ahol a védelem áll. Ennek a technológiának az az erejéhez tartozik, hogy megkönnyíti a tevékenységek egy osztályát, és ez igaz a támadókra, de nagyon igaz a védőkre is.

A másik terület, amellyel a kutatók kezdenek többet foglalkozni, az a tény, hogy ezek a generatív AI-modellek kódok. Más kódokhoz hasonlóan ezek is érzékenyek a gyengeségekre. Fontos, hogy megértsük, hogyan biztosíthatjuk őket, és megbizonyosodhatunk arról, hogy olyan környezetben léteznek, amely rendelkezik védelemmel.

• SEO által támogatott tartalom és PR terjesztés. Erősödjön még ma.
• PlatoData.Network Vertical Generative Ai. Erősítse meg magát. Hozzáférés itt.
• PlatoAiStream. Web3 Intelligence. Felerősített tudás. Hozzáférés itt.
• PlatoESG. Carbon, CleanTech, Energia, Környezet, Nap, Hulladékgazdálkodás. Hozzáférés itt.
• PlatoHealth. Biotechnológiai és klinikai vizsgálatok intelligencia. Hozzáférés itt.
• Forrás: https://www.darkreading.com/cloud-security/aws-ciso-cloud-customers-need-secure-ai-workloads