AWS CISO: Acordați atenție modului în care AI vă utilizează datele

Întreprinderile adoptă din ce în ce mai mult AI generativă pentru a automatiza procesele IT, pentru a detecta amenințările de securitate și pentru a prelua funcțiile de service pentru clienți din prima linie. Un Sondaj IBM în 2023 a constatat că 42% dintre întreprinderile mari foloseau în mod activ AI, iar alți 40% explorau sau experimentau AI.

În intersecția inevitabilă dintre AI și cloud, întreprinderile trebuie să se gândească la cum să securizeze instrumentele AI în cloud. O persoană care s-a gândit mult la asta este Chris Betz, care a devenit CISO la Amazon Web Services în august anul trecut.

Înainte de AWS, Betz a fost vicepreședinte executiv și CISO al Capital One. Betz a lucrat, de asemenea, ca vicepreședinte senior și ofițer șef de securitate la Lumen Technologies și în roluri de securitate la Apple, Microsoft și CBS.

Dark Reading a vorbit recent cu Betz despre securitatea sarcinilor de lucru AI în cloud. Urmează o versiune editată a acelei conversații.

Dark Reading: Care sunt unele dintre marile provocări legate de securizarea încărcăturilor de lucru AI în cloud?

Chris Betz: Când vorbesc cu mulți dintre clienții noștri despre IA generativă, acele conversații încep adesea cu: „Am aceste date foarte sensibile și caut să ofer o capacitate clienților mei. Cum fac asta într-un mod sigur și securizat?” Apreciez cu adevărat această conversație pentru că este atât de important ca clienții noștri să se concentreze pe rezultatul pe care încearcă să-l obțină.

Dark Reading: De ce sunt cei mai îngrijorați clienții?

Betz: Conversația trebuie să înceapă cu conceptul că „datele tale sunt datele tale”. Avem un mare avantaj prin faptul că pot construi pe partea de sus a infrastructurii IT care face o treabă foarte bună de a păstra acele date acolo unde sunt. Așa că primul sfat pe care îl dau este: înțelegeți unde sunt datele dvs. Cum este protejat? Cum este utilizat în modelul AI generativ?

Al doilea lucru despre care vorbim este că interacțiunile cu un model AI generativ folosesc adesea unele dintre cele mai sensibile date ale clienților lor. Când întrebați un model AI generativ despre o anumită tranzacție, veți folosi informații despre persoanele implicate în acea tranzacție.

Lectură întunecată: Sunt întreprinderile îngrijorate atât de ceea ce face AI cu datele interne ale companiei, cât și cu datele clienților?

Betz: Clienții doresc cel mai mult să folosească AI generativă în interacțiunile lor cu clienții lor și în mining și să profite de cantitatea masivă de date pe care o au intern și să facă ca acestea să funcționeze fie pentru angajații interni, fie pentru clienții lor. Este atât de important pentru companii încât să gestioneze acele date incredibil de sensibile într-un mod sigur și securizat, deoarece acestea sunt sânul vital al afacerilor lor.

Companiile trebuie să se gândească unde sunt datele lor și cum sunt protejate atunci când dau solicitări AI și când primesc răspunsuri.

Lectură întunecată: calitatea răspunsurilor și securitatea datelor sunt legate?

Betz: Utilizatorii AI trebuie întotdeauna să se gândească dacă primesc răspunsuri de calitate. Motivul securității este ca oamenii să aibă încredere în sistemele lor informatice. Dacă alcătuiți acest sistem complex care folosește un model AI generativ pentru a livra ceva clientului, aveți nevoie ca acesta să aibă încredere că AI le oferă informațiile potrivite pentru a acționa și că le protejează informațiile.

Lectură întunecată: Există modalități specifice prin care AWS le poate împărtăși despre modul în care se protejează împotriva atacurilor asupra AI în cloud? Mă gândesc la injectare promptă, atacuri de otrăvire, atacuri adverse, așa ceva.

Betz: Având deja baze solide, AWS a fost bine pregătit să facă față provocării, deoarece lucrăm cu AI de ani de zile. Avem un număr mare de soluții interne de inteligență artificială și o serie de servicii pe care le oferim direct clienților noștri, iar securitatea a fost o considerație majoră în modul în care dezvoltăm aceste soluții. Este ceea ce întreabă clienții noștri și este ceea ce se așteaptă.

Fiind unul dintre cei mai mari furnizori de cloud, avem o vizibilitate largă asupra nevoilor de securitate în evoluție de pe tot globul. Informațiile despre amenințări pe care le captăm sunt agregate și utilizate pentru a dezvolta informații utile care sunt utilizate în instrumentele și serviciile pentru clienți, cum ar fi Datorie de paznic. În plus, informațiile noastre privind amenințările sunt folosite pentru a genera acțiuni automate de securitate în numele clienților pentru a le menține datele în siguranță.

Lectură întunecată: Am auzit multe despre furnizorii de securitate cibernetică care folosesc inteligența artificială și învățarea automată pentru a detecta amenințările căutând comportamente neobișnuite pe sistemele lor. Care sunt alte moduri prin care companiile folosesc AI pentru a se asigura?

Betz: Am văzut clienți făcând lucruri uimitoare cu IA generativă. I-am văzut profitând de CodeWhisperer [generatorul de cod alimentat de AI al AWS] pentru a prototipa rapid și a dezvolta tehnologii. Am văzut echipe folosind CodeWhisperer pentru a le ajuta construi un cod securizat și să ne asigurăm că ne ocupăm de lacune în cod.

De asemenea, am construit soluții AI generative care sunt în contact cu unele dintre sistemele noastre de securitate internă. După cum vă puteți imagina, multe echipe de securitate se ocupă de cantități masive de informații. Inteligența artificială generativă permite o sinteză a acestor date pentru a le face foarte utilizabile atât de către constructori, cât și de către echipele de securitate, pentru a înțelege ce se întâmplă în sisteme, a pune întrebări mai bune și a reuni datele respective.

Când am început să mă gândesc la deficit de talente în domeniul securității cibernetice, IA generativă nu contribuie doar la îmbunătățirea vitezei de dezvoltare a software-ului și la îmbunătățirea codării securizate, ci și la agregarea datelor. Va continua să ne ajute pentru că ne amplifică abilitățile umane. AI ne ajută să adunăm informații pentru a rezolva probleme complexe și ne ajută să aducem datele inginerilor și analiștilor de securitate, astfel încât aceștia să poată începe să pună întrebări mai bune.

Lectură întunecată: vedeți amenințări de securitate specifice AI și cloud-ului?

Betz: Am petrecut mult timp cu cercetătorii în domeniul securității analizând atacurile AI generative de ultimă oră și modul în care atacatorii le privesc. Sunt două clase de lucruri la care mă gândesc în acest spațiu. Prima clasă este că vedem actori rău intenționați care încep să folosească AI generativ pentru a deveni mai rapid și mai bun în ceea ce fac deja. Conținutul de inginerie socială este un exemplu în acest sens.

Atacatorii folosesc, de asemenea, tehnologia AI pentru a ajuta la scrierea mai rapidă a codului. Este foarte asemănător cu locul în care se află apărarea. O parte din puterea acestei tehnologii este că face o clasă de activități mai ușoară, iar acest lucru este valabil pentru atacatori, dar este foarte adevărat și pentru apărători.

Celălalt domeniu pe care văd că cercetătorii încep să se uite mai mult este faptul că aceste modele AI generative sunt cod. Ca și alte coduri, sunt susceptibili de a avea puncte slabe. Este important să înțelegem cum să le asigurăm și să ne asigurăm că există într-un mediu care are apărare.

• Distribuție de conținut bazat pe SEO și PR. Amplifică-te astăzi.
• PlatoData.Network Vertical Generative Ai. Împuterniciți-vă. Accesați Aici.
• PlatoAiStream. Web3 Intelligence. Cunoștințe amplificate. Accesați Aici.
• PlatoESG. carbon, CleanTech, Energie, Mediu inconjurator, Solar, Managementul deșeurilor. Accesați Aici.
• PlatoHealth. Biotehnologie și Inteligență pentru studii clinice. Accesați Aici.
• Sursa: https://www.darkreading.com/cloud-security/aws-ciso-cloud-customers-need-secure-ai-workloads