Varen pristop k generativni AI z AWS | Spletne storitve Amazon

Generativna umetna inteligenca (AI) spreminja uporabniško izkušnjo v panogah po vsem svetu. Stranke gradijo generativne aplikacije umetne inteligence z uporabo velikih jezikovnih modelov (LLM) in drugih temeljnih modelov (FM), ki izboljšujejo uporabniške izkušnje, preoblikujejo operacije, izboljšujejo produktivnost zaposlenih in ustvarjajo nove prihodkovne kanale.

FM in aplikacije, zgrajene okoli njih, predstavljajo izjemno dragocene naložbe za naše stranke. Pogosto se uporabljajo z zelo občutljivimi poslovnimi podatki, kot so osebni podatki, podatki o skladnosti, operativni podatki in finančne informacije, za optimizacijo rezultatov modela. Največja skrb, ki jo slišimo od strank, ko raziskujejo prednosti generativne umetne inteligence, je, kako zaščititi svoje zelo občutljive podatke in naložbe. Ker so njihovi podatki in uteži modelov neverjetno dragoceni, stranke od njih zahtevajo, da ostanejo zaščitene, varne in zasebne, ne glede na to, ali gre za račune njihovih lastnih skrbnikov, njihove stranke, ranljivosti v programski opremi, ki se izvaja v njihovih okoljih, ali celo zaradi njihovega ponudnika storitev v oblaku. dostop.

Pri AWS je naša glavna prednostna naloga varovanje varnosti in zaupnosti delovnih obremenitev naših strank. O varnosti razmišljamo na treh ravneh našega generativnega sklada AI:

• Spodnji sloj – Zagotavlja orodja za gradnjo in usposabljanje LLM in drugih FM
• Srednji sloj – Omogoča dostop do vseh modelov skupaj z orodji, ki jih potrebujete za izdelavo in povečanje generativnih aplikacij AI
• Zgornji sloj – Vključuje aplikacije, ki uporabljajo LLM in druge FM, da olajšajo delo brez stresa s pisanjem kode in odpravljanjem napak, ustvarjanjem vsebine, pridobivanjem vpogledov in ukrepanjem

Vsaka plast je pomembna za to, da generativna umetna inteligenca postane prodorna in transformativna.

Z Sistem AWS Nitro, smo v imenu naših strank predstavili prvo inovacijo te vrste. Sistem Nitro je računalniška hrbtenica brez primere za AWS, z varnostjo in zmogljivostjo v središču. Njegova specializirana strojna oprema in povezana vdelana programska oprema sta zasnovani tako, da uveljavljata omejitve, tako da nihče, vključno z nikomer v AWS, ne more dostopati do vaših delovnih obremenitev ali podatkov, ki se izvajajo na Amazonski elastični računalniški oblak (Amazon EC2) primerki. Stranke imajo od leta 2 koristi od te zaupnosti in izolacije od operaterjev AWS na vseh primerkih EC2017, ki temeljijo na Nitro.

Po zasnovi ni nobenega mehanizma, s katerim bi lahko kateri koli zaposleni v Amazonu dostopal do primerka Nitro EC2, ki ga stranke uporabljajo za izvajanje svojih delovnih obremenitev, ali za dostop do podatkov, ki jih stranke pošljejo v pospeševalnik strojnega učenja (ML) ali GPE. Ta zaščita velja za vse primerke, ki temeljijo na Nitroju, vključno s primerki s pospeševalniki ML, kot je Sklepanje AWS in AWS Trainiumin primerki z grafičnimi procesorji, kot so P4, P5, G5 in G6.

Sistem Nitro omogoča Adapter za elastične tkanine (EFA), ki uporablja komunikacijski protokol AWS Scalable Reliable Datagram (SRD), ki ga je razvil AWS, za elastično in obsežno porazdeljeno usposabljanje v oblaku, kar omogoča edino vedno šifrirano omrežje, ki podpira oddaljeni neposredni dostop do pomnilnika (RDMA). Vsa komunikacija prek EFA je šifrirana z VPC šifriranje brez kakršne koli kazni za uspešnost.

Zasnova sistema Nitro je bila potrjena s strani skupine NCC, neodvisno podjetje za kibernetsko varnost. AWS zagotavlja visoko raven zaščite za delovne obremenitve strank in verjamemo, da je to raven varnosti in zaupnosti, ki bi jo morali kupci pričakovati od svojega ponudnika v oblaku. Ta raven zaščite je tako pomembna, da smo jo dodali v našo Pogoji storitve AWS da zagotovimo dodatno zagotovilo vsem našim strankam.

Inovacija varnih generativnih delovnih obremenitev umetne inteligence z uporabo vodilnih varnostnih zmogljivosti AWS v industriji

Od prvega dne so imele infrastruktura in storitve AWS AI vgrajene funkcije za varnost in zasebnost, ki vam omogočajo nadzor nad vašimi podatki. Ker stranke hitro izvajajo generativno umetno inteligenco v svojih organizacijah, morate vedeti, da se vaši podatki varno obravnavajo v celotnem življenjskem ciklu umetne inteligence, vključno s pripravo podatkov, usposabljanjem in sklepanjem. Varnost uteži modela – parametrov, ki se jih model nauči med usposabljanjem in so ključni za njegovo sposobnost napovedovanja – je najpomembnejša za zaščito vaših podatkov in ohranjanje celovitosti modela.

Zato je za AWS ključnega pomena, da nadaljuje z inovacijami v imenu naših strank, da dvigne lestvico varnosti v vsaki plasti generativnega sklada AI. Če želite to narediti, verjamemo, da morate imeti vgrajeno varnost in zaupnost v vsaki plasti generativnega sklada AI. Morate biti sposobni zavarovati infrastrukturo za usposabljanje LLM-jev in drugih FM-jev, varno graditi z orodji za izvajanje LLM-jev in drugih FM-jev ter izvajati aplikacije, ki uporabljajo FM-je z vgrajeno varnostjo in zasebnostjo, ki jima lahko zaupate.

Pri AWS se varovanje infrastrukture umetne inteligence nanaša na ničelni dostop do občutljivih podatkov umetne inteligence, kot so uteži modelov umetne inteligence in podatki, obdelani s temi modeli, s strani katere koli nepooblaščene osebe, bodisi pri upravljavcu infrastrukture bodisi pri stranki. Sestavljen je iz treh ključnih načel:

1. Popolna izolacija podatkov AI od operaterja infrastrukture – Upravljavec infrastrukture ne sme imeti možnosti dostopa do vsebine strank in podatkov AI, kot so uteži modelov AI in podatkov, obdelanih z modeli.
2. Sposobnost strank, da izolirajo podatke AI od sebe – Infrastruktura mora zagotavljati mehanizem, ki omogoča nalaganje uteži in podatkov modelov v strojno opremo, hkrati pa mora ostati izolirana in nedostopna za lastne uporabnike in programsko opremo strank.
3. Zaščitene infrastrukturne komunikacije – Komunikacija med napravami v infrastrukturi pospeševalnika ML mora biti zaščitena. Vse zunanje dostopne povezave med napravami morajo biti šifrirane.

Sistem Nitro izpolnjuje prvo načelo varne infrastrukture AI z izolacijo vaših podatkov AI od operaterjev AWS. Drugo načelo vam ponuja način za odstranitev skrbniškega dostopa vaših uporabnikov in programske opreme do vaših podatkov AI. AWS vam ne ponuja le načina, kako to doseči, ampak smo ga tudi naredili preprostega in praktičnega z vlaganjem v izgradnjo integrirane rešitve med AWS Nitro enklave in AWS Service Key Management (AWS KMS). Z Nitro Enclave in AWS KMS lahko šifrirate svoje občutljive podatke AI s ključi, ki jih imate v lasti in jih nadzirate, shranite te podatke na lokacijo po vaši izbiri in varno prenesete šifrirane podatke v izolirano računalniško okolje za sklepanje. Skozi ta celoten proces so občutljivi podatki umetne inteligence šifrirani in izolirani od vaših lastnih uporabnikov in programske opreme na vaši instanci EC2, operaterji AWS pa ne morejo dostopati do teh podatkov. Primeri uporabe, ki so imeli koristi od tega toka, vključujejo izvajanje LLM sklepanje v enklavi. Do danes Nitro Enclave delujejo samo v CPE, kar omejuje možnosti za večje generativne modele AI in bolj zapleteno obdelavo.

Napovedali smo naše načrte za razširitev tega šifriranega toka Nitro od konca do konca, da bi vključili prvovrstno integracijo s pospeševalniki ML in GPE, s čimer izpolnjujemo tretje načelo. Lahko boste dešifrirali in naložili občutljive podatke AI v pospeševalnik ML za obdelavo, hkrati pa zagotovili izolacijo od lastnih operaterjev in preverjeno pristnost aplikacije, ki se uporablja za obdelavo podatkov AI. Prek sistema Nitro lahko kriptografsko preverite svoje aplikacije v AWS KMS in dešifrirate podatke šele, ko so potrebna preverjanja opravljena. Ta izboljšava omogoča AWS, da ponudi šifriranje od konca do konca za vaše podatke, ko tečejo skozi generativne delovne obremenitve umetne inteligence.

Ta šifrirani tok od konca do konca nameravamo ponuditi v prihajajočem AWS-u zasnovanem Trainium2 as well as GPU instances based on NVIDIA’s upcoming Blackwell architecture, which both offer secure communications between devices, the third principle of Secure AI Infrastructure. AWS and NVIDIA are collaborating closely to bring a joint solution to market, including NVIDIA’s new NVIDIA Blackwell GPU 21 platform, which couples NVIDIA’s GB200 NVL72 solution with the Nitro System and EFA technologies to provide an industry-leading solution for securely building and deploying next-generation generative AI applications.

Napredovanje prihodnosti generativne varnosti AI

Danes več deset tisoč strank uporablja AWS za eksperimentiranje in premikanje transformativnih generativnih aplikacij AI v proizvodnjo. Generativne delovne obremenitve AI vsebujejo zelo dragocene in občutljive podatke, ki potrebujejo raven zaščite vaših lastnih operaterjev in ponudnika storitev v oblaku. Stranke, ki uporabljajo instance EC2 na osnovi AWS Nitro, so od operaterjev AWS prejele to raven zaščite in izolacije od leta 2017, ko smo lansirali naš inovativni sistem Nitro.

Pri AWS nadaljujemo s to inovacijo, ko vlagamo v gradnjo zmogljivih in dostopnih zmogljivosti, da bi našim strankam omogočili praktično zaščito svojih generativnih delovnih obremenitev umetne inteligence v treh ravneh generativnega sklada umetne inteligence, tako da se lahko osredotočite na to, kar počnete najboljše: izgradnja in razširitev uporabe generativne umetne inteligence na več področij. Nauči se več tukaj.

---

O avtorjih

Anthony Liguori je podpredsednik AWS in ugledni inženir za EC2

Colm MacCárthaigh je podpredsednik AWS in ugledni inženir za EC2

• Distribucija vsebine in PR s pomočjo SEO. Okrepite se še danes.
• PlatoData.Network Vertical Generative Ai. Opolnomočite se. Dostopite tukaj.
• PlatoAiStream. Web3 Intelligence. Razširjeno znanje. Dostopite tukaj.
• PlatoESG. Ogljik, CleanTech, Energija, Okolje, sončna energija, Ravnanje z odpadki. Dostopite tukaj.
• PlatoHealth. Obveščanje o biotehnologiji in kliničnih preskušanjih. Dostopite tukaj.
• vir: https://aws.amazon.com/blogs/machine-learning/a-secure-approach-to-generative-ai-with-aws/