Turvaline lähenemine generatiivsele AI-le koos AWS-iga | Amazoni veebiteenused

Generatiivne tehisintellekt (AI) muudab kliendikogemust tööstusharudes kogu maailmas. Kliendid loovad generatiivseid AI-rakendusi, kasutades suuri keelemudeleid (LLM-e) ja muid alusmudeleid (FM-id), mis parandavad klientide kogemusi, muudavad toiminguid, parandavad töötajate tootlikkust ja loovad uusi tulukanaleid.

FM-id ja nende ümber ehitatud rakendused on meie klientide jaoks äärmiselt väärtuslikud investeeringud. Neid kasutatakse sageli väga tundlike äriandmetega, nagu isikuandmed, vastavusandmed, tegevusandmed ja finantsteave, et optimeerida mudeli väljundit. Suurim mure, mida kliente generatiivse AI eeliseid uurides kuuleme, on see, kuidas kaitsta oma ülitundlikke andmeid ja investeeringuid. Kuna nende andmed ja mudelite kaalud on uskumatult väärtuslikud, nõuavad kliendid, et nad jääksid kaitstuks, turvaliseks ja privaatseks, olgu see siis nende enda administraatori kontode, klientide, nende enda keskkondades töötava tarkvara haavatavuste või isegi pilveteenuse pakkuja tõttu. juurdepääs.

AWS-is on meie peamine prioriteet klientide töökoormuse turvalisuse ja konfidentsiaalsuse kaitsmine. Me mõtleme turvalisusele meie generatiivse AI-virna kolmes kihis:

• Alumine kiht - Pakub tööriistu LLM-ide ja muude FM-ide ehitamiseks ja koolitamiseks
• Keskmine kiht – Pakub juurdepääsu kõikidele mudelitele koos tööriistadega, mida vajate generatiivsete AI-rakenduste loomiseks ja skaleerimiseks
• Pealmine kiht – Hõlmab rakendusi, mis kasutavad LLM-e ja muid FM-e, et muuta töö pingevabaks, kirjutades ja siludes koodi, genereerides sisu, hankides teadmisi ja tegutsedes.

Iga kiht on oluline, et muuta generatiivne AI läbivaks ja transformatiivseks.

Koos AWS Nitro süsteem, pakkusime oma klientide nimel esmakordset uuendust. Nitro System on AWS-i jaoks enneolematu andmetöötluse selgroog, mille keskmes on turvalisus ja jõudlus. Selle spetsiaalne riistvara ja sellega seotud püsivara on loodud piirangute jõustamiseks, nii et keegi, sealhulgas keegi AWS-is, ei pääse juurde teie töökoormustele või teie seadmes töötavatele andmetele. Amazon Elastic Compute Cloud (Amazon EC2) juhtudel. Kliendid on sellest konfidentsiaalsusest ja AWS-i operaatoritest eraldatusest kasu saanud kõigil Nitro-põhistel EC2 eksemplaridel alates 2017. aastast.

Konstruktsiooni järgi puudub mehhanism, mis võimaldaks ühelgi Amazoni töötajal pääseda juurde Nitro EC2 eksemplarile, mida kliendid oma töökoormuse täitmiseks kasutavad, või andmetele, mida kliendid saadavad masinõppe (ML) kiirendisse või GPU-sse. See kaitse kehtib kõikidele Nitro-põhistele eksemplaridele, sealhulgas ML-kiirenditega eksemplaridele AWS Inferentia ja AWS Trainiumja GPU-dega nagu P4, P5, G5 ja G6 eksemplare.

Nitro süsteem võimaldab Elastne kangaadapter (EFA), mis kasutab AWS-i ehitatud AWS Scalable Reliable Datagram (SRD) sideprotokolli pilvepõhiseks elastseks ja suuremahuliseks hajutatud koolituseks, võimaldades ainsat alati krüptitud kaugjuurdepääsu (RDMA) võimaldavat võrku. Kogu suhtlus EFA kaudu on krüpteeritud VPC krüptimine sooritustrahvi kandmata.

Nitro Systemi disain on olnud kinnitanud NCC Group, sõltumatu küberturvalisuse ettevõte. AWS pakub klientide töökoormuse jaoks kõrgetasemelist kaitset ja me usume, et see on turvalisuse ja konfidentsiaalsuse tase, mida kliendid peaksid oma pilveteenuse pakkujalt ootama. See kaitsetase on nii kriitiline, et lisasime selle oma AWS-i teenusetingimused et pakkuda kõigile meie klientidele täiendavat kindlustunnet.

Turvaliste generatiivsete AI-töökoormuste uuendamine, kasutades AWS-i valdkonna juhtivaid turbevõimalusi

Alates esimesest päevast on AWS AI infrastruktuuril ja teenustel olnud sisseehitatud turva- ja privaatsusfunktsioonid, mis annavad teile kontrolli oma andmete üle. Kuna kliendid hakkavad kiiresti rakendama oma organisatsioonis generatiivset AI-d, peate teadma, et teie andmeid käsitletakse kogu tehisintellekti elutsükli jooksul turvaliselt, sealhulgas andmete ettevalmistamisel, koolitusel ja järelduste tegemisel. Mudeli kaalude turvalisus – parameetrid, mida mudel treeningu ajal õpib ja mis on tema ennustusvõime jaoks üliolulised – on teie andmete kaitsmisel ja mudeli terviklikkuse säilitamisel ülimalt oluline.

Seetõttu on oluline, et AWS jätkaks oma klientide nimel uuendusi, et tõsta turvalisuse latti generatiivse tehisintellekti virna igas kihis. Usume, et selleks peab generatiivse AI-virna igas kihis olema turvalisus ja konfidentsiaalsus. Peate suutma tagada infrastruktuuri, et koolitada LLM-e ja muid FM-e, ehitada turvaliselt LLM-ide ja muude FM-ide käitamiseks mõeldud tööriistu ning käivitada rakendusi, mis kasutavad FM-e koos sisseehitatud turvalisuse ja privaatsusega, mida võite usaldada.

AWS-i puhul tähendab tehisintellekti infrastruktuuri turvamine nulljuurdepääsu tundlikele tehisintellekti andmetele, nagu tehisintellekti mudelite kaalud ja nende mudelitega töödeldud andmed, mis tahes volitamata isikute poolt, kas infrastruktuuri halduri või kliendi juures. See koosneb kolmest põhiprintsiibist:

1. Tehisintellekti andmete täielik isoleerimine infrastruktuuri haldurist – Infrastruktuuri halduril ei tohi olla juurdepääsu kliendi sisule ja tehisintellekti andmetele, nagu AI mudelite kaalud ja mudelitega töödeldud andmed.
2. Klientidel on võimalus AI-andmeid endast eraldada – Taristu peab pakkuma mehhanismi, mis võimaldab mudelite kaalude ja andmete laadimist riistvarasse, jäädes samal ajal isoleerituks ning klientide enda kasutajatest ja tarkvarast kättesaamatuks.
3. Kaitstud infrastruktuuri side – ML-kiirendite infrastruktuuri seadmetevaheline side peab olema kaitstud. Kõik väliselt juurdepääsetavad lingid seadmete vahel peavad olema krüptitud.

Nitro süsteem täidab turvalise AI infrastruktuuri esimest põhimõtet, eraldades teie tehisintellekti andmed AWS-i operaatoritest. Teine põhimõte annab teile võimaluse eemaldada oma kasutajate ja tarkvara administratiivne juurdepääs teie tehisintellekti andmetele. AWS ei paku teile mitte ainult viisi selle saavutamiseks, vaid tegime selle ka lihtsaks ja praktiliseks, investeerides integreeritud lahenduse loomisse AWS Nitro Enklaavid ja AWS-i võtmehaldusteenus (AWS KMS). Nitro Enclaves'i ja AWS KMS-iga saate oma tundlikke AI-andmeid krüpteerida, kasutades teile kuuluvaid ja kontrollitavaid võtmeid, salvestada need andmed teie valitud asukohta ja edastada krüptitud andmed turvaliselt isoleeritud arvutuskeskkonda järelduste tegemiseks. Kogu selle protsessi vältel krüpteeritakse tundlikud AI-andmed ja isoleeritakse teie enda kasutajatest ja tarkvarast teie EC2 eksemplaris ning AWS-i operaatorid ei pääse neile andmetele juurde. Sellest voost kasu saanud kasutusjuhtumid hõlmavad ka jooksmist LLM järeldused enklaavis. Siiani töötavad Nitro Enclaves ainult CPU-s, piirates suuremate generatiivsete AI mudelite ja keerukama töötlemise potentsiaali.

Teatasime oma plaanidest laiendada seda Nitro otsast lõpuni krüpteeritud voogu, et hõlmata esmaklassiline integratsioon ML-kiirendite ja GPU-dega, mis täidab kolmandat põhimõtet. Saate dekrüpteerida ja laadida tundlikud AI-andmed töötlemiseks ML-kiirendisse, eraldades samal ajal oma operaatoritest ja kontrollides tehisintellekti andmete töötlemiseks kasutatava rakenduse autentsust. Nitro süsteemi kaudu saate oma rakendusi AWS KMS-i krüptograafiliselt kinnitada ja andmeid dekrüpteerida ainult siis, kui vajalikud kontrollid läbivad. See täiustus võimaldab AWS-il pakkuda teie andmetele täielikku krüptimist, kui need liiguvad läbi generatiivse AI töökoormuse.

Kavatseme seda täielikku krüptitud voogu pakkuda tulevases AWS-i disainis Trainium2 samuti NVIDIA tulevasel Blackwelli arhitektuuril põhinevad GPU eksemplarid, mis mõlemad pakuvad turvalist sidet seadmete vahel, mis on turvalise AI infrastruktuuri kolmas põhimõte. AWS ja NVIDIA teevad tihedat koostööd, et tuua turule ühine lahendus, sealhulgas NVIDIA uus NVIDIA Blackwell GPU 21 platvorm, mis ühendab NVIDIA GB200 NVL72 lahenduse Nitro süsteemi ja EFA tehnoloogiatega, et pakkuda tööstusharu juhtivat lahendust järgmiste seadmete turvaliseks ehitamiseks ja juurutamiseks. generatiivseid AI-rakendusi.

Generatiivse AI-turvalisuse tuleviku edendamine

Tänapäeval kasutavad kümned tuhanded kliendid AWS-i, et katsetada ja viia transformatiivseid generatiivseid AI-rakendusi tootmisse. Generatiivsed AI töökoormused sisaldavad väga väärtuslikke ja tundlikke andmeid, mis vajavad teie enda operaatorite ja pilveteenuse pakkuja kaitset. Kliendid, kes kasutavad AWS Nitro-põhiseid EC2 eksemplare, on saanud AWS-i operaatoritelt sellise kaitse ja isolatsiooni alates 2017. aastast, mil lansseerisime oma uuendusliku Nitro süsteemi.

AWS-is jätkame seda innovatsiooni, investeerides jõudlusega ja juurdepääsetavate võimaluste loomisse, et muuta meie klientide jaoks otstarbekas tagada oma generatiivne AI töökoormus generatiivse AI virna kolmes kihis, et saaksite keskenduda oma tegemistele. parim: generatiivse tehisintellekti loomine ja kasutusalade laiendamine rohkematele valdkondadele. Lisateavet siin.

---

Autoritest

Anthony Liguori on AWS-i asepresident ja EC2 austatud insener

Colm MacCárthaigh on AWS-i asepresident ja EC2 austatud insener

• SEO-põhise sisu ja PR-levi. Võimenduge juba täna.
• PlatoData.Network Vertikaalne generatiivne Ai. Jõustage ennast. Juurdepääs siia.
• PlatoAiStream. Web3 luure. Täiustatud teadmised. Juurdepääs siia.
• PlatoESG. Süsinik, CleanTech, Energia, Keskkond päikeseenergia, Jäätmekäitluse. Juurdepääs siia.
• PlatoTervis. Biotehnoloogia ja kliiniliste uuringute luureandmed. Juurdepääs siia.
• Allikas: https://aws.amazon.com/blogs/machine-learning/a-secure-approach-to-generative-ai-with-aws/