Stranke vseh velikosti in panog uvajajo inovacije na področju AWS tako, da v svoje izdelke in storitve vnašajo strojno učenje (ML). Nedavni razvoj generativnih modelov umetne inteligence je dodatno pospešil potrebo po uvedbi strojnega pisanja v vseh panogah. Vendar so uvedba nadzora varnosti, zasebnosti podatkov in upravljanja še vedno ključni izzivi, s katerimi se soočajo stranke pri izvajanju delovnih obremenitev ML v velikem obsegu. Obravnavanje teh izzivov gradi okvir in temelje za zmanjševanje tveganja in odgovorno uporabo izdelkov, ki temeljijo na strojnem pranju. Čeprav bo generativni AI morda potreboval dodatne kontrole, kot je odstranjevanje strupenosti in preprečevanje vdorov iz zapora in halucinacij, ima enake temeljne komponente za varnost in upravljanje kot tradicionalni ML.
Od strank smo slišali, da potrebujejo specializirano znanje in vlaganje do 12 mesecev za izgradnjo po meri Amazon SageMaker Izvedba platforme ML za zagotavljanje razširljivih, zanesljivih, varnih in upravljanih okolij ML za njihove poslovne linije (LOB) ali ekipe ML. Če nimate ogrodja za upravljanje življenjskega cikla ML v velikem obsegu, lahko naletite na izzive, kot so izolacija virov na ravni ekipe, povečanje eksperimentalnih virov, operacionalizacija delovnih tokov ML, upravljanje modela skaliranja ter upravljanje varnosti in skladnosti delovnih obremenitev ML.
Upravljanje življenjskega cikla ML v velikem obsegu je ogrodje, ki vam pomaga zgraditi platformo ML z vgrajenimi kontrolami varnosti in upravljanja na podlagi najboljših praks v panogi in standardov podjetja. Ta okvir obravnava izzive z zagotavljanjem predpisanih smernic prek pristopa modularnega okvira, ki razširja an Nadzorni stolp AWS okolje AWS z več računi in pristop, obravnavan v objavi Nastavitev varnih, dobro upravljanih okolij strojnega učenja na AWS.
Zagotavlja predpisana navodila za naslednje funkcije platforme ML:
- Temelji za več računov, varnost in mreženje – Ta funkcija uporablja nadzorni stolp AWS in dobro zasnovana načela za nastavitev in delovanje okolja z več računi, varnost in omrežne storitve.
- Temelji podatkov in upravljanja – Ta funkcija uporablja a podatkovno mrežno arhitekturo za postavitev in delovanje podatkovnega jezera, centralne shrambe funkcij in temeljev za upravljanje podatkov, da se omogoči natančen dostop do podatkov.
- Skupne storitve platforme ML in storitve upravljanja – Ta funkcija omogoča nastavitev in delovanje skupnih storitev, kot so CI/CD, Katalog storitev AWS za oskrbovalna okolja in osrednji register modelov za promocijo in rodovino modelov.
- Ekipna okolja ML – Ta funkcija omogoča nastavitev in delovanje okolij za ekipe ML za razvoj modela, testiranje in uvajanje njihovih primerov uporabe za vdelavo varnostnih in upravljavskih kontrol.
- Opazljivost platforme ML – Ta funkcija pomaga pri odpravljanju težav in prepoznavanju temeljnega vzroka za težave v modelih ML s centralizacijo dnevnikov in zagotavljanjem orodij za vizualizacijo analize dnevnikov. Zagotavlja tudi navodila za ustvarjanje poročil o stroških in uporabi za primere uporabe ML.
Čeprav lahko ta okvir nudi koristi vsem strankam, je najbolj koristen za velika, zrela, regulirana ali globalna podjetja, ki želijo povečati svoje strategije strojnega upravljanja z nadzorovanim, skladnim in usklajenim pristopom v celotni organizaciji. Pomaga omogočiti sprejetje ML, hkrati pa zmanjša tveganja. Ta okvir je uporaben za naslednje stranke:
- Velike poslovne stranke, ki imajo veliko LOB-jev ali oddelkov, ki jih zanima uporaba strojnega jezika. Ta okvir omogoča različnim skupinam, da neodvisno gradijo in uvajajo modele ML, hkrati pa zagotavlja centralno upravljanje.
- Podjetniške stranke z zmerno do visoko zrelostjo v ML. Uvedli so že nekaj začetnih modelov ML in želijo razširiti svoja prizadevanja na področju ML. Ta okvir lahko pomaga pospešiti uvedbo strojnega pisanja v celotni organizaciji. Ta podjetja prav tako priznavajo potrebo po upravljanju za upravljanje stvari, kot so nadzor dostopa, uporaba podatkov, zmogljivost modela in nepoštena pristranskost.
- Podjetja v reguliranih panogah, kot so finančne storitve, zdravstvo, kemija in zasebni sektor. Ta podjetja potrebujejo močno upravljanje in slišnost za vse modele ML, ki se uporabljajo v njihovih poslovnih procesih. Sprejetje tega okvira lahko pomaga olajšati skladnost, hkrati pa omogoča razvoj lokalnega modela.
- Globalne organizacije, ki morajo uravnotežiti centraliziran in lokalni nadzor. Zvezni pristop tega ogrodja omogoča inženirski skupini osrednje platforme, da določi nekatere politike in standarde na visoki ravni, hkrati pa daje LOB ekipam prilagodljivost glede na lokalne potrebe.
V prvem delu te serije se sprehodimo skozi referenčno arhitekturo za postavitev platforme ML. V poznejši objavi bomo podali predpisana navodila za implementacijo različnih modulov v referenčno arhitekturo v vaši organizaciji.
Zmogljivosti platforme ML so razvrščene v štiri kategorije, kot je prikazano na naslednji sliki. Te zmožnosti tvorijo temelj referenčne arhitekture, o kateri bomo razpravljali kasneje v tej objavi:
- Zgradite temelje ML
- Prilagoditev operacij ML
- Opazen ML
- Varen ML
Pregled rešitev
Ogrodje za upravljanje življenjskega cikla strojnega pisanja v velikem obsegu omogoča organizacijam, da v celoten življenjski cikel strojnega upravljanja vgradijo nadzor varnosti in upravljanja, kar organizacijam pomaga zmanjšati tveganje in pospešiti vnos strojnega pisanja v njihove izdelke in storitve. Ogrodje pomaga optimizirati nastavitev in upravljanje varnih, razširljivih in zanesljivih okolij ML, ki se lahko prilagodijo tako, da podpirajo vedno večje število modelov in projektov. Ogrodje omogoča naslednje funkcije:
- Zagotavljanje računa in infrastrukture z infrastrukturnimi viri, skladnimi s politiko organizacije
- Samopostrežna uvedba okolij znanosti o podatkih in predloge operacij ML od konca do konca (MLOps) za primere uporabe ML
- Izolacija virov na ravni LOB ali na ravni ekipe za skladnost z varnostjo in zasebnostjo
- Urejen dostop do podatkov proizvodnega razreda za eksperimentiranje in poteke dela, pripravljene na proizvodnjo
- Upravljanje in upravljanje za repozitorije kod, cevovode kode, razporejene modele in podatkovne funkcije
- Model registra in shramba funkcij (lokalne in centralne komponente) za izboljšanje upravljanja
- Kontrole varnosti in upravljanja za proces razvoja in uvajanja modela od konca do konca
V tem razdelku nudimo pregled predpisanih smernic, ki vam bodo pomagale zgraditi to platformo ML na AWS z vdelanimi varnostnimi in upravljavskimi kontrolami.
Funkcionalna arhitektura, povezana s platformo ML, je prikazana v naslednjem diagramu. Arhitektura preslika različne zmogljivosti platforme ML v račune AWS.
Funkcionalna arhitektura z različnimi zmogljivostmi je implementirana z uporabo številnih storitev AWS, vključno z AWS organizacije, SageMaker, storitve AWS DevOps in podatkovno jezero. Referenčna arhitektura za platformo ML z različnimi storitvami AWS je prikazana v naslednjem diagramu.
Ta okvir upošteva več oseb in storitev za upravljanje življenjskega cikla strojnega pisanja v velikem obsegu. Priporočamo naslednje korake za organizacijo vaših ekip in storitev:
- Z uporabo nadzornega stolpa AWS in orodij za avtomatizacijo vaš skrbnik v oblaku nastavi temelje za več računov, kot so organizacije in AWS IAM Identity Center (naslednik AWS Single Sign-On) ter storitve varnosti in upravljanja, kot npr AWS Service Key Management (AWS KMS) in katalog storitev. Poleg tega skrbnik nastavi različne organizacijske enote (OU) in začetne račune za podporo vaših delovnih tokov ML in analitike.
- Skrbniki podatkovnega jezera nastavijo vaše podatkovno jezero in podatkovni katalog ter nastavijo osrednjo shrambo funkcij, ki deluje s skrbnikom platforme ML.
- Skrbnik platforme ML omogoča skupne storitve ML, kot je npr AWS CodeCommit, AWS CodePipeline, Registar elastičnih zabojnikov Amazon (Amazon ECR), centralni register modelov, Modelne kartice SageMaker, Nadzorna plošča modela SageMakerin izdelki storitvenega kataloga za ekipe ML.
- Vodja ekipe ML se združuje prek centra za identiteto IAM, uporablja izdelke kataloga storitev in zagotavlja vire v razvojnem okolju ekipe ML.
- Podatkovni znanstveniki iz skupin ML v različnih poslovnih enotah se združujejo v razvojno okolje svoje ekipe, da zgradijo cevovod modelov.
- Podatkovni znanstveniki iščejo in črpajo funkcije iz osrednjega kataloga trgovine s funkcijami, gradijo modele s poskusi in izbirajo najboljši model za promocijo.
- Podatkovni znanstveniki ustvarjajo in delijo nove funkcije v katalogu osrednje trgovine funkcij za ponovno uporabo.
- Inženir ML razmesti cevovod modela v testno okolje ekipe ML z uporabo procesa CI/CD v skupni rabi storitev.
- Po validaciji zainteresiranih strani se model ML uvede v produkcijsko okolje ekipe.
- Kontrole varnosti in upravljanja so vgrajene v vsako plast te arhitekture z uporabo storitev, kot je npr Varnostno središče AWS, Amazon Guard Duty, Amazon Macie, In še več.
- Varnostne kontrole se centralno upravljajo iz računa varnostnih orodij z uporabo varnostnega središča.
- Zmogljivosti upravljanja platforme ML, kot sta SageMaker Model Cards in SageMaker Model Dashboard, se centralno upravljajo iz računa storitev upravljanja.
- amazoncloudwatch in AWS CloudTrail dnevniki iz vsakega računa člana so dostopni centralno iz računa za opazovanje z uporabo domačih storitev AWS.
Nato se poglobimo v module referenčne arhitekture za to ogrodje.
Moduli referenčne arhitekture
Referenčna arhitektura obsega osem modulov, od katerih je vsak zasnovan za reševanje določenega sklopa problemov. Ti moduli skupaj obravnavajo upravljanje v različnih dimenzijah, kot so infrastruktura, podatki, model in stroški. Vsak modul ponuja poseben nabor funkcij in deluje medsebojno z drugimi moduli, da zagotovi integrirano platformo ML od konca do konca z vgrajenimi varnostnimi in upravljavskimi kontrolami. V tem razdelku predstavljamo kratek povzetek zmogljivosti vsakega modula.
Temelji z več računi
Ta modul pomaga skrbnikom v oblaku zgraditi Pristajalno območje nadzornega stolpa AWS kot temeljni okvir. To vključuje izgradnjo strukture z več računi, avtentikacijo in avtorizacijo prek centra za identiteto IAM, zasnovo omrežnega zvezdišča in kraka, centralizirane storitve beleženja in nove račune članov AWS s standardizirano varnostjo in osnovami upravljanja.
Poleg tega ta modul daje smernice najboljše prakse o strukturah enot in računov, ki so primerni za podporo vaših delovnih tokov ML in analitike. Skrbniki v oblaku bodo razumeli namen zahtevanih računov in OU, kako jih uvesti ter ključne varnostne storitve in storitve skladnosti, ki bi jih morali uporabljati za centralno upravljanje svojih delovnih obremenitev ML in analitike.
Zajeto je tudi ogrodje za prodajo novih računov, ki uporablja avtomatizacijo za osnovno določanje novih računov, ko so omogočeni. Z nastavitvijo avtomatiziranega postopka zagotavljanja računov lahko skrbniki v oblaku ekipam za strojno upravljanje in analitiko zagotovijo račune, ki jih potrebujejo za hitrejše opravljanje svojega dela, ne da bi pri tem žrtvovali trdne temelje za upravljanje.
Temelji podatkovnega jezera
Ta modul pomaga skrbnikom podatkovnega jezera nastaviti podatkovno jezero za vnos podatkov, urejanje naborov podatkov in uporabo Oblikovanje jezera AWS model upravljanja za upravljanje natančnega dostopa do podatkov med računi in uporabniki z uporabo centraliziranega podatkovnega kataloga, politik dostopa do podatkov in nadzora dostopa na podlagi oznak. Začnete lahko z majhnim z enim računom za temelje vaše podatkovne platforme za dokaz koncepta ali nekaj manjših delovnih obremenitev. Za izvajanje srednje do velike proizvodne delovne obremenitve priporočamo, da sprejmete strategijo z več računi. V takšni nastavitvi lahko LOB-ji prevzamejo vlogo proizvajalcev in porabnikov podatkov z uporabo različnih računov AWS, upravljanje podatkovnega jezera pa se upravlja iz osrednjega skupnega računa AWS. Proizvajalec podatkov zbira, obdeluje in shranjuje podatke iz svoje podatkovne domene, poleg tega pa spremlja in zagotavlja kakovost svojih podatkovnih sredstev. Potrošniki podatkov porabijo podatke od proizvajalca podatkov, potem ko jih centralizirani katalog deli z uporabo Lake Formation. Centralizirani katalog shranjuje in upravlja skupni katalog podatkov za račune proizvajalcev podatkov.
Storitve platforme ML
Ta modul pomaga inženirski ekipi platforme ML vzpostaviti storitve v skupni rabi, ki jih uporabljajo ekipe za podatkovno znanost v računih svojih skupin. Storitve vključujejo portfelj kataloga storitev z izdelki za Domena SageMaker uvajanje, Uporabniški profil domene SageMaker uvajanje, predloge podatkovnih modelov za izdelavo in uvajanje modelov. Ta modul ima funkcionalnosti za centraliziran register modelov, kartice modelov, nadzorno ploščo modela in cevovode CI/CD, ki se uporabljajo za usmerjanje in avtomatizacijo delovnih tokov razvoja in uvajanja modela.
Poleg tega ta modul podrobno opisuje, kako implementirati nadzor in upravljanje, ki je potrebno za omogočanje samopostrežnih zmogljivosti, ki temeljijo na osebah, kar ekipam za podatkovno znanost omogoča neodvisno uvajanje zahtevane infrastrukture v oblaku in predlog ML.
Razvoj primerov uporabe ML
Ta modul pomaga LOB in podatkovnim znanstvenikom dostopati do domene SageMaker njihove ekipe v razvojnem okolju in instancirati predlogo za gradnjo modela za razvoj svojih modelov. V tem modulu podatkovni znanstveniki delajo na primerku predloge računa razvijalca za interakcijo s podatki, ki so na voljo v centraliziranem podatkovnem jezeru, ponovno uporabljajo in delijo funkcije iz osrednje shrambe funkcij, ustvarjajo in izvajajo eksperimente ML, gradijo in testirajo svoje poteke dela ML, in registrirajo svoje modele v register modelov računov razvijalcev v svojih razvojnih okoljih.
Zmožnosti, kot so sledenje poskusom, poročila o razložljivosti modela, spremljanje podatkov in pristranskosti modela ter register modelov, so prav tako implementirane v predlogah, kar omogoča hitro prilagajanje rešitev modelom, ki so jih razvili podatkovni znanstveniki.
ML operacije
Ta modul pomaga inženirjem LOB in ML pri delu na njihovih razvijalskih primerkih predloge za uvedbo modela. Ko je kandidatni model registriran in odobren, vzpostavijo cevovode CI/CD in izvajajo poteke dela ML v testnem okolju skupine, ki registrira model v osrednji register modelov, ki se izvaja v računu storitev v skupni rabi platforme. Ko je model odobren v osrednjem registru modelov, to sproži cevovod CI/CD za uvedbo modela v produkcijsko okolje ekipe.
Centralizirana trgovina s funkcijami
Potem ko so prvi modeli uvedeni v proizvodnjo in več primerov uporabe začne deliti funkcije, ustvarjene iz istih podatkov, postane shramba funkcij bistvenega pomena za zagotovitev sodelovanja med primeri uporabe in zmanjšanje podvojenega dela. Ta modul pomaga inženirski ekipi platforme ML vzpostaviti centralizirano shrambo funkcij za zagotavljanje shranjevanja in upravljanja funkcij ML, ustvarjenih s primeri uporabe ML, kar omogoča ponovno uporabo funkcij v projektih.
Beleženje in opazljivost
Ta modul pomaga LOB-jem in izvajalcem ML pridobiti vpogled v stanje delovnih obremenitev ML v okoljih ML s centralizacijo dejavnosti dnevnika, kot so CloudTrail, CloudWatch, dnevniki toka VPC in dnevniki delovne obremenitve ML. Ekipe lahko filtrirajo, poizvedujejo in vizualizirajo dnevnike za analizo, kar lahko pripomore tudi k izboljšanju varnostne drže.
Stroški in poročanje
Ta modul pomaga različnim deležnikom (skrbnik v oblaku, skrbnik platforme, poslovna pisarna v oblaku) pri ustvarjanju poročil in nadzornih plošč za razčlenitev stroškov na ravni uporabnika ML, ekipe ML in izdelka ML ter sledenje uporabi, kot je število uporabnikov, vrste instanc in končne točke.
Stranke so nas prosile, da zagotovimo smernice o tem, koliko računov ustvariti in kako strukturirati te račune. V naslednjem razdelku nudimo smernice o tej strukturi računa kot referenco, ki jo lahko spremenite tako, da ustreza vašim potrebam v skladu z zahtevami upravljanja vašega podjetja.
V tem razdelku obravnavamo naše priporočilo za organizacijo strukture vašega računa. Delimo osnovno referenčno strukturo računa; vendar priporočamo, da skrbniki ML in podatkov tesno sodelujejo s svojim skrbnikom v oblaku, da prilagodijo to strukturo računa na podlagi svojih organizacijskih kontrol.
Priporočamo, da račune organizirate po organizacijskih enotah za varnost, infrastrukturo, delovne obremenitve in uvedbe. Poleg tega znotraj vsake OU organizirajte po neproizvodnih in proizvodnih OU, ker imajo računi in delovne obremenitve, razporejene pod njimi, različne kontrole. Nato na kratko razpravljamo o teh OU.
Security OU
Račune v tej OU upravlja skrbnik v oblaku organizacije ali varnostna skupina za spremljanje, prepoznavanje, zaščito, odkrivanje in odzivanje na varnostne dogodke.
Infrastruktura OU
Račune v tej OU upravlja skrbnik v oblaku organizacije ali omrežna ekipa za upravljanje skupnih virov in omrežij infrastrukture na ravni podjetja.
Priporočamo, da imate naslednje račune pod infrastrukturno enoto:
- mreža – Postavite centralizirano omrežno infrastrukturo, kot je npr AWS Transit Gateway
- Skupne storitve – Nastavite centralizirane storitve AD in končne točke VPC
Delovne obremenitve OU
Račune v tej OU upravljajo skrbniki skupine platforme organizacije. Če potrebujete različne kontrole, implementirane za vsako ekipo platforme, lahko za ta namen ugnezdite druge ravni OU, kot so OU za delovne obremenitve ML, OU za delovne obremenitve podatkov itd.
Priporočamo naslednje račune pod delovnimi obremenitvami OU:
- Računi ML za razvijalce, testiranje in proizvodnjo na ravni ekipe – To nastavite glede na vaše zahteve glede izolacije delovne obremenitve
- Računi podatkovnega jezera – Razdelite račune po vaši podatkovni domeni
- Centralni račun za upravljanje podatkov – Centralizirajte svoje politike dostopa do podatkov
- Račun centralne trgovine s funkcijami – Centralizirajte funkcije za skupno rabo med ekipami
Razmestitve OU
Račune v tej OU upravljajo skrbniki skupine platforme organizacije za uvajanje delovnih obremenitev in opazovanje.
Priporočamo naslednje račune v okviru OU za uvedbe, ker lahko ekipa platforme ML nastavi različne sklope kontrol na ravni te OU za upravljanje in upravljanje uvajanj:
- Računi skupnih storitev ML za test in prod – Gosti platformo za skupne storitve CI/CD in register modelov
- Opazljivost ML upošteva test in prod – Gosti dnevnike CloudWatch, dnevnike CloudTrail in druge dnevnike po potrebi
Nato na kratko obravnavamo organizacijske kontrole, ki jih je treba upoštevati pri vdelavi v članske račune za spremljanje infrastrukturnih virov.
Nadzor okolja AWS
Kontrolnik je pravilo na visoki ravni, ki zagotavlja stalno upravljanje vašega celotnega okolja AWS. Izraženo je v preprostem jeziku. V tem okviru uporabljamo AWS Control Tower za izvajanje naslednjih kontrol, ki vam pomagajo upravljati svoje vire in spremljati skladnost v skupinah računov AWS:
- Preventivne kontrole – Preventivni nadzor zagotavlja, da vaši računi ohranjajo skladnost, ker onemogoča dejanja, ki vodijo do kršitev pravilnika in se izvajajo z uporabo pravilnika za nadzor storitev (SCP). Nastavite lahko na primer preventivni nadzor, ki zagotavlja, da CloudTrail ni izbrisan ali ustavljen v računih ali regijah AWS.
- Detektivske kontrole – Detektivski nadzor zazna neskladnost virov v vaših računih, kot so kršitve pravilnikov, zagotavlja opozorila prek nadzorne plošče in se izvaja z Konfiguracija AWS pravila. Ustvarite lahko na primer detektivski nadzor, ki zazna, ali je dostop za javno branje omogočen za Preprosta storitev shranjevanja Amazon (Amazon S3) vedra v skupnem računu arhiva dnevnika.
- Proaktivne kontrole – Proaktivni nadzor pregleda vaše vire, preden so omogočeni, in zagotovi, da so viri skladni s tem nadzorom in se izvajajo z Oblikovanje oblaka AWS kavlji. Viri, ki niso skladni, ne bodo omogočeni. Na primer, lahko nastavite proaktivni nadzor, ki preveri, ali neposredni dostop do interneta ni dovoljen za primerek prenosnika SageMaker.
Interakcije med storitvami platforme ML, primeri uporabe ML in operacijami ML
Različne osebe, kot so vodja podatkovne znanosti (vodilni podatkovni znanstvenik), podatkovni znanstvenik in inženir ML, upravljajo module 2–6, kot je prikazano v naslednjem diagramu za različne stopnje storitev platforme ML, razvoja primerov uporabe ML in operacij ML. skupaj s temelji podatkovnega jezera in osrednjo shrambo funkcij.
Naslednja tabela povzema dejavnost poteka operacij in korake poteka nastavitve za različne osebe. Ko oseba sproži dejavnost ML kot del toka operacij, se storitve izvajajo, kot je navedeno v korakih toka nastavitve.
Persona | Dejavnost toka operacij – številka | Dejavnost toka operacij – opis | Korak poteka nastavitve – številka | Korak poteka nastavitve – opis |
Vodja podatkovne znanosti ali vodja ekipe ML |
1 |
Uporablja servisni katalog v računu storitev platforme ML in uvaja naslednje:
|
1- |
|
1-B |
|
|||
Data Scientist |
2 |
Izvaja in spremlja poskuse ML v prenosnikih SageMaker |
2- |
|
3 |
Avtomatizira uspešne eksperimente ML s projekti in cevovodi SageMaker |
3- |
|
|
3-B |
Po zagonu cevovodov SageMaker shrani model v lokalni (dev) register modelov | |||
Vodilni podatkovni znanstvenik ali vodja ekipe ML |
4 |
Odobri model v lokalnem (dev) registru modelov |
4- |
Metapodatki modela in paket modela se zapisujejo iz lokalnega (dev) registra modelov v osrednji register modelov |
5 |
Potrdi model v centralnem registru modelov |
5- |
Sproži postopek uvajanja CI/CD za ustvarjanje končnih točk SageMaker v preskusnem okolju | |
5-B |
Zapiše informacije o modelu in metapodatke v modul upravljanja ML (kartica modela, nadzorna plošča modela) v računu storitev platforme ML iz lokalnega (razvijalskega) računa | |||
ML inženir |
6 |
Preizkuša in spremlja končno točko SageMaker v testnem okolju po CI/CD | . | |
7 |
Odobri uvajanje za končne točke SageMaker v okolju prod |
7- |
Sproži postopek uvajanja CI/CD za ustvarjanje končnih točk SageMaker v proizvodnem okolju | |
8 |
Preizkuša in spremlja končno točko SageMaker v testnem okolju po CI/CD | . |
Osebe in interakcije z različnimi moduli platforme ML
Vsak modul skrbi za določene ciljne osebe znotraj določenih oddelkov, ki najpogosteje uporabljajo modul, in jim omogoča primarni dostop. Sekundarni dostop je nato dovoljen drugim oddelkom, ki zahtevajo občasno uporabo modulov. Moduli so prilagojeni potrebam določenih delovnih mest ali osebnosti za optimizacijo funkcionalnosti.
Razpravljamo o naslednjih ekipah:
- Centralni inženiring v oblaku – Ta ekipa deluje na ravni podjetja v oblaku v vseh delovnih obremenitvah za nastavitev skupnih infrastrukturnih storitev v oblaku, kot je nastavitev omrežja na ravni podjetja, identitete, dovoljenj in upravljanja računov
- Inženiring podatkovne platforme – Ta ekipa upravlja podatkovna jezera podjetij, zbiranje podatkov, urejanje podatkov in upravljanje podatkov
- Inženiring platforme ML – Ta ekipa deluje na ravni platforme ML med LOB-ji, da zagotovi skupne infrastrukturne storitve ML, kot so zagotavljanje infrastrukture ML, sledenje eksperimentom, upravljanje modela, uvajanje in opazovanje
Naslednja tabela podrobno opisuje, kateri oddelki imajo primarni in sekundarni dostop za vsak modul glede na ciljne osebe modula.
Številka modula | Moduli | Primarni dostop | Sekundarni dostop | Ciljne osebnosti | Število računov |
1 |
Temelji z več računi | Centralni inženiring v oblaku | Posamezni LOB-ji |
|
Nekaj |
2 |
Temelji podatkovnega jezera | Osrednji inženiring v oblaku ali podatkovni platformi | Posamezni LOB-ji |
|
Večkraten |
3 |
Storitve platforme ML | Centralni oblak ali inženiring platforme ML | Posamezni LOB-ji |
|
One |
4 |
Razvoj primerov uporabe ML | Posamezni LOB-ji | Centralni oblak ali inženiring platforme ML |
|
Večkraten |
5 |
ML operacije | Centralni oblak ali ML inženiring | Posamezni LOB-ji |
|
Večkraten |
6 |
Centralizirana trgovina s funkcijami | Centralni oblak ali podatkovni inženiring | Posamezni LOB-ji |
|
One |
7 |
Beleženje in opazljivost | Centralni inženiring v oblaku | Posamezni LOB-ji |
|
One |
8 |
Stroški in poročanje | Posamezni LOB-ji | Centralni inženiring platforme |
|
One |
zaključek
V tej objavi smo predstavili ogrodje za upravljanje življenjskega cikla ML v velikem obsegu, ki vam pomaga implementirati dobro zasnovane delovne obremenitve ML, ki vključujejo varnostne in nadzorne kontrole. Razpravljali smo o tem, kako ta okvir uporablja celostni pristop za izgradnjo platforme ML ob upoštevanju upravljanja podatkov, upravljanja modela in kontrol na ravni podjetja. Spodbujamo vas, da preizkusite okvir in koncepte, predstavljene v tej objavi, ter delite svoje povratne informacije.
O avtorjih
Ram Vittal je glavni arhitekt rešitev ML pri AWS. Ima več kot 3 desetletja izkušenj z arhitekturo in gradnjo porazdeljenih, hibridnih in oblačnih aplikacij. Navdušen je nad gradnjo varnih, razširljivih, zanesljivih rešitev AI/ML in velikih podatkovnih rešitev, da bi podjetniškim strankam pomagali pri sprejemanju oblaka in optimizaciji za izboljšanje njihovih poslovnih rezultatov. V prostem času se vozi z motorjem in se sprehaja s svojo triletno ovco!
Sovik Kumar Nath je arhitekt rešitev AI/ML z AWS. Ima bogate izkušnje z načrtovanjem celovitega strojnega učenja in rešitev poslovne analitike na področju financ, operacij, trženja, zdravstva, upravljanja dobavne verige in interneta stvari. Sovik je objavil članke in ima patent za spremljanje modelov ML. Ima dvojni magisterij na Univerzi Južne Floride, Univerzi v Fribourgu v Švici in diplomiral na Indijskem inštitutu za tehnologijo v Kharagpurju. Zunaj službe Sovik rad potuje, se vozi s trajektom in gleda filme.
Maira Ladeira Tanke je višji specialist za podatke pri AWS. Kot tehnični vodja pomaga strankam pospešiti doseganje poslovne vrednosti z nastajajočo tehnologijo in inovativnimi rešitvami. Maira je pri AWS zaposlena od januarja 2020. Pred tem je delala kot podatkovna znanstvenica v več panogah in se osredotočala na doseganje poslovne vrednosti iz podatkov. V prostem času Maira rada potuje in preživlja čas z družino nekje na toplem.
Ryan Lempka je višji arhitekt rešitev pri Amazon Web Services, kjer svojim strankam pomaga pri delu nazaj od poslovnih ciljev do razvoja rešitev na AWS. Ima bogate izkušnje na področju poslovne strategije, upravljanja IT sistemov in podatkovne znanosti. Ryan je predan vseživljenjskemu učenju in uživa v tem, da se vsak dan izziva, da se nauči nekaj novega.
Sriharsh Adari je višji arhitekt rešitev pri Amazon Web Services (AWS), kjer strankam pomaga pri delu nazaj od poslovnih rezultatov do razvoja inovativnih rešitev na AWS. V preteklih letih je pomagal številnim strankam pri transformacijah podatkovne platforme v različnih industrijskih vertikalah. Njegovo osrednje strokovno področje vključuje tehnološko strategijo, podatkovno analitiko in podatkovno znanost. V prostem času se rad ukvarja s športom, gleda televizijske oddaje in igra tablo.
- Distribucija vsebine in PR s pomočjo SEO. Okrepite se še danes.
- PlatoData.Network Vertical Generative Ai. Opolnomočite se. Dostopite tukaj.
- PlatoAiStream. Web3 Intelligence. Razširjeno znanje. Dostopite tukaj.
- PlatoESG. Ogljik, CleanTech, Energija, Okolje, sončna energija, Ravnanje z odpadki. Dostopite tukaj.
- PlatoHealth. Obveščanje o biotehnologiji in kliničnih preskušanjih. Dostopite tukaj.
- vir: https://aws.amazon.com/blogs/machine-learning/governing-the-ml-lifecycle-at-scale-part-1-a-framework-for-architecting-ml-workloads-using-amazon-sagemaker/
- :ima
- : je
- :ne
- :kje
- $GOR
- 1
- 10
- 100
- 12
- 12 mesecev
- 2020
- 28
- 7
- 8
- 971
- a
- O meni
- pospeši
- dostop
- dostopen
- Po
- Račun
- računi
- dosežek
- doseganju
- čez
- dejavnosti
- dejavnost
- Ad
- prilagodijo
- prilagoditev
- Poleg tega
- Dodatne
- Naslov
- naslovi
- naslavljanje
- admin
- administratorji
- Sprejem
- Sprejetje
- po
- AI
- AI modeli
- AI / ML
- Opozorila
- vsi
- dovoljene
- Dovoli
- omogoča
- skupaj
- že
- Prav tako
- Čeprav
- Amazon
- Amazon SageMaker
- Amazon Web Services
- Amazonske spletne storitve (AWS)
- an
- Analiza
- analitika
- in
- in infrastrukturo
- kaj
- aplikacije
- pristop
- primerno
- odobren
- Arhitektura
- Arhiv
- SE
- OBMOČJE
- članki
- AS
- Sredstva
- povezan
- domnevati
- At
- Preverjanje pristnosti
- pooblastilo
- avtomatizirati
- Avtomatizirano
- Avtomatizacija
- Na voljo
- AWS
- Ravnovesje
- temeljijo
- Izhodišče
- BE
- ker
- postane
- bilo
- pred
- počutje
- koristno
- Prednosti
- BEST
- najboljše prakse
- med
- pristranskosti
- Big
- Big Podatki
- Break
- Na kratko
- izgradnjo
- Building
- Gradi
- poslovni
- poslovna strategija
- vendar
- by
- CAN
- Kandidat
- Zmogljivosti
- kartice
- Kartice
- primeru
- primeri
- Katalog
- kategorije
- poskrbi
- Vzrok
- center
- Osrednji
- Centralizacija
- centralizirano
- verige
- izzivi
- izziv
- Pregledi
- kemija
- tesno
- Cloud
- sprejem v oblak
- oblačna infrastruktura
- Koda
- sodelovanje
- zbirka
- skupaj
- Skupno
- Podjetja
- skladnost
- skladno
- deli
- obsega
- Koncept
- koncepti
- šteje
- upoštevamo
- meni
- porabijo
- Potrošniki
- Posoda
- nadzor
- Nadzorni stolp
- nadzorom
- Nadzor
- usklajeno
- Core
- strošek
- stroški
- zajeti
- ustvarjajo
- ustvaril
- kuracija
- Stranke, ki so
- prilagodite
- meri
- Armaturna plošča
- nadzorne plošče
- datum
- dostop do podatkov
- Podatkovna analiza
- Data jezero
- Podatkovna platforma
- zasebnost podatkov
- znanost o podatkih
- podatkovni znanstvenik
- nabor podatkov
- dan
- desetletja
- namenjen
- globoko
- Stopnja
- oddelki
- razporedi
- razporejeni
- uvajanja
- uvajanje
- razmestitve
- razpolaga
- Oblikovanje
- zasnovan
- oblikovanje
- Podrobnosti
- dev
- Razvoj
- razvili
- Razvoj
- razvoju
- drugačen
- dimenzije
- neposredna
- razpravlja
- razpravljali
- izrazit
- porazdeljena
- potop
- domena
- podvojila
- navzdol
- vsak
- prizadevanja
- Embed
- vgrajeni
- vdelava
- smirkovim
- Nastajajoča tehnologija
- omogočajo
- omogočena
- omogoča
- omogočanje
- spodbujanje
- konec koncev
- Končna točka
- inženir
- Inženiring
- Inženirji
- okrepi
- zagotovitev
- zagotavlja
- zagotoviti
- Podjetje
- na ravni podjetja
- podjetja
- okolje
- okolja
- bistvena
- oceniti
- dogodki
- Tudi vsak
- vsak dan
- Primer
- izkušnje
- poskus
- Poskusi
- strokovno znanje
- izražena
- razširitev
- obsežen
- Obširne izkušnje
- soočen
- olajšati
- družina
- Feature
- Lastnosti
- povratne informacije
- Nekaj
- Slika
- filter
- financiranje
- finančna
- finančne storitve
- prva
- prilagodljivost
- florida
- Pretok
- osredotoča
- po
- za
- obrazec
- Oblikovanje
- Fundacija
- Temelji
- štiri
- Okvirni
- brezplačno
- iz
- funkcija
- funkcionalno
- funkcionalnosti
- funkcionalnost
- funkcije
- nadalje
- Poleg tega
- Gain
- ustvarjajo
- ustvarjajo
- generativno
- Generativna AI
- daje
- Globalno
- upravljanje
- model upravljanja
- modul upravljanja
- urejeno
- upravljanje
- Odobritev
- Skupine
- Navodila
- Imajo
- ob
- he
- Glava
- zdravstveno varstvo
- slišati
- pomoč
- pomagal
- Pomaga
- jo
- visoka
- na visoki ravni
- njegov
- drži
- celosten
- kljuke
- Gostitelji
- Kako
- Kako
- Vendar
- HTML
- http
- HTTPS
- Hub
- Hybrid
- identifikacijo
- identiteta
- if
- izvajati
- Izvajanje
- izvajali
- izvajanja
- izboljšanje
- izboljšanju
- in
- vključujejo
- vključuje
- Vključno
- narašča
- neodvisno
- Indian
- industrij
- Industrija
- Podatki
- Infrastruktura
- začetna
- Iniciatorji
- inoviranje
- inovativne
- primer
- Inštitut
- integrirana
- interakcijo
- interakcije
- zainteresirani
- Internet
- dostop do interneta
- v
- Uvedeno
- naložbe
- Internet stvari
- izolacija
- IT
- januar
- Job
- Potovanje
- jpg
- Ključne
- znanje
- Kumar
- Pomanjkanje
- Jezero
- jezera
- pristanek
- jezik
- velika
- pozneje
- plast
- vodi
- UČITE
- učenje
- Stopnja
- ravni
- življenski krog
- kot
- rod
- linije
- lokalna
- prijavi
- sečnja
- si
- stroj
- strojno učenje
- je
- vzdrževati
- IZDELA
- upravljanje
- upravlja
- upravljanje
- upravlja
- upravljanje
- več
- Zemljevidi
- Trženje
- zrel
- zapadlosti
- Maj ..
- član
- omenjeno
- očesa
- metapodatki
- ublažitev
- zmanjševanje tveganj
- ML
- MLOps
- Model
- modeli
- spremenite
- Modularna
- Moduli
- Moduli
- monitor
- spremljanje
- monitorji
- mesecev
- več
- Najbolj
- motorno kolo
- filmi
- več
- materni
- Nimate
- potrebe
- Gnezdo
- mreža
- mreženje
- omrežij
- Novo
- Nove funkcije
- Naslednja
- prenosnik
- Številka
- Cilji
- občasno
- of
- Ponudbe
- Office
- pogosto
- Staro
- on
- enkrat
- ONE
- v teku
- deluje
- upravlja
- deluje
- deluje
- operacije
- optimizacija
- Optimizirajte
- or
- Organizacija
- organizacije
- organiziranje
- Ostalo
- naši
- ven
- rezultatov
- zunaj
- več
- Splošni
- pregled
- paket
- del
- zlasti
- strastno
- patent
- Izvedite
- performance
- Dovoljenja
- plinovod
- Kraj
- Plain
- platforma
- platon
- Platonova podatkovna inteligenca
- PlatoData
- igranje
- politike
- politika
- Portfelj
- Prispevek
- praksa
- vaje
- predstaviti
- preprečevanje
- primarni
- , ravnateljica
- Predhodna
- zasebnost
- zasebna
- Zasebni sektor
- Proaktivna
- Težave
- Postopek
- Procesi
- Proizvajalec
- Proizvajalci
- Izdelek
- proizvodnja
- Izdelki
- projekti
- promocija
- dokazilo
- dokaz koncepta
- zaščito
- zagotavljajo
- zagotavlja
- zagotavljanje
- javnega
- objavljeno
- Namen
- kakovost
- hitro
- hitro
- Preberi
- nedavno
- priznajo
- Priporočamo
- Priporočilo
- zmanjša
- reference
- regije
- Registracija
- registriranih
- registri
- registra
- urejeno
- regulirane industrije
- zanesljiv
- odstranjevanje
- Poročila
- zahteva
- obvezna
- Zahteve
- vir
- viri
- odziva
- odgovorna
- ponovna
- vožnja
- Tveganje
- tveganja
- vloga
- vloge
- koren
- Pravilo
- pravila
- Run
- tek
- Ryan
- žrtvovanje
- sagemaker
- SageMaker cevovodi
- Enako
- razširljive
- Lestvica
- skaliranje
- Znanost
- Znanstvenik
- Znanstveniki
- Iskalnik
- sekundarno
- Oddelek
- sektor
- zavarovanje
- varnost
- Varnost dogodki
- Samopostrežba
- višji
- Serija
- Storitev
- Storitve
- nastavite
- Kompleti
- nastavitev
- nastavitev
- Delite s prijatelji, znanci, družino in partnerji :-)
- deli
- Delnice
- delitev
- je
- Kratke Hlače
- shouldnt
- pokazale
- Razstave
- Enostavno
- saj
- sam
- Velikosti
- majhna
- So
- Rešitev
- rešitve
- SOLVE
- nekaj
- Nekaj
- South
- South Florida
- specialist
- specializirani
- specifična
- Poraba
- Šport
- postopka
- deležnik
- interesne skupine
- standardi
- Začetek
- Država
- Korak
- Koraki
- Še vedno
- ustavil
- shranjevanje
- trgovina
- trgovine
- strategije
- Strategija
- močna
- Struktura
- strukture
- studio
- uspešno
- taka
- Suit
- POVZETEK
- dobavi
- dobavne verige
- Upravljanje dobavne verige
- podpora
- Podpora
- Preverite
- švica
- sistemi
- miza
- prilagojene
- meni
- ob
- ciljna
- skupina
- Skupine
- tehnični
- Tehnologija
- Tehnološka strategija
- Predloga
- predloge
- Test
- Testiranje
- da
- O
- Država
- njihove
- Njih
- POTEM
- te
- jih
- stvari
- ta
- tisti,
- skozi
- vsej
- čas
- do
- orodja
- proti
- Stolp
- sledenje
- Sledenje
- tradicionalna
- Vlak
- transformacije
- tranzit
- Potovanje
- OBRAT
- tv
- Vrste
- pod
- razumeli
- nepošteno
- enote
- univerza
- us
- Uporaba
- uporaba
- primeru uporabe
- Rabljeni
- uporabnik
- Uporabniki
- uporablja
- uporabo
- uporabiti
- potrjevanje
- vrednost
- raznolikost
- različnih
- vertikale
- preko
- Kršitve
- vidljivost
- vizualizacija
- vizualizirati
- sprehod
- želeli
- topla
- gledanju
- we
- web
- spletne storitve
- Dobro
- kdaj
- ali
- ki
- medtem
- bo
- z
- v
- brez
- delo
- delal
- delovnih tokov
- deluje
- let
- Vi
- Vaša rutina za
- zefirnet