Etter at du har bygget, trent og evaluert maskinlæringsmodellen (ML) for å sikre at den løser det tiltenkte forretningsproblemet som foreslås, vil du implementere denne modellen for å muliggjøre beslutningstaking i forretningsdrift. Modeller som støtter forretningskritiske funksjoner distribueres til et produksjonsmiljø der en modellutgivelsesstrategi er på plass. Gitt naturen til ML-modeller, hvor dataene endres kontinuerlig, vil du også sikre at en distribuert modell fortsatt er relevant for nye data og at modellen oppdateres når dette ikke er tilfelle. Dette inkluderer å velge en distribusjonsstrategi som minimerer risiko og nedetid. Denne optimale distribusjonsstrategien bør opprettholde høy tilgjengelighet av modellen, vurdere forretningskostnadene ved å distribuere en dårligere modell enn det som allerede er i produksjon, og inneholde funksjonalitet for enkelt å rulle tilbake til en tidligere modellversjon. Mange av disse anbefalte hensynene og distribusjonsmønstrene er også dekket innenfor AWS Well Architected Framework – Machine Learning Lens.
I tillegg til å velge riktig distribusjonsstrategi, bør denne strategien implementeres ved hjelp av en pålitelig mekanisme som inkluderer MLOps-praksis. MLOps inkluderer praksis som integrerer ML-arbeidsbelastninger i utgivelsesadministrasjon, CI/CD og operasjoner, og tar hensyn til de unike aspektene ved ML-prosjekter, inkludert hensyn til distribusjon og overvåking av modeller. Amazon SageMaker for MLOps gir spesialbygde verktøy for å automatisere og standardisere trinn på tvers av ML-livssyklusen, inkludert evner til å distribuere og administrere nye modeller ved hjelp av avanserte distribusjonsmønstre.
I dette innlegget diskuterer vi hvordan du kan distribuere ML-modeller med Amazon SageMaker på en repeterbar og automatisert måte, integrering av produksjonsvarianter og utplasseringsrekkverk egenskapene til SageMaker med MLOps-løsninger. Vi gir deg en introduksjon av hvordan du integrerer MLOps-verktøyene til SageMaker med SageMaker-modellimplementeringsmønstre, med fokus på sanntids enkeltmodellendepunkter.
Løsningsoversikt
Vi utforsker følgende modelltesting og rekkverksmønstre og deres integrasjon med SageMaker MLOps-verktøy:
- Modelltesting – Vi sammenligner ulike modellversjoner i produksjon før vi erstatter dagens modellversjon. Dette innlegget sammenligner følgende funksjoner for modelltesting:
- A / B-testing – Med A/B-testing sammenligner du ulike versjoner av modellen din i produksjon ved å fordele endepunktstrafikken mellom modellvariantene dine. A/B-testing brukes i scenarier der tilbakemeldinger med lukket sløyfe direkte kan knytte modellutdata til nedstrøms forretningsmålinger. Denne tilbakemeldingen brukes deretter til å bestemme den statistiske signifikansen av å skifte fra en modell til en annen, og hjelper deg med å velge den beste modellen gjennom live produksjonstesting.
- Skyggetester – Med skyggetester tester du en ny versjon av modellen din i produksjon ved å sende forespørsler til produksjonsmodellen og den nye modellen parallelt. Prediksjonsresponsdataene fra produksjonsmodellen serveres til applikasjonen, mens prediksjonene for den nye modellversjonen lagres for testing, men ikke serveres til produksjonsapplikasjonen. Skyggetesting brukes i situasjoner der det ikke er noen lukket sløyfe-tilbakemelding som kartlegger en forretningsberegning tilbake til modellens spådommer. I dette scenariet bruker du modellkvalitet og driftsberegninger for å sammenligne flere modeller i stedet for noen innvirkning på nedstrøms forretningsberegninger.
- Skiftende trafikk – Etter at du har testet den nye versjonen av modellen og er fornøyd med ytelsen, er neste trinn å flytte trafikk fra den nåværende modellen til den nye. De blå/grønne utplasseringsrekkverk i SageMaker lar deg enkelt bytte fra dagens modell i produksjon (blå flåte) til en ny (grønn flåte) på en kontrollert måte. Blå/grønne distribusjoner unngår nedetid under oppdateringene av modellen din, som det du ville hatt i et installasjonsscenario på stedet. For å maksimere modelltilgjengeligheten, når dette skrives, er blå/grønne distribusjoner standardalternativet for modelloppdateringer i SageMaker. Vi diskuterer følgende trafikkskiftemetoder i dette innlegget:
- Alt på en gang trafikkskifte – 100 % av endepunkttrafikken din flyttes fra den blå flåten til den grønne flåten etter at den grønne flåten blir tilgjengelig. Vi bruker alarmer in Amazon CloudWatch som overvåker den grønne flåten din i en bestemt tidsperiode (den bakeperiode) og hvis ingen alarm utløses, slettes den blå flåten av SageMaker etter bakeperioden.
- Kanaritrafikk skifter – Din grønne flåte blir først eksponert for en mindre andel av trafikken din (a kanarifugl) og validert for eventuelle problemer ved bruk av CloudWatch-alarmer i en bakeperiode mens den blå flåten fortsetter å motta mesteparten av endepunkttrafikken. Etter at den grønne flåten er validert, flyttes all trafikk til den nye flåten og den blå flåten slettes deretter av SageMaker.
- Blå/grønn lineær trafikkskifting rekkverk – Du skifter gradvis trafikken fra den blå flåten til den grønne flåten i en trinnvis tilnærming. Modellen din overvåkes deretter med CloudWatch-alarmer i en bakeperiode i hvert trinn før den blå flåten er fullstendig erstattet.
Dette innlegget fokuserer på å beskrive arkitekturer som bruker SageMaker MLOps-funksjoner for å utføre kontrollerte distribusjoner av modeller via utplasseringsrekkverkene og modelleringsteststrategiene vi har listet opp. For generell informasjon om disse mønstrene, se Dra nytte av avanserte distribusjonsstrategier ved hjelp av Amazon SageMaker-distribusjonsrekkverk og Utplasseringsrekkverk.
Distribuer en modell med SageMaker
SageMaker tilbyr et bredt spekter av distribusjonsalternativer som varierer fra lav ventetid og høy gjennomstrømming til langvarige slutningsjobber. Disse alternativene inkluderer hensyn til batch, sanntid eller nær sanntidsslutning. Hvert alternativ tilbyr forskjellige avanserte funksjoner, for eksempel muligheten til å kjøre flere modeller på ett enkelt endepunkt. Men som tidligere nevnt, for dette innlegget, dekker vi bare MLOps-distribusjonsmønstre ved bruk av enkeltmodellende endepunkter. For å dykke videre inn i mer avanserte SageMaker-distribusjonsfunksjoner for sanntidsslutning, se Modellvertsmønstre i Amazon SageMaker, del 2: Komme i gang med å distribuere sanntidsmodeller på SageMaker.
For å forstå implementeringen av avanserte distribusjonsmønstre ved bruk av kontinuerlig levering (CD) pipelines, la oss først diskutere et nøkkelkonsept i SageMaker kalt modellvarianter.
SageMaker modellvarianter
Modellvarianter lar deg distribuere flere versjoner av modellen din til samme endepunkt for å teste modellen. Modellvarianter distribueres til separate forekomster, så det er ingen innvirkning på andre varianter når en oppdateres. I SageMaker er modellvarianter implementert som produksjons- og skyggevarianter.
Produksjonsvarianter lar deg A/B-teste flere versjoner av modellen din for å sammenligne ytelsen. I dette scenariet returnerer alle versjoner av modellen svar på modellforespørslene. Endepunkttrafikken din fordeles mellom de eksisterende variantene enten ved trafikkfordeling, hvor du tildeler en vekt for hver variant, eller etter målvariant, hvor en bestemt parameter (for eksempel Region eller marked) bestemmer hvilken modell som skal påberopes.
Skyggevarianter lar deg skyggeteste en ny versjon av modellen din. I dette scenariet har modellen din en produksjonsvariant og en skyggevariant distribuert parallelt med samme endepunkt. Skyggevarianten mottar hele (eller samplet) datatrafikken fra endepunktet ditt. Det er imidlertid kun spådommene til produksjonsvariantene som sendes tilbake til brukerne av applikasjonen din, og spådommene fra skyggevariantene logges for analyse. Fordi skyggevarianter lanseres på separate forekomster fra produksjonsvarianten, er det ingen ytelsespåvirkning på produksjonsvarianten din i denne testen. Med dette alternativet tester du den nye modellen og minimerer risikoen for en modell med lav ytelse, og du kan sammenligne begge modellenes ytelse med samme data.
SageMaker utplasseringsrekkverk
Rekkverk er en viktig del av programvareutvikling. De beskytter applikasjonen din og minimerer risikoen for distribusjon av en ny versjon av applikasjonen. På samme måte lar SageMaker-rekkverkene deg bytte fra en modellversjon til en annen på en kontrollert måte. Fra desember 2022 tilbyr SageMaker-rekkverk implementering for distribusjonsalternativer for blå/grønn, kanarifugl og lineær trafikkskifting. Når det kombineres med modellvarianter, kan utplasseringsrekkverk brukes både på produksjons- og skyggevarianter av modellen din, noe som sikrer ingen nedetid under oppdateringen av en ny variant, med trafikkskifting kontrollert i henhold til det valgte alternativet.
MLOps grunnlag for modelldistribusjon
I den bredere konteksten av en ML-modellbygging og -distribusjon av arbeidsflyt, ønsker vi å bruke CI/CD-praksis spesialbygd for ML-arbeidsflyten. I likhet med tradisjonelle CI/CD-systemer ønsker vi å automatisere programvaretester, integrasjonstesting og produksjonsimplementeringer. Vi må imidlertid også inkludere spesifikke operasjoner rundt ML-livssyklusen som ikke er til stede i den tradisjonelle programvareutviklingslivssyklusen, som modellopplæring, modelleksperimentering, modelltesting og modellovervåking.
For å oppnå disse ML-spesifikke egenskapene, legges MLOps-fundamenter som automatisert modelltesting, utrullingsrekkverk, multi-konto-distribusjoner og automatisk tilbakerulling av modell til modellimplementeringsprosessen. Dette sikrer at de allerede beskrevne egenskapene tillater modelltesting og unngår nedetid under prosessen med en modelloppdatering. Det gir også påliteligheten og sporbarheten som er nødvendig for kontinuerlig forbedring av en produksjonsklar modell. I tillegg sikrer funksjoner som muligheten til å pakke eksisterende løsninger inn i gjenbrukbare maler og distribuere modeller i et flerkontooppsett skalerbarheten til modelldistribusjonsmønstrene som er omtalt i innlegget til flere modeller på tvers av en organisasjon.
Følgende figur viser et vanlig mønster for tilkobling av SageMaker-funksjoner for å lage en ende-til-ende modellbygging og distribusjonspipeline. I dette eksemplet er en modell utviklet i SageMaker ved hjelp av SageMaker Processing kontaktinformasjon management å kjøre databehandlingskode som brukes til å klargjøre data for en ML-algoritme. SageMaker Training kontaktinformasjon management brukes deretter til å trene en ML-modell på dataene produsert av behandlingsjobben. Modellartefakter og tilhørende metadata lagres i SageMaker modellregister som siste trinn i opplæringsprosessen. Dette er orkestrert av SageMaker-rørledninger, som er en spesialbygd CI/CD-tjeneste for ML som hjelper til med å automatisere og administrere ML-arbeidsflyter i stor skala.
Etter at modellen er godkjent, testes den i produksjon med enten en A/B-testing eller en skyggeutplassering. Etter at modellen er validert i produksjon, bruker vi modellregisteret til å godkjenne modellen for produksjonsutrulling til et SageMaker-endepunkt ved å bruke et av alternativene for utplassering av rekkverk.
Når modelloppdateringsprosessen er fullført, SageMaker modellmonitor overvåker kontinuerlig modellytelsen for drift i modellen og datakvalitet. Denne prosessen er automatisert til flere brukstilfeller ved hjelp av SageMaker-prosjektet maler som kartlegger infrastrukturdistribusjonen til et flerkontooppsett for å sikre fullstendig ressursisolasjon og enklere kostnadskontroll.
Enkeltmodell-endepunktsimplementeringsmønstre
Når du distribuerer modeller til et produksjonsmiljø for første gang, har du ikke en modell som kjører å sammenligne med, og den distribuerte modellen vil være den som brukes av forretningsapplikasjonen din. Etter at modellen er distribuert og overvåket i et produksjonsmiljø, kan det være lurt å oppdatere modellen, enten regelmessig eller på forespørsel, når nye data er tilgjengelige eller når modellen din har oppdaget et ytelsesgap. Når du oppdaterer en eksisterende modell, vil du sikre at den nye modellen gir bedre resultater enn den nåværende og kan håndtere trafikken for prediksjonsforespørsler fra forretningsapplikasjonene dine. I løpet av denne valideringsperioden vil du at den nåværende modellen fortsatt skal være tilgjengelig for en eventuell tilbakerulling for å minimere risikoen for nedetid for applikasjonene dine.
I et bredere modellutviklingsbilde blir modeller typisk trent i en datavitenskapelig utviklingskonto. Dette inkluderer eksperimenteringsarbeidsflyter som ofte brukes i utviklingen av modeller, samt omskoleringsarbeidsflyter brukt i produksjonsklare rørledninger. Alle metadataene for disse eksperimentene kan spores ved hjelp av Amazon SageMaker-eksperimenter under utvikling. Etter at arbeidsflyten er inkorporert i en pipeline for produksjonsbruk, spores metadataene automatisk gjennom SageMaker Pipelines. For å holde styr på levedyktige produksjonsmodeller på ett sted, etter at eksperimentering har brakt en modells ytelsesmålinger (presisjon, tilbakekalling og så videre) til et akseptabelt nivå for produksjon, en tilstandstrinn i SageMaker-pipelinen lar modellen registreres i modellregisteret.
Modellregisteret lar deg utløse distribusjonen av denne modellen med en manuell eller automatisert godkjenningsprosess. Denne utrullingen finner sted i en ML-testkonto der driftstester som integrasjonstester, enhetstester, modellforsinkelse og eventuell tilleggsmodellvalidering kan utføres mot den nye modellversjonen. Merk at A/B-testing og skyggetesting ikke utføres i ML-testkontoen, men heller i ML-produksjonskontoen.
Etter at modellen har bestått alle valideringene i testkontoen, er den klar til å distribueres til et produksjonsmiljø. En ny godkjenningsprosess utløser denne distribusjonen, og SageMaker-distribusjonsrekkverk gir en kontrollert utgivelse og gjennomsiktig modelloppdateringsprosess i henhold til valgt trafikkskiftemodus.
Følgende diagram illustrerer denne løsningsarkitekturen.
Alt på en gang trafikkskifte
De alt på en gang trafikkskiftemodus lar deg oppdatere en ny modellversjon (grønn flåte) ved å fullstendig flytte 100 % av trafikken fra din nåværende modell (blå flåte) til din nye modell. Med dette alternativet kan du konfigurere en bakeperiode der begge versjonene av modellen din fortsatt kjører, og du kan raskt og automatisk rulle tilbake til gjeldende versjon hvis den nye modellen ikke fungerer som forventet. Ulempen med dette alternativet er at all datatrafikken din påvirkes på en gang, så hvis det er et problem med modellimplementeringen din, påvirkes alle brukere som bruker applikasjonen under distribusjonsprosessen. Den følgende arkitekturen viser hvordan alternativet for alt på en gang trafikkskifting håndterer modelloppdateringer.
Trafikkskifting på en gang kan integreres i MLOps-verktøyet ditt ved å definere en endepunktsimplementeringskonfigurasjon med BlueGreenUpdatePolicy satt til ALL_AT_ONCE
. I MLOps-pipelinen din, etter at en ny modell er godkjent for distribusjon til ML-produksjonskontoen, sjekker SageMaker om modellendepunktet ditt allerede eksisterer. I så fall ALL_AT_ONCE
konfigurasjon utløser en endepunktoppdatering som følger arkitekturen. Tilbakerulling av endepunkt kontrolleres basert på CloudWatch-alarmer definert av endepunktet ditt AutoRollbackConfiguration
, som når den utløses automatisk starter tilbakerullingen av modellen til din nåværende modellversjon.
Kanaritrafikk skifter
De kanaritrafikken skifter modus lar deg teste din nye modell (grønn flåte) med en liten del av datatrafikken før du enten oppdaterer den kjørende modellen (blå flåte) til den nye versjonen eller ruller tilbake den nye versjonen, avhengig av resultatet av kanari-testingen. Den delen av trafikken som brukes til å teste den nye modellen kalles kanarifuglen, og i dette alternativet minimeres risikoen for en problematisk ny modell til kanaritrafikken mens oppdateringstiden fortsatt er minimert.
Canary-implementeringer lar deg minimere risikoen for å implementere en ny modellversjon ved å eksponere den nye modellversjonen for en mindre gruppe brukere for å overvåke effektiviteten over en periode. Ulempen er å administrere flere versjoner i en periode som gjør det mulig å samle ytelsesberegninger som er meningsfulle nok til å bestemme ytelseseffekten. Fordelen er muligheten til å isolere risiko for en mindre gruppe brukere.
Kanaritrafikkskifting kan inkorporeres i MLOps-verktøyet ditt ved å definere en endepunktsimplementeringskonfigurasjon med en BlueGreenUpdatePolicy satt til CANARY
og definere CanarySize
for å bestemme hvor mye av endepunkttrafikken din som skal omdirigeres til en ny modellversjon. På samme måte som alt på én gang-alternativet, i MLOps-pipeline, etter at en ny modell er godkjent for distribusjon til ML-produksjonskontoen, sjekker SageMaker om modellendepunktet ditt allerede eksisterer. I så fall CANARY
konfigurasjonen utløser en endepunktoppdatering som følger arkitekturen som er skissert i følgende diagram. Tilbakerulling av endepunkt kontrolleres basert på CloudWatch-alarmer definert av endepunktet ditt AutoRollbackConfiguration
at når den utløses automatisk starter modellen tilbake til din nåværende modellversjon. Nyttige alarmtyper å distribuere her er 500 statuskoder og modellforsinkelse; disse alarminnstillingene bør imidlertid tilpasses din spesifikke forretningsbruk og ML-teknologi.
Lineær trafikkskifting
på lineær trafikkskifting modell, endrer du gradvis trafikken fra din nåværende modell (blå flåte) til din nye modellversjon (grønn flåte) ved å øke datatrafikken som sendes til den nye modellen i trinn. På denne måten øker andelen trafikk som brukes til å teste din nye modellversjon gradvis for hvert trinn, og en baketid for hvert trinn sikrer at modellen din fortsatt er operativ med den nye trafikken. Med dette alternativet minimerer du risikoen for å implementere en modell med lav ytelse og utsetter gradvis den nye modellen for mer datatrafikk. Ulempen med denne tilnærmingen er at oppdateringstiden din er lengre og kostnadene ved å kjøre begge modellene parallelt øker.
Lineær trafikkskifting kan inkorporeres i MLOps-verktøyet ditt ved å definere en endepunktsimplementeringskonfigurasjon med BlueGreenUpdatePolicy satt til LINEAR
og definere LinearStepSize
for å bestemme hvor mye av trafikken som skal omdirigeres til en ny modell i hvert trinn. På samme måte som alt på én gang-alternativet, i MLOps-pipeline, etter at en ny modell er godkjent for distribusjon til ML-produksjonskontoen, sjekker SageMaker om modellendepunktet ditt allerede eksisterer. I så fall LINEAR
konfigurasjonen utløser en endepunktoppdatering som følger arkitekturen som er angitt i følgende diagram. Tilbakerulling av endepunkt kontrolleres basert på CloudWatch-alarmer definert av endepunktet ditt AutoRollbackConfiguration
at når den utløses automatisk starter modellen tilbake til din nåværende modellversjon.
Utplasseringsmønstre med modellproduksjonsvarianter
Uavhengig av distribusjonsmønsteret du valgte for applikasjonen din, kan du også bruke produksjonsvarianter for å validere modellytelsen før du oppdaterer endepunktet eller implementere ytterligere distribusjonsmønstre som skyggedistribusjoner. I dette tilfellet vil du legge til en manuell eller automatisert prosess for å velge den beste modellen som skal distribueres før du oppdaterer endepunktet. Følgende arkitektur viser hvordan endepunktstrafikken og responsen din oppfører seg i et skyggeimplementeringsscenario. I dette scenariet sendes hver prediksjonsforespørsel til både de nye og distribuerte modellene; Imidlertid er det bare den gjeldende distribuerte modellen som betjener prediksjonsresponsen til forretningsapplikasjonen, mens prediksjonen som serveres fra den nye modellen opprettholdes kun for analyse i ytelse i forhold til den gjeldende distribuerte modellen. Etter at modellytelsen er evaluert, kan den nye modellversjonen distribueres for å betjene prediksjonsresponstrafikk til forretningsapplikasjoner.
Rollback
Uavhengig av distribusjonsstrategien du valgte for modellimplementeringen, vil du kunne rulle tilbake til forrige modellversjon hvis ytelsen til den nye modellen er lavere enn den nåværende modellytelsen. For å gjøre det samtidig som du minimerer nedetiden for applikasjonen din, må du holde den nåværende modellen i gang parallelt med den nye inntil du er sikker på at den nye modellen gir bedre resultater enn den nåværende.
SageMaker-rekkverk lar deg stille inn alarmer og automatisk rulle tilbake til tidligere modellversjoner i løpet av modellvalideringsperioden. Etter at valideringsperioden er over, kan det hende du fortsatt må rulle tilbake til en tidligere modellversjon for å løse et nytt problem som oppdages etter at modelloppdateringen er fullført. For å gjøre det kan du dra nytte av SageMaker-modellregisteret til avvise og godkjente modeller og utløse a tilbakeføringsprosess.
konklusjonen
I dette innlegget lærte du hvordan du kombinerer SageMaker-endepunktmodellvarianter og utrullingsrekkverk med MLOps-funksjoner for å lage ende-til-ende-mønstre for modellutvikling. Vi ga et eksempelimplementering for kanari- og lineærskiftende utplasseringsrekkverk koblet til SageMaker-rørledninger og modellregisteret via et tilpasset SageMaker-prosjekt. Som et neste trinn, prøv å tilpasse følgende mal for å implementere implementeringsstrategien til organisasjonen din.
Referanser
Om forfatterne
Maira Ladeira Tanke er en ML Specialist Solutions Architect hos AWS. Med bakgrunn innen datavitenskap, har hun 9 års erfaring med å arkitekte og bygge ML-applikasjoner med kunder på tvers av bransjer. Som teknisk leder hjelper hun kunder med å akselerere oppnåelsen av forretningsverdi gjennom nye teknologier og innovative løsninger. På fritiden liker Maira å reise og tilbringe tid med familien et varmt sted.
Clay Elmore er AI/ML Specialist Solutions Architect hos AWS. Etter å ha tilbrakt mange timer i et materialforskningslaboratorium, ble hans bakgrunn innen kjemiteknikk raskt etterlatt for å forfølge interessen for maskinlæring. Han har jobbet med ML-applikasjoner i mange forskjellige bransjer, alt fra energihandel til gjestfrihetsmarkedsføring. Clay har en spesiell interesse i å bringe programvareutviklingspraksis til ML og veilede kunder mot repeterbare, skalerbare løsninger ved å bruke disse prinsippene. På fritiden liker Clay å gå på ski, løse Rubiks kuber, lese og lage mat.
Shelbee Eigenbrode er en hovedarkitekt for AI og maskinlæringsløsninger ved AWS. Hun har vært innen teknologi i 24 år og spenner over flere bransjer, teknologier og roller. Hun fokuserer for tiden på å kombinere sin DevOps- og ML-bakgrunn i MLOps-domenet for å hjelpe kunder med å levere og administrere ML-arbeidsmengder i stor skala. Med over 35 patenter gitt på tvers av ulike teknologidomener, har hun en lidenskap for kontinuerlig innovasjon og bruk av data for å drive forretningsresultater. Shelbee er medskaper og instruktør for spesialiseringen Practical Data Science på Coursera. Hun er også meddirektør for Women In Big Data (WiBD), kapittel i Denver. På fritiden liker hun å tilbringe tid med familie, venner og overaktive hunder.
Qiyun Zhao er en senior programvareutviklingsingeniør med Amazon SageMaker Inference Platform-teamet. Han er den ledende utvikleren av utrullingsrekkverkene og skyggedistribusjonene, og han fokuserer på å hjelpe kunder med å administrere ML-arbeidsbelastninger og distribusjoner i stor skala med høy tilgjengelighet. Han jobber også med utvikling av plattformarkitektur for rask og sikker distribusjon av ML-jobber og kjører ML-eksperimenter på nett på en enkel måte. På fritiden liker han å lese, spille og reise.
- SEO-drevet innhold og PR-distribusjon. Bli forsterket i dag.
- Platoblokkkjede. Web3 Metaverse Intelligence. Kunnskap forsterket. Tilgang her.
- kilde: https://aws.amazon.com/blogs/machine-learning/mlops-deployment-best-practices-for-real-time-inference-model-serving-endpoints-with-amazon-sagemaker/
- 100
- 2022
- 7
- 9
- a
- evne
- I stand
- akselerere
- akseptabelt
- Ifølge
- Logg inn
- Regnskap og administrasjon
- Oppnå
- prestasjon
- tvers
- la til
- tillegg
- Ytterligere
- I tillegg
- avansert
- Fordel
- Etter
- mot
- AI
- AI / ML
- alarm
- algoritme
- Alle
- tillater
- allerede
- Amazon
- Amazon SageMaker
- beløp
- analyse
- og
- En annen
- Søknad
- søknader
- anvendt
- tilnærming
- godkjenning
- godkjenne
- godkjent
- arkitektur
- rundt
- aspekter
- assosiert
- automatisere
- Automatisert
- automatisk
- tilgjengelighet
- tilgjengelig
- AWS
- tilbake
- bakgrunn
- basert
- basis
- fordi
- blir
- før du
- bak
- være
- nytte
- BEST
- beste praksis
- Bedre
- mellom
- Stor
- Store data
- Blå
- Bringe
- bred
- bredere
- brakte
- bygge
- Bygning
- bygget
- virksomhet
- Business Applications
- som heter
- evner
- saken
- saker
- CD
- viss
- endring
- endring
- Kapittel
- Sjekker
- kjemisk
- velge
- valgte
- stengt
- kode
- kombinere
- kombinert
- kombinere
- Felles
- sammenligne
- fullføre
- helt
- konsept
- trygg
- Konfigurasjon
- tilkoblet
- tilkobling
- Vurder
- betraktninger
- inneholde
- kontekst
- kontinuerlig
- kontinuerlig
- kontinuerlig
- kontroll
- kontrolleres
- Kostnad
- Kostnader
- dekke
- dekket
- skape
- Gjeldende
- I dag
- skikk
- Kunder
- tilpasset
- dato
- databehandling
- datavitenskap
- Desember
- Beslutningstaking
- Misligholde
- definert
- definere
- leverer
- levering
- Etterspørsel
- demonstrerer
- Denver
- avhengig
- utplassere
- utplassert
- utplasserings
- distribusjon
- distribusjoner
- beskrevet
- oppdaget
- Bestem
- utviklet
- Utvikler
- Utvikling
- forskjellig
- direkte
- oppdaget
- diskutere
- diskutert
- distribueres
- distribusjon
- distribusjon
- ikke
- domene
- domener
- ikke
- ulempen
- nedetid
- stasjonen
- under
- hver enkelt
- enklere
- lett
- effektivitet
- enten
- Emery
- muliggjøre
- ende til ende
- Endpoint
- energi
- ingeniør
- Ingeniørarbeid
- nok
- sikre
- sikrer
- sikrer
- Miljø
- avgjørende
- evaluere
- evaluert
- evolusjoner
- eksempel
- eksisterende
- finnes
- forventet
- erfaring
- utforske
- utsatt
- familie
- FAST
- Egenskaper
- tilbakemelding
- Figur
- Først
- første gang
- FLÅTE
- fokuserer
- fokusering
- etter
- følger
- Foundations
- Rammeverk
- Gratis
- venner
- fra
- fullt
- funksjonalitet
- funksjoner
- videre
- gaming
- mellomrom
- samle
- general
- få
- Gi
- gitt
- gradvis
- innvilget
- Grønn
- Gruppe
- håndtere
- Håndterer
- hjelpe
- hjelpe
- hjelper
- her.
- Høy
- gjestfrihet
- Hosting
- TIMER
- Hvordan
- Hvordan
- Men
- HTML
- HTTPS
- Påvirkning
- iverksette
- gjennomføring
- implementert
- implementere
- forbedring
- in
- inkludere
- inkluderer
- Inkludert
- Incorporated
- økt
- øker
- økende
- bransjer
- informasjon
- Infrastruktur
- Innovasjon
- innovative
- f.eks
- i stedet
- integrere
- Integrering
- integrering
- interesse
- Introduksjon
- isolasjon
- utstedelse
- saker
- IT
- Jobb
- Jobb
- Hold
- nøkkel
- lab
- Siste
- Ventetid
- lansert
- føre
- lært
- læring
- Nivå
- Livssyklus
- oppført
- leve
- lenger
- Lav
- maskin
- maskinlæring
- vedlikeholde
- administrer
- ledelse
- administrerende
- håndbok
- mange
- kartlegging
- marked
- Marketing
- materialer
- Maksimer
- meningsfylt
- mekanisme
- nevnt
- metadata
- metoder
- metrisk
- Metrics
- kunne
- minimere
- ML
- MLOps
- Mote
- modell
- Modelltesting
- modeller
- Overvåke
- overvåket
- overvåking
- skjermer
- mer
- mest
- flere
- Natur
- nødvendig
- Trenger
- Ny
- neste
- Tilbud
- ONE
- på nett
- operasjonell
- Drift
- optimal
- Alternativ
- alternativer
- rekkefølge
- organisasjon
- Annen
- Utfallet
- skissert
- pakke
- Parallel
- parameter
- del
- passerer
- lidenskap
- Patenter
- Mønster
- mønstre
- Utfør
- ytelse
- utfører
- perioden
- bilde
- rørledning
- Sted
- plattform
- plato
- Platon Data Intelligence
- PlatonData
- mulig
- Post
- Praktisk
- praksis
- Precision
- prediksjon
- Spådommer
- Forbered
- presentere
- forrige
- tidligere
- Principal
- prinsipper
- Problem
- prosess
- prosessering
- produsert
- Produksjon
- prosjekt
- prosjekter
- foreslått
- beskytte
- gi
- forutsatt
- gir
- formål
- sette
- kvalitet
- raskt
- område
- spenner
- Lesning
- klar
- ekte
- sanntids
- mottar
- mottak
- anbefales
- region
- registrert
- registret
- regelmessig
- slipp
- relevant
- pålitelighet
- pålitelig
- repeterbar
- erstattet
- anmode
- forespørsler
- forskning
- ressurs
- svar
- retur
- gjenbruk
- Risiko
- risikoer
- roller
- Rull
- rullende
- Kjør
- rennende
- sagemaker
- SageMaker Inference
- SageMaker-rørledninger
- samme
- fornøyd
- fornøyd med
- skalerbarhet
- skalerbar
- Skala
- scenario
- scenarier
- Vitenskap
- sikre
- valgt
- sending
- senior
- separat
- serverer
- tjeneste
- servering
- sett
- innstillinger
- oppsett
- flere
- Shadow
- Skyggetesting
- skift
- SKIFTENDE
- bør
- Viser
- betydning
- lignende
- på samme måte
- enkelt
- situasjoner
- liten
- mindre
- So
- Software
- programvareutvikling
- løsning
- Solutions
- LØSE
- løse
- spesiell
- spesialist
- spesifikk
- bruke
- utgifter
- startet
- starter
- statistisk
- status
- Trinn
- Steps
- Still
- lagret
- strategier
- Strategi
- innsendt
- slik
- støtte
- Bytte om
- Systemer
- Ta
- tar
- Target
- lag
- Teknisk
- Technologies
- Teknologi
- maler
- test
- Testing
- tester
- De
- deres
- Gjennom
- gjennomstrømning
- SLIPS
- tid
- til
- verktøy
- mot
- Sporbarhet
- spor
- trading
- tradisjonelle
- trafikk
- Tog
- trent
- Kurs
- gjennomsiktig
- Traveling
- utløse
- utløst
- typer
- typisk
- forstå
- unik
- enhet
- Oppdater
- oppdatert
- oppdateringer
- oppdatering
- bruke
- bruk sak
- Brukere
- bruke
- VALIDERE
- validert
- validering
- verdi
- variant
- ulike
- versjon
- av
- levedyktig
- varm
- vekt
- Hva
- Hva er
- hvilken
- mens
- vil
- innenfor
- Dame
- arbeidet
- arbeidsflyt
- virker
- ville
- skriving
- år
- Du
- Din
- zephyrnet