Amazon SageMaker Studio tilbyr et bredt sett med fullt administrerte integrerte utviklingsmiljøer (IDE) for utvikling av maskinlæring (ML), inkludert JupyterLab, Code Editor basert på Code-OSS (Visual Studio Code Open Source) og RStudio. Den gir tilgang til det mest omfattende settet med verktøy for hvert trinn i ML-utviklingen, fra å forberede data til å bygge, trene, distribuere og administrere ML-modeller. Du kan starte fullt administrert JuptyerLab med forhåndskonfigurert SageMaker-distribusjon på sekunder for å jobbe med notatbøkene, koden og dataene dine. Det fleksible og utvidbare grensesnittet til SageMaker Studio lar deg enkelt konfigurere og ordne ML-arbeidsflyter, og du kan bruke den AI-drevne inline-kodingsfølgen for raskt å skrive, feilsøke, forklare og teste kode.
I dette innlegget tar vi en nærmere titt på det oppdaterte SageMaker Studio og dets JupyterLab IDE, designet for å øke produktiviteten til ML-utviklere. Vi introduserer konseptet Spaces og forklarer hvordan JupyterLab Spaces muliggjør fleksibel tilpasning av data-, lagrings- og kjøretidsressurser for å forbedre ML-arbeidsflyteffektiviteten. Vi diskuterer også vårt skifte til en lokalisert utførelsesmodell i JupyterLab, noe som resulterer i en raskere, mer stabil og responsiv kodingsopplevelse. I tillegg dekker vi sømløs integrasjon av generative AI-verktøy som Amazon Code Whisperer og Jupyter AI i SageMaker Studio JupyterLab Spaces, som illustrerer hvordan de gir utviklere mulighet til å bruke AI for kodingshjelp og innovativ problemløsning.
Vi introduserer Spaces i SageMaker Studio
Den nye SageMaker Studio nettbasert grensesnitt fungerer som et kommandosenter for å starte din foretrukne IDE og få tilgang til din Amazon SageMaker verktøy for å bygge, trene, justere og distribuere modeller. I tillegg til JupyterLab og RStudio, inkluderer SageMaker Studio nå en fullstendig administrert koderedigerer basert på Code-OSS (Visual Studio Code Open Source). Både JupyterLab og Code Editor kan startes ved hjelp av et fleksibelt arbeidsområde kalt Spaces.
Et Space er en konfigurasjonsrepresentasjon av en SageMaker IDE, for eksempel JupyterLab eller Code Editor, designet for å vedvare uavhengig av om en applikasjon (IDE) knyttet til Space kjører aktivt eller ikke. Et mellomrom representerer en kombinasjon av en beregningsforekomst, lagring og andre kjøretidskonfigurasjoner. Med Spaces kan du opprette og skalere beregningen og lagringen for IDE-en din opp og ned mens du går, tilpasse kjøretidsmiljøer og pause og gjenoppta koding når som helst fra hvor som helst. Du kan spinne opp flere slike rom, hver konfigurert med en annen kombinasjon av databehandling, lagring og kjøretider.
Når et Space er opprettet, er det utstyrt med en Amazon Elastic Block Store (Amazon EBS) volum, som brukes til å lagre brukernes filer, data, cacher og andre artefakter. Den er knyttet til en ML-beregningsforekomst når et Space kjøres. EBS-volumet sikrer at brukerfiler, data, hurtigbuffer og sesjonstilstander gjenopprettes konsekvent hver gang Space startes på nytt. Viktigere er at dette EBS-volumet forblir vedvarende, enten Space er i løpende eller stoppet tilstand. Det vil fortsette å vedvare til Space er slettet.
I tillegg har vi introdusert ta med-din-egen filsystem-funksjonen for brukere som ønsker å dele miljøer og artefakter på tvers av forskjellige rom, brukere eller til og med domener. Dette gjør at du kan utstyre dine Spaces med dine egne Amazon elastisk filsystem (Amazon EFS) monteres, noe som letter deling av ressurser på tvers av ulike arbeidsområder.
Opprette et rom
Å opprette og lansere et nytt Space er nå raskt og enkelt. Det tar bare noen få sekunder å sette opp et nytt Space med raske lanseringsforekomster og mindre enn 60 sekunder å kjøre et Space. Spaces er utstyrt med forhåndsdefinerte innstillinger for databehandling og lagring, administrert av administratorer. SageMaker Studio-administratorer kan etablere forhåndsinnstillinger på domenenivå for databehandling, lagring og kjøretidskonfigurasjoner. Dette oppsettet lar deg raskt starte en ny plass med minimal innsats, og krever bare noen få klikk. Du har også muligheten til å endre et Spaces databehandlings-, lagrings- eller kjøretidskonfigurasjoner for ytterligere tilpasning.
Det er viktig å merke seg at å opprette et Space krever oppdatering av SageMaker-domeneutførelsesrollen med en policy som følgende eksempel. Du må gi brukerne dine tillatelser for private områder og brukerprofiler som er nødvendige for å få tilgang til disse private områdene. For detaljerte instruksjoner, se Gi brukerne dine tilgang til private områder.
For å opprette en plass, fullfør følgende trinn:
- Velg i SageMaker Studio jupyter lab på applikasjoner menyen.
- Velg Opprett JupyterLab-rom.
- Til Navn, skriv inn et navn for Space.
- Velg Skap plass.
- Velg Kjør plass for å starte ditt nye Space med standard forhåndsinnstillinger eller oppdatere konfigurasjonen basert på dine behov.
Rekonfigurere et mellomrom
Spaces er designet for at brukere skal kunne skifte sømløst mellom ulike datatyper etter behov. Du kan begynne med å opprette et nytt rom med en spesifikk konfigurasjon, primært bestående av databehandling og lagring. Hvis du trenger å bytte til en annen datamaskintype med høyere eller lavere vCPU-antall, mer eller mindre minne eller en GPU-basert forekomst når som helst i arbeidsflyten, kan du enkelt gjøre det. Etter at du har stoppet Space, kan du endre innstillingene ved å bruke enten brukergrensesnittet eller API via det oppdaterte SageMaker Studio-grensesnittet og start deretter Space på nytt. SageMaker Studio håndterer automatisk klargjøringen av din eksisterende plass til den nye konfigurasjonen, og krever ingen ekstra innsats fra din side.
Fullfør følgende trinn for å redigere en eksisterende plass:
- På siden med plassdetaljer velger du Stopp plass.
- Konfigurer datamaskinen, lagringen eller kjøretiden på nytt.
- Velg Kjør plass for å relansere plassen.
Arbeidsområdet ditt vil bli oppdatert med den nye lagrings- og dataforekomsttypen du ba om.
Den nye SageMaker Studio JupyterLab-arkitekturen
SageMaker Studio-teamet fortsetter å finne opp og forenkle utvikleropplevelsen sin med utgivelsen av en ny fullt administrert SageMaker Studio JupyterLab-opplevelse. Den nye SageMaker Studio JupyterLab-opplevelsen kombinerer det beste fra to verdener: skalerbarheten og fleksibiliteten til SageMaker Studio Classic (se vedlegget på slutten av dette innlegget) med stabiliteten og fortroligheten til åpen kildekode JupyterLab. For å forstå utformingen av denne nye JupyterLab-opplevelsen, la oss fordype oss i følgende arkitekturdiagram. Dette vil hjelpe oss bedre å forstå integreringen og funksjonene til denne nye JupyterLab Spaces-plattformen.
Oppsummert har vi gått over til en lokalisert arkitektur. I dette nye oppsettet opererer Jupyter-server- og kjerneprosesser ved siden av i en enkelt Docker-beholder, vert på samme ML-databehandlingsinstans. Disse ML-forekomstene blir klargjort når et Space kjører, og koblet til et EBS-volum som opprettes da Space ble opprettet.
Denne nye arkitekturen gir flere fordeler; vi diskuterer noen av disse i de følgende avsnittene.
Redusert latens og økt stabilitet
SageMaker Studio har gått over til en lokal kjøringsmodell, og beveget seg bort fra den forrige delte modellen der koden ble lagret på et EFS-feste og kjørt eksternt på en ML-instans via ekstern Kernel Gateway. I det tidligere oppsettet muliggjorde Kernel Gateway, en hodeløs webserver, kjerneoperasjoner over ekstern kommunikasjon med Jupyter-kjerner gjennom HTTPS/WSS. Brukerhandlinger som å kjøre kode, administrere notatblokker eller kjøre terminalkommandoer ble behandlet av en Kernel Gateway-app på en ekstern ML-forekomst, med Kernel Gateway som muliggjorde disse operasjonene over ZeroMQ (ZMQ) i en Docker-beholder. Følgende diagram illustrerer denne arkitekturen.
Den oppdaterte JupyterLab-arkitekturen kjører alle kjerneoperasjoner direkte på den lokale forekomsten. Denne lokale Jupyter Server-tilnærmingen gir vanligvis forbedret ytelse og enkel arkitektur. Den minimerer latens og nettverkskompleksitet, forenkler arkitekturen for enklere feilsøking og vedlikehold, forbedrer ressursutnyttelsen og tar i mot mer fleksible meldingsmønstre for en rekke komplekse arbeidsbelastninger.
I hovedsak bringer denne oppgraderingen kjørende bærbare datamaskiner og kode mye nærmere kjernene, noe som reduserer ventetiden betydelig og øker stabiliteten.
Forbedret kontroll over klargjort lagring
SageMaker Studio Classic brukte opprinnelig Amazon EFS for å gi vedvarende, delt fillagring for brukerhjemmekataloger i SageMaker Studio-miljøet. Dette oppsettet lar deg lagre notatbøker, skript og andre prosjektfiler sentralt, tilgjengelig på tvers av alle dine SageMaker Studio-økter og -forekomster.
Med den siste oppdateringen til SageMaker Studio er det et skifte fra Amazon EFS-basert lagring til en Amazon EBS-basert løsning. EBS-volumene, levert med SageMaker Studio Spaces, er GP3-volumer designet for å levere en konsistent baseline-ytelse på 3,000 IOPS, uavhengig av volumstørrelsen. Denne nye Amazon EBS-lagringen tilbyr høyere ytelse for I/O-intensive oppgaver som modellopplæring, databehandling, databehandling med høy ytelse og datavisualisering. Denne overgangen gir også SageMaker Studio-administratorer større innsikt i og kontroll over lagringsbruk av brukerprofiler innenfor et domene eller på tvers av SageMaker. Du kan nå angi standard (DefaultEbsVolumeSizeInGb
) og maksimum (MaximumEbsVolumeSizeInGb
) lagringsstørrelser for JupyterLab Spaces innenfor hver brukerprofil.
I tillegg til forbedret ytelse har du muligheten til fleksibelt å endre størrelsen på lagringsvolumet knyttet til Spaces ML-beregningsforekomst ved å redigere Space-innstillingen enten ved å bruke UI- eller API-handlingen fra SageMaker Studio-grensesnittet, uten å kreve noen administrasjonshandling. Vær imidlertid oppmerksom på at du bare kan redigere EBS-volumstørrelser i én retning – etter at du har økt Spaces EBS-volumstørrelse, vil du ikke kunne senke den ned igjen.
SageMaker Studio tilbyr nå økt kontroll over klargjort lagring for administratorer:
- SageMaker Studio-administratorer kan administrere EBS-volumstørrelsene for brukerprofiler. Disse JupyterLab EBS-volumene kan variere fra minimum 5 GB til maksimalt 16 TB. Følgende kodebit viser hvordan du oppretter eller oppdaterer en brukerprofil med standard og maksimal plassinnstillinger:
- SageMaker Studio tilbyr nå en forbedret funksjon for automatisk merking for Amazon EBS-ressurser, som automatisk merker volumer opprettet av brukere med informasjon om domene, bruker og plass. Denne fremgangen forenkler kostnadsfordelingsanalyse for lagringsressurser, og hjelper administratorer med å administrere og tilskrive kostnader mer effektivt. Det er også viktig å merke seg at disse EBS-volumene er vert for tjenestekontoen, så du vil ikke ha direkte synlighet. Ikke desto mindre er lagringsbruk og tilhørende kostnader direkte knyttet til domenet ARN, brukerprofil ARN og Space ARN, noe som muliggjør enkel kostnadsfordeling.
- Administratorer kan også kontrollere kryptering av et Spaces EBS-volumer, i hvile, ved å bruke kundeadministrerte nøkler (CMK).
Delt leieforhold med ta med EFS-filsystem
ML-arbeidsflyter er vanligvis samarbeidende, og krever effektiv deling av data og kode mellom teammedlemmer. Det nye SageMaker Studio forbedrer dette samarbeidsaspektet ved å la deg dele data, kode og andre artefakter via en delt ta med ditt eget EFS-filsystem. Denne EFS-stasjonen kan settes opp uavhengig av SageMaker eller kan være en eksisterende Amazon EFS-ressurs. Etter at den er klargjort, kan den sømløst monteres på SageMaker Studio-brukerprofiler. Denne funksjonen er ikke begrenset til brukerprofiler innenfor et enkelt domene – den kan strekke seg over domener, så lenge de er innenfor samme region.
Følgende eksempelkode viser deg hvordan du oppretter et domene og knytter et eksisterende EFS-volum til det ved å bruke det tilhørende fs-id
. EFS-volumer kan knyttes til et domene på rot- eller prefiksnivå, som følgende kommandoer viser:
Når et EFS-feste gjøres tilgjengelig i et domene og dets relaterte brukerprofiler, kan du velge å knytte det til et nytt område. Dette kan gjøres ved å bruke enten SageMaker Studio UI eller en API-handling, som vist i følgende eksempel. Det er viktig å merke seg at når et mellomrom opprettes med et EFS-filsystem som er klargjort på domenenivå, arver plassen egenskapene sine. Dette betyr at hvis filsystemet er klargjort på et rot- eller prefiksnivå innenfor domenet, vil disse innstillingene automatisk gjelde for plassen som er opprettet av domenebrukerne.
Etter å ha montert den til et Space, kan du finne alle filene dine som ligger over det admin-bestemte monteringspunktet. Disse filene finner du i katalogbanen /mnt/custom-file-system/efs/fs-12345678
.
EFS-fester gjør det enkelt å dele artefakter mellom en brukers Space eller mellom flere brukere eller på tvers av domener, noe som gjør det ideelt for samarbeidsarbeid. Med denne funksjonen kan du gjøre følgende:
- Del data – EFS-fester er ideelle for lagring av store datasett som er avgjørende for datavitenskapelige eksperimenter. Datasetteiere kan laste disse monteringene med opplærings-, validerings- og testdatasett, noe som gjør dem tilgjengelige for brukerprofiler innenfor et domene eller på tvers av flere domener. SageMaker Studio-administratorer kan også integrere eksisterende EFS-fester for applikasjoner samtidig som de opprettholder samsvar med organisatoriske sikkerhetspolicyer. Dette gjøres gjennom fleksibel montering på prefiksnivå. For eksempel, hvis produksjons- og testdata er lagret på samme EFS-feste (som f.eks
fs-12345678:/data/prod and fs-12345678:/data/test
), montering/data/test
på SageMaker-domenets brukerprofiler gir brukere kun tilgang til testdatasettet. Dette oppsettet gir mulighet for analyse eller modellopplæring samtidig som produksjonsdata holdes sikre og utilgjengelige. - Del kode – EFS-fester forenkler rask deling av kodeartefakter mellom brukerprofiler. I scenarier der brukere raskt trenger å dele kodeeksempler eller samarbeide om en felles kodebase uten kompleksiteten til hyppige git push/pull-kommandoer, er delte EFS-monteringer svært fordelaktige. De tilbyr en praktisk måte å dele pågående kodeartefakter i et team eller på tvers av forskjellige team i SageMaker Studio.
- Del utviklingsmiljøer – Delte EFS-fester kan også tjene som et middel for raskt å spre sandkassemiljøer blant brukere og team. EFS-fester gir et solid alternativ for å dele Python-miljøer som conda eller virtualenv på tvers av flere arbeidsområder. Denne tilnærmingen omgår behovet for distribusjon
requirements.txt
orenvironment.yml
filer, som ofte kan føre til den repeterende oppgaven med å lage eller gjenskape miljøer på tvers av forskjellige brukerprofiler.
Disse funksjonene forbedrer samarbeidsmulighetene i SageMaker Studio betydelig, noe som gjør det enkelt for team å jobbe effektivt sammen om komplekse ML-prosjekter. I tillegg deler Code Editor basert på Code-OSS (Visual Studio Code Open Source) de samme arkitekturprinsippene som den nevnte JupyterLab-opplevelsen. Denne justeringen gir flere fordeler, for eksempel redusert ventetid, forbedret stabilitet og forbedret administrativ kontroll, og gir brukertilgang til delte arbeidsområder, lik de som tilbys i JupyterLab Spaces.
Generative AI-drevne verktøy på JupyterLab Spaces
Generativ AI, et felt i rask utvikling innen kunstig intelligens, bruker algoritmer for å lage nytt innhold som tekst, bilder og kode fra omfattende eksisterende data. Denne teknologien har revolusjonert koding ved å automatisere rutineoppgaver, generere komplekse kodestrukturer og tilby intelligente forslag, og dermed strømlinjeforme utviklingen og fremme kreativitet og problemløsning i programmering. Som et uunnværlig verktøy for utviklere, øker generativ AI produktiviteten og driver innovasjon i teknologiindustrien. SageMaker Studio forbedrer denne utvikleropplevelsen med forhåndsinstallerte verktøy som Amazon CodeWhisperer og Jupyter AI, ved å bruke generativ AI for å akselerere utviklingslivssyklusen.
Amazon Code Whisperer
Amazon CodeWhisperer er en programmeringsassistent som forbedrer utviklerproduktiviteten gjennom sanntidskodeanbefalinger og -løsninger. Som en AWS-administrert AI-tjeneste er den sømløst integrert i SageMaker Studio JupyterLab IDE. Denne integrasjonen gjør Amazon CodeWhisperer til et flytende og verdifullt tillegg til en utvikleres arbeidsflyt.
Amazon CodeWhisperer utmerker seg i å øke utviklereffektiviteten ved å automatisere vanlige kodeoppgaver, foreslå mer effektive kodemønstre og redusere feilsøkingstiden. Det fungerer som et viktig verktøy for både nybegynnere og erfarne kodere, og gir innsikt i beste praksis, akselererer utviklingsprosessen og forbedrer den generelle kvaliteten på koden. For å begynne å bruke Amazon CodeWhisperer, sørg for at Gjenoppta automatiske forslag funksjonen er aktivert. Du kan påkalle kodeforslag manuelt ved å bruke hurtigtaster.
Alternativt kan du skrive en kommentar som beskriver den tiltenkte kodefunksjonen og begynne å kode; Amazon CodeWhisperer vil begynne å gi forslag.
Merk at selv om Amazon CodeWhisperer er forhåndsinstallert, må du ha codewhisperer:GenerateRecommendations
tillatelse som en del av utførelsesrollen til å motta kodeanbefalinger. For ytterligere detaljer, se Bruke CodeWhisperer med Amazon SageMaker Studio. Når du bruker Amazon CodeWhisperer, kan AWS, for tjenesteforbedringsformål, lagre data om din bruk og innhold. For å velge bort Amazon CodeWhisperer retningslinjer for datadeling, kan du navigere til Stille alternativet fra toppmenyen og naviger deretter til Innstillingsredigering og deaktiver Del bruksdata med Amazon CodeWhisperer fra Amazon CodeWhisperer-innstillingsmenyen.
Jupyter AI
Jupyter AI er et åpen kildekodeverktøy som bringer generativ AI til Jupyter bærbare datamaskiner, og tilbyr en robust og brukervennlig plattform for å utforske generative AI-modeller. Det forbedrer produktiviteten i JupyterLab og Jupyter Notebooks ved å tilby funksjoner som %%ai-magien for å lage en generativ AI-lekeplass i notatbøker, et innebygd chat-brukergrensesnitt i JupyterLab for samhandling med AI som en samtaleassistent, og støtte for et bredt spekter av store språk modellleverandører (LLM) som AI21, Anthropic, Cohere og Hugging Face eller administrerte tjenester som Amazonas grunnfjell og SageMaker-endepunkter. Denne integrasjonen tilbyr mer effektive og innovative metoder for dataanalyse, ML og kodingsoppgaver. Du kan for eksempel samhandle med en domenebevisst LLM ved å bruke Jupyternaut chat-grensesnittet for å få hjelp med prosesser og arbeidsflyter eller generere eksempelkode gjennom CodeLlama, vert på SageMaker-endepunkter. Dette gjør det til et verdifullt verktøy for utviklere og dataforskere.
Jupyter AI gir en omfattende utvalg av språkmodeller klare til bruk rett ut av esken. I tillegg støttes tilpassede modeller også via SageMaker-endepunkter, og tilbyr fleksibilitet og et bredt spekter av alternativer for brukere. Den tilbyr også støtte for innebygging av modeller, slik at du kan utføre inline sammenligninger og tester og til og med bygge eller teste ad hoc Retrieval Augmented Generation (RAG) apper.
Jupyter AI kan fungere som din chat-assistent, hjelpe deg med kodeeksempler, gi deg svar på spørsmål og mye mer.
Du kan bruke Jupyter AI %%ai
magi for å generere eksempelkode inne i den bærbare datamaskinen, som vist i følgende skjermbilde.
JupyterLab 4.0
JupyterLab-teamet har gitt ut versjon 4.0, med betydelige forbedringer i ytelse, funksjonalitet og brukeropplevelse. Detaljert informasjon om denne utgivelsen er tilgjengelig i den offisielle JupyterLab-dokumentasjon.
Denne versjonen, som nå er standard i SageMaker Studio JupyterLab, introduserer optimalisert ytelse for håndtering av store bærbare datamaskiner og raskere operasjoner, takket være forbedringer som CSS-regeloptimalisering og bruken av CodeMirror 6 og MathJax 3. Viktige forbedringer inkluderer et oppgradert tekstredigeringsprogram med bedre tilgjengelighet og tilpasning. , en ny utvidelsesbehandler for enkel installasjon av Python-utvidelser, og forbedrede dokumentsøkefunksjoner med avanserte funksjoner. I tillegg bringer versjon 4.0 UI-forbedringer, tilgjengelighetsforbedringer og oppdateringer til utviklingsverktøy, og visse funksjoner har blitt tilbakeført til JupyterLab 3.6.
konklusjonen
Fremskrittene i SageMaker Studio, spesielt med den nye JupyterLab-opplevelsen, markerer et betydelig sprang fremover i ML-utviklingen. Det oppdaterte SageMaker Studio UI, med sin integrasjon av JupyterLab, Code Editor og RStudio, tilbyr et enestående, strømlinjeformet miljø for ML-utviklere. Introduksjonen av JupyterLab Spaces gir fleksibilitet og enkelhet i å tilpasse data- og lagringsressurser, og forbedrer den generelle effektiviteten til ML-arbeidsflyter. Skiftet fra en ekstern kjernearkitektur til en lokalisert modell i JupyterLab øker stabiliteten betraktelig mens oppstartsforsinkelsen reduseres. Dette resulterer i en raskere, mer stabil og responsiv kodeopplevelse. Dessuten styrker integreringen av generative AI-verktøy som Amazon CodeWhisperer og Jupyter AI i JupyterLab utviklere ytterligere, slik at du kan bruke AI til kodingshjelp og innovativ problemløsning. Den forbedrede kontrollen over klargjort lagring og muligheten til å dele kode og data uten problemer gjennom selvadministrerte EFS-fester letter samarbeidsprosjekter i stor grad. Til slutt, utgivelsen av JupyterLab 4.0 i SageMaker Studio understreker disse forbedringene, og tilbyr optimalisert ytelse, bedre tilgjengelighet og et mer brukervennlig grensesnitt, og styrker dermed JupyterLabs rolle som en hjørnestein i effektiv og effektiv ML-utvikling i det moderne teknologiske landskapet.
Prøv SageMaker Studio JupyterLab Spaces ved å bruke vår rask funksjon ombord, som lar deg spinne opp et nytt domene for enkeltbrukere i løpet av minutter. Del dine tanker i kommentarfeltet!
Vedlegg: SageMaker Studio Classic sin kjernegateway-arkitektur
A SageMaker Classic domene er en logisk aggregering av et EFS-volum, en liste over brukere som er autorisert til å få tilgang til domenet, og konfigurasjoner relatert til sikkerhet, applikasjoner, nettverk og mer. I SageMaker Studio Classic-arkitekturen til SageMaker har hver bruker innenfor SageMaker-domenet en distinkt brukerprofil. Denne profilen omfatter spesifikke detaljer som brukerens rolle og deres Posix-bruker-ID i EFS-volumet, blant andre unike data. Brukere får tilgang til sin individuelle brukerprofil gjennom en dedikert Jupyter Server-app, koblet til via HTTPS/WSS i nettleseren. SageMaker Studio Classic bruker en ekstern kjernearkitektur ved å bruke en kombinasjon av Jupyter Server- og Kernel Gateway-apptyper, noe som gjør at bærbare servere kan samhandle med kjerner på eksterne verter. Dette betyr at Jupyter-kjernene ikke opererer på den bærbare serverens vert, men innenfor Docker-beholdere på separate verter. I hovedsak er den bærbare datamaskinen lagret i EFS-hjemmekatalogen, og kjører kode eksternt på en annen Amazon Elastic Compute Cloud (Amazon EC2), som huser en forhåndsbygd Docker-beholder utstyrt med ML-biblioteker som PyTorch, TensorFlow, Scikit-Learn og mer.
Den eksterne kjernearkitekturen i SageMaker Studio tilbyr bemerkelsesverdige fordeler når det gjelder skalerbarhet og fleksibilitet. Den har imidlertid sine begrensninger, inkludert maksimalt fire apper per instanstype og potensielle flaskehalser på grunn av tallrike HTTPS/WSS-tilkoblinger til en vanlig EC2-instanstype. Disse begrensningene kan påvirke brukeropplevelsen negativt.
Følgende arkitekturdiagram viser SageMaker Studio Classic-arkitekturen. Den illustrerer brukerens prosess med å koble til en Kernel Gateway-app via en Jupyter Server-app, ved å bruke deres foretrukne nettleser.
Om forfatterne
Pranav Murthy er AI/ML Specialist Solutions Architect hos AWS. Han fokuserer på å hjelpe kunder med å bygge, trene, distribuere og migrere maskinlæring (ML) arbeidsbelastninger til SageMaker. Han har tidligere jobbet i halvlederindustrien med å utvikle modeller for store datasyn (CV) og naturlig språkbehandling (NLP) for å forbedre halvlederprosesser ved å bruke avanserte ML-teknikker. På fritiden liker han å spille sjakk og reise. Du kan finne Pranav på Linkedin.
Kunal Jha er senior produktsjef i AWS. Han er fokusert på å bygge Amazon SageMaker Studio som det beste valget for ende-til-ende ML-utvikling. På fritiden liker Kunal å gå på ski og utforske Stillehavet nordvest. Du kan finne ham på Linkedin.
Majisha Namath Parambath er senior programvareingeniør hos Amazon SageMaker. Hun har vært hos Amazon i over 8 år og jobber for tiden med å forbedre Amazon SageMaker Studio ende-til-ende-opplevelsen.
Bharat Nandamuri er en senior programvareingeniør som jobber på Amazon SageMaker Studio. Han brenner for å bygge høyskala backend-tjenester med fokus på Engineering for ML-systemer. Utenom jobben liker han å spille sjakk, gå tur og se på film.
Derek Lause er programvareingeniør ved AWS. Han er forpliktet til å levere verdi til kunder gjennom Amazon SageMaker Studio og Notebook Instances. På fritiden liker Derek å tilbringe tid med familie og venner og gå på tur. Du kan finne Derek på Linkedin.
- SEO-drevet innhold og PR-distribusjon. Bli forsterket i dag.
- PlatoData.Network Vertical Generative Ai. Styrk deg selv. Tilgang her.
- PlatoAiStream. Web3 Intelligence. Kunnskap forsterket. Tilgang her.
- PlatoESG. Karbon, CleanTech, Energi, Miljø, Solenergi, Avfallshåndtering. Tilgang her.
- PlatoHelse. Bioteknologisk og klinisk etterretning. Tilgang her.
- kilde: https://aws.amazon.com/blogs/machine-learning/boost-productivity-on-amazon-sagemaker-studio-introducing-jupyterlab-spaces-and-generative-ai-tools/
- : har
- :er
- :ikke
- :hvor
- $OPP
- 000
- 100
- 11
- 12
- 16
- 25
- 60
- 7
- 8
- a
- evne
- I stand
- Om oss
- ovenfor
- akselerere
- akselerer
- adgang
- tilgjengelighet
- tilgjengelig
- Tilgang
- Logg inn
- tvers
- Handling
- Handling
- handlinger
- aktivt
- handlinger
- Ad
- tillegg
- Ytterligere
- I tillegg
- administrasjon
- administrativ
- administratorer
- Adopsjon
- avansert
- forfremmelse
- fremskritt
- fordeler
- påvirke
- Etter
- aggregering
- AI
- AI-modeller
- AI-drevet
- AI / ML
- algoritmer
- innretting
- Alle
- allokering
- tillate
- tillater
- sammen
- også
- alternativ
- Selv
- Amazon
- Amazon Code Whisperer
- Amazon EC2
- Amazon SageMaker
- Amazon SageMaker Studio
- Amazon Web Services
- blant
- an
- analyse
- og
- svar
- Antropisk
- noen
- hvor som helst
- api
- app
- Søknad
- Påfør
- tilnærming
- apps
- arkitektonisk
- arkitektur
- ER
- Array
- Kunst
- kunstig
- kunstig intelligens
- AS
- aspektet
- Assistanse
- Assistent
- assosiert
- At
- feste
- augmented
- forfatter
- autorisert
- automatisk
- Automatisere
- tilgjengelig
- borte
- AWS
- tilbake
- Backend
- basen
- basert
- Baseline
- BE
- vært
- begynne
- nybegynner
- gunstig
- Fordeler
- BEST
- beste praksis
- Bedre
- mellom
- Blokker
- øke
- øke
- både
- flaskehalser
- Eske
- Bringer
- bred
- nett~~POS=TRUNC leseren~~POS=HEADCOMP
- bygge
- Bygning
- men
- by
- Cache
- som heter
- CAN
- evner
- sentrum
- viss
- Sjakk
- valg
- Velg
- Classic
- nærmere
- kode
- kodebase
- Koding
- samarbeide
- samarbeids
- kombinasjon
- skurtreskerne
- kommentere
- kommentarer
- forpliktet
- Felles
- Kommunikasjon
- følgesvenn
- sammenligninger
- fullføre
- komplekse
- kompleksiteten
- kompleksitet
- samsvar
- omfattende
- Beregn
- datamaskin
- Datamaskin syn
- databehandling
- konsept
- tilstand
- Konfigurasjon
- konfigurert
- tilkoblet
- Tilkobling
- Tilkoblinger
- konsistent
- konsekvent
- Består
- Container
- Containere
- innhold
- fortsette
- fortsetter
- kontroll
- Praktisk
- conversational
- hjørnestein
- Kostnad
- Kostnader
- kunne
- dekke
- skape
- opprettet
- Opprette
- kreativitet
- avgjørende
- CSS
- I dag
- skikk
- kunde
- Kunder
- tilpasning
- tilpasse
- dato
- dataanalyse
- databehandling
- datavitenskap
- datavisualisering
- datasett
- dedikert
- Misligholde
- leverer
- dybden
- demonstrere
- utplassere
- utplasserings
- Derek
- beskrive
- utforming
- designet
- detaljert
- detaljer
- Utvikler
- utviklere
- utvikle
- Utvikling
- utviklingsverktøy
- forskjellig
- direkte
- direkte
- kataloger
- diskutere
- distinkt
- distribusjon
- distribusjon
- do
- Docker
- dokument
- domene
- domener
- gjort
- ned
- stasjonen
- stasjoner
- to
- hver enkelt
- Tidligere
- lette
- enklere
- lett
- redaktør
- effekt
- Effektiv
- effektivt
- effektivitet
- effektiv
- effektivt
- innsats
- uanstrengt
- uanstrengt
- enten
- forhøyet
- embedding
- bemyndige
- bemyndiger
- muliggjøre
- aktivert
- muliggjør
- muliggjør
- Omfatter
- kryptering
- slutt
- ende til ende
- ingeniør
- Ingeniørarbeid
- forbedre
- forbedret
- forbedringer
- Forbedrer
- styrke
- sikrer
- Enter
- Miljø
- miljøer
- utstyrt
- essens
- avgjørende
- etablere
- Selv
- utvikling
- eksempel
- gjennomføring
- eksisterende
- erfaring
- eksperimenter
- Forklar
- Utforske
- utvide
- forlengelse
- utvidelser
- omfattende
- ekstra
- Face
- legge til rette
- tilrettelegging
- falsk
- Familiær
- familie
- FAST
- raskere
- Trekk
- Egenskaper
- Featuring
- Noen få
- felt
- filet
- Filer
- Finn
- fleksibilitet
- fleksibel
- fleksibelt
- væske
- Fokus
- fokuserte
- fokuserer
- etter
- Til
- Forward
- fostre
- funnet
- fire
- Gratis
- hyppig
- venner
- fra
- fullt
- funksjon
- funksjonalitet
- videre
- gateway
- generere
- genererer
- generasjonen
- generative
- Generativ AI
- gå
- gir
- Go
- innvilge
- tilskudd
- gripe
- større
- sterkt
- Håndterer
- Håndtering
- Ha
- he
- hjelpe
- hjelpe
- Høy
- høy ytelse
- høyere
- svært
- ham
- hans
- Hjemprodukt
- vert
- vert
- Vertskapet
- hus
- Hvordan
- Hvordan
- Men
- HTML
- http
- HTTPS
- ID
- ideell
- if
- illustrerer
- illustrerer
- bilder
- viktig
- viktigere
- forbedre
- forbedret
- forbedring
- forbedringer
- bedre
- in
- utilgjengelige
- inkludere
- inkluderer
- Inkludert
- Øke
- økt
- øker
- økende
- uavhengig
- uavhengig av hverandre
- individuelt
- industri
- informasjon
- i utgangspunktet
- Innovasjon
- innovative
- innsiden
- innsikt
- innsikt
- installasjon
- f.eks
- instruksjoner
- integrere
- integrert
- integrering
- Intelligens
- Intelligent
- tiltenkt
- samhandle
- samhandler
- Interface
- inn
- introdusere
- introdusert
- Introduserer
- innføre
- Introduksjon
- IT
- DET ER
- jpg
- bare
- holde
- nøkkel
- nøkler
- merking
- landskap
- Språk
- stor
- til slutt
- Ventetid
- siste
- lansere
- lansert
- lansere
- føre
- Hoppe
- læring
- mindre
- Nivå
- bibliotekene
- Livssyklus
- i likhet med
- begrensninger
- knyttet
- Liste
- LLM
- laste
- lokal
- ligger
- logisk
- Lang
- Se
- lavere
- maskin
- maskinlæring
- laget
- magi
- Vedlike
- vedlikehold
- gjøre
- GJØR AT
- Making
- administrer
- fikk til
- leder
- administrerende
- manuelt
- merke
- maksimal
- Kan..
- midler
- medlemmer
- Minne
- Meny
- meldinger
- metoder
- migrere
- minimal
- minimerer
- minimum
- minutter
- ML
- modell
- modeller
- Moderne
- modifisere
- mer
- mer effektivt
- Videre
- mest
- MONTER
- Filmer
- flytting
- mye
- flere
- må
- navn
- innfødt
- Naturlig
- Natural Language Processing
- Naviger
- nødvendig
- Trenger
- nødvendig
- negativt
- nettverk
- nettverk
- Ny
- nlp
- Nei.
- bemerkelsesverdig
- note
- bærbare
- nå
- mange
- of
- tilby
- tilbudt
- tilby
- Tilbud
- offisiell
- ofte
- on
- Ombord
- ONE
- bare
- videre til
- åpen
- åpen kildekode
- betjene
- Drift
- optimalisering
- optimalisert
- Alternativ
- alternativer
- or
- organisasjons
- opprinnelig
- Annen
- vår
- ut
- utenfor
- enn
- samlet
- egen
- eiere
- Pacific
- side
- del
- spesielt
- lidenskapelig
- banen
- mønstre
- pause
- for
- Utfør
- ytelse
- tillatelse
- tillatelser
- plattform
- plato
- Platon Data Intelligence
- PlatonData
- lekeplass
- spiller
- Point
- Politikk
- politikk
- Post
- potensiell
- praksis
- trekkes
- forbereder
- forrige
- tidligere
- primært
- prinsipper
- privat
- problemløsning
- prosess
- Bearbeidet
- Prosesser
- prosessering
- Produkt
- Produktsjef
- Produksjon
- produktivitet
- Profil
- Profiler
- Programmering
- prosjekt
- prosjekter
- egenskaper
- gi
- tilbydere
- gir
- gi
- formål
- Python
- pytorch
- kvalitet
- spørsmål
- Rask
- raskere
- raskt
- område
- raskt
- klar
- sanntids
- motta
- anbefalinger
- Redusert
- redusere
- referere
- Uansett
- region
- i slekt
- relansering
- slipp
- utgitt
- forblir
- fjernkontroll
- eksternt
- repeterende
- representasjon
- representerer
- Krav
- Krever
- ressurs
- Ressurser
- responsive
- REST
- startes på nytt
- begrenset
- resulterende
- Resultater
- gjenoppta
- revolusjon
- ikke sant
- robust
- Rolle
- root
- rutine
- Regel
- Kjør
- rennende
- går
- runtime
- sagemaker
- samme
- sandkasse
- skalerbarhet
- Skala
- scenarier
- Vitenskap
- forskere
- scikit lære
- skript
- sømløs
- sømløst
- Søk
- erfaren
- sekunder
- seksjoner
- sikre
- sikkerhet
- sikkerhetspolitikk
- se
- halvledere
- senior
- separat
- betjene
- server
- Servere
- serverer
- tjeneste
- Tjenester
- Session
- sesjoner
- sett
- innstilling
- innstillinger
- oppsett
- flere
- Del
- delt
- Aksjer
- deling
- hun
- skift
- vist
- Viser
- signifikant
- betydelig
- lignende
- forenkler
- forenkle
- enkelt
- Størrelse
- størrelser
- tekstutdrag
- So
- Software
- Software Engineer
- solid
- størkne
- løsning
- Solutions
- noen
- kilde
- Rom
- mellomrom
- spesialist
- spesifikk
- utgifter
- Snurre rundt
- splittet
- Stabilitet
- stabil
- Standard
- Begynn
- oppstart
- Tilstand
- Uttalelse
- Stater
- Trinn
- Steps
- Stopp
- stoppet
- lagring
- oppbevare
- lagret
- lagring
- rett fram
- strømlinjeformet
- effektivisering
- strukturer
- studio
- slik
- SAMMENDRAG
- støtte
- Støttes
- sikker
- Bytte om
- system
- Systemer
- Ta
- tar
- Oppgave
- oppgaver
- lag
- Lag medlemmer
- lag
- tech
- tech industrien
- teknikker
- Teknologi
- tensorflow
- terminal
- vilkår
- test
- tester
- tekst
- enn
- Takk
- Det
- De
- deres
- Dem
- deretter
- Der.
- derved
- Disse
- de
- denne
- De
- Gjennom
- tid
- til
- sammen
- verktøy
- verktøy
- topp
- mot
- Tog
- Kurs
- overgang
- overført
- Traveling
- sant
- prøve
- melodi
- typen
- typer
- typisk
- ui
- understreker
- forstå
- unik
- enestående
- til
- Oppdater
- oppdatert
- oppdateringer
- oppdatering
- oppgradering
- oppgradert
- us
- bruk
- bruke
- brukt
- Bruker
- Brukererfaring
- brukervennlig
- Brukere
- bruker
- ved hjelp av
- validering
- Verdifull
- verdi
- variasjon
- ulike
- versjon
- av
- synlighet
- syn
- visuell
- visualisering
- volum
- volumer
- var
- se
- Vei..
- we
- web
- nettleser
- webserveren
- webtjenester
- Web-basert
- var
- når
- når som helst
- om
- hvilken
- mens
- HVEM
- bred
- vil
- ønske
- med
- innenfor
- uten
- Arbeid
- arbeide sammen
- arbeidet
- arbeidsflyt
- arbeidsflyt
- arbeid
- Verdens
- skrive
- år
- Du
- Din
- zephyrnet