Amazon SageMaker JumpStart on masinõppe (ML) keskus, mis aitab teil ML-teekonda kiirendada. SageMaker JumpStarti abil saate avastada ja juurutada avalikult saadaolevaid ja patenteeritud vundamendimudeleid Amazon SageMaker teie generatiivsete AI rakenduste jaoks. SageMaker JumpStart võimaldab teil juurutada vundamendimudeleid võrgust eraldatud keskkonnast ega jaga klientide koolituse ja järelduste andmeid mudeli pakkujatega.
Selles postituses kirjeldame, kuidas alustada mudelipakkujate patenteeritud mudelitega, nagu AI21, Cohere ja LightOn alates Amazon SageMaker Studio. SageMaker Studio on sülearvutikeskkond, kus SageMakeri ettevõtte andmeteadlastest kliendid hindavad ja loovad mudeleid oma järgmiste generatiivsete AI-rakenduste jaoks.
Vundamendi mudelid SageMakeris
Vundamendimudelid on suuremahulised ML-mudelid, mis sisaldavad miljardeid parameetreid ja on eelnevalt koolitatud terabaitidele teksti- ja pildiandmetele, et saaksite täita mitmesuguseid ülesandeid, nagu artiklite kokkuvõte ning teksti, pildi või video genereerimine. Kuna vundamendimudelid on eelkoolitatud, võivad need aidata vähendada koolitus- ja infrastruktuurikulusid ning võimaldada kohandamist teie kasutusjuhtumitele.
SageMaker JumpStart pakub kahte tüüpi alusmudeleid:
- Patenditud mudelid – Need mudelid on pärit sellistelt pakkujatelt nagu AI21 koos Jurassic-2 mudelitega, Cohere koos Cohere Commandiga ja LightOn koos Miniga, mis on koolitatud patenteeritud algoritmide ja andmete alal. Te ei saa vaadata mudeli artefakte, nagu kaal ja skriptid, kuid saate siiski juurutada SageMakeri eksemplaridesse järelduste tegemiseks.
- Avalikult kättesaadavad mudelid – Need on pärit populaarsetest mudelikeskustest, nagu Hugging Face with Stable Diffusion, Falcon ja FLAN, mis on koolitatud avalikult kättesaadavate algoritmide ja andmete põhjal. Nende mudelite puhul on kasutajatel juurdepääs mudeli artefaktidele ja nad saavad enne järelduste tegemiseks oma andmeid peenhäälestada.
Avastage mudeleid
Vundamendimudelitele pääsete juurde SageMakeri JumpStarti kaudu SageMaker Studio kasutajaliideses ja SageMaker Python SDK-s. Selles jaotises käsitleme SageMaker Studio kasutajaliidese mudelite leidmist.
SageMaker Studio on veebipõhine integreeritud arenduskeskkond (IDE) ML-i jaoks, mis võimaldab teil luua, koolitada, siluda, juurutada ja jälgida oma ML-mudeleid. Lisateavet SageMaker Studio alustamise ja seadistamise kohta leiate aadressilt Amazon SageMaker Studio.
Kui olete SageMaker Studio kasutajaliideses, pääsete jaotises SageMaker JumpStart juurde, mis sisaldab eelkoolitatud mudeleid, märkmikke ja eelehitatud lahendusi. Eelehitatud ja automatiseeritud lahendused.
SageMaker JumpStarti sihtlehel saate sirvida lahendusi, mudeleid, märkmikke ja muid ressursse. Järgmisel ekraanipildil on näide sihtlehest koos loetletud lahenduste ja alusmudelitega.
Igal mudelil on mudelikaart, nagu on näidatud järgmisel ekraanipildil, mis sisaldab mudeli nime, kui see on peenhäälestatud või mitte, pakkuja nime ja mudeli lühikirjeldust. Mudelikaardi saate avada ka mudeli kohta lisateabe saamiseks ja koolituse või juurutamise alustamiseks.
Tellige AWS Marketplace'is
SageMaker JumpStarti patenteeritud mudeleid avaldavad sellised mudelipakkujad nagu AI21, Cohere ja LightOn. Patenditud mudelid saate tuvastada mudelikaartidel oleva sildi „Proprietary” järgi, nagu on näidatud järgmisel ekraanipildil.
Sa võid valida Vaata märkmikku mudelikaardil, et avada sülearvuti kirjutuskaitstud režiimis, nagu on näidatud järgmisel ekraanipildil. Märkmikust saate lugeda olulist teavet eeltingimuste ja muude kasutusjuhiste kohta.
Pärast märkmiku importimist peate enne koodide käivitamist valima sobiva märkmiku keskkonna (pilt, kernel, eksemplari tüüp jne). Samuti peaksite järgima valitud sülearvuti tellimis- ja kasutusjuhiseid.
Enne patenteeritud mudeli kasutamist peate esmalt selle mudeli tellima AWS Marketplace:
- Avage AWS Marketplace'is mudeliloendi leht.
URL on esitatud dokumendis oluline märkmiku jaotises või pääsete sellele juurde lehelt SageMaker JumpStart teenuse leht. Loendilehel kuvatakse mudeli ülevaade, hind, kasutus- ja tugiteave.
- Valige AWS Marketplace'i loendist Jätka tellimist.
Kui teil pole mudeli vaatamiseks või tellimiseks vajalikke õigusi, võtke mudeli tellimiseks ühendust oma IT-administraatori või hanke kontaktpunktiga. Paljud ettevõtted võivad piirata AWS Marketplace'i õigusi, et juhtida toiminguid, mida nende lubadega isikud saavad AWS Marketplace'i haldusportaalis teha.
- Kohta Tellige see tarkvaraleht, vaadake üle üksikasjad ja valige Võta pakkumine vastu kui teie ja teie organisatsioon nõustute EULA, hinna- ja tugitingimustega.
Kui teil on küsimusi või soovite mahu allahindlust, võtke otse ühendust mudeli pakkujaga üksikasjade lehel oleva tugimeili kaudu või võtke ühendust oma AWS-i kontomeeskonnaga.
- Vali Jätkake konfigureerimisega ja valige piirkond.
Kuvatakse toote ARN. See on mudelipakett ARN, mille peate Boto3 abil juurutava mudeli loomisel määrama.
- Kopeerige oma piirkonnale vastav ARN ja määrake see sülearvuti lahtri juhistes.
Näidisjäreldamine näidisviipadega
Vaatame mõnda A21 Labsi, Cohere'i ja LightOn'i vundamendi näidismudelit, mis on leitavad SageMakeri stuudios SageMaker JumpStart. Kõigil neil on samad juhised AWS Marketplace'i tellimiseks ning sülearvuti importimiseks ja konfigureerimiseks.
AI21 Kokkuvõte
A121 Labsi mudel Summarize koondab pikad tekstid lühikesteks, kergesti loetavateks osadeks, mis jäävad faktiliselt allikaga kooskõlas. Mudel on koolitatud koostama kokkuvõtteid, mis jäädvustavad teksti põhiideed. See ei nõua mingit õhutamist. Sisestate lihtsalt teksti, millest tuleb kokkuvõte teha. Teie lähtetekst võib sisaldada kuni 50,000 10,000 tähemärki, tõlkides umbes 40 XNUMX sõna või muljetavaldavalt XNUMX lehekülge.
AI21 Summarize mudeli näidismärkmik sisaldab olulisi eeldusi, mida tuleb järgida. Näiteks on mudel tellitud AWS Marketplace'ist, sellel on sobivad IAM-i rollide õigused ja nõutav boto3 versioon jne. See juhendab teid, kuidas valida mudelipaketti, luua reaalajas järelduste tegemiseks lõpp-punkte ja seejärel puhastada.
Valitud mudelipakett sisaldab ARN-ide vastendamist piirkondadega. See on teave, mille pärast valimist jäädvustasite Jätkake konfigureerimisega AWS Marketplace'i tellimislehel (jaotises Hinnake ja tellige Marketplace'is) ja seejärel valides piirkonna, mille jaoks näete vastavat toodet ARN.
Märkmikus võib ARN olla juba eeltäidetud.
Seejärel impordite mõned selle märkmiku käitamiseks vajalikud teegid ja installite wikipedia, mis on Pythoni teek, mis muudab Wikipedia andmetele juurdepääsu ja nende sõelumise lihtsaks. Märkmik kasutab seda hiljem, et näidata, kuidas Vikipeediast pikka teksti kokkuvõtet teha.
Märkmik jätkab ka installimist ai21
Python SDK, mis on ümbris SageMakeri API-de, näiteks deploy
ja invoke endpoint
.
Märkmiku järgmised paar lahtrit läbivad järgmised sammud.
- Valige piirkond ja hankige mudelipakett ARN mudelipaketi kaardilt
- Looge oma järelduse lõpp-punkt, valides eksemplari tüübi (olenevalt teie kasutusjuhtumist ja mudeli toetatud eksemplarist; vt Ülesandepõhised mudelid lisateabe saamiseks) mudeli käivitamiseks
- Looge mudelipaketist juurutav mudel
Teeme järelduse, et luua kokkuvõte ühest uudisteartiklist võetud lõigust. Nagu väljundis näha, esitatakse kokkuvõtlik tekst mudeli poolt väljundina.
AI21 Summarize suudab töödelda kuni 50,000 10,000 tähemärgi pikkust sisestust. See tähendab umbes 40 XNUMX sõna või XNUMX lehekülge. Mudeli käitumise demonstreerimiseks laadime lehe Vikipeediast.
Nüüd, kui olete testimiseks reaalajas järelduse teinud, ei pruugi te lõpp-punkti enam vaja minna. Tasude võtmise vältimiseks saate lõpp-punkti kustutada.
Sidus käsk
Cohere Command on generatiivne mudel, mis reageerib hästi juhistetaolistele viipadele. See mudel pakub ettevõtetele ja ettevõtetele parimat kvaliteeti, jõudlust ja täpsust kõigi generatiivsete ülesannete täitmisel. Saate kasutada Cohere'i käsumudelit, et elavdada oma tekstikirjutamist, nimega olemi tuvastamist, ümbersõnastamist või kokkuvõtet ja viia need järgmisele tasemele.
Cohere Commandi mudeli näidismärkmik sisaldab olulisi eeldusi, mida tuleb järgida. Näiteks on mudel tellitud AWS Marketplace'ist, sellel on sobivad IAM-i rollide õigused ja nõutav boto3 versioon jne. See juhendab teid mudelipaketi valimise, reaalajas järelduste tegemiseks lõpp-punktide loomise ja seejärel puhastamise kohta.
Mõned ülesanded on sarnased eelmises sülearvuti näites käsitletuga, näiteks Boto3 installimine, installimine cohere-sagemaker
(pakett pakub funktsioone, mis on välja töötatud Cohere'i mudeliga liidestamise lihtsustamiseks) ning seansi ja piirkonna hankimine.
Uurime lõpp-punkti loomist. Esitate mudelipaketi ARN, lõpp-punkti nime, kasutatava eksemplari tüübi ja eksemplaride arvu. Pärast loomist kuvatakse lõpp-punkt teie tulemusnäitaja SageMakeri jaotis.
Nüüd käivitame järelduse, et näha mõningaid käsumudeli väljundeid.
Järgmisel ekraanipildil on näidisnäide tööpostituse ja selle väljundi loomisest. Nagu näete, genereeris mudel antud viipast postituse.
Vaatame nüüd järgmisi näiteid:
- Looge tootekirjeldus
- Looge ajaveebipostituse põhilõik
- Looge teavitusmeil
Nagu näete, genereeris Cohere Command mudel teksti erinevate generatiivsete ülesannete jaoks.
Nüüd, kui olete testimiseks reaalajas järeldusi teinud, ei pruugi te lõpp-punkti enam vaja minna. Tasude võtmise vältimiseks saate lõpp-punkti kustutada.
LightOn Mini-juhend
Mini-instruct, LightOn'i loodud 40 miljardi miljardi parameetriga tehisintellekti mudel, on võimas mitmekeelne AI-süsteem, mida on koolitatud paljudest allikatest pärit kvaliteetsete andmete põhjal. See on loodud mõistma loomulikku keelt ja reageerima teie vajadustele vastavatele käskudele. See toimib suurepäraselt tarbekaupades, nagu häälassistendid, vestlusrobotid ja nutikad seadmed. Sellel on ka lai valik ärirakendusi, sealhulgas agendiabi ja loomuliku keele tootmine automatiseeritud klienditeeninduseks.
LightOn Mini-juhendi mudeli näidismärkmik sisaldab olulisi eeldusi, mida tuleb järgida. Näiteks on mudel tellitud AWS Marketplace'ist, sellel on sobivad IAM-i rollide õigused ja nõutav boto3 versioon jne. See juhendab teid mudelipaketi valimise, reaalajas järelduste tegemiseks lõpp-punktide loomise ja seejärel puhastamise kohta.
Mõned ülesanded on sarnased eelmises sülearvuti näites käsitletutega, näiteks Boto3 installimine ja seansi piirkonna hankimine.
Vaatame lõpp-punkti loomist. Esmalt esitage mudelipakett ARN, lõpp-punkti nimi, kasutatav eksemplari tüüp ja eksemplaride arv. Pärast loomist kuvatakse lõpp-punkt teie SageMakeri lõpp-punkti jaotises.
Proovime nüüd mudelit järeldada, paludes sellel luua ideede loend teatud teema, antud juhul akvarelli, artiklite jaoks.
Nagu näete, suutis LightOn Mini-juhiste mudel etteantud viipa alusel genereeritud teksti pakkuda.
Koristage
Pärast mudelite testimist ja ülaltoodud fondimudelite näidete lõpp-punktide loomist kustutage kindlasti SageMakeri järelduse lõpp-punktid ja kustutage mudelid, et vältida tasusid.
Järeldus
Selles postituses näitasime teile, kuidas SageMaker Studios mudelipakkujate (nt AI21, Cohere ja LightOn) patenteeritud mudelitega alustada. Kliendid saavad Studio, SageMaker SDK ja SageMaker Console'i SageMaker JumpStartis avastada ja kasutada patenteeritud vundamendimudeleid. Tänu sellele on neil juurdepääs suuremahulistele ML-mudelitele, mis sisaldavad miljardeid parameetreid ja on eelnevalt treenitud terabaitidele teksti- ja pildiandmetele, et kliendid saaksid täita mitmesuguseid ülesandeid, nagu artiklite kokkuvõte ning teksti, pildi või video genereerimine. Kuna vundamendimudelid on eelkoolitatud, võivad need aidata vähendada koolitus- ja infrastruktuurikulusid ning võimaldada kohandamist teie kasutusjuhtumitele.
Vahendid
Autoritest
Juuni võitis on SageMaker JumpStarti tootejuht. Ta keskendub alusmudelite hõlpsasti leitavaks ja kasutatavaks muutmisele, et aidata klientidel luua generatiivseid AI-rakendusi.
Mani Khanuja on tehisintellekti ja masinõppe spetsialist ettevõttes Amazon Web Services (AWS). Ta aitab masinõpet kasutavatel klientidel AWS-i abil oma äriprobleeme lahendada. Ta veedab suurema osa ajast sukeldudes sügavuti ja õpetades kliente AI/ML projektidele, mis on seotud arvutinägemise, loomuliku keele töötlemise, prognoosimise, ML-i äärealade ja muuga. Ta on kirglik ML-i vastu, seetõttu on ta loonud oma labori koos isejuhtiva komplekti ja prototüüpide valmistamise tootmisliiniga, kus ta veedab suure osa oma vabast ajast.
Nitin Eusebius on AWS-i vanem ettevõtete lahenduste arhitekt, kellel on kogemusi tarkvaratehnika, ettevõttearhitektuuri ja AI/ML alal. Ta töötab koos klientidega, et aidata neil AWS-i platvormil hästi arhitektuurseid rakendusi luua. Ta on kirglik tehnoloogiliste väljakutsete lahendamise ja klientide abistamise vastu nende pilveteekonnal.
- SEO-põhise sisu ja PR-levi. Võimenduge juba täna.
- PlatoData.Network Vertikaalne generatiivne Ai. Jõustage ennast. Juurdepääs siia.
- PlatoAiStream. Web3 luure. Täiustatud teadmised. Juurdepääs siia.
- PlatoESG. Autod/elektrisõidukid, Süsinik, CleanTech, Energia, Keskkond päikeseenergia, Jäätmekäitluse. Juurdepääs siia.
- BlockOffsets. Keskkonnakompensatsiooni omandi ajakohastamine. Juurdepääs siia.
- Allikas: https://aws.amazon.com/blogs/machine-learning/use-proprietary-foundation-models-from-amazon-sagemaker-jumpstart-in-amazon-sagemaker-studio/
- :on
- :on
- :mitte
- : kus
- $ UP
- 000
- 10
- 100
- 40
- 50
- 500
- 7
- 87
- a
- Võimalik
- MEIST
- üle
- kiirendama
- juurdepääs
- konto
- täpsus
- meetmete
- admin
- pärast
- Agent
- AI
- AI / ML
- algoritme
- Materjal: BPA ja flataatide vaba plastik
- võimaldab
- juba
- Ka
- Amazon
- Amazon SageMaker
- Amazon SageMaker JumpStart
- Amazon SageMaker Studio
- Amazon Web Services
- Amazon Web Services (AWS)
- an
- ja
- infrastruktuuri
- mistahes
- enam
- API-liidesed
- ilmub
- Seadmed
- rakendused
- asjakohane
- arhitektuur
- OLEME
- ümber
- artikkel
- kaubad
- kunstlik
- tehisintellekti
- Tehisintellekt ja masinõpe
- AS
- Abi
- assistendid
- At
- Automatiseeritud
- saadaval
- vältima
- AWS
- AWS Marketplace
- põhineb
- BE
- sest
- olnud
- enne
- on
- BEST
- Miljard
- miljardeid
- Blogi
- keha
- ehitama
- ehitatud
- äri
- Business Applications
- ettevõtted
- kuid
- by
- CAN
- lüüa
- pildistatud
- kaart
- Kaardid
- mis
- juhul
- Rakke
- väljakutseid
- märki
- laetud
- koormuste
- jututoad
- Vali
- valimine
- Cloud
- koodid
- arvuti
- Arvuti visioon
- järjepidev
- konsool
- tarbija
- Tarbekaubad
- kontakt
- sisaldama
- sisaldab
- kontrollida
- copywriting
- Vastav
- kulud
- kaetud
- looma
- loodud
- loomine
- klient
- Kliendid
- kohandamine
- andmed
- andmeteadlane
- pühendunud
- sügav
- Olenevalt
- juurutada
- juurutamine
- kasutuselevõtu
- kirjeldus
- detail
- detailid
- arenenud
- & Tarkvaraarendus
- Diffusion
- otse
- Allahindlus
- avastama
- kuvatakse
- Ei tee
- Ära
- kergesti
- lihtne
- serv
- jõupingutusi
- võimaldama
- Lõpp-punkt
- Inseneriteadus
- ettevõte
- ettevõtete
- üksus
- keskkond
- jms
- hindama
- näide
- näited
- kogemus
- uurima
- nägu
- vähe
- esimene
- keskendub
- järgima
- Järgneb
- Järel
- eest
- Sihtasutus
- tasuta
- Alates
- funktsionaalsus
- tekitama
- loodud
- teeniva
- põlvkond
- generatiivne
- Generatiivne AI
- saama
- saamine
- antud
- Go
- käepide
- Olema
- he
- aitama
- aidates
- aitab
- siin
- kvaliteetne
- Kuidas
- Kuidas
- HTML
- HTTPS
- Keskus
- ideid
- identifitseerima
- if
- pilt
- import
- oluline
- importivate
- muljetavaldav
- in
- Kaasa arvatud
- info
- Infrastruktuur
- sisend
- sisendite
- paigaldama
- paigaldamine
- Näiteks
- juhised
- integreeritud
- Intelligentsus
- sisse
- isoleeritud
- IT
- ITS
- töö
- teekond
- jpg
- Võti
- labor
- Labs
- maandumine
- keel
- suuremahuline
- pärast
- Õppida
- õppimine
- Lets
- Tase
- raamatukogud
- Raamatukogu
- nagu
- LIMIT
- joon
- nimekiri
- Loetletud
- loetelu
- koormus
- Pikk
- Vaata
- Partii
- vähendada
- masin
- masinõpe
- tegema
- TEEB
- Tegemine
- juhtimine
- juht
- tootmine
- palju
- kaardistus
- turul
- mai..
- ML
- viis
- mudel
- mudelid
- Jälgida
- rohkem
- kõige
- nimi
- Nimega
- Natural
- Natural Language Processing
- vajalik
- Vajadus
- vajadustele
- võrk
- uudised
- järgmine
- märkmik
- number
- arvukad
- of
- on
- kunagi
- avatud
- or
- organisatsioon
- Muu
- välja
- väljund
- teavitustegevuse
- üle
- ülevaade
- enda
- pakend
- lehekülg
- parameetrid
- kirglik
- täitma
- jõudlus
- teostatud
- täidab
- Õigused
- inimesele
- Platon
- Platoni andmete intelligentsus
- PlatoData
- Punkt
- populaarne
- Portal
- post
- võimas
- eeldused
- esitatud
- eelmine
- hinnapoliitika
- Eelnev
- tulu
- töötlemine
- hange
- Toode
- tootejuht
- Produktsioon
- Toodet
- projektid
- varaline
- prototüüp
- anda
- tingimusel
- tarnija
- pakkujad
- annab
- avalikult
- avaldatud
- Python
- kvaliteet
- Küsimused
- valik
- jõudma
- Reageerima
- Lugenud
- Ainult kirjutusrežiim
- reaalajas
- tunnustamine
- kohta
- piirkond
- piirkondades
- seotud
- jääma
- taotleda
- nõudma
- nõutav
- Vahendid
- läbi
- rollid
- ligikaudu
- jooks
- jooksmine
- SA
- salveitegija
- SageMakeri järeldus
- sama
- teadlane
- skripte
- SDK
- Osa
- vaata
- väljavalitud
- valides
- iseteenindav
- teenus
- Teenused
- istung
- komplekt
- Jaga
- ta
- Lühike
- peaks
- presentatsioon
- näitas
- näidatud
- Näitused
- sarnane
- lihtsustama
- lihtsalt
- ühekordne
- nutikas
- So
- tarkvara
- tarkvaraarendus
- Lahendused
- LAHENDAGE
- Lahendamine
- mõned
- Keegi
- allikas
- Allikad
- spetsialist
- konkreetse
- stabiilne
- algus
- alustatud
- Sammud
- Veel
- stuudio
- tellima
- tellimine
- selline
- Kokku võtta
- KOKKUVÕTE
- toetama
- Toetatud
- süsteem
- TAG
- Võtma
- võtnud
- ülesanded
- õpetamine
- meeskond
- Tehnoloogia
- tingimused
- katsetatud
- Testimine
- et
- .
- teave
- Allikas
- oma
- Neile
- SIIS
- seetõttu
- Need
- nad
- see
- need
- Läbi
- aeg
- et
- teema
- Rong
- koolitatud
- koolitus
- püüdma
- kaks
- tüüp
- liigid
- ui
- all
- mõistma
- URL
- kasutatav
- Kasutus
- kasutama
- kasutage juhtumit
- Kasutatud
- Kasutajad
- kasutusalad
- kasutamine
- eri
- versioon
- kaudu
- Video
- vaade
- nägemus
- Hääl
- maht
- oli
- we
- web
- veebiteenused
- Veebipõhine
- kaal
- Hästi
- mis
- kuigi
- lai
- Lai valik
- Wikipedia
- will
- koos
- sõnad
- töötab
- sa
- Sinu
- sephyrnet