Amazon SageMaker JumpStart egy gépi tanulási (ML) központ, amely segíthet felgyorsítani az ML-útját. A SageMaker JumpStart segítségével felfedezheti és telepítheti a nyilvánosan elérhető és szabadalmaztatott alapmodelleket erre a célra Amazon SageMaker példányokat generatív AI-alkalmazásaihoz. A SageMaker JumpStart lehetővé teszi az alapmodellek telepítését egy hálózattól elszigetelt környezetből, és nem osztja meg az ügyfelek oktatását és a következtetési adatokat a modellszolgáltatókkal.
Ebben a bejegyzésben azt mutatjuk be, hogyan kezdjünk hozzá olyan modellszolgáltatók szabadalmaztatott modelljeivel, mint az AI21, a Cohere és a LightOn. Amazon SageMaker Studio. A SageMaker Studio egy notebook környezet, ahol a SageMaker vállalati adattudós ügyfelek értékelik és modelleket készítenek következő generatív AI-alkalmazásaikhoz.
Alapozó modellek a SageMakerben
Az alapmodellek nagyszabású ML-modellek, amelyek több milliárd paramétert tartalmaznak, és terabájtnyi szöveg- és képadatokra vannak előtanulva, így számos feladatot végezhet el, például cikkösszegzést és szöveg-, kép- vagy videógenerálást. Mivel az alapmodellek előre betanítottak, csökkenthetik a képzési és infrastrukturális költségeket, és lehetővé teszik a testreszabást az Ön használati esetéhez.
A SageMaker JumpStart kétféle alapozó modellt kínál:
- Szabadalmaztatott modellek – Ezek a modellek olyan szolgáltatóktól származnak, mint az AI21 a Jurassic-2 modellekkel, a Cohere a Cohere Commanddal és a LightOn with Mini, amelyek szabadalmaztatott algoritmusokra és adatokra vannak kiképezve. Nem tekintheti meg a modell melléktermékeit, például a súlyt és a szkripteket, de továbbra is telepítheti a SageMaker-példányokat következtetések levonására.
- Nyilvánosan elérhető modellek – Ezek olyan népszerű modellközpontoktól származnak, mint a Hugging Face stabil diffúzióval, a Falcon és a FLAN, amelyek nyilvánosan elérhető algoritmusokra és adatokra vannak kiképezve. Ezeknél a modelleknél a felhasználók hozzáférhetnek a modellműtermékekhez, és saját adataikkal finomhangolhatnak a következtetések levonásához szükséges üzembe helyezés előtt.
Fedezze fel a modelleket
Az alapmodelleket a SageMaker JumpStart segítségével érheti el a SageMaker Studio UI-ban és a SageMaker Python SDK-ban. Ebben a részben áttekintjük, hogyan fedezheti fel a modelleket a SageMaker Studio felhasználói felületén.
A SageMaker Studio egy webalapú integrált fejlesztői környezet (IDE) az ML-hez, amely lehetővé teszi az ML-modellek építését, betanítását, hibakeresését, üzembe helyezését és figyelését. A SageMaker Studio megkezdésével és beállításával kapcsolatos további részletekért lásd: Amazon SageMaker Studio.
A SageMaker Studio felhasználói felületén elérheti a SageMaker JumpStart alkalmazást, amely előre betanított modelleket, notebookokat és előre elkészített megoldásokat tartalmaz. Előre elkészített és automatizált megoldások.
A SageMaker JumpStart nyitóoldalán megoldások, modellek, notebookok és egyéb források között böngészhet. A következő képernyőképen egy példa látható a céloldalra, a felsorolt megoldásokkal és alapmodellekkel.
Minden modellhez tartozik egy modellkártya, amint az a következő képernyőképen látható, amely tartalmazza a modell nevét, ha finomhangolható vagy nem, a szolgáltató nevét és a modell rövid leírását. A modellkártyát is megnyithatja, ha többet szeretne megtudni a modellről, és megkezdheti a képzést vagy a telepítést.
Iratkozzon fel az AWS Marketplace-en
A SageMaker JumpStart szabadalmaztatott modelljeit olyan modellszolgáltatók teszik közzé, mint az AI21, a Cohere és a LightOn. A szabadalmaztatott modelleket a modellkártyákon található „Proprietary” címke alapján azonosíthatja, amint az a következő képernyőképen látható.
Választhatsz Notebook megtekintése a modellkártyán, hogy csak olvasható módban nyissa meg a notebookot, ahogy az a következő képernyőképen látható. A notebookban elolvashatja az előfeltételekkel kapcsolatos fontos információkat és egyéb használati utasításokat.
A jegyzetfüzet importálása után a kódok futtatása előtt ki kell választania a megfelelő notebook környezetet (kép, kernel, példánytípus stb.). Ezenkívül kövesse a kiválasztott notebook előfizetési és használati utasításait.
A szabadalmaztatott modell használata előtt először elő kell fizetnie a modellre AWS piactér:
- Nyissa meg a modelllista oldalát az AWS Marketplace-en.
Az URL-t a fontos részben a notebook, vagy elérheti a SageMaker JumpStart szolgáltatási oldal. A listaoldalon a modell áttekintése, árazása, használati és támogatási adatai láthatók.
- Az AWS Marketplace listáján válassza a lehetőséget Folytassa az előfizetést.
Ha nem rendelkezik a szükséges engedélyekkel a modell megtekintéséhez vagy előfizetéséhez, forduljon informatikai rendszergazdájához vagy beszerzési kapcsolattartójához, és iratkozzon fel a modellre. Sok vállalat korlátozhatja az AWS Marketplace engedélyeit, hogy szabályozza azokat a műveleteket, amelyeket ezekkel az engedéllyel rendelkező személyek végezhetnek az AWS Marketplace felügyeleti portálon.
- A Iratkozzon fel erre a szoftveroldalra, tekintse át a részleteket és válasszon Fogadja el az ajánlatot ha Ön és szervezete egyetért az EULA-val, az árakkal és a támogatási feltételekkel.
Ha bármilyen kérdése van, vagy mennyiségi engedményt szeretne kérni, forduljon közvetlenül a modellszolgáltatóhoz a részletező oldalon található támogatási e-mail-címen, vagy lépjen kapcsolatba az AWS-fiókjával.
- A pop-art design, négy időzóna kijelzése egyszerre és méretének arányai azok az érvek, amelyek a NeXtime Time Zones-t kiváló választássá teszik. Válassza a Folytassa a konfigurációval és válasszon egy régiót.
Megjelenik egy termék ARN. Ez az ARN modellcsomag, amelyet meg kell adnia a Boto3 használatával telepíthető modell létrehozásakor.
- Másolja ki a régiójának megfelelő ARN-t, és adja meg ugyanezt a notebook cellautasításában.
Mintakövetkeztetés mintapromptokkal
Nézzünk meg néhány alapozó modellt az A21 Labs, a Cohere és a LightOn cégektől, amelyek a SageMaker JumpStart alkalmazásból fedezhetők fel a SageMaker Studio-ban. Mindegyikük ugyanazokkal az utasításokkal rendelkezik, amelyekkel előfizethet az AWS Marketplace-ről, valamint importálhatja és konfigurálhatja a notebookot.
AI21 Összegzés
Az A121 Labs Summarize modellje a hosszú szövegeket rövid, könnyen olvasható falatokká sűríti, amelyek tényszerűen konzisztensek maradnak a forrással. A modell arra van kiképezve, hogy olyan összefoglalókat készítsen, amelyek egy szövegtörzs alapján rögzítik a kulcsfontosságú ötleteket. Nem igényel felszólítást. Egyszerűen be kell írnia az összefoglalni kívánt szöveget. A forrásszöveg legfeljebb 50,000 10,000 karaktert tartalmazhat, ami nagyjából 40 XNUMX szót vagy lenyűgöző XNUMX oldalt tartalmazhat.
Az AI21 Summarize modell mintafüzete fontos előfeltételeket biztosít, amelyeket be kell tartani. Például a modell előfizetett az AWS Marketplace-ről, rendelkezik megfelelő IAM-szerepkör-engedélyekkel és szükséges boto3-verzióval stb. Végigvezeti Önt a modellcsomag kiválasztásán, a valós idejű következtetések végpontjainak létrehozásán, majd a tisztításon.
A kiválasztott modellcsomag tartalmazza az ARN-ek régiókhoz való hozzárendelését. Ez az az információ, amelyet a választás után rögzített Folytassa a konfigurációval az AWS Marketplace előfizetési oldalon (a szakaszban Értékeljen és fizessen elő a Marketplace-en), majd válasszon ki egy régiót, amelyhez a megfelelő ARN terméket fogja látni.
Előfordulhat, hogy a jegyzetfüzetben már előre kitöltött ARN.
Ezután importálhat néhány, a jegyzetfüzet futtatásához szükséges könyvtárat, és telepítheti a wikipédia-t, amely egy Python-könyvtár, amely megkönnyíti a Wikipédiából származó adatok elérését és elemzését. A jegyzetfüzet ezt használja fel később arra, hogy bemutassa, hogyan lehet összefoglalni egy hosszú szöveget a Wikipédiából.
A notebook is folytatja a telepítést ai21
Python SDK, amely a SageMaker API-k köré épül, mint pl deploy
és a invoke endpoint
.
A notebook következő néhány cellája a következő lépéseket követi:
- Válassza ki a régiót, és töltse le az ARN modellcsomagot a modellcsomag térképről
- Hozza létre a következtetési végpontot egy példánytípus kiválasztásával (a használati esettől és a modell támogatott példányától függően; lásd Feladatspecifikus modellek további részletekért) a modell futtatásához
- Hozzon létre egy telepíthető modellt a modellcsomagból
Futtassuk le a következtetést, hogy összefoglaljunk egy hírcikkből vett egyetlen bekezdést. Amint az a kimeneten látható, az összefoglalt szöveget kimenetként jeleníti meg a modell.
Az AI21 Summarize legfeljebb 50,000 10,000 karakteres bevitelt képes kezelni. Ez nagyjából 40 XNUMX szót vagy XNUMX oldalt jelent. A modell viselkedésének demonstrálására betöltünk egy oldalt a Wikipédiából.
Most, hogy valós idejű következtetést hajtott végre a teszteléshez, előfordulhat, hogy már nincs szüksége a végpontra. A terhelés elkerülése érdekében törölheti a végpontot.
Cohere Command
A Cohere Command egy generatív modell, amely jól reagál az utasításszerű promptokkal. Ez a modell a legjobb minőséget, teljesítményt és pontosságot biztosítja a vállalkozásoknak és a vállalkozásoknak minden generatív feladat során. A Cohere parancsmodelljét használhatja szövegírási, elnevezett entitás-felismerési, átfogalmazási vagy összegzési erőfeszítéseinek élénkítésére, és magasabb szintre emelésére.
A Cohere Command modell mintafüzete fontos előfeltételeket biztosít, amelyeket be kell tartani. Például a modell előfizetett az AWS Marketplace-ről, rendelkezik megfelelő IAM-szerepkör-engedélyekkel és szükséges boto3-verzióval stb. Végigvezeti Önt a modellcsomag kiválasztásán, a valós idejű következtetések végpontjainak létrehozásán, majd a tisztításon.
Néhány feladat hasonló az előző notebook példában leírtakhoz, például a Boto3 telepítése, telepítése cohere-sagemaker
(a csomag a Cohere modellel való interfész egyszerűsítésére kifejlesztett funkcionalitást biztosít), valamint a munkamenet és a régió lekérését.
Vizsgáljuk meg a végpont létrehozását. Meg kell adnia az ARN modellcsomagot, a végpont nevét, a használandó példánytípust és a példányok számát. A létrehozás után a végpont megjelenik a végpont a SageMaker része.
Most futtassuk le a következtetést, hogy lássunk néhány kimenetet a Command modellből.
A következő képernyőképen egy munkabejegyzés létrehozására és kimenetére vonatkozó példa látható. Mint látható, a modell egy bejegyzést generált az adott promptból.
Most nézzük a következő példákat:
- Termékleírás létrehozása
- Hozzon létre egy blogbejegyzés törzs bekezdését
- Hozzon létre egy tájékoztató e-mailt
Mint látható, a Cohere Command modell szöveget generált különféle generatív feladatokhoz.
Most, hogy valós idejű következtetést hajtott végre a teszteléshez, előfordulhat, hogy már nincs szüksége a végpontra. A terhelés elkerülése érdekében törölheti a végpontot.
LightOn Mini-utasítás
A Mini-instruct, a LightOn által létrehozott, 40 milliárd milliárd paraméterrel rendelkező mesterséges intelligencia modell egy erőteljes, többnyelvű AI-rendszer, amelyet számos forrásból származó kiváló minőségű adatok felhasználásával képeztek ki. Úgy készült, hogy megértse a természetes nyelvet, és reagáljon az Ön igényeinek megfelelő parancsokra. Csodálatosan teljesít olyan fogyasztói termékekben, mint a hangasszisztensek, chatbotok és intelligens készülékek. Az üzleti alkalmazások széles skálájával is rendelkezik, beleértve az ügynöki segítséget és a természetes nyelvi produkciót az automatizált ügyfélszolgálathoz.
A LightOn Mini-instruct modellhez készült mintafüzet fontos előfeltételeket biztosít, amelyeket be kell tartani. Például a modell előfizetett az AWS Marketplace-ről, rendelkezik megfelelő IAM-szerepkör-engedélyekkel és szükséges boto3-verzióval stb. Végigvezeti Önt a modellcsomag kiválasztásán, a valós idejű következtetések végpontjainak létrehozásán, majd a tisztításon.
Néhány feladat hasonló az előző notebook-példában leírtakhoz, például a Boto3 telepítése és a munkamenet régiójának lekérése.
Nézzük meg a végpont létrehozását. Először adja meg az ARN modellcsomagot, a végpont nevét, a használandó példánytípust és a példányok számát. A létrehozás után a végpont megjelenik a SageMaker végpont szakaszában.
Most próbáljunk meg következtetni a modellre úgy, hogy megkérjük, hogy generáljon ötletlistát egy témakörhöz, jelen esetben akvarellhez, cikkekhez.
Mint látható, a LightOn Mini-instruct modell képes volt generált szöveget adni az adott prompt alapján.
Tisztítsuk meg
Miután tesztelte a modelleket, és létrehozta a fenti végpontokat a példakénti szabadalmazott alapmodellekhez, feltétlenül törölje a SageMaker következtetési végpontokat, és törölje a modelleket, hogy elkerülje a költségeket.
Következtetés
Ebben a bejegyzésben megmutattuk, hogyan kezdje el a SageMaker Studio-ban olyan modellszolgáltatók szabadalmaztatott modelljeit, mint az AI21, a Cohere és a LightOn. Az ügyfelek felfedezhetik és használhatják a szabadalmaztatott alapmodelleket a SageMaker JumpStartban a Studio-ból, a SageMaker SDK-ból és a SageMaker Console-ból. Ezzel nagyszabású ML modellekhez férhetnek hozzá, amelyek több milliárd paramétert tartalmaznak, és terabájtnyi szöveg- és képadatokra vannak előtanulva, így az ügyfelek a feladatok széles skáláját hajthatják végre, például cikkösszegzést, valamint szöveg-, kép- vagy videógenerálást. Mivel az alapmodellek előképzettek, segíthetnek csökkenteni a képzési és infrastrukturális költségeket, és lehetővé teszik a testreszabást az Ön használati esetéhez.
Tudástár
A szerzőkről
June nyert a SageMaker JumpStart termékmenedzsere. Arra összpontosít, hogy az alapmodelleket könnyen felfedezhetővé és használhatóvá tegye, hogy segítse az ügyfeleket generatív AI-alkalmazások létrehozásában.
Mani Khanuja az Amazon Web Services (AWS) mesterséges intelligencia és gépi tanulás szakértője. Segít a gépi tanulást használó ügyfeleknek üzleti kihívásaik megoldásában az AWS segítségével. Ideje nagy részét azzal tölti, hogy mélyre merül, és ügyfeleit olyan AI/ML projektekre oktatja, amelyek a számítógépes látással, a természetes nyelvi feldolgozással, az előrejelzéssel, az ML szélén és még sok mással kapcsolatosak. Szenvedélye az ML szélén, ezért létrehozta saját laborját önvezető készlettel és prototípus gyártósorral, ahol szabadidejének nagy részét tölti.
Nitin Eusebius Sr. Enterprise Solutions Architect az AWS-nél, tapasztalattal a szoftverfejlesztés, a vállalati architektúra és az AI/ML területén. Ügyfeleivel együttműködve segít nekik jól felépített alkalmazásokat készíteni az AWS platformon. Szenvedélyesen foglalkozik a technológiai kihívások megoldásával, és segíti az ügyfeleket a felhőalapú utazásukban.
- SEO által támogatott tartalom és PR terjesztés. Erősödjön még ma.
- PlatoData.Network Vertical Generative Ai. Erősítse meg magát. Hozzáférés itt.
- PlatoAiStream. Web3 Intelligence. Felerősített tudás. Hozzáférés itt.
- PlatoESG. Autóipar / elektromos járművek, Carbon, CleanTech, Energia, Környezet, Nap, Hulladékgazdálkodás. Hozzáférés itt.
- BlockOffsets. A környezetvédelmi ellentételezési tulajdon korszerűsítése. Hozzáférés itt.
- Forrás: https://aws.amazon.com/blogs/machine-learning/use-proprietary-foundation-models-from-amazon-sagemaker-jumpstart-in-amazon-sagemaker-studio/
- :van
- :is
- :nem
- :ahol
- $ UP
- 000
- 10
- 100
- 40
- 50
- 500
- 7
- 87
- a
- Képes
- Rólunk
- felett
- gyorsul
- hozzáférés
- Fiók
- pontosság
- cselekvések
- admin
- Után
- Ügynök
- AI
- AI / ML
- algoritmusok
- Minden termék
- lehetővé teszi, hogy
- már
- Is
- amazon
- Amazon SageMaker
- Amazon SageMaker JumpStart
- Amazon SageMaker Studio
- Az Amazon Web Services
- Amazon Web Services (AWS)
- an
- és a
- és az infrastruktúra
- bármilyen
- Már
- API-k
- Megjelenik
- készülékek
- alkalmazások
- megfelelő
- építészet
- VANNAK
- körül
- cikkben
- cikkek
- mesterséges
- mesterséges intelligencia
- Mesterséges intelligencia és gépi tanulás
- AS
- Támogatás
- asszisztensek
- At
- Automatizált
- elérhető
- elkerülése érdekében
- AWS
- AWS piactér
- alapján
- BE
- mert
- óta
- előtt
- hogy
- BEST
- Billió
- milliárd
- Blog
- test
- épít
- épült
- üzleti
- Üzleti alkalmazások
- vállalkozások
- de
- by
- TUD
- elfog
- rögzített
- kártya
- Kártyák
- ami
- eset
- Cellák
- kihívások
- karakter
- töltött
- díjak
- chatbots
- A pop-art design, négy időzóna kijelzése egyszerre és méretének arányai azok az érvek, amelyek a NeXtime Time Zones-t kiváló választássá teszik. Válassza a
- választja
- felhő
- kódok
- számítógép
- Számítógépes látás
- következetes
- Konzol
- fogyasztó
- Fogyasztói termékek
- kapcsolat
- tartalmaz
- tartalmaz
- ellenőrzés
- szövegírás
- Megfelelő
- kiadások
- fedett
- teremt
- készítette
- létrehozása
- vevő
- Ügyfelek
- testreszabás
- dátum
- adattudós
- elszánt
- mély
- attól
- telepíteni
- bevezetéséhez
- bevetés
- leírás
- részlet
- részletek
- fejlett
- Fejlesztés
- Diffusion
- közvetlenül
- Kedvezmény
- felfedez
- Megjelenik
- Nem
- ne
- könnyen
- könnyű
- él
- erőfeszítések
- lehetővé
- Endpoint
- Mérnöki
- Vállalkozás
- Vállalatok
- egység
- Környezet
- stb.
- értékelni
- példa
- példák
- tapasztalat
- feltárása
- Arc
- kevés
- vezetéknév
- koncentrál
- következik
- követ
- következő
- A
- Alapítvány
- Ingyenes
- ból ből
- funkcionalitás
- generál
- generált
- generáló
- generáció
- nemző
- Generatív AI
- kap
- szerzés
- adott
- Go
- fogantyú
- Legyen
- he
- segít
- segít
- segít
- neki
- jó minőségű
- Hogyan
- How To
- HTML
- HTTPS
- Kerékagy
- ötletek
- azonosítani
- if
- kép
- importál
- fontos
- importáló
- hatásos
- in
- Beleértve
- információ
- Infrastruktúra
- bemenet
- bemenet
- telepíteni
- telepítése
- példa
- utasítás
- integrált
- Intelligencia
- bele
- izolált
- IT
- ITS
- Munka
- utazás
- jpg
- Kulcs
- labor
- Labs
- leszállási
- nyelv
- nagyarányú
- a későbbiekben
- TANUL
- tanulás
- Lets
- szint
- könyvtárak
- könyvtár
- mint
- LIMIT
- vonal
- Lista
- Listázott
- felsorolás
- kiszámításának
- Hosszú
- néz
- Sok
- alacsonyabb
- gép
- gépi tanulás
- csinál
- KÉSZÍT
- Gyártás
- vezetés
- menedzser
- gyártási
- sok
- térképészet
- piactér
- Lehet..
- ML
- Mód
- modell
- modellek
- monitor
- több
- a legtöbb
- név
- Nevezett
- Természetes
- Természetes nyelvi feldolgozás
- elengedhetetlen
- Szükség
- igények
- hálózat
- hír
- következő
- jegyzetfüzet
- szám
- számos
- of
- on
- egyszer
- nyitva
- or
- szervezet
- Más
- ki
- teljesítmény
- megkereső
- felett
- áttekintés
- saját
- csomag
- oldal
- paraméterek
- szenvedélyes
- Teljesít
- teljesítmény
- teljesített
- Előadja
- engedélyek
- emelvény
- Plató
- Platón adatintelligencia
- PlatoData
- pont
- Népszerű
- Portál
- állás
- erős
- előfeltételek
- bemutatott
- előző
- árazás
- Előzetes
- bevétel
- feldolgozás
- beszerzés
- Termékek
- termék menedzser
- Termelés
- Termékek
- projektek
- szabadalmazott
- prototípus
- ad
- feltéve,
- ellátó
- szolgáltatók
- biztosít
- nyilvánosan
- közzétett
- Piton
- világítás
- Kérdések
- hatótávolság
- el
- Reagál
- Olvass
- Csak olvasható mód
- real-time
- elismerés
- tekintettel
- vidék
- régiók
- összefüggő
- marad
- kérni
- szükség
- kötelező
- Tudástár
- Kritika
- szerepek
- nagyjából
- futás
- futás
- SA
- sagemaker
- SageMaker következtetés
- azonos
- Tudós
- szkriptek
- sdk
- Rész
- lát
- kiválasztott
- kiválasztása
- self-vezetés
- szolgáltatás
- Szolgáltatások
- ülés
- készlet
- Megosztás
- ő
- rövid
- kellene
- kirakat
- kimutatta,
- mutatott
- Műsorok
- hasonló
- egyszerűsítése
- egyszerűen
- egyetlen
- okos
- So
- szoftver
- szoftverfejlesztés
- Megoldások
- SOLVE
- Megoldása
- néhány
- Valaki
- forrás
- Források
- szakember
- különleges
- stabil
- kezdet
- kezdődött
- Lépései
- Még mindig
- stúdió
- Iratkozz fel
- előfizetés
- ilyen
- összegez
- ÖSSZEFOGLALÓ
- támogatás
- Támogatott
- rendszer
- TAG
- Vesz
- meghozott
- feladatok
- Tanítási
- csapat
- Technológia
- feltételek
- kipróbált
- Tesztelés
- hogy
- A
- az információ
- The Source
- azok
- Őket
- akkor
- ebből adódóan
- Ezek
- ők
- ezt
- azok
- Keresztül
- idő
- nak nek
- téma
- Vonat
- kiképzett
- Képzések
- megpróbál
- kettő
- típus
- típusok
- ui
- alatt
- megért
- URL
- használható
- Használat
- használ
- használati eset
- használt
- Felhasználók
- használ
- segítségével
- különféle
- változat
- keresztül
- videó
- Megnézem
- látomás
- Hang
- kötet
- volt
- we
- háló
- webes szolgáltatások
- web-alapú
- súly
- JÓL
- ami
- míg
- széles
- Széleskörű
- Wikipedia
- lesz
- val vel
- szavak
- művek
- te
- A te
- zephyrnet