Amazon SageMaker je razglasitve podpora treh novih meril za dokončanje za Amazon SageMaker samodejna nastavitev modela, ki vam zagotavlja dodaten nabor vzvodov za nadzor meril zaustavitve nastavitvenega opravila pri iskanju najboljše konfiguracije hiperparametrov za vaš model.
V tej objavi razpravljamo o teh novih merilih za dokončanje, o tem, kdaj jih uporabiti, in o nekaterih prednostih, ki jih prinašajo.
Samodejno prilagajanje modela SageMaker
Samodejna nastavitev modela, imenovana tudi uglaševanje hiperparametrov, poišče najboljšo različico modela, merjeno z metriko, ki jo izberemo. Z izbranim algoritmom in določenimi obsegi hiperparametrov zavrti številna izobraževalna opravila na ponujenem naboru podatkov. Vsako usposabljanje je mogoče zaključiti predčasno, ko se objektivna metrika ne izboljša bistveno, kar je znano kot zgodnja ustavitev.
Do zdaj so obstajali omejeni načini za nadzor celotnega opravila prilagajanja, na primer določanje največjega števila opravil usposabljanja. Vendar je izbira te vrednosti parametra v najboljšem primeru hevristična. Večja vrednost poveča stroške prilagajanja, manjša vrednost pa morda ne bo vedno prinesla najboljše različice modela.
Samodejna prilagoditev modela SageMaker rešuje te izzive tako, da vam ponudi več meril za dokončanje naloge nastavitve. Uporablja se na ravni uglaševanja in ne na ravni posameznega usposabljanja, kar pomeni, da deluje na višji ravni abstrakcije.
Prednosti prilagajanja meril za dokončanje dela
Z boljšim nadzorom nad tem, kdaj se bo opravilo uglaševanja ustavilo, boste prihranili stroške, saj se opravilo ne izvaja dlje časa in je računsko drago. Pomeni tudi, da lahko zagotovite, da se delo ne prekine prezgodaj in da dobite model dovolj dobre kakovosti, ki izpolnjuje vaše cilje. Izberete lahko, da ustavite opravilo prilagajanja, ko se modeli po nizu iteracij ne izboljšujejo več ali ko ocenjena preostala izboljšava ne upraviči računalniških virov in časa.
Poleg obstoječega največjega števila meril za dokončanje delovnega mesta usposabljanja MaxNumberOfTrainingJobssamodejno uglaševanje modela uvaja možnost ustavitve uglaševanja na podlagi največjega časa uglaševanja, spremljanje izboljšav in zaznavanje konvergence.
Raziščimo vsako od teh meril.
Največji čas uglaševanja
Prej ste imeli možnost definirati največje število izobraževalnih opravil kot nastavitev omejitve virov za nadzor proračuna za uravnavanje v smislu računalniških virov. Vendar pa lahko to povzroči nepotrebno daljše ali krajše čase usposabljanja, kot je potrebno ali želeno.
Z dodatkom meril za najdaljši čas prilagajanja lahko zdaj dodelite svoj proračun za usposabljanje glede na količino časa za izvedbo opravila prilagajanja in samodejno prekinete opravilo po določenem času, definiranem v sekundah.
Kot je razvidno zgoraj, uporabljamo MaxRuntimeInSeconds
da določite čas uglaševanja v sekundah. Nastavitev časovne omejitve nastavitve vam pomaga omejiti trajanje opravila nastavitve in tudi predvidene stroške poskusa.
Skupni strošek pred morebitnim pogodbenim popustom je mogoče oceniti z naslednjo formulo:EstimatedComputeSeconds= MaxRuntimeInSeconds * MaxParallelTrainingJobs * InstanceCost
Največji čas delovanja v sekundah se lahko uporabi za vezavo stroškov in časa izvajanja. Z drugimi besedami, to je merilo za dokončanje proračunskega nadzora.
Ta funkcija je del meril za nadzor virov in ne upošteva konvergence modelov. Kot bomo videli kasneje v tej objavi, je ta kriterij mogoče uporabiti v kombinaciji z drugimi merili za zaustavitev, da se doseže nadzor nad stroški brez žrtvovanja natančnosti.
Želena ciljna metrika
Drugo predhodno uvedeno merilo je vnaprejšnja opredelitev ciljnega cilja. Kriteriji spremljajo uspešnost najboljšega modela na podlagi določene objektivne metrike in prenehajo prilagajati, ko modeli dosežejo definiran prag glede na določeno objektivno metriko.
Z TargetObjectiveMetricValue
lahko SageMakerju naročimo, naj preneha prilagajati model, potem ko objektivna metrika najboljšega modela doseže določeno vrednost:
V tem primeru nam je SageMaker naročeno, naj preneha prilagajati model, ko objektivna metrika najboljšega modela doseže 0.95.
Ta metoda je uporabna, če imate določen cilj, ki ga želite doseči s svojim modelom, na primer določeno raven točnosti, natančnosti, priklica, rezultat F1, AUC, log-loss itd.
Tipičen primer uporabe tega kriterija bi bil za uporabnika, ki je že seznanjen z zmogljivostjo modela pri danih pragovih. Uporabnik v fazi raziskovanja lahko najprej prilagodi model z majhno podmnožico večjega nabora podatkov, da prepozna zadovoljiv prag metrike vrednotenja, ki ga je treba doseči pri usposabljanju s celotnim naborom podatkov.
Spremljanje izboljšav
Ta kriterij spremlja konvergenco modelov po vsaki ponovitvi in ustavi uglaševanje, če se modeli po določenem številu izobraževalnih del ne izboljšajo. Oglejte si naslednjo konfiguracijo:
V tem primeru nastavimo MaxNumberOfTrainingJobsNotImproving
na 10, kar pomeni, da se bo uglaševanje ustavilo, če se objektivna metrika neha izboljševati po 10 učnih opravilih in poročata o najboljšem modelu in metriki.
Spremljanje izboljšav je treba uporabiti za prilagajanje kompromisa med kakovostjo modela in celotnim trajanjem delovnega toka na način, ki ga je verjetno mogoče prenašati med različnimi problemi optimizacije.
Odkrivanje konvergence
Zaznavanje konvergence je merilo za dokončanje, ki omogoča samodejnemu prilagajanju modela, da se odloči, kdaj ustaviti prilagajanje. Na splošno samodejno prilagajanje modela preneha prilagajati, ko oceni, da ni mogoče doseči bistvenega izboljšanja. Oglejte si naslednjo konfiguracijo:
Merilo je najprimernejše, če sprva ne veste, katere nastavitve zaustavitve izbrati.
Uporabno je tudi, če ne veste, katera metrika ciljnega cilja je razumna za dobro napoved glede na težavo in nabor podatkov, ki ga imate, in bi raje dokončali uravnavanje, ko se ne izboljšuje več.
Poskusite s primerjavo meril za dokončanje
V tem poskusu, glede na nalogo regresije, izvajamo 3 poskuse prilagajanja, da bi našli optimalen model v iskalnem prostoru dveh hiperparametrov, ki imata skupaj 2 konfiguracij hiperparametrov z uporabo nabor podatkov za neposredno trženje.
Ob vseh ostalih enakih pogojih je bil prvi model prilagojen z BestObjectiveNotImproving
merila za dokončanje, je bil drugi model prilagojen z CompleteOnConvergence
in tretji model je bil prilagojen brez opredeljenih meril za dokončanje.
Pri opisu posameznega opravila lahko opazimo, da nastavitev BestObjectiveNotImproving
kriteriji so privedli do najbolj optimalnega vira in časa glede na objektivno metriko z bistveno manj izvedenimi opravili.
O CompleteOnConvergence
merila je prav tako lahko ustavilo prilagajanje na polovici poskusa, kar je povzročilo manj izobraževalnih del in krajši čas usposabljanja v primerjavi z nenastavitvijo merila.
Medtem ko ni nastavitev meril za dokončanje povzročilo drag poskus, opredelitev MaxRuntimeInSeconds
kot del omejitve virov bi bil eden od načinov za zmanjšanje stroškov.
Zgornji rezultati kažejo, da lahko Amazon SageMaker pri definiranju meril dokončanja inteligentno ustavi postopek uglaševanja, ko zazna, da je manj verjetno, da se bo model izboljšal nad trenutnim rezultatom.
Upoštevajte, da se merila dokončanja, podprta v samodejnem prilagajanju modela SageMaker, med seboj ne izključujejo in jih je mogoče uporabiti sočasno pri prilagajanju modela.
Če je definiran več kot en kriterij dokončanja, se opravilo prilagajanja zaključi, ko je izpolnjen kateri koli kriterij.
Na primer, kombinacija kriterijev omejitve virov, kot je najdaljši čas prilagajanja, s konvergenčnimi kriteriji, kot je spremljanje izboljšav ali zaznavanje konvergence, lahko ustvari optimalen nadzor stroškov in optimalno objektivno metriko.
zaključek
V tem prispevku smo razpravljali o tem, kako lahko zdaj inteligentno ustavite svoje naravnavanje tako, da izberete nabor meril za dokončanje, ki so bili na novo predstavljeni v SageMakerju, kot je najdaljši čas naravnavanja, spremljanje izboljšav ali zaznavanje konvergence.
Z eksperimentom smo dokazali, da lahko inteligentno ustavljanje, ki temelji na opazovanju izboljšav med iteracijo, vodi do znatno optimiziranega proračuna in upravljanja časa v primerjavi z nedefiniranjem meril za dokončanje.
Pokazali smo tudi, da se ta merila medsebojno ne izključujejo in da jih je mogoče sočasno uporabiti pri prilagajanju modela, da izkoristimo oboje, nadzor proračuna in optimalno konvergenco.
Za več podrobnosti o tem, kako konfigurirati in zagnati samodejno prilagajanje modela, glejte Določite nastavitve opravila za prilagajanje hiperparametrov.
O avtorjih
Doug Mbaya je višji partnerski arhitekt rešitve s poudarkom na podatkih in analitiki. Doug tesno sodeluje s partnerji AWS in jim pomaga pri integraciji podatkovnih in analitičnih rešitev v oblaku.
Chaitra Mathur je glavni arhitekt rešitev pri AWS. Stranke in partnerje usmerja pri gradnji zelo razširljivih, zanesljivih, varnih in stroškovno učinkovitih rešitev na AWS. Navdušena je nad strojnim učenjem in strankam pomaga prevesti njihove potrebe ML v rešitve z uporabo storitev AWS AI/ML. Ima 5 certifikatov, vključno s certifikatom ML Specialty. V prostem času uživa v branju, jogi in preživljanju časa s svojima hčerkama.
Jaroslav Ščerbatij je inženir strojnega učenja pri AWS. Dela predvsem na izboljšavah platforme Amazon SageMaker in pomaga strankam pri najboljši uporabi njenih funkcij. V prostem času rad hodi v telovadnico, se ukvarja s športi na prostem, kot je drsanje ali pohodništvo, in se ukvarja z novimi raziskavami umetne inteligence.
- Distribucija vsebine in PR s pomočjo SEO. Okrepite se še danes.
- Platoblockchain. Web3 Metaverse Intelligence. Razširjeno znanje. Dostopite tukaj.
- vir: https://aws.amazon.com/blogs/machine-learning/amazon-sagemaker-automatic-model-tuning-now-supports-three-new-completion-criteria-for-hyperparameter-optimization/
- 10
- 100
- 11
- 7
- 9
- a
- Sposobna
- O meni
- nad
- Račun
- natančnost
- Doseči
- doseže
- čez
- Poleg tega
- Dodatne
- Prednost
- po
- AI
- ai raziskave
- AI / ML
- algoritem
- vsi
- že
- Amazon
- Amazon SageMaker
- znesek
- analitika
- in
- uporabna
- Samodejno
- samodejno
- AWS
- temeljijo
- pred
- počutje
- koristi
- Prednosti
- BEST
- Boljše
- med
- Poleg
- Bound
- prinašajo
- proračun
- Building
- se imenuje
- primeru
- wrestling
- nekatere
- certificiranje
- certifikati
- izzivi
- Izberite
- izbran
- tesno
- Cloud
- kombinacija
- v primerjavi z letom
- Primerjava
- dokončanje
- Končana
- Zaključi
- dokončanje
- Izračunajte
- konfiguracija
- nadzor
- Konvergenca
- strošek
- prihranki pri stroških
- stroškovno učinkovito
- stroški
- bi
- Merila
- Trenutna
- Stranke, ki so
- datum
- opredeljen
- definiranje
- Dokazano
- želeno
- Podrobnosti
- Odkrivanje
- drugačen
- Popust
- razpravlja
- razpravljali
- Ne
- dont
- vsak
- Zgodnje
- omogočena
- inženir
- zagotovitev
- ocenjeni
- ocene
- Ocena
- vse
- Primer
- Ekskluzivno
- obstoječih
- drago
- poskus
- raziskovanje
- raziskuje
- seznanjeni
- Feature
- Lastnosti
- Najdi
- iskanje
- najdbe
- prva
- Osredotočite
- po
- Formula
- polno
- splošno
- dobili
- dana
- Giving
- Go
- Cilj
- dobro
- Vodniki
- telovadnica
- ob
- pomoč
- Pomaga
- več
- zelo
- drži
- Kako
- Kako
- Vendar
- HTML
- HTTPS
- Optimizacija hiperparametra
- Uglaševanje hiperparametrov
- ICE
- identificirati
- izboljšanje
- Izboljšanje
- Izboljšave
- izboljšanju
- in
- V drugi
- Vključno
- Poveča
- individualna
- na začetku
- integrirati
- Inteligentna
- Uvedeno
- Predstavlja
- IT
- ponovitev
- ponovitve
- Job
- Delovna mesta
- Vedite
- znano
- večja
- plast
- vodi
- učenje
- Led
- Lets
- Stopnja
- Verjeten
- LIMIT
- Limited
- več
- stroj
- strojno učenje
- upravljanje
- več
- Trženje
- max
- Povečajte
- največja
- pomeni
- ustreza
- Metoda
- meritev
- Meritve
- minimiziranje
- ML
- Model
- modeli
- spremljanje
- monitorji
- več
- Najbolj
- več
- vzajemno
- potrebe
- Novo
- Številka
- Cilj
- Cilji
- opazujejo
- ONE
- deluje
- optimalna
- optimizacija
- optimizirana
- Možnost
- Ostalo
- Splošni
- parameter
- del
- partner
- partnerji
- strastno
- performance
- obdobja
- faza
- platforma
- platon
- Platonova podatkovna inteligenca
- PlatoData
- Prispevek
- Precision
- napoved
- prej
- , ravnateljica
- problem
- Težave
- Postopek
- proizvodnjo
- napovedane
- če
- zagotavljanje
- kakovost
- dosežejo
- dosegel
- reading
- razumno
- Razmerje
- zanesljiv
- Prijavljeno
- Raziskave
- vir
- viri
- povzroči
- rezultat
- Rezultati
- Run
- žrtvovanje
- sagemaker
- Samodejno prilagajanje modela SageMaker
- Prihranki
- razširljive
- Iskalnik
- drugi
- sekund
- zavarovanje
- izbiranje
- izbor
- višji
- Storitve
- nastavite
- nastavitev
- nastavitve
- shouldnt
- Prikaži
- pomemben
- bistveno
- majhna
- manj
- So
- Rešitev
- rešitve
- Rešuje
- nekaj
- Vesolje
- Posebnost
- specifična
- določeno
- Poraba
- vrtljaji
- Šport
- stop
- ustavil
- ustavljanje
- Postanki
- taka
- podpora
- Podprti
- Podpira
- Bodite
- ciljna
- Naloga
- Pogoji
- O
- njihove
- tretja
- 3
- Prag
- skozi
- čas
- krat
- do
- tudi
- Skupaj za plačilo
- usposabljanje
- prevesti
- tipičen
- uporaba
- primeru uporabe
- uporabnik
- potrjevanje
- vrednost
- različica
- načini
- Kaj
- ki
- WHO
- bo
- v
- brez
- besede
- deluje
- bi
- donos
- Joga
- Vi
- Vaša rutina za
- zefirnet