Amazon SageMaker több mint bejelentés az Amazon SageMaker három új befejezési kritériumának támogatása automatikus modelltuning, amely további karkészletet biztosít a hangolási feladat leállítási feltételeinek szabályozásához, amikor megtalálja a modellhez legjobban illeszkedő hiperparaméter-konfigurációt.
Ebben a bejegyzésben megvitatjuk ezeket az új teljesítési feltételeket, mikor érdemes használni őket, és az általuk nyújtott előnyöket.
SageMaker automatikus modelltuning
Automatikus modelltuning, más néven hiperparaméter hangolás, megtalálja a modell legjobb verzióját az általunk választott mérőszám alapján. A kiválasztott algoritmus és a megadott hiperparaméter-tartományok felhasználásával számos képzési feladatot felpörget a megadott adatkészleten. Minden képzési feladat korán befejezhető, amikor az objektív mérőszám nem javul jelentősen, ezt korai leállításnak nevezzük.
Eddig korlátozott módok voltak a teljes hangolási feladat szabályozására, például a képzési feladatok maximális számának megadására. Ennek a paraméterértéknek a kiválasztása azonban a legjobb esetben is heurisztikus. A nagyobb érték növeli a tuningköltségeket, kisebb érték pedig nem biztos, hogy mindig a modell legjobb változatát adja.
A SageMaker automatikus modellhangolása megoldja ezeket a kihívásokat azáltal, hogy többféle teljesítési feltételt biztosít a hangolási munkához. A hangolási szinten alkalmazzák, nem pedig az egyes képzési feladatok szintjén, ami azt jelenti, hogy magasabb absztrakciós rétegben működik.
A munkavégzési kritériumok hangolásának előnyei
A hangolási munka leállításának pontosabb ellenőrzésével költségmegtakarítást érhet el, mivel a feladat nem fut hosszabb ideig, és számításilag költséges. Ez azt is jelenti, hogy biztosíthatja, hogy a munka ne álljon le túl korán, és egy kellően jó minőségű modellt kapjon, amely megfelel a céljainak. Dönthet úgy, hogy leállítja a hangolási feladatot, ha a modellek már nem javulnak az iterációk sorozata után, vagy ha a becsült maradék javulás nem indokolja a számítási erőforrásokat és időt.
A meglévő maximális számú képzési munkakör teljesítési feltételein felül MaxNumberOfTrainingJobs, az automatikus modellhangolás lehetőséget ad a hangolás leállítására a maximális hangolási idő alapján, a fejlesztések figyelésére és a konvergenciaészlelésre.
Vizsgáljuk meg ezeket a kritériumokat.
Maximális hangolási idő
Korábban lehetősége volt megadni a képzési feladatok maximális számát erőforrás-korlátozási beállításként a hangolási költségvetés számítási erőforrások tekintetében történő szabályozásához. Ez azonban szükségtelenül hosszabb vagy rövidebb edzésidőhöz vezethet a szükségesnél vagy kívánatosnál.
A maximális hangolási idő kritériumának hozzáadásával immár hozzárendelheti a képzési költségkeretét a hangolási feladat futtatásához szükséges idő szerint, és automatikusan leállíthatja a feladatot egy meghatározott, másodpercben meghatározott idő elteltével.
Mint fentebb látható, használjuk a MaxRuntimeInSeconds
a hangolási idő másodpercben történő megadásához. A hangolási időkorlát beállítása segít korlátozni a hangolási feladat időtartamát és a kísérlet tervezett költségét.
A szerződéses engedmény előtti teljes költség a következő képlettel becsülhető meg:EstimatedComputeSeconds= MaxRuntimeInSeconds * MaxParallelTrainingJobs * InstanceCost
A másodpercben megadott maximális futási idő felhasználható a költségek és a futási idő lekötésére. Más szóval, ez egy költségvetési ellenőrzés teljesítési kritériuma.
Ez a szolgáltatás egy erőforrás-szabályozási kritérium része, és nem veszi figyelembe a modellek konvergenciáját. Amint azt a bejegyzés későbbi részében látjuk, ez a kritérium más leállítási kritériumokkal együtt használható a költségkontroll eléréséhez a pontosság feláldozása nélkül.
A kívánt célmutató
Egy másik korábban bevezetett kritérium a célobjektív cél előzetes meghatározása. A kritériumok nyomon követik a legjobb modell teljesítményét egy adott célmutató alapján, és leállítják a hangolást, amikor a modellek elérik a meghatározott küszöbértéket egy meghatározott célmutatóhoz képest.
Aktivitáskövető TargetObjectiveMetricValue
kritériumok alapján utasíthatjuk a SageMaker-t, hogy hagyja abba a modell hangolását, miután a legjobb modell objektív mutatója elérte a megadott értéket:
Ebben a példában azt az utasítást kapjuk a SageMaker-nek, hogy hagyja abba a modell hangolását, ha a legjobb modell objektív mutatója eléri a 0.95-öt.
Ez a módszer akkor hasznos, ha van egy konkrét cél, amelyet el szeretne érni a modellel, például egy bizonyos szintű pontosság, precizitás, visszahívás, F1-pontszám, AUC, log-loss stb.
Ennek a feltételnek egy tipikus felhasználási esete az a felhasználó, aki már ismeri a modell teljesítményét adott küszöbértékeken. A feltárási fázisban lévő felhasználó először egy nagyobb adatkészlet egy kis részhalmazával hangolhatja a modellt, hogy megfelelő kiértékelési metrikaküszöböt határozzon meg, amelyet a teljes adatkészlettel való betanításkor meg kell célozni.
Javulás nyomon követése
Ez a kritérium minden iteráció után figyeli a modellek konvergenciáját, és leállítja a hangolást, ha a modellek meghatározott számú betanítási feladat után nem javulnak. Lásd a következő konfigurációt:
Ebben az esetben beállítjuk a MaxNumberOfTrainingJobsNotImproving
10-re, ami azt jelenti, hogy ha az objektív mérőszám nem javul 10 betanítási feladat után, a hangolás leáll, és a legjobb modell és mérőszám jelenik meg.
Javítási figyelést kell használni a modell minősége és a teljes munkafolyamat időtartama közötti kompromisszum beállítására oly módon, hogy az valószínűleg átvihető a különböző optimalizálási problémák között.
Konvergencia észlelése
A konvergenciaészlelés egy olyan befejezési feltétel, amely lehetővé teszi az automatikus modellhangolás számára, hogy eldöntse, mikor kell leállítani a hangolást. Általában az automatikus modellhangolás leállítja a hangolást, ha úgy becsüli, hogy nem érhető el jelentős javulás. Lásd a következő konfigurációt:
A kritériumok akkor a legalkalmasabbak, ha kezdetben nem tudja, milyen leállítási beállításokat válasszon.
Akkor is hasznos, ha nem tudja, milyen célobjektum-metrika ésszerű a jó előrejelzéshez, figyelembe véve a problémát és a kézben lévő adatkészletet, és szívesebben szeretné befejezni a hangolási munkát, amikor már nem javul.
Kísérletezzen a teljesítési feltételek összehasonlításával
Ebben a kísérletben, adott egy regressziós feladatot, 3 hangolási kísérletet futtatunk, hogy megtaláljuk az optimális modellt 2 hiperparaméteres keresési téren belül, összesen 200 hiperparaméter konfigurációval. direkt marketing adatkészlet.
Mivel minden más egyenlő volt, az első modellt a BestObjectiveNotImproving
teljesítési kritériumok szerint a második modellt a CompleteOnConvergence
a harmadik modellt pedig befejezési kritériumok nélkül hangolták.
Az egyes munkák leírásánál megfigyelhetjük, hogy a beállítás a BestObjectiveNotImproving
kritérium a legoptimálisabb erőforráshoz és időhöz vezetett az objektív mérőszámhoz képest, lényegesen kevesebb munkával.
A CompleteOnConvergence
A kritériumok a kísérlet felénél is le tudtak állítani a hangolást, ami kevesebb képzési munkát és rövidebb képzési időt eredményezett ahhoz képest, hogy nem határoztak meg kritériumokat.
A teljesítési kritériumok meg nem határozása ugyan költséges kísérletet eredményezett, de a MaxRuntimeInSeconds
az erőforráskorlát részeként a költségek minimalizálásának egyik módja lenne.
A fenti eredmények azt mutatják, hogy a teljesítési kritériumok meghatározásakor az Amazon SageMaker képes intelligensen leállítani a hangolási folyamatot, ha azt észleli, hogy a modell kevésbé valószínű, hogy a jelenlegi eredményt meghaladóan javul.
Vegye figyelembe, hogy a SageMaker automatikus modellhangolásában támogatott befejezési feltételek nem zárják ki egymást, és egyidejűleg is használhatók egy modell hangolásakor.
Ha egynél több befejezési feltétel van meghatározva, a hangolási feladat akkor fejeződik be, ha bármelyik feltétel teljesül.
Például egy erőforrás-korlátozási kritérium, például a maximális hangolási idő és egy konvergenciakritérium kombinációja, mint például a javulás figyelése vagy a konvergencia-észlelés, optimális költségszabályozást és optimális objektív mérőszámot eredményezhet.
Következtetés
Ebben a bejegyzésben megvitattuk, hogyan állíthatja le intelligens módon a hangolási munkát a SageMakerben újonnan bevezetett befejezési feltételek kiválasztásával, mint például a maximális hangolási idő, a fejlesztések figyelése vagy a konvergencia-észlelés.
Egy kísérlettel bizonyítottuk, hogy az iteráción átívelő javulás megfigyelésen alapuló intelligens leállítás jelentősen optimalizált költségvetést és időgazdálkodást eredményezhet ahhoz képest, hogy nem határoznánk meg a teljesítési kritériumokat.
Megmutattuk azt is, hogy ezek a kritériumok nem zárják ki egymást, és egyidejűleg is használhatók a modell hangolásakor, hogy kihasználjuk a költségvetés szabályozását és az optimális konvergenciát.
Az automatikus modellhangolás konfigurálásával és futtatásával kapcsolatos további részletekért lásd: Adja meg a Hiperparaméter hangolási feladat beállításait.
A szerzőkről
Doug Mbaya Senior Partner Solution építész, aki az adatokra és az elemzésekre összpontosít. A Doug szorosan együttműködik az AWS-partnerekkel, segítve őket az adatok és az elemzési megoldások felhőbe való integrálásában.
Chaitra Mathur az AWS vezető megoldási építésze. Útmutatást ad az ügyfeleknek és partnereknek a rendkívül méretezhető, megbízható, biztonságos és költséghatékony megoldások kidolgozásában az AWS-en. Szenvedélyesen rajong a gépi tanulásért, és segít ügyfeleinek, hogy ML-igényeiket AWS AI/ML-szolgáltatásokat használó megoldásokká alakítsák át. 5 minősítéssel rendelkezik, köztük az ML Specialty minősítéssel. Szabadidejében szívesen olvas, jógázik, és a lányaival tölti az idejét.
Scserbatyi Jaroszlav az AWS gépi tanulási mérnöke. Főleg az Amazon SageMaker platform fejlesztésén dolgozik, és segíti az ügyfeleket annak funkcióinak legjobb használatában. Szabadidejében szeret edzőterembe járni, szabadtéri sportokat, például korcsolyázást vagy túrázást végezni, és szeretne utolérni az új AI-kutatásokat.
- SEO által támogatott tartalom és PR terjesztés. Erősödjön még ma.
- Platoblockchain. Web3 metaverzum intelligencia. Felerősített tudás. Hozzáférés itt.
- Forrás: https://aws.amazon.com/blogs/machine-learning/amazon-sagemaker-automatic-model-tuning-now-supports-three-new-completion-criteria-for-hyperparameter-optimization/
- 10
- 100
- 11
- 7
- 9
- a
- Képes
- Rólunk
- felett
- Fiók
- pontosság
- Elérése
- elért
- át
- mellett
- További
- Előny
- Után
- AI
- ai kutatás
- AI / ML
- algoritmus
- Minden termék
- már
- amazon
- Amazon SageMaker
- összeg
- analitika
- és a
- alkalmazott
- Automatikus
- automatikusan
- AWS
- alapján
- előtt
- hogy
- haszon
- Előnyök
- BEST
- Jobb
- között
- Túl
- Köteles
- hoz
- költségvetés
- Épület
- hívott
- eset
- Fogás
- bizonyos
- Tanúsítvány
- tanúsítványok
- kihívások
- A pop-art design, négy időzóna kijelzése egyszerre és méretének arányai azok az érvek, amelyek a NeXtime Time Zones-t kiváló választássá teszik. Válassza a
- választott
- szorosan
- felhő
- kombináció
- képest
- összehasonlítás
- teljes
- Befejezett
- Befejezi
- befejezés
- Kiszámít
- Configuration
- ellenőrzés
- Konvergencia
- Költség
- költségmegtakarítás
- költséghatékony
- kiadások
- tudott
- kritériumok
- Jelenlegi
- Ügyfelek
- dátum
- meghatározott
- meghatározó
- igazolták
- kívánatos
- részletek
- Érzékelés
- különböző
- Kedvezmény
- megvitatni
- tárgyalt
- Nem
- ne
- minden
- Korai
- engedélyezve
- mérnök
- biztosítására
- becsült
- becslések
- értékelés
- minden
- példa
- Kizárólagos
- létező
- drága
- kísérlet
- kutatás
- feltárása
- ismerős
- Funkció
- Jellemzők
- Találjon
- megtalálása
- leletek
- vezetéknév
- Összpontosít
- következő
- képlet
- Tele
- általában
- kap
- adott
- Giving
- Go
- cél
- jó
- Útmutatók
- tornaterem
- tekintettel
- segít
- segít
- <p></p>
- nagyon
- tart
- Hogyan
- How To
- azonban
- HTML
- HTTPS
- Hiperparaméter optimalizálás
- Hiperparaméter hangolás
- ICE
- azonosítani
- javul
- javulás
- fejlesztések
- javuló
- in
- Más
- Beleértve
- Növeli
- egyéni
- alapvetően
- integrálni
- Intelligens
- Bevezetett
- Bemutatja
- IT
- ismétlés
- iterációk
- Munka
- Állások
- Ismer
- ismert
- nagyobb
- réteg
- vezet
- tanulás
- Led
- Lets
- szint
- Valószínű
- LIMIT
- Korlátozott
- hosszabb
- gép
- gépi tanulás
- vezetés
- sok
- Marketing
- max
- Maximize
- maximális
- eszközök
- Megfelel
- módszer
- metrikus
- Metrics
- minimalizálása
- ML
- modell
- modellek
- ellenőrzés
- monitorok
- több
- a legtöbb
- többszörös
- közösen
- igények
- Új
- szám
- célkitűzés
- célok
- megfigyelni
- ONE
- működik
- optimálisan
- optimalizálás
- optimalizált
- opció
- Más
- átfogó
- paraméter
- rész
- partner
- partnerek
- szenvedélyes
- teljesítmény
- időszakok
- fázis
- emelvény
- Plató
- Platón adatintelligencia
- PlatoData
- állás
- Pontosság
- előrejelzés
- korábban
- Fő
- Probléma
- problémák
- folyamat
- gyárt
- tervezett
- feltéve,
- amely
- világítás
- el
- elérte
- Olvasás
- ésszerű
- kapcsolat
- megbízható
- Számolt
- kutatás
- forrás
- Tudástár
- eredményez
- kapott
- Eredmények
- futás
- feláldozása
- sagemaker
- SageMaker automatikus modellhangolás
- Megtakarítás
- skálázható
- Keresés
- Második
- másodperc
- biztonság
- kiválasztása
- kiválasztás
- idősebb
- Szolgáltatások
- készlet
- beállítás
- beállítások
- kellene
- előadás
- jelentős
- jelentősen
- kicsi
- kisebb
- So
- megoldások
- Megoldások
- Megoldja
- néhány
- Hely
- Különlegesség
- különleges
- meghatározott
- Költési
- spinek
- Sport
- megáll
- megállt
- megállítás
- Leállítja
- ilyen
- támogatás
- Támogatott
- Támogatja
- Vesz
- cél
- Feladat
- feltételek
- A
- azok
- Harmadik
- három
- küszöb
- Keresztül
- idő
- alkalommal
- nak nek
- is
- Végösszeg
- Képzések
- fordít
- tipikus
- használ
- használati eset
- használó
- érvényesítés
- érték
- változat
- módon
- Mit
- ami
- WHO
- lesz
- belül
- nélkül
- szavak
- művek
- lenne
- Hozam
- Jóga
- te
- A te
- zephyrnet