Amazon Sage Maker έχει ανακοίνωσε την υποστήριξη τριών νέων κριτηρίων ολοκλήρωσης για το Amazon SageMaker αυτόματος συντονισμός μοντέλου, παρέχοντάς σας ένα πρόσθετο σύνολο μοχλών για τον έλεγχο των κριτηρίων διακοπής της εργασίας συντονισμού όταν βρίσκετε την καλύτερη διαμόρφωση υπερπαραμέτρων για το μοντέλο σας.
Σε αυτήν την ανάρτηση, συζητάμε αυτά τα νέα κριτήρια ολοκλήρωσης, πότε να τα χρησιμοποιήσουμε και μερικά από τα οφέλη που προσφέρουν.
Αυτόματος συντονισμός μοντέλου SageMaker
Αυτόματος συντονισμός μοντέλου, που ονομάζεται επίσης συντονισμός υπερπαραμέτρων, βρίσκει την καλύτερη έκδοση ενός μοντέλου όπως μετράται με τη μέτρηση που επιλέγουμε. Περιστρέφει πολλές εργασίες εκπαίδευσης στο παρεχόμενο σύνολο δεδομένων, χρησιμοποιώντας τον επιλεγμένο αλγόριθμο και τις καθορισμένες περιοχές υπερπαραμέτρων. Κάθε εργασία εκπαίδευσης μπορεί να ολοκληρωθεί νωρίς όταν η αντικειμενική μέτρηση δεν βελτιώνεται σημαντικά, η οποία είναι γνωστή ως πρόωρη διακοπή.
Μέχρι τώρα, υπήρχαν περιορισμένοι τρόποι ελέγχου της συνολικής εργασίας συντονισμού, όπως ο καθορισμός του μέγιστου αριθμού εργασιών εκπαίδευσης. Ωστόσο, η επιλογή αυτής της τιμής παραμέτρου είναι στην καλύτερη περίπτωση ευρετική. Μια μεγαλύτερη τιμή αυξάνει το κόστος συντονισμού και μια μικρότερη τιμή μπορεί να μην αποφέρει την καλύτερη έκδοση του μοντέλου ανά πάσα στιγμή.
Ο αυτόματος συντονισμός μοντέλου SageMaker επιλύει αυτές τις προκλήσεις παρέχοντάς σας πολλαπλά κριτήρια ολοκλήρωσης για την εργασία συντονισμού. Εφαρμόζεται σε επίπεδο συντονισμού και όχι σε κάθε μεμονωμένο επίπεδο εργασίας εκπαίδευσης, πράγμα που σημαίνει ότι λειτουργεί σε υψηλότερο επίπεδο αφαίρεσης.
Οφέλη από τα κριτήρια ολοκλήρωσης εργασίας συντονισμού
Με καλύτερο έλεγχο του πότε θα σταματήσει η εργασία συντονισμού, απολαμβάνετε το πλεονέκτημα της εξοικονόμησης κόστους, καθώς η εργασία δεν εκτελείται για μεγάλα χρονικά διαστήματα και είναι υπολογιστικά ακριβή. Σημαίνει επίσης ότι μπορείτε να διασφαλίσετε ότι η δουλειά δεν θα σταματήσει πολύ νωρίς και ότι θα αποκτήσετε ένα μοντέλο αρκετά καλής ποιότητας που ανταποκρίνεται στους στόχους σας. Μπορείτε να επιλέξετε να σταματήσετε την εργασία συντονισμού όταν τα μοντέλα δεν βελτιώνονται πλέον μετά από ένα σύνολο επαναλήψεων ή όταν η εκτιμώμενη υπολειπόμενη βελτίωση δεν δικαιολογεί τους υπολογιστικούς πόρους και τον χρόνο.
Εκτός από τον υφιστάμενο μέγιστο αριθμό κριτηρίων ολοκλήρωσης εργασίας κατάρτισης MaxNumberOfTrainingJobs, ο αυτόματος συντονισμός μοντέλου εισάγει την επιλογή διακοπής του συντονισμού βάσει ενός μέγιστου χρόνου συντονισμού, παρακολούθησης βελτίωσης και ανίχνευσης σύγκλισης.
Ας εξερευνήσουμε καθένα από αυτά τα κριτήρια.
Μέγιστος χρόνος συντονισμού
Προηγουμένως, είχατε την επιλογή να ορίσετε έναν μέγιστο αριθμό εργασιών εκπαίδευσης ως ρύθμιση ορίου πόρων για τον έλεγχο του προϋπολογισμού συντονισμού όσον αφορά τον υπολογιστικό πόρο. Ωστόσο, αυτό μπορεί να οδηγήσει σε περιττούς μεγαλύτερους ή μικρότερους χρόνους εκπαίδευσης από ό,τι χρειάζεται ή επιθυμείτε.
Με την προσθήκη των κριτηρίων μέγιστου χρόνου συντονισμού, μπορείτε τώρα να διαθέσετε τον προϋπολογισμό της εκπαίδευσης ως προς το χρόνο εκτέλεσης της εργασίας συντονισμού και να τερματίσετε αυτόματα την εργασία μετά από ένα καθορισμένο χρονικό διάστημα που ορίζεται σε δευτερόλεπτα.
Όπως φαίνεται παραπάνω, χρησιμοποιούμε το MaxRuntimeInSeconds
για να ορίσετε το χρόνο συντονισμού σε δευτερόλεπτα. Η ρύθμιση του χρονικού ορίου συντονισμού σάς βοηθά να περιορίσετε τη διάρκεια της εργασίας συντονισμού και επίσης το προβλεπόμενο κόστος του πειράματος.
Το συνολικό κόστος πριν από οποιαδήποτε συμβατική έκπτωση μπορεί να εκτιμηθεί με τον ακόλουθο τύπο:EstimatedComputeSeconds= MaxRuntimeInSeconds * MaxParallelTrainingJobs * InstanceCost
Ο μέγιστος χρόνος εκτέλεσης σε δευτερόλεπτα θα μπορούσε να χρησιμοποιηθεί για τη δέσμευση κόστους και χρόνου εκτέλεσης. Με άλλα λόγια, είναι ένα κριτήριο ολοκλήρωσης ελέγχου προϋπολογισμού.
Αυτή η δυνατότητα αποτελεί μέρος ενός κριτηρίου ελέγχου πόρων και δεν λαμβάνει υπόψη τη σύγκλιση των μοντέλων. Όπως βλέπουμε αργότερα σε αυτήν την ανάρτηση, αυτό το κριτήριο μπορεί να χρησιμοποιηθεί σε συνδυασμό με άλλα κριτήρια διακοπής για να επιτευχθεί έλεγχος κόστους χωρίς να θυσιάζεται η ακρίβεια.
Επιθυμητή μέτρηση στόχου
Ένα άλλο κριτήριο που εισήχθη προηγουμένως είναι ο εκ των προτέρων καθορισμός του στόχου στόχου. Τα κριτήρια παρακολουθούν την απόδοση του καλύτερου μοντέλου με βάση μια συγκεκριμένη αντικειμενική μέτρηση και σταματά τον συντονισμό όταν τα μοντέλα φτάσουν στο καθορισμένο όριο σε σχέση με μια καθορισμένη αντικειμενική μέτρηση.
Με την TargetObjectiveMetricValue
κριτήρια, μπορούμε να δώσουμε εντολή στο SageMaker να σταματήσει να συντονίζει το μοντέλο αφού η αντικειμενική μέτρηση του καλύτερου μοντέλου φτάσει την καθορισμένη τιμή:
Σε αυτό το παράδειγμα, μας δίνεται η εντολή στο SageMaker να σταματήσει να συντονίζει το μοντέλο όταν η αντικειμενική μέτρηση του καλύτερου μοντέλου φτάσει το 0.95.
Αυτή η μέθοδος είναι χρήσιμη όταν έχετε έναν συγκεκριμένο στόχο που θέλετε να φτάσει το μοντέλο σας, όπως ένα συγκεκριμένο επίπεδο ακρίβειας, ακρίβειας, ανάκλησης, βαθμολογίας F1, AUC, απώλειας καταγραφής και ούτω καθεξής.
Μια τυπική περίπτωση χρήσης για αυτά τα κριτήρια θα ήταν για έναν χρήστη που είναι ήδη εξοικειωμένος με την απόδοση του μοντέλου σε δεδομένα όρια. Ένας χρήστης στη φάση εξερεύνησης μπορεί πρώτα να συντονίσει το μοντέλο με ένα μικρό υποσύνολο ενός μεγαλύτερου συνόλου δεδομένων για να προσδιορίσει ένα ικανοποιητικό όριο μετρικής αξιολόγησης που θα στοχεύσει κατά την εκπαίδευση με το πλήρες σύνολο δεδομένων.
Παρακολούθηση βελτίωσης
Αυτό το κριτήριο παρακολουθεί τη σύγκλιση των μοντέλων μετά από κάθε επανάληψη και σταματά τον συντονισμό εάν τα μοντέλα δεν βελτιωθούν μετά από έναν καθορισμένο αριθμό εργασιών εκπαίδευσης. Δείτε την παρακάτω διαμόρφωση:
Σε αυτή την περίπτωση ορίζουμε το MaxNumberOfTrainingJobsNotImproving
σε 10, που σημαίνει ότι εάν η αντικειμενική μέτρηση σταματήσει να βελτιώνεται μετά από 10 εργασίες εκπαίδευσης, ο συντονισμός θα σταματήσει και θα αναφερθεί το καλύτερο μοντέλο και μέτρηση.
Η παρακολούθηση βελτίωσης θα πρέπει να χρησιμοποιείται για τον συντονισμό μιας αντιστάθμισης μεταξύ της ποιότητας του μοντέλου και της συνολικής διάρκειας ροής εργασίας με τρόπο που είναι πιθανό να μεταφερθεί μεταξύ διαφορετικών προβλημάτων βελτιστοποίησης.
Ανίχνευση σύγκλισης
Η ανίχνευση σύγκλισης είναι ένα κριτήριο ολοκλήρωσης που επιτρέπει στον αυτόματο συντονισμό μοντέλου να αποφασίσει πότε θα σταματήσει ο συντονισμός. Γενικά, ο αυτόματος συντονισμός μοντέλου θα σταματήσει τον συντονισμό όταν εκτιμήσει ότι δεν μπορεί να επιτευχθεί σημαντική βελτίωση. Δείτε την παρακάτω διαμόρφωση:
Τα κριτήρια ταιριάζουν καλύτερα όταν αρχικά δεν γνωρίζετε ποιες ρυθμίσεις διακοπής να επιλέξετε.
Είναι επίσης χρήσιμο εάν δεν γνωρίζετε ποια μέτρηση στόχου είναι λογική για μια καλή πρόβλεψη δεδομένου του προβλήματος και του συνόλου δεδομένων και προτιμάτε να ολοκληρώσετε την εργασία συντονισμού όταν δεν βελτιώνεται πλέον.
Πειραματιστείτε με σύγκριση κριτηρίων ολοκλήρωσης
Σε αυτό το πείραμα, με δεδομένη μια εργασία παλινδρόμησης, εκτελούμε 3 πειράματα συντονισμού για να βρούμε το βέλτιστο μοντέλο μέσα σε ένα χώρο αναζήτησης 2 υπερπαραμέτρων με 200 διαμορφώσεις υπερπαραμέτρων συνολικά χρησιμοποιώντας το σύνολο δεδομένων άμεσου μάρκετινγκ.
Με όλα τα άλλα να είναι ίσα, το πρώτο μοντέλο συντονίστηκε με το BestObjectiveNotImproving
κριτήρια ολοκλήρωσης, το δεύτερο μοντέλο συντονίστηκε με το CompleteOnConvergence
και το τρίτο μοντέλο ρυθμίστηκε χωρίς καθορισμένα κριτήρια ολοκλήρωσης.
Όταν περιγράφουμε κάθε εργασία, μπορούμε να παρατηρήσουμε ότι η ρύθμιση του BestObjectiveNotImproving
Τα κριτήρια οδήγησαν στον βέλτιστο πόρο και χρόνο σε σχέση με την αντικειμενική μέτρηση με σημαντικά λιγότερες θέσεις εργασίας.
Η CompleteOnConvergence
Τα κριτήρια μπόρεσαν επίσης να σταματήσουν τον συντονισμό στα μισά του πειράματος, με αποτέλεσμα λιγότερες εργασίες εκπαίδευσης και μικρότερο χρόνο εκπαίδευσης σε σύγκριση με τη μη θέσπιση κριτηρίων.
Αν και ο καθορισμός κριτηρίων ολοκλήρωσης οδήγησε σε ένα δαπανηρό πείραμα, το οποίο ορίζει το MaxRuntimeInSeconds
ως μέρος του ορίου πόρων θα ήταν ένας τρόπος ελαχιστοποίησης του κόστους.
Τα παραπάνω αποτελέσματα δείχνουν ότι κατά τον καθορισμό ενός κριτηρίου ολοκλήρωσης, το Amazon SageMaker είναι σε θέση να σταματήσει έξυπνα τη διαδικασία συντονισμού όταν ανιχνεύσει ότι το μοντέλο είναι λιγότερο πιθανό να βελτιωθεί πέρα από το τρέχον αποτέλεσμα.
Λάβετε υπόψη ότι τα κριτήρια ολοκλήρωσης που υποστηρίζονται στον αυτόματο συντονισμό μοντέλου SageMaker δεν αλληλοαποκλείονται και μπορούν να χρησιμοποιηθούν ταυτόχρονα κατά τον συντονισμό ενός μοντέλου.
Όταν ορίζονται περισσότερα από ένα κριτήρια ολοκλήρωσης, η εργασία συντονισμού ολοκληρώνεται όταν πληρούται κάποιο από τα κριτήρια.
Για παράδειγμα, ένας συνδυασμός κριτηρίων ορίου πόρων, όπως ο μέγιστος χρόνος συντονισμού με κριτήρια σύγκλισης, όπως η παρακολούθηση βελτίωσης ή η ανίχνευση σύγκλισης, μπορεί να παράγει έναν βέλτιστο έλεγχο κόστους και μια βέλτιστη αντικειμενική μέτρηση.
Συμπέρασμα
Σε αυτήν την ανάρτηση, συζητήσαμε πώς μπορείτε τώρα να σταματήσετε έξυπνα την εργασία συντονισμού επιλέγοντας ένα σύνολο κριτηρίων ολοκλήρωσης που εισήχθησαν πρόσφατα στο SageMaker, όπως ο μέγιστος χρόνος συντονισμού, η παρακολούθηση βελτίωσης ή η ανίχνευση σύγκλισης.
Δείξαμε με ένα πείραμα ότι η έξυπνη διακοπή που βασίζεται στην παρατήρηση βελτίωσης σε όλη την επανάληψη μπορεί να οδηγήσει σε σημαντικά βελτιστοποιημένη διαχείριση προϋπολογισμού και χρόνου σε σύγκριση με τον μη καθορισμό κριτηρίων ολοκλήρωσης.
Επίσης, δείξαμε ότι αυτά τα κριτήρια δεν αλληλοαποκλείονται και μπορούν να χρησιμοποιηθούν ταυτόχρονα κατά τη ρύθμιση ενός μοντέλου, για να επωφεληθούν και από τον έλεγχο του προϋπολογισμού και τη βέλτιστη σύγκλιση.
Για περισσότερες λεπτομέρειες σχετικά με τον τρόπο διαμόρφωσης και εκτέλεσης του αυτόματου συντονισμού μοντέλου, ανατρέξτε στο Καθορίστε τις Ρυθμίσεις εργασίας συντονισμού υπερπαραμέτρων.
Σχετικά με τους Συγγραφείς
Νταγκ Μπάγια είναι αρχιτέκτονας Senior Partner Solution με έμφαση στα δεδομένα και την ανάλυση. Ο Doug συνεργάζεται στενά με τους συνεργάτες της AWS, βοηθώντας τους να ενσωματώσουν λύσεις δεδομένων και αναλυτικών στοιχείων στο cloud.
Chaitra Mathur είναι κύριος αρχιτέκτονας λύσεων στην AWS. Καθοδηγεί πελάτες και συνεργάτες στη δημιουργία λύσεων υψηλής κλιμάκωσης, αξιόπιστης, ασφαλούς και οικονομικής απόδοσης στο AWS. Είναι παθιασμένη με τη Μηχανική Μάθηση και βοηθά τους πελάτες να μεταφράσουν τις ανάγκες τους σε ML σε λύσεις χρησιμοποιώντας υπηρεσίες AWS AI/ML. Κατέχει 5 πιστοποιήσεις συμπεριλαμβανομένης της πιστοποίησης ML Specialty. Στον ελεύθερο χρόνο της, της αρέσει να διαβάζει, να κάνει γιόγκα και να περνά χρόνο με τις κόρες της.
Iaroslav Shcherbatyi είναι Μηχανικός Μηχανικής Μάθησης στην AWS. Εργάζεται κυρίως σε βελτιώσεις στην πλατφόρμα Amazon SageMaker και βοηθώντας τους πελάτες να χρησιμοποιήσουν καλύτερα τις δυνατότητές της. Στον ελεύθερο χρόνο του, του αρέσει να πηγαίνει γυμναστήριο, να κάνει υπαίθρια αθλήματα όπως πατινάζ στον πάγο ή πεζοπορία και να παρακολουθεί νέες έρευνες για την τεχνητή νοημοσύνη.
- SEO Powered Content & PR Distribution. Ενισχύστε σήμερα.
- Platoblockchain. Web3 Metaverse Intelligence. Ενισχύθηκε η γνώση. Πρόσβαση εδώ.
- πηγή: https://aws.amazon.com/blogs/machine-learning/amazon-sagemaker-automatic-model-tuning-now-supports-three-new-completion-criteria-for-hyperparameter-optimization/
- 10
- 100
- 11
- 7
- 9
- a
- Ικανός
- Σχετικα
- πάνω από
- Λογαριασμός
- ακρίβεια
- Κατορθώνω
- επιτευχθεί
- απέναντι
- Επιπλέον
- Πρόσθετος
- Πλεονέκτημα
- Μετά το
- AI
- ai έρευνα
- AI / ML
- αλγόριθμος
- Όλα
- ήδη
- Amazon
- Amazon Sage Maker
- ποσό
- analytics
- και
- εφαρμοσμένος
- Αυτόματο
- αυτομάτως
- AWS
- βασίζονται
- πριν
- είναι
- όφελος
- οφέλη
- ΚΑΛΎΤΕΡΟΣ
- Καλύτερα
- μεταξύ
- Πέρα
- Όριο
- φέρω
- προϋπολογισμός
- Κτίριο
- που ονομάζεται
- περίπτωση
- πάλη
- ορισμένες
- Πιστοποίηση
- πιστοποιήσεις
- προκλήσεις
- Επιλέξτε
- επιλέγονται
- στενά
- Backup
- συνδυασμός
- σύγκριση
- σύγκριση
- πλήρης
- Ολοκληρώθηκε το
- Ολοκληρώνει
- ολοκλήρωση
- Υπολογίστε
- διαμόρφωση
- έλεγχος
- Σύγκλιση
- Κόστος
- εξοικονόμηση κόστους
- αποδοτική
- Δικαστικά έξοδα
- θα μπορούσε να
- κριτήρια
- Ρεύμα
- Πελάτες
- ημερομηνία
- ορίζεται
- καθορίζοντας
- κατέδειξε
- επιθυμητή
- καθέκαστα
- Ανίχνευση
- διαφορετικές
- Έκπτωση
- συζητήσουν
- συζήτηση
- Όχι
- Μην
- κάθε
- Νωρίς
- ενεργοποιημένη
- μηχανικός
- εξασφαλίζω
- αναμενόμενη
- εκτιμήσεις
- εκτίμηση
- πάντα
- παράδειγμα
- Αποκλειστικό
- υφιστάμενα
- ακριβά
- πείραμα
- εξερεύνηση
- διερευνήσει
- οικείος
- Χαρακτηριστικό
- Χαρακτηριστικά
- Εύρεση
- εύρεση
- ευρήματα
- Όνομα
- Συγκέντρωση
- Εξής
- τύπος
- πλήρη
- γενικά
- παίρνω
- δεδομένου
- Δίνοντας
- Go
- γκολ
- καλός
- Οδηγοί
- γυμναστήριο
- που έχει
- βοήθεια
- βοηθά
- υψηλότερο
- υψηλά
- κατέχει
- Πως
- Πώς να
- Ωστόσο
- HTML
- HTTPS
- Βελτιστοποίηση υπερπαραμέτρων
- Ρύθμιση υπερπαραμέτρων
- ICE
- προσδιορίσει
- βελτίωση
- βελτίωση
- βελτιώσεις
- βελτίωση
- in
- Σε άλλες
- Συμπεριλαμβανομένου
- Αυξήσεις
- ατομικές
- αρχικά
- ενσωματώσει
- Έξυπνος
- εισήγαγε
- Εισάγει
- IT
- επανάληψη
- επαναλήψεις
- Δουλειά
- Θέσεις εργασίας
- Ξέρω
- γνωστός
- μεγαλύτερος
- στρώμα
- οδηγήσει
- μάθηση
- Led
- Αφήνει
- Επίπεδο
- Πιθανός
- LIMIT
- Περιωρισμένος
- πλέον
- μηχανή
- μάθηση μηχανής
- διαχείριση
- πολοί
- Μάρκετινγκ
- max
- Αυξάνω στον ανώτατο βαθμό
- ανώτατο όριο
- μέσα
- πληροί
- μέθοδος
- μετρικός
- Metrics
- ελαχιστοποιώντας
- ML
- μοντέλο
- μοντέλα
- παρακολούθηση
- οθόνες
- περισσότερο
- πλέον
- πολλαπλούς
- αμοιβαίως
- ανάγκες
- Νέα
- αριθμός
- σκοπός
- στόχοι
- παρατηρούμε
- ONE
- λειτουργεί
- βέλτιστη
- βελτιστοποίηση
- βελτιστοποιημένη
- Επιλογή
- ΑΛΛΑ
- φόρμες
- παράμετρος
- μέρος
- εταίρος
- Συνεργάτες
- παθιασμένος
- επίδοση
- έμμηνα
- φάση
- πλατφόρμες
- Πλάτων
- Πληροφορία δεδομένων Plato
- Πλάτωνα δεδομένα
- Θέση
- Ακρίβεια
- πρόβλεψη
- προηγουμένως
- Κύριος
- Πρόβλημα
- προβλήματα
- διαδικασια μας
- παράγει
- προβλέπεται
- παρέχεται
- χορήγηση
- ποιότητα
- φθάσουν
- φθάσει
- Ανάγνωση
- λογικός
- σχέση
- αξιόπιστος
- αναφέρθηκαν
- έρευνα
- πόρος
- Υποστηρικτικό υλικό
- αποτέλεσμα
- με αποτέλεσμα
- Αποτελέσματα
- τρέξιμο
- θυσιάζοντας
- σοφός
- Αυτόματος συντονισμός μοντέλων SageMaker
- Οικονομίες
- επεκτάσιμη
- Αναζήτηση
- Δεύτερος
- δευτερόλεπτα
- προστατευμένο περιβάλλον
- επιλογή
- επιλογή
- αρχαιότερος
- Υπηρεσίες
- σειρά
- τον καθορισμό
- ρυθμίσεις
- θα πρέπει να
- δείχνουν
- σημαντικός
- σημαντικά
- small
- μικρότερος
- So
- λύση
- Λύσεις
- Λύει
- μερικοί
- Χώρος
- Ειδικότητα
- συγκεκριμένες
- καθορίζεται
- Δαπάνες
- περιστροφές
- Αθλητισμός
- στάση
- σταμάτησε
- στάθμευση
- Διακόπτει
- τέτοιος
- υποστήριξη
- υποστηριζόνται!
- Υποστηρίζει
- Πάρτε
- στόχος
- Έργο
- όροι
- Η
- τους
- Τρίτος
- τρία
- κατώφλι
- Μέσω
- ώρα
- φορές
- προς την
- πολύ
- Σύνολο
- Εκπαίδευση
- μεταφράζω
- τυπικός
- χρήση
- περίπτωση χρήσης
- Χρήστες
- επικύρωση
- αξία
- εκδοχή
- τρόπους
- Τι
- Ποιό
- Ο ΟΠΟΊΟΣ
- θα
- εντός
- χωρίς
- λόγια
- λειτουργεί
- θα
- Βελτιστοποίηση
- Yoga
- Εσείς
- Σας
- zephyrnet