Η κατασκευή μοντέλων θεμελίωσης (FM) απαιτεί τη δημιουργία, τη συντήρηση και τη βελτιστοποίηση μεγάλων συστάδων για την εκπαίδευση μοντέλων με δεκάδες έως εκατοντάδες δισεκατομμύρια παραμέτρους σε τεράστιες ποσότητες δεδομένων. Η δημιουργία ενός ανθεκτικού περιβάλλοντος που μπορεί να χειριστεί αποτυχίες και περιβαλλοντικές αλλαγές χωρίς απώλεια ημερών ή εβδομάδων προόδου εκπαίδευσης μοντέλου είναι μια επιχειρησιακή πρόκληση που απαιτεί από εσάς να εφαρμόσετε κλιμάκωση συστάδων, προληπτική παρακολούθηση της υγείας, έλεγχο εργασίας και δυνατότητες αυτόματης επανέναρξης της εκπαίδευσης σε περίπτωση αποτυχίας ή προβλημάτων. .
Είμαστε ενθουσιασμένοι που το μοιραζόμαστε Amazon SageMaker HyperPod είναι πλέον γενικά διαθέσιμο για να ενεργοποιήσει μοντέλα βάσης προπόνησης με χιλιάδες επιταχυντές έως και 40% πιο γρήγορα, παρέχοντας ένα εξαιρετικά ανθεκτικό περιβάλλον προπόνησης, εξαλείφοντας ταυτόχρονα την αδιαφοροποίητη άρση βαρέων βαρών που εμπλέκεται στη λειτουργία ομάδων προπόνησης μεγάλης κλίμακας. Με το SageMaker HyperPod, οι επαγγελματίες μηχανικής μάθησης (ML) μπορούν να εκπαιδεύουν FM για εβδομάδες και μήνες χωρίς διακοπές και χωρίς να χρειάζεται να αντιμετωπίσουν ζητήματα αποτυχίας υλικού.
Πελάτες όπως το Stability AI χρησιμοποιούν το SageMaker HyperPod για να εκπαιδεύσουν τα μοντέλα τους, συμπεριλαμβανομένου του Stable Diffusion.
«Ως η κορυφαία εταιρεία τεχνητής νοημοσύνης ανοιχτού κώδικα, στόχος μας είναι να μεγιστοποιήσουμε την προσβασιμότητα της σύγχρονης τεχνητής νοημοσύνης. Κατασκευάζουμε μοντέλα θεμελίωσης με δεκάδες δισεκατομμύρια παραμέτρους, που απαιτούν την υποδομή για να κλιμακώσει την απόδοση της προπόνησης βέλτιστα. Με τη διαχειριζόμενη υποδομή και τις βιβλιοθήκες βελτιστοποίησης του SageMaker HyperPod, μπορούμε να μειώσουμε τον χρόνο και το κόστος εκπαίδευσης πάνω από 50%. Κάνει την εκπαίδευση των μοντέλων μας πιο ανθεκτική και αποτελεσματική για την ταχύτερη κατασκευή μοντέλων αιχμής.»
– Emad Mostaque, Ιδρυτής και Διευθύνων Σύμβουλος της Stability AI.
Για να κάνετε τον πλήρη κύκλο ανάπτυξης FM ανθεκτικό σε αστοχίες υλικού, το SageMaker HyperPod σάς βοηθά να δημιουργείτε συμπλέγματα, να παρακολουθείτε την υγεία του συμπλέγματος, να επιδιορθώνετε και να αντικαθιστάτε ελαττωματικούς κόμβους εν κινήσει, να αποθηκεύετε συχνά σημεία ελέγχου και να συνεχίζετε αυτόματα την προπόνηση χωρίς απώλεια προόδου. Επιπλέον, το SageMaker HyperPod έχει προρυθμιστεί με Amazon Sage Maker διένειμε βιβλιοθήκες κατάρτισης, συμπεριλαμβανομένων των Βιβλιοθήκη παραλληλισμού δεδομένων SageMaker (SMDDP) και Βιβλιοθήκη παραλληλισμού μοντέλων SageMaker (SMP), για τη βελτίωση της απόδοσης της εκπαίδευσης FM καθιστώντας εύκολη τη διαίρεση των δεδομένων και των μοντέλων εκπαίδευσης σε μικρότερα κομμάτια και την παράλληλη επεξεργασία τους στους κόμβους του συμπλέγματος, ενώ αξιοποιούν πλήρως την υπολογιστική και δικτυακή υποδομή του συμπλέγματος. Το SageMaker HyperPod ενσωματώνει το Slurm Workload Manager για ενορχήστρωση εργασιών σε ομάδες και εκπαίδευση.
Επισκόπηση του Slurm Workload Manager
Σλόρμ, παλαιότερα γνωστό ως Simple Linux Utility for Resource Management, είναι ένας προγραμματιστής εργασιών για την εκτέλεση εργασιών σε ένα κατανεμημένο σύμπλεγμα υπολογιστών. Παρέχει επίσης ένα πλαίσιο για την εκτέλεση παράλληλων εργασιών χρησιμοποιώντας το NVIDIA Collective Communications Library (NCCL) or Διεπαφή διέλευσης μηνυμάτων (MPI) πρότυπα. Το Slurm είναι ένα δημοφιλές σύστημα διαχείρισης πόρων συμπλέγματος ανοιχτού κώδικα που χρησιμοποιείται ευρέως από υπολογιστές υψηλής απόδοσης (HPC) και παραγωγικούς φόρτους εργασίας εκπαίδευσης AI και FM. Το SageMaker HyperPod παρέχει έναν απλό τρόπο για να ξεκινήσετε και να λειτουργήσετε με ένα σύμπλεγμα Slurm μέσα σε λίγα λεπτά.
Ακολουθεί ένα αρχιτεκτονικό διάγραμμα υψηλού επιπέδου του τρόπου με τον οποίο οι χρήστες αλληλεπιδρούν με το SageMaker HyperPod και πώς αλληλεπιδρούν τα διάφορα στοιχεία συμπλέγματος μεταξύ τους και με άλλες υπηρεσίες AWS, όπως π.χ. Amazon FSx για λάμψη και Απλή υπηρεσία αποθήκευσης Amazon (Amazon S3).
Οι εργασίες slurm υποβάλλονται με εντολές στη γραμμή εντολών. Οι εντολές για την εκτέλεση εργασιών Slurm είναι srun
και sbatch
. ο srun
εντολή εκτελεί την εργασία εκπαίδευσης σε διαδραστική λειτουργία και λειτουργία αποκλεισμού και sbatch
εκτελείται σε λειτουργία μαζικής επεξεργασίας και μη αποκλεισμού. srun
χρησιμοποιείται κυρίως για την εκτέλεση άμεσων εργασιών, ενώ sbatch
μπορεί να χρησιμοποιηθεί για μεταγενέστερες εργασίες.
Για πληροφορίες σχετικά με πρόσθετες εντολές Slurm και διαμόρφωση, ανατρέξτε στο Τεκμηρίωση Slurm Workload Manager.
Δυνατότητες αυτόματης επανέναρξης και επούλωσης
Ένα από τα νέα χαρακτηριστικά του SageMaker HyperPod είναι η δυνατότητα αυτόματης συνέχισης των εργασιών σας. Προηγουμένως, όταν ένας κόμβος εργαζόμενος αποτύγχανε κατά τη διάρκεια μιας εργασίας εκπαίδευσης ή βελτιστοποίησης, εναπόκειτο στον χρήστη να ελέγξει την κατάσταση της εργασίας, να επανεκκινήσει την εργασία από το πιο πρόσφατο σημείο ελέγχου και να συνεχίσει να παρακολουθεί την εργασία σε όλη τη διάρκεια της εκτέλεσης. Με τις εργασίες εκπαίδευσης ή τις εργασίες λεπτομέρειας που πρέπει να εκτελούνται για ημέρες, εβδομάδες ή και μήνες κάθε φορά, αυτό καθίσταται δαπανηρό λόγω των επιπλέον διοικητικών εξόδων του χρήστη που χρειάζεται να ξοδέψει κύκλους για την παρακολούθηση και τη συντήρηση της εργασίας σε περίπτωση που σφάλματα κόμβου, καθώς και το κόστος του χρόνου αδράνειας των ακριβών περιπτώσεων επιτάχυνσης υπολογισμού.
Το SageMaker HyperPod αντιμετωπίζει την ανθεκτικότητα της εργασίας χρησιμοποιώντας αυτοματοποιημένους ελέγχους υγείας, αντικατάσταση κόμβου και ανάκτηση εργασίας. Οι εργασίες Slurm στο SageMaker HyperPod παρακολουθούνται χρησιμοποιώντας μια προσαρμοσμένη προσθήκη Slurm SageMaker χρησιμοποιώντας την Πλαίσιο SPANK. Όταν μια εργασία εκπαίδευσης αποτύχει, το SageMaker HyperPod θα επιθεωρήσει την υγεία του συμπλέγματος μέσω μιας σειράς ελέγχων υγείας. Εάν βρεθεί ένας ελαττωματικός κόμβος στο σύμπλεγμα, το SageMaker HyperPod θα αφαιρέσει αυτόματα τον κόμβο από το σύμπλεγμα, θα τον αντικαταστήσει με έναν υγιή κόμβο και θα επανεκκινήσει την εργασία εκπαίδευσης. Όταν χρησιμοποιείτε το checkpoint σε εργασίες εκπαίδευσης, οποιαδήποτε εργασία που έχει διακοπεί ή αποτύχει μπορεί να συνεχιστεί από το πιο πρόσφατο σημείο ελέγχου.
Επισκόπηση λύσεων
Για να αναπτύξετε το SageMaker HyperPod, προετοιμάζετε πρώτα το περιβάλλον σας διαμορφώνοντας το δικό σας Εικονικό ιδιωτικό σύννεφο Amazon Ομάδες δικτύου και ασφάλειας (Amazon VPC), που αναπτύσσουν υπηρεσίες υποστήριξης όπως το FSx for Luster στο VPC σας και δημοσιεύουν τα σενάρια κύκλου ζωής Slurm σε έναν κάδο S3. Στη συνέχεια, αναπτύσσετε και διαμορφώνετε το SageMaker HyperPod και συνδέεστε στον κεντρικό κόμβο για να ξεκινήσετε τις εργασίες εκπαίδευσής σας.
Προϋποθέσεις
Πριν δημιουργήσετε το SageMaker HyperPod, πρέπει πρώτα να διαμορφώσετε το VPC σας, να δημιουργήσετε ένα σύστημα αρχείων FSx for Luster και να δημιουργήσετε έναν κάδο S3 με τα σενάρια κύκλου ζωής του συμπλέγματος που επιθυμείτε. Χρειάζεστε επίσης την πιο πρόσφατη έκδοση του Διεπαφή γραμμής εντολών AWS (AWS CLI) και το πρόσθετο CLI που έχει εγκατασταθεί για AWS Session Manager, μια ικανότητα του Διευθυντής συστημάτων AWS.
Το SageMaker HyperPod είναι πλήρως ενσωματωμένο στο VPC σας. Για πληροφορίες σχετικά με τη δημιουργία ενός νέου VPC, βλ Δημιουργήστε ένα προεπιλεγμένο VPC or Δημιουργήστε ένα VPC. Για να επιτρέψετε μια απρόσκοπτη σύνδεση με την υψηλότερη απόδοση μεταξύ των πόρων, θα πρέπει να δημιουργήσετε όλους τους πόρους σας στην ίδια Περιοχή και Ζώνη Διαθεσιμότητας, καθώς και να διασφαλίσετε ότι οι σχετικοί κανόνες ομάδας ασφαλείας επιτρέπουν τη σύνδεση μεταξύ πόρων συμπλέγματος.
Στη συνέχεια, εσύ δημιουργήστε ένα σύστημα αρχείων FSx for Luster. Αυτό θα χρησιμεύσει ως το σύστημα αρχείων υψηλής απόδοσης για χρήση κατά τη διάρκεια της εκπαίδευσης μοντέλων μας. Βεβαιωθείτε ότι οι ομάδες ασφαλείας FSx for Luster και συμπλέγματος επιτρέπουν την εισερχόμενη και εξερχόμενη επικοινωνία μεταξύ των πόρων του συμπλέγματος και του συστήματος αρχείων FSx for Luster.
Για να ρυθμίσετε τα σενάρια κύκλου ζωής του συμπλέγματος, τα οποία εκτελούνται όταν συμβαίνουν συμβάντα, όπως μια νέα παρουσία συμπλέγματος, δημιουργείτε έναν κάδο S3 και, στη συνέχεια, αντιγράφετε και προσαρμόζετε προαιρετικά τα προεπιλεγμένα σενάρια κύκλου ζωής. Για αυτό το παράδειγμα, αποθηκεύουμε όλα τα σενάρια κύκλου ζωής σε ένα πρόθεμα κάδου του lifecycle-scripts
.
Αρχικά, κατεβάζετε τα δείγματα σεναρίων κύκλου ζωής από το GitHub repo. Θα πρέπει να τα προσαρμόσετε ώστε να ταιριάζουν στις επιθυμητές συμπεριφορές συμπλέγματος.
Στη συνέχεια, δημιουργήστε έναν κάδο S3 για να αποθηκεύσετε τα προσαρμοσμένα σενάρια κύκλου ζωής.
Στη συνέχεια, αντιγράψτε τα προεπιλεγμένα σενάρια κύκλου ζωής από τον τοπικό σας κατάλογο στον κάδο και το πρόθεμα που θέλετε χρησιμοποιώντας aws s3 sync
:
Τέλος, για να ρυθμίσετε τον πελάτη για απλοποιημένη σύνδεση με τον επικεφαλής κόμβο του συμπλέγματος, θα πρέπει εγκαταστήστε ή ενημερώστε το AWS CLI και εγκαταστήστε το Προσθήκη AWS Session Manager CLI για να επιτραπούν οι διαδραστικές συνδέσεις τερματικού για τη διαχείριση του συμπλέγματος και την εκτέλεση εργασιών εκπαίδευσης.
Μπορείτε να δημιουργήσετε ένα σύμπλεγμα HyperPod του SageMaker είτε με διαθέσιμους πόρους κατ' απαίτηση είτε ζητώντας κράτηση χωρητικότητας με το SageMaker. Για να δημιουργήσετε μια δέσμευση χωρητικότητας, δημιουργείτε ένα αίτημα αύξησης ορίου για να δεσμεύσετε συγκεκριμένους τύπους παρουσιών υπολογισμού και κατανομή χωρητικότητας στον πίνακα εργαλείων Service Quotas.
Ρυθμίστε το εκπαιδευτικό σας σύμπλεγμα
Για να δημιουργήσετε το σύμπλεγμα SageMaker HyperPod, ολοκληρώστε τα παρακάτω βήματα:
- Στην κονσόλα SageMaker, επιλέξτε Διαχείριση συστάδων υπό Συστάδες HyperPod στο παράθυρο πλοήγησης.
- Επιλέξτε Δημιουργήστε ένα σύμπλεγμα.
- Δώστε ένα όνομα συμπλέγματος και προαιρετικά τυχόν ετικέτες που θα εφαρμοστούν στους πόρους του συμπλέγματος και, στη συνέχεια, επιλέξτε Επόμενο.
- Αγορά Δημιουργία ομάδας παρουσίας και καθορίστε το όνομα της ομάδας παρουσιών, τον τύπο παρουσίας που απαιτείται, την ποσότητα των επιθυμητών παρουσιών και τον κάδο S3 και τη διαδρομή προθέματος όπου αντιγράψατε προηγουμένως τα σενάρια κύκλου ζωής του συμπλέγματος.
Συνιστάται να υπάρχουν διαφορετικές ομάδες παρουσιών για τους κόμβους ελεγκτή που χρησιμοποιούνται για τη διαχείριση του συμπλέγματος και την υποβολή εργασιών και τους κόμβους εργαζομένων που χρησιμοποιούνται για την εκτέλεση εργασιών εκπαίδευσης με χρήση επιταχυνόμενων παρουσιών υπολογισμού. Μπορείτε προαιρετικά να διαμορφώσετε μια πρόσθετη ομάδα παρουσίας για κόμβους σύνδεσης.
- Δημιουργείτε πρώτα την ομάδα παρουσίας ελεγκτή, η οποία θα περιλαμβάνει τον κόμβο κεφαλής συμπλέγματος.
- Για αυτήν την περίπτωση της ομάδας Διαχείριση ταυτότητας και πρόσβασης AWS (IAM) ρόλος, επιλέξτε Δημιουργήστε ένα νέο ρόλο και καθορίστε τυχόν κάδους S3 στους οποίους θέλετε να έχουν πρόσβαση οι παρουσίες συμπλέγματος στην ομάδα παρουσιών.
Ο ρόλος που δημιουργείται θα έχει πρόσβαση μόνο για ανάγνωση στους καθορισμένους κάδους από προεπιλογή.
- Επιλέξτε Δημιουργήστε ρόλο.
- Εισαγάγετε το όνομα σεναρίου που θα εκτελεστεί σε κάθε δημιουργία παρουσίας στη γραμμή εντολών κατά τη δημιουργία σεναρίου. Σε αυτό το παράδειγμα, καλείται το σενάριο κατά τη δημιουργία
on_create.sh
. - Επιλέξτε Αποθήκευση.
- Επιλέξτε Δημιουργία ομάδας παρουσίας για να δημιουργήσετε την ομάδα παρουσίας εργαζομένων σας.
- Δώστε όλα τα ζητούμενα στοιχεία, συμπεριλαμβανομένου του τύπου και της ποσότητας που θέλετε.
Αυτό το παράδειγμα χρησιμοποιεί τέσσερις επιταχυνόμενες περιπτώσεις ml.trn1.32xl για να εκτελέσουμε την εκπαιδευτική μας εργασία. Μπορείτε να χρησιμοποιήσετε τον ίδιο ρόλο IAM όπως πριν ή να προσαρμόσετε τον ρόλο για τις παρουσίες εργασίας. Ομοίως, μπορείτε να χρησιμοποιήσετε διαφορετικά σενάρια κύκλου ζωής κατά τη δημιουργία για αυτήν την ομάδα παρουσίας εργαζόμενου από την προηγούμενη ομάδα παρουσίας.
- Επιλέξτε Επόμενο να προχωρήσει.
- Επιλέξτε τις επιθυμητές ομάδες VPC, υποδικτύου και ασφάλειας για τις παρουσίες συμπλέγματός σας.
Φιλοξενούμε τα στιγμιότυπα συμπλέγματος σε μία ζώνη και υποδίκτυο διαθεσιμότητας για να διασφαλίσουμε χαμηλό λανθάνοντα χρόνο.
Λάβετε υπόψη ότι εάν θα έχετε συχνά πρόσβαση σε δεδομένα S3, συνιστάται να δημιουργήσετε ένα τελικό σημείο VPC που σχετίζεται με τον πίνακα δρομολόγησης του ιδιωτικού υποδικτύου για να μειώσετε τυχόν πιθανά κόστη μεταφοράς δεδομένων.
- Επιλέξτε Επόμενο.
- Ελέγξτε τη σύνοψη λεπτομερειών συμπλέγματος και, στη συνέχεια, επιλέξτε Υποβολη.
Εναλλακτικά, για να δημιουργήσετε το SageMaker HyperPod σας χρησιμοποιώντας το AWS CLI, προσαρμόστε πρώτα τις παραμέτρους JSON που χρησιμοποιούνται για τη δημιουργία του συμπλέγματος:
Στη συνέχεια, χρησιμοποιήστε την ακόλουθη εντολή για να δημιουργήσετε το σύμπλεγμα χρησιμοποιώντας τις παρεχόμενες εισόδους:
Εκτελέστε την πρώτη σας εργασία εκπαίδευσης με το Llama 2
Σημειώστε ότι η χρήση του μοντέλου Llama 2 διέπεται από την άδεια Meta. Για να κατεβάσετε τα βάρη μοντέλων και το tokenizer, επισκεφτείτε το και αποδεχτείτε την άδεια πριν ζητήσετε πρόσβαση στο Ο ιστότοπος του Meta's Hugging Face.
Μετά την εκτέλεση του συμπλέγματος, συνδεθείτε με το Session Manager χρησιμοποιώντας το αναγνωριστικό συμπλέγματος, το όνομα της ομάδας παρουσίας και το αναγνωριστικό παρουσίας. Χρησιμοποιήστε την ακόλουθη εντολή για να προβάλετε τις λεπτομέρειες του συμπλέγματός σας:
Σημειώστε το αναγνωριστικό συμπλέγματος που περιλαμβάνεται στο σύμπλεγμα ARN στην απάντηση.
Χρησιμοποιήστε την ακόλουθη εντολή για να ανακτήσετε το όνομα της ομάδας παρουσίας και το αναγνωριστικό παρουσίας που απαιτούνται για τη σύνδεση στο σύμπλεγμα.
Σημειώστε το InstanceGroupName
και την InstanceId
στην απόκριση, καθώς αυτά θα χρησιμοποιηθούν για σύνδεση στην παρουσία με το Session Manager.
Τώρα χρησιμοποιείτε το Session Manager για να συνδεθείτε στον κεντρικό κόμβο ή σε έναν από τους κόμβους σύνδεσης και να εκτελέσετε την εκπαιδευτική σας εργασία:
Στη συνέχεια, θα προετοιμάσουμε το περιβάλλον και θα κατεβάσουμε το Llama 2 και το σύνολο δεδομένων RedPajama. Για πλήρη κώδικα και αναλυτική περιγραφή αυτού, ακολουθήστε τις οδηγίες στο AWSome Distributed Training Repo GitHub.
Ακολουθήστε τα βήματα που περιγράφονται λεπτομερώς στο 2.test_cases/8.neuronx-nemo-megatron/README.md
αρχείο. Αφού ακολουθήσετε τα βήματα για να προετοιμάσετε το περιβάλλον, να προετοιμάσετε το μοντέλο, να κατεβάσετε και να δημιουργήσετε διακριτικά το σύνολο δεδομένων και να προ-μεταγλωττίσετε το μοντέλο, θα πρέπει να επεξεργαστείτε το 6.pretrain-model.sh
σενάριο και το sbatch
εντολή υποβολής εργασίας για να συμπεριλάβετε μια παράμετρο που θα σας επιτρέψει να επωφεληθείτε από τη δυνατότητα αυτόματης συνέχισης του SageMaker HyperPod.
Επεξεργαστείτε το sbatch
γραμμή να μοιάζει με το εξής:
Μετά την υποβολή της εργασίας, θα λάβετε ένα JobID
που μπορείτε να χρησιμοποιήσετε για να ελέγξετε την κατάσταση της εργασίας χρησιμοποιώντας τον ακόλουθο κωδικό:
Επιπλέον, μπορείτε να παρακολουθήσετε την εργασία ακολουθώντας το αρχείο καταγραφής εξόδου εργασίας χρησιμοποιώντας τον ακόλουθο κώδικα:
εκκαθάριση
Για να διαγράψετε το σύμπλεγμα SageMaker HyperPod, χρησιμοποιήστε την κονσόλα SageMaker ή την ακόλουθη εντολή AWS CLI:
Συμπέρασμα
Αυτή η ανάρτηση σάς έδειξε πώς να προετοιμάσετε το περιβάλλον AWS σας, να αναπτύξετε το πρώτο σας σύμπλεγμα SageMaker HyperPod και να εκπαιδεύσετε ένα μοντέλο Llama 7 παραμέτρων 2 δισεκατομμυρίων. Το SageMaker HyperPod είναι γενικά διαθέσιμο σήμερα στις περιοχές της Αμερικής (Ν. Βιρτζίνια, Οχάιο και Όρεγκον), της Ασίας-Ειρηνικού (Σιγκαπούρη, Σίδνεϊ και Τόκιο) και της Ευρώπης (Φρανκφούρτη, Ιρλανδία και Στοκχόλμη). Μπορούν να αναπτυχθούν μέσω της κονσόλας SageMaker, AWS CLI και AWS SDK και υποστηρίζουν τις οικογένειες παρουσιών p4d, p4de, p5, trn1, inf2, g5, c5, c5n, m5 και t3.
Για να μάθετε περισσότερα σχετικά με το SageMaker HyperPod, επισκεφτείτε Amazon SageMaker HyperPod.
Σχετικά με τους συγγραφείς
Μπραντ Ντόραν είναι Ανώτερος Τεχνικός Διευθυντής Λογαριασμού στην Amazon Web Services, με επίκεντρο τη γενετική τεχνητή νοημοσύνη. Είναι υπεύθυνος για την επίλυση προκλήσεων μηχανικής για πελάτες γενετικής τεχνητής νοημοσύνης στο τμήμα της αγοράς ψηφιακών εγγενών επιχειρήσεων. Προέρχεται από ένα υπόβαθρο ανάπτυξης υποδομών και λογισμικού και αυτή τη στιγμή παρακολουθεί διδακτορικές σπουδές και έρευνα στην τεχνητή νοημοσύνη και τη μηχανική μάθηση.
Κεϊτά Βατανάμπε είναι Senior GenAI Specialist Solutions Architect στο Amazon Web Services, όπου βοηθά στην ανάπτυξη λύσεων μηχανικής εκμάθησης χρησιμοποιώντας έργα OSS όπως το Slurm και το Kubernetes. Το υπόβαθρό του είναι στην έρευνα και ανάπτυξη μηχανικής μάθησης. Πριν ενταχθεί στην AWS, η Keita εργάστηκε στη βιομηχανία ηλεκτρονικού εμπορίου ως επιστήμονας ερευνητής αναπτύσσοντας συστήματα ανάκτησης εικόνων για αναζήτηση προϊόντων. Ο Keita είναι κάτοχος διδακτορικού διπλώματος επιστήμης από το Πανεπιστήμιο του Τόκιο.
Τζάστιν Πιρτλ είναι κύριος αρχιτέκτονας λύσεων στο Amazon Web Services. Συμβουλεύει τακτικά πελάτες τεχνητής νοημοσύνης που δημιουργούνται στο σχεδιασμό, την ανάπτυξη και την κλιμάκωση της υποδομής τους. Είναι τακτικός ομιλητής σε συνέδρια AWS, συμπεριλαμβανομένου του re:Invent, καθώς και σε άλλες εκδηλώσεις AWS. Ο Justin είναι κάτοχος πτυχίου στα Πληροφοριακά Συστήματα Διαχείρισης από το Πανεπιστήμιο του Τέξας στο Ώστιν και μεταπτυχιακό στη Μηχανική Λογισμικού από το Πανεπιστήμιο του Σιάτλ.
- SEO Powered Content & PR Distribution. Ενισχύστε σήμερα.
- PlatoData.Network Vertical Generative Ai. Ενδυναμώστε τον εαυτό σας. Πρόσβαση εδώ.
- PlatoAiStream. Web3 Intelligence. Ενισχύθηκε η γνώση. Πρόσβαση εδώ.
- PlatoESG. Ανθρακας, Cleantech, Ενέργεια, Περιβάλλον, Ηλιακός, Διαχείριση των αποβλήτων. Πρόσβαση εδώ.
- PlatoHealth. Ευφυΐα βιοτεχνολογίας και κλινικών δοκιμών. Πρόσβαση εδώ.
- πηγή: https://aws.amazon.com/blogs/machine-learning/introducing-amazon-sagemaker-hyperpod-to-train-foundation-models-at-scale/
- :είναι
- :που
- $UP
- 1
- 100
- 12
- 14
- 24
- 7
- a
- ικανότητα
- Σχετικα
- επιτάχυνση
- επιταχυντές
- Αποδέχομαι
- πρόσβαση
- προσιτότητα
- πρόσβαση
- Λογαριασμός
- απέναντι
- Επιπλέον
- Πρόσθετος
- διευθύνσεις
- διαχειρίζομαι
- διοικητικός
- Πλεονέκτημα
- Μετά το
- AI
- Όλα
- κατανομή
- επιτρέπουν
- επιτρέπει
- Επίσης
- Amazon
- Amazon Sage Maker
- Amazon υπηρεσίες Web
- Αμερική
- Ποσά
- an
- και
- κάθε
- Εφαρμογή
- αρχιτεκτονική
- ΕΙΝΑΙ
- σηκώνομαι
- τεχνητός
- τεχνητή νοημοσύνη
- Τεχνητή Νοημοσύνη και Εκμάθηση Μηχανών
- AS
- Ασία
- asia pacific
- συσχετισμένη
- At
- austin
- Αυτοματοποιημένη
- αυτομάτως
- διαθεσιμότητα
- διαθέσιμος
- AWS
- φόντο
- BE
- γίνεται
- πριν
- συμπεριφορές
- μεταξύ
- δισεκατομμύρια
- κλείδωμα
- χτίζω
- Κτίριο
- επιχείρηση
- by
- που ονομάζεται
- CAN
- δυνατότητες
- ικανότητα
- Χωρητικότητα
- Διευθύνων Σύμβουλος
- πρόκληση
- προκλήσεις
- Αλλαγές
- έλεγχος
- έλεγχοι
- Επιλέξτε
- πελάτης
- συστάδα
- κωδικός
- Συλλογική
- έρχεται
- Επικοινωνία
- Διαβιβάσεις
- εταίρα
- πλήρης
- εξαρτήματα
- Υπολογίστε
- χρήση υπολογιστή
- συνέδρια
- διαμόρφωση
- Διαμόρφωση
- Connect
- σύνδεση
- Διασυνδέσεις
- πρόξενος
- ΣΥΝΕΧΕΙΑ
- ελεγκτής
- Κόστος
- δαπανηρός
- Δικαστικά έξοδα
- δημιουργία
- δημιουργία
- δημιουργία
- Τη στιγμή
- έθιμο
- Πελάτες
- προσαρμόσετε
- προσαρμοσμένη
- κύκλος
- κύκλους
- ταμπλό
- ημερομηνία
- Ημ.
- συμφωνία
- Προεπιλογή
- Πτυχίο
- παρατάσσω
- αναπτυχθεί
- ανάπτυξη
- σχέδιο
- επιθυμητή
- λεπτομερής
- καθέκαστα
- ανάπτυξη
- ανάπτυξη
- Ανάπτυξη
- διαφορετικές
- Διάχυση
- ψηφιακό
- Αναστάτωση
- διανέμονται
- κατανεμημένων υπολογιστών
- κατανεμημένη εκπαίδευση
- κατεβάσετε
- δυο
- κατά την διάρκεια
- κάθε
- ηλεκτρονικού εμπορίου
- είτε
- εξάλειψη
- ενεργοποιήσετε
- Τελικό σημείο
- Μηχανική
- εξασφαλίζω
- Ολόκληρος
- Περιβάλλον
- περιβάλλοντος
- εγκαθιδρύω
- Ευρώπη
- Even
- Συμβάν
- εκδηλώσεις
- παράδειγμα
- ενθουσιασμένοι
- ακριβά
- επιπλέον
- Πρόσωπο
- Απέτυχε
- αποτυγχάνει
- Αποτυχία
- αποτυχίες
- οικογένειες
- γρηγορότερα
- ελαττωματικός
- Χαρακτηριστικό
- Χαρακτηριστικά
- Αρχεία
- Όνομα
- επικεντρώθηκε
- ακολουθήστε
- Εξής
- Για
- προηγουμένως
- Βρέθηκαν
- Θεμέλιο
- ιδρυτής
- Ιδρυτής και Διευθύνων Σύμβουλος
- τέσσερα
- Πλαίσιο
- Φρανκφούρτη
- συχνάζω
- συχνά
- από
- πλήρη
- πλήρως
- γενικά
- παράγεται
- γενετική
- Παραγωγική τεχνητή νοημοσύνη
- παίρνω
- GitHub
- γκολ
- μετάβαση
- διέπεται
- χορηγείται
- Group
- Ομάδα
- λαβή
- υλικού
- Έχω
- που έχει
- he
- κεφάλι
- επούλωση
- Υγεία
- διαιτιτικο
- βαριά
- βαριά ανύψωση
- βοηθά
- Ψηλά
- υψηλού επιπέδου
- υψηλή απόδοση
- υψηλότερο
- υψηλά
- του
- κατέχει
- οικοδεσπότης
- Πως
- Πώς να
- hpc
- HTML
- http
- HTTPS
- Εκατοντάδες
- ID
- Ταυτότητα
- Idle
- if
- εικόνα
- άμεσος
- εφαρμογή
- βελτίωση
- in
- περιλαμβάνουν
- περιλαμβάνονται
- Συμπεριλαμβανομένου
- Αυξάνουν
- βιομηχανία
- πληροφορίες
- Πληροφοριακά συστήματα
- Υποδομή
- είσοδοι
- εγκαθιστώ
- εγκατασταθεί
- παράδειγμα
- οδηγίες
- ενσωματωθεί
- Ενσωματώνει
- Νοημοσύνη
- αλληλεπιδρούν
- διαδραστικό
- περιβάλλον λειτουργίας
- διακόπτεται
- σε
- εισάγοντας
- συμμετέχουν
- Ιρλανδία
- θέματα
- IT
- Δουλειά
- Θέσεις εργασίας
- ενώνει
- jpg
- json
- Justin
- γνωστός
- large
- μεγάλης κλίμακας
- Αφάνεια
- αργότερα
- αργότερο
- που οδηγεί
- ΜΑΘΑΊΝΩ
- μάθηση
- βιβλιοθήκες
- Βιβλιοθήκη
- Άδεια
- κύκλος ζωής
- ανύψωση
- Μου αρέσει
- γραμμή
- linux
- Είδος μικρής καμήλας
- τοπικός
- κούτσουρο
- Σύνδεση
- ματιά
- μοιάζει
- να χάσει
- Χαμηλός
- μηχανή
- μάθηση μηχανής
- διατηρήσουν
- Η διατήρηση
- κάνω
- ΚΑΝΕΙ
- Κατασκευή
- διαχειρίζεται
- διαχείριση
- διευθυντής
- αγορά
- κύριοι
- ύλη
- Αυξάνω στον ανώτατο βαθμό
- Meta
- Λεπτ.
- ML
- Τρόπος
- μοντέλο
- μοντέλα
- ΜΟΝΤΕΡΝΑ
- Παρακολούθηση
- παρακολούθηση
- παρακολούθηση
- μήνες
- περισσότερο
- ως επί το πλείστον
- όνομα
- ντόπιος
- Πλοήγηση
- Ανάγκη
- που απαιτούνται
- χρειάζονται
- δίκτυο
- Νέα
- Νέες δυνατότητες
- κόμβος
- κόμβων
- σημείωση
- τώρα
- Nvidia
- of
- Οχάιο
- on
- Κατα παραγγελια
- ONE
- ανοίξτε
- ανοικτού κώδικα
- λειτουργίας
- επιχειρήσεων
- βελτιστοποίηση
- βελτιστοποίηση
- or
- ενορχήστρωση
- Όρεγκον
- Μας
- ΑΛΛΑ
- δικός μας
- παραγωγή
- επί
- Ειρηνικός
- παράθυρο
- Παράλληλο
- παράμετρος
- παράμετροι
- Πέρασμα
- μονοπάτι
- Εκτελέστε
- επίδοση
- phd
- Πλάτων
- Πληροφορία δεδομένων Plato
- Πλάτωνα δεδομένα
- συνδέω
- Δημοφιλής
- Θέση
- δυναμικού
- Προετοιμάστε
- προηγούμενος
- προηγουμένως
- Κύριος
- Πριν
- ιδιωτικός
- Προληπτική
- προχωρήσει
- μεταποίηση
- Προϊόν
- Πρόοδος
- έργα
- παρέχεται
- παρέχει
- χορήγηση
- Δημοσιεύσεις
- ποσότητα
- RE
- συνιστάται
- ανάκτηση
- μείωση
- παραπέμπω
- περιοχή
- περιοχές
- τακτικός
- τακτικά
- αφαιρέστε
- επισκευή
- αντικαθιστώ
- αντικατάσταση
- ζητήσει
- απαιτούν
- Απαιτεί
- έρευνα
- έρευνα και ανάπτυξη
- Κρατήσεις
- Απόθεμα
- ελαστικός
- πόρος
- Υποστηρικτικό υλικό
- απάντησης
- υπεύθυνος
- περίληψη
- Ρόλος
- δρομολόγηση
- κανόνες
- τρέξιμο
- τρέξιμο
- τρέχει
- σοφός
- ίδιο
- Αποθήκευση
- Κλίμακα
- απολέπιση
- Επιστήμη
- Επιστήμονας
- γραφή
- Εφαρμογές
- sdks
- αδιάλειπτη
- Αναζήτηση
- Σιάτλ
- ασφάλεια
- δείτε
- τμήμα
- αρχαιότερος
- εξυπηρετούν
- υπηρεσία
- Υπηρεσίες
- Συνεδρίαση
- σειρά
- Κοινοποίηση
- θα πρέπει να
- έδειξε
- Ομοίως
- Απλούς
- απλοποιημένη
- Singapore
- ενιαίας
- μικρότερος
- λογισμικό
- ανάπτυξη λογισμικού
- τεχνολογία λογισμικού
- Λύσεις
- Επίλυση
- Πηγή
- Ομιλητής
- ειδικός
- συγκεκριμένες
- καθορίζεται
- δαπανήσει
- διαίρεση
- σταθερότητα
- σταθερός
- πρότυπα
- Εκκίνηση
- state-of-the-art
- Κατάσταση
- Βήματα
- χώρος στο δίσκο
- κατάστημα
- ειλικρινής
- μελέτες
- υποβολή
- υποβάλουν
- υποβάλλονται
- υποδίκτυο
- τέτοιος
- κοστούμι
- σουίτα
- ΠΕΡΙΛΗΨΗ
- υποστήριξη
- Στήριξη
- βέβαιος
- sydney
- συγχρονισμός
- σύστημα
- συστήματα
- τραπέζι
- Πάρτε
- Τεχνικός
- δεκάδες
- τερματικό
- Τέξας
- από
- ότι
- Η
- τους
- Τους
- τότε
- Αυτοί
- αυτοί
- αυτό
- χιλιάδες
- Μέσω
- παντού
- ώρα
- προς την
- σήμερα
- συμβολίζω
- Τόκιο
- Τρένο
- Εκπαίδευση
- μεταφορά
- τύπος
- τύποι
- υπό
- πανεπιστήμιο
- Πανεπιστήμιο του Τόκιο
- Ενημέρωση
- χρήση
- μεταχειρισμένος
- Χρήστες
- Χρήστες
- χρησιμοποιεί
- χρησιμοποιώντας
- χρησιμότητα
- αξιοποιώντας
- διάφορα
- Σταθερή
- εκδοχή
- μέσω
- Δες
- Βιργινία
- Πραγματικός
- Επίσκεψη
- περιδιάβαση
- ήταν
- Τρόπος..
- we
- ιστός
- διαδικτυακές υπηρεσίες
- Εβδ.
- ΛΟΙΠΌΝ
- πότε
- Ποιό
- ενώ
- ευρέως
- Wikipedia
- θα
- με
- εντός
- χωρίς
- εργάστηκαν
- εργάτης
- θα
- Εσείς
- Σας
- zephyrnet