Η AWS έχει δημιουργήσει ένα νέο σύστημα κερδοφορίας – επιτρέποντας στους πελάτες που αναζητούν απελπισμένους πόρους GPU να πληρώσουν για να τους κρατήσουν για προγραμματισμένες ημερομηνίες και ώρες, προκαταβολή και χωρίς να επιτρέπεται η τροποποίηση παραγγελίας.
Το νέο μοντέλο κατανάλωσης είναι γνωστό ως Amazon Elastic Compute Cloud (EC2) Μπλοκ χωρητικότητας για ML. Επιτρέπει στους πελάτες να έχουν πρόσβαση στον εξαιρετικά περιζήτητο υπολογισμό GPU για την εκτέλεση σύντομων φόρτων εργασίας μηχανικής εκμάθησης.
Η αύξηση της ζήτησης για χωρητικότητα GPU για εκπαίδευση και εξαγωγή μοντέλων μηχανικής μάθησης έχει ξεπεράσει την προσφορά σε ολόκληρη τη βιομηχανία, καθιστώντας τις GPU σπάνιο πόρο.
Αυτό που η AWS δεν παραδέχεται, φυσικά, είναι ότι αυτό συμβαίνει επειδή οι υπερκλιμακωτές βρίσκονται στην πρώτη γραμμή της ουράς για τις GPU, αυξάνοντας την προσφορά, συμπεριλαμβανομένου του ίδιου του AWS. Nvidia σύμφωνα με πληροφορίες είπε ότι το 22 τοις εκατό των εσόδων του ημερολογιακού του δεύτερου τριμήνου προήλθε από έναν μόνο πάροχο υπηρεσιών cloud.
Τα μπλοκ χωρητικότητας EC2 είναι αρχικά διαθέσιμα για το Amazon EC2 Παρουσίες εικονικής μηχανής P5, από τα οποία υπάρχει προς το παρόν μόνο ένας τύπος, ο p5.48xlarge. Αυτό διαθέτει 192 vCPU, 2 TB μνήμης συστήματος και οκτώ από τις H100 GPU της Nvidia, καθιστώντας το ένα αρκετά βαρύ παράδειγμα.
Σύμφωνα με το AWS, οι κρατήσεις EC2 Capacity Block λειτουργούν όπως οι κρατήσεις δωματίων ξενοδοχείου. Καθορίζετε την ημερομηνία και τη διάρκεια και το μέγεθος του δωματίου σας. Με τον ίδιο τρόπο, το AWS σάς επιτρέπει να επιλέξετε την ημερομηνία και τη διάρκεια που θα χρειαστείτε παρουσίες GPU και τον αριθμό των απαιτούμενων παρουσιών.
Οι πελάτες μπορούν να κάνουν κράτηση για ένα μπλοκ χωρητικότητας EC2 που περιλαμβάνει μόνο μία παρουσία ή έως και 64, και μπορεί να γίνει κράτηση για μία έως 14 ημέρες, όπως απαιτείται. Το AWS θα επιτρέψει τη κράτηση τους έως και οκτώ εβδομάδες νωρίτερα, υποστηρίζοντας ότι οι πελάτες μπορούν στη συνέχεια να προγραμματίσουν τις αναπτύξεις μηχανικής εκμάθησης με βεβαιότητα, γνωρίζοντας ότι θα έχουν τη χωρητικότητα GPU όταν τη χρειάζονται.
Η AWS λέει ότι οι τιμές του EC2 Capacity Block είναι δυναμικές και εξαρτώνται από τα συνολικά διαθέσιμα επίπεδα προσφοράς και ζήτησης τη στιγμή που ο πελάτης αγοράζει. Η AWS ισχυρίζεται ότι θα εμφανίσει τη διαθέσιμη προσφορά με τη χαμηλότερη τιμή που ανταποκρίνεται στο εύρος που έχει καθορίσει ο πελάτης. ΕΝΑ στιγμιότυπο οθόνης στο blog της εταιρείας δείχνει ένα παράδειγμα μιας μεμονωμένης παρουσίας για μια μεμονωμένη ημέρα που κοστίζει 2,344 $.
Αλλά εδώ είναι το σημαντικό: το συνολικό κόστος ενός μπλοκ χωρητικότητας EC2 χρεώνεται εκ των προτέρων, χρεώνεται στο λογαριασμό σας εντός 12 ωρών και το AWS δεν επιτρέπει την τροποποίηση ή την ακύρωσή τους μετά την αγορά. Επομένως, καλύτερα να είστε βέβαιοι ότι χρειάζεστε πραγματικά αυτήν τη χωρητικότητα GPU σε αυτές τις ημερομηνίες.
Και μόλις τελειώσει ο χρόνος σας, ο φόρτος εργασίας σας θα σταματήσει ανεπιτήδευτα. Το EC2 θα εκπέμψει ένα συμβάν μέσω του Amazon EventBridge για να ειδοποιήσει ότι η κράτηση λήγει, ώστε ο χρήστης να μπορεί να ελέγξει τον φόρτο εργασίας. Οι εμφανίσεις που εκτελούνται θα μεταβούν σε κατάσταση τερματισμού λειτουργίας 30 λεπτά πριν από τη λήξη της κράτησης, αλλά μόλις λήξει ο χρόνος, τυχόν παρουσίες που εξακολουθούν να εκτελούνται θα τερματιστούν.
Τα EC2 Capacity Blocks είναι διαθέσιμα τώρα, αλλά αρχικά μόνο στην περιοχή AWS US East (Ohio). Η διαθεσιμότητα σχεδιάζεται για επιπλέον Περιφέρειες και Τοπικές Ζώνες στο μέλλον, είπε η AWS.
Το cloud biz αναφερόμενα έσοδα 23 δισεκατομμυρίων δολαρίων για το τρίτο τρίμηνο του τρέχοντος έτους, από 3 δισεκατομμύρια δολάρια πέρυσι, αντικατοπτρίζοντας τη συνεχιζόμενη ανάπτυξη της αγοράς cloud, αλλά με βραδύτερο ρυθμό, καθώς οι πελάτες αναζητούν τρόπους να περιορίσουν τις δαπάνες. Όπως και τα άλλα μεγάλα σύννεφα, η AWS βλέπει τη ζήτηση για υπηρεσίες τεχνητής νοημοσύνης ως τρόπο καταπολέμησης αυτής της τάσης. ®
- SEO Powered Content & PR Distribution. Ενισχύστε σήμερα.
- PlatoData.Network Vertical Generative Ai. Ενδυναμώστε τον εαυτό σας. Πρόσβαση εδώ.
- PlatoAiStream. Web3 Intelligence. Ενισχύθηκε η γνώση. Πρόσβαση εδώ.
- PlatoESG. Ανθρακας, Cleantech, Ενέργεια, Περιβάλλον, Ηλιακός, Διαχείριση των αποβλήτων. Πρόσβαση εδώ.
- PlatoHealth. Ευφυΐα βιοτεχνολογίας και κλινικών δοκιμών. Πρόσβαση εδώ.
- πηγή: https://go.theregister.com/feed/www.theregister.com/2023/11/01/aws_reserve_gpu_time/
- :έχει
- :είναι
- :δεν
- $UP
- 12
- 14
- 22
- 30
- a
- πρόσβαση
- Λογαριασμός
- Πρόσθετος
- ομολογώ
- εκ των προτέρων
- Μετά το
- AI
- Υπηρεσίες AI
- Ειδοποίηση
- επιτρέπουν
- επιτρέπεται
- Amazon
- Amazon EC2
- an
- και
- κάθε
- ΕΙΝΑΙ
- AS
- At
- διαθεσιμότητα
- διαθέσιμος
- AWS
- BE
- επειδή
- πριν
- Καλύτερα
- Μεγάλος
- Δισεκατομμύριο
- biz
- Αποκλεισμός
- Μπλοκ
- αλλά
- Αγοράζει
- by
- Ημερολογιο
- CAN
- Χωρητικότητα
- βεβαιότητα
- φορτισμένα
- ισχυριζόμενος
- αξιώσεις
- Backup
- CO
- την καταπολέμηση της
- Ελάτε
- εταίρα
- που περιλαμβάνει
- Υπολογίστε
- κατανάλωση
- συνέχισε
- Κόστος
- Πορεία
- Τη στιγμή
- πελάτης
- Πελάτες
- Ημερομηνία
- Ημερομηνίες
- ημέρα
- Ημ.
- Ζήτηση
- αναπτύξεις
- κάνει
- doesn
- οδηγείται
- διάρκεια
- δυναμικός
- Νωρίτερα
- Ανατολή
- κατάληξη
- τελειώνει
- Συμβάν
- παράδειγμα
- Χαρακτηριστικά
- Για
- από
- εμπρός
- μελλοντικός
- Go
- GPU
- GPU
- Ανάπτυξη
- Έχω
- εδώ
- υψηλά
- ξενοδοχείο
- ΩΡΕΣ
- HTTPS
- in
- Συμπεριλαμβανομένου
- αρχικά
- παράδειγμα
- σε
- IT
- ΤΟΥ
- εαυτό
- jpg
- μόλις
- Γνωρίζοντας
- γνωστός
- μάθηση
- ας
- Αφήνει
- αφήνοντας
- επίπεδα
- Μου αρέσει
- τοπικός
- μηχανή
- μάθηση μηχανής
- Κατασκευή
- αγορά
- πληροί
- Μνήμη
- Λεπτ.
- μοντέλο
- μοντέλα
- τροποποιημένο
- βγάζω λεφτά
- Ανάγκη
- Νέα
- Όχι.
- τώρα
- αριθμός
- Nvidia
- of
- προσφορά
- Οχάιο
- on
- μια φορά
- ONE
- αποκλειστικά
- or
- τάξη
- ΑΛΛΑ
- Ειρήνη
- καταβλήθηκε
- Πληρωμή
- τοις εκατό
- σχέδιο
- προγραμματίζονται
- Πλάτων
- Πληροφορία δεδομένων Plato
- Πλάτωνα δεδομένα
- αρκετά
- Τιμές
- προμηθευτής
- αγορά
- Q2
- Q3
- σειρά
- πραγματικά
- αντανακλαστικός
- Επιστροφές
- περιοχή
- περιοχές
- απαιτείται
- Κρατήσεις
- Απόθεμα
- επιφυλάχθηκε
- πόρος
- Υποστηρικτικό υλικό
- έσοδα
- Δωμάτιο
- τρέξιμο
- τρέξιμο
- s
- Είπε
- ίδιο
- λέει
- Σπάνιος
- προγραμματιστεί
- σχέδιο
- Επιδιώξτε
- βλέπει
- υπηρεσία
- Πάροχος υπηρεσιών
- Υπηρεσίες
- Κοντά
- δείχνουν
- Δείχνει
- ενιαίας
- Μέγεθος
- So
- καθορίζεται
- Δαπάνες
- Κατάσταση
- Ακόμη
- προμήθεια
- Προσφορά και ζήτηση
- βέβαιος
- σύστημα
- ότι
- Η
- τους
- Τους
- τότε
- Εκεί.
- Αυτοί
- αυτοί
- αυτό
- φέτος
- εκείνοι
- Μέσω
- ώρα
- φορές
- προς την
- Σύνολο
- Τρένο
- τάση
- τύπος
- us
- Χρήστες
- Πραγματικός
- εικονική μηχανή
- ήταν
- Τρόπος..
- τρόπους
- Εβδ.
- πότε
- Ποιό
- θα
- με
- εντός
- Εργασία
- έτος
- Εσείς
- Σας
- zephyrnet
- ζώνες