AWS hat sich ein neues System zum Geldverdienen ausgedacht: Kunden, die verzweifelt auf GPU-Ressourcen angewiesen sind, können dafür bezahlen, diese für geplante Termine und Zeiten zu reservieren, im Voraus zu bezahlen und ohne Änderung der Bestellung.
Das neue Verbrauchsmodell heißt Amazon Elastic Compute Cloud (EC2). Kapazitätsblöcke für ML. Damit können Kunden auf die stark nachgefragte GPU-Rechenleistung zugreifen, um kurze Workloads für maschinelles Lernen auszuführen.
Der Anstieg der Nachfrage nach GPU-Kapazität zum Trainieren und Ableiten von Modellen für maschinelles Lernen übersteigt das branchenweite Angebot und macht GPUs zu einer knappen Ressource.
Was AWS natürlich nicht zugibt, ist, dass dies daran liegt, dass Hyperscaler ganz vorne in der Warteschlange für GPUs stehen und das Angebot, einschließlich AWS selbst, aufsaugen. Nvidia Berichten zufolge sagte, dass 22 Prozent seines Kalenderumsatzes im zweiten Quartal von einem einzigen Cloud-Dienstanbieter erzielt wurden.
EC2-Kapazitätsblöcke sind zunächst für Amazon EC2 verfügbar Instanzen virtueller P5-Maschinen, von dem es derzeit nur einen Typ gibt, den p5.48xlarge. Dieses verfügt über 192 vCPUs, 2 TB Systemspeicher und acht von Nvidias H100-GPUs, was es zu einer recht kräftigen Instanz macht.
Laut AWS funktionieren EC2 Capacity Block-Reservierungen wie Hotelzimmerreservierungen. Sie geben das Datum, die Dauer und die Größe Ihres Raums an. Auf die gleiche Weise können Sie bei AWS das Datum und die Dauer auswählen, an dem Sie GPU-Instanzen benötigen, sowie die Anzahl der erforderlichen Instanzen.
Kunden können einen EC2-Kapazitätsblock mit nur einer oder bis zu 64 Instanzen reservieren, je nach Bedarf für einen bis 14 Tage. AWS ermöglicht eine Reservierung bis zu acht Wochen im Voraus und behauptet, dass Kunden ihre Machine-Learning-Bereitstellungen dann mit Sicherheit planen können, da sie wissen, dass ihnen die GPU-Kapazität zur Verfügung steht, wenn sie sie benötigen.
Laut AWS sind die Preise für EC2-Kapazitätsblöcke dynamisch und hängen vom insgesamt verfügbaren Angebot und der Nachfrage zum Zeitpunkt des Kaufs durch den Kunden ab. AWS gibt an, das günstigste verfügbare Angebot anzuzeigen, das dem vom Kunden angegebenen Bereich entspricht. A Screenshot im Blog des Unternehmens zeigt ein Beispiel einer einzelnen Instanz für einen einzelnen Tag, die 2,344 $ kostet.
Aber hier ist der Clou: Die Gesamtkosten eines EC2-Kapazitätsblocks werden im Voraus berechnet und Ihrem Konto innerhalb von 12 Stunden in Rechnung gestellt. AWS erlaubt keine Änderung oder Stornierung nach dem Kauf. Stellen Sie also sicher, dass Sie die GPU-Kapazität zu diesen Terminen wirklich benötigen.
Und sobald Ihre Zeit abgelaufen ist, wird Ihr Arbeitspensum kurzerhand gestoppt. EC2 gibt über Amazon EventBridge ein Ereignis aus, um darauf aufmerksam zu machen, dass die Reservierung endet, damit der Benutzer die Arbeitslast überprüfen kann. Laufende Instanzen werden 30 Minuten vor Ende der Reservierung heruntergefahren. Sobald die Zeit abgelaufen ist, werden jedoch alle noch laufenden Instanzen beendet.
EC2-Kapazitätsblöcke sind ab sofort verfügbar, zunächst jedoch nur in der AWS-Region USA Ost (Ohio). Laut AWS ist die Verfügbarkeit für weitere Regionen und lokale Zonen in Zukunft geplant.
Das Cloud-Geschäft gemeldete Einnahmen Der Umsatz belief sich im dritten Quartal dieses Jahres auf 23 Milliarden US-Dollar, gegenüber 3 Milliarden US-Dollar im Vorjahr. Dies spiegelt das anhaltende Wachstum des Cloud-Marktes wider, jedoch in einem langsameren Tempo, da die Kunden nach Möglichkeiten suchen, ihre Ausgaben einzudämmen. Wie die anderen großen Clouds sieht AWS die Nachfrage nach KI-Diensten als eine Möglichkeit, diesem Trend entgegenzuwirken. ®
- SEO-gestützte Content- und PR-Distribution. Holen Sie sich noch heute Verstärkung.
- PlatoData.Network Vertikale generative KI. Motiviere dich selbst. Hier zugreifen.
- PlatoAiStream. Web3-Intelligenz. Wissen verstärkt. Hier zugreifen.
- PlatoESG. Kohlenstoff, CleanTech, Energie, Umwelt, Solar, Abfallwirtschaft. Hier zugreifen.
- PlatoHealth. Informationen zu Biotechnologie und klinischen Studien. Hier zugreifen.
- Quelle: https://go.theregister.com/feed/www.theregister.com/2023/11/01/aws_reserve_gpu_time/
- :hast
- :Ist
- :nicht
- $UP
- 12
- 14
- 22
- 30
- a
- Zugang
- Konto
- Zusätzliche
- eingestehen
- vorantreiben
- Nach der
- AI
- KI-Dienste
- Aufmerksam
- erlauben
- erlaubt
- Amazon
- Amazon EC2
- an
- machen
- jedem
- SIND
- AS
- At
- Verfügbarkeit
- verfügbar
- AWS
- BE
- weil
- Bevor
- Besser
- Big
- Milliarde
- biz
- Blockieren
- Blockiert
- aber
- Kauft
- by
- Kalender
- CAN
- Kapazität
- Sicherheit
- berechnet
- behauptet
- aus aller Welt
- Cloud
- CO
- Bekämpfung
- wie die
- Unternehmen
- umfassend
- Berechnen
- Verbrauch
- weiter
- Kosten
- Kurs
- Zur Zeit
- Kunde
- Kunden
- Datum
- Datum
- Tag
- Tage
- Demand
- Implementierungen
- die
- doesn
- angetrieben
- Dauer
- dynamisch
- Früher
- Osten
- Ende
- endet
- Event
- Beispiel
- Eigenschaften
- Aussichten für
- für
- Materials des
- Zukunft
- Go
- GPU
- GPUs
- Wachstum
- Haben
- hier
- hoch
- Hotels
- STUNDEN
- HTTPS
- in
- Einschließlich
- anfänglich
- Instanz
- in
- IT
- SEINE
- selbst
- jpg
- nur
- Wissend
- bekannt
- lernen
- lassen
- Lasst uns
- Vermietung
- Cholesterinspiegel
- Gefällt mir
- aus einer regionalen
- Maschine
- Maschinelles Lernen
- Making
- Markt
- Trifft
- Memory
- Minuten
- Modell
- für
- geändert
- Geld machen
- Need
- Neu
- nicht
- jetzt an
- Anzahl
- Nvidia
- of
- bieten
- Ohio
- on
- einmal
- EINEM
- einzige
- or
- Auftrag
- Andere
- Frieden
- bezahlt
- AUFMERKSAMKEIT
- Prozent
- Plan
- geplant
- Plato
- Datenintelligenz von Plato
- PlatoData
- ziemlich
- Preise
- Versorger
- Kauf
- Q2
- Q3
- Angebot
- wirklich
- reflektieren
- Rückerstattungen
- Region
- Regionen
- falls angefordert
- Reservierung
- RESERVE
- reserviert
- Ressourcen
- Downloads
- Einnahmen
- Zimmer
- Führen Sie
- Laufen
- s
- Said
- gleich
- sagt
- Knapp
- vorgesehen
- Schema
- Suchen
- sieht
- Dienstanbieter
- Dienstleistungen
- Short
- erklären
- Konzerte
- Single
- Größe
- So
- angegeben
- Ausgabe
- Bundesstaat
- Immer noch
- liefern
- Angebot und Nachfrage
- sicher
- System
- zur Verbesserung der Gesundheitsgerechtigkeit
- Das
- ihr
- Sie
- dann
- Dort.
- Diese
- vom Nutzer definierten
- fehlen uns die Worte.
- dieses Jahr
- diejenigen
- Durch
- Zeit
- mal
- zu
- Gesamt
- Training
- Trend
- tippe
- us
- Mitglied
- Assistent
- virtuellen Maschine
- wurde
- Weg..
- Wege
- Wochen
- wann
- welche
- werden wir
- mit
- .
- Arbeiten
- Jahr
- Du
- Ihr
- Zephyrnet
- Zonen