Az AWS egy új pénzkereseti sémát dolgozott ki – lehetővé teszi a GPU-erőforrásokért kétségbeesett ügyfeleknek, hogy fizessenek azért, hogy lefoglalják azokat az ütemezett dátumokra és időpontokra, előre fizetve, és a rendelés módosítása nem megengedett.
Az új fogyasztási modell Amazon Elastic Compute Cloud (EC2) néven ismert. Kapacitásblokkok ML-hez. Lehetővé teszi az ügyfelek számára, hogy hozzáférjenek a nagyon keresett GPU-számítógépekhez, hogy rövid gépi tanulási terheléseket lehessen futtatni.
A gépi tanulási modellek betanításához és következtetéséhez szükséges GPU-kapacitás iránti kereslet növekedése meghaladta az iparági kínálatot, így a GPU-k szűkös erőforrássá váltak.
Amit az AWS természetesen nem ismer el, az az, hogy ennek az az oka, hogy a hyperscaler a GPU-k sorának élén áll, és felpörgeti a kínálatot, beleértve magát az AWS-t is. Nvidia állítólag azt mondta, hogy a naptári második negyedéves bevétel 22 százalékát egyetlen felhőszolgáltató hajtotta.
Az EC2 kapacitásblokkok kezdetben az Amazon EC2 számára érhetők el P5 virtuális gép példányok, amiből jelenleg csak egy típus van, a p5.48xlarge. Ez 192 vCPU-val, 2 TB rendszermemóriával és nyolc Nvidia H100-as GPU-val rendelkezik, így egy meglehetősen izmos példány.
Az AWS szerint az EC2 Capacity Block foglalások úgy működnek, mint a szállodai szobafoglalások. Megadhatja a dátumot, az időtartamot és a helyiség méretét. Ugyanígy az AWS lehetővé teszi, hogy kiválassza azt a dátumot és időtartamot, amikor GPU-példányokra lesz szüksége, valamint a szükséges példányok számát.
Az ügyfelek lefoglalhatnak egy EC2 Capacity Blockot, amely csak egyetlen példányt tartalmaz, vagy akár 64 példányt is, és ezek igény szerint 14-XNUMX napra foglalhatók le. Az AWS lehetővé teszi, hogy ezeket akár nyolc héttel előre lefoglalják, azt állítva, hogy az ügyfelek biztonsággal megtervezhetik gépi tanulási telepítéseiket, tudván, hogy akkor lesz GPU-kapacitásuk, amikor szükségük lesz rá.
Az AWS szerint az EC2 Capacity Block árai dinamikusak, és a vásárlás időpontjában a kereslet és a kínálat teljes elérhető szintjétől függenek. Az AWS azt állítja, hogy az elérhető legalacsonyabb árú ajánlatot fogja megjeleníteni, amely megfelel az ügyfél által megadott tartománynak. A képernyőkép a cég blogján példát mutat egyetlen példányra egyetlen napra, amely 2,344 dollárba kerül.
De itt van a kitörés: az EC2 Capacity Block teljes költségét előre felszámítják, 12 órán belül kiszámlázzák a fiókjában, és az AWS nem engedi, hogy a vásárlás után módosítsák vagy töröljék őket. Tehát jobb, ha biztosnak kell lennie abban, hogy valóban szüksége van erre a GPU-kapacitásra ezeken a dátumokon.
És ha lejár az időd, a munkateher minden szertartás nélkül leáll. Az EC2 eseményt bocsát ki az Amazon EventBridge-n keresztül, hogy figyelmeztesse, hogy a foglalás véget ér, így a felhasználó ellenőrizheti a munkaterhelést. A futó példányok 30 perccel a foglalás vége előtt leállási állapotba kerülnek, de az idő lejárta után a még futó példányok leállnak.
Az EC2 kapacitásblokkok már elérhetőek, de kezdetben csak az AWS US East (Ohio) régiójában. Az AWS szerint a jövőben további régiókban és helyi zónákban is elérhető lesz.
A felhő biz bejelentett bevétel 23 milliárd dollár az idei harmadik negyedévben, szemben az egy évvel korábbi 3 milliárd dollárral, ami a felhőpiac folyamatos növekedését tükrözi, de lassabb ütemben, ahogy az ügyfelek keresik a költekezés visszafogását. A többi nagy felhőhöz hasonlóan az AWS is úgy látja, hogy az AI-szolgáltatások iránti kereslet egy módja annak, hogy leküzdje ezt a trendet. ®
- SEO által támogatott tartalom és PR terjesztés. Erősödjön még ma.
- PlatoData.Network Vertical Generative Ai. Erősítse meg magát. Hozzáférés itt.
- PlatoAiStream. Web3 Intelligence. Felerősített tudás. Hozzáférés itt.
- PlatoESG. Carbon, CleanTech, Energia, Környezet, Nap, Hulladékgazdálkodás. Hozzáférés itt.
- PlatoHealth. Biotechnológiai és klinikai vizsgálatok intelligencia. Hozzáférés itt.
- Forrás: https://go.theregister.com/feed/www.theregister.com/2023/11/01/aws_reserve_gpu_time/
- :van
- :is
- :nem
- $ UP
- 12
- 14
- 22
- 30
- a
- hozzáférés
- Fiók
- További
- beismerni
- előre
- Után
- AI
- AI szolgáltatások
- Éber
- lehetővé
- megengedett
- amazon
- Amazon EC2
- an
- és a
- bármilyen
- VANNAK
- AS
- At
- elérhetőség
- elérhető
- AWS
- BE
- mert
- előtt
- Jobb
- Nagy
- Billió
- biz
- Blokk
- Blocks
- de
- vásárol
- by
- Naptár
- TUD
- Kapacitás
- bizonyosság
- töltött
- követelő
- követelések
- felhő
- CO
- elleni küzdelem
- hogyan
- vállalat
- azzal jellemezve,
- Kiszámít
- fogyasztás
- tovább
- Költség
- Tanfolyam
- Jelenleg
- vevő
- Ügyfelek
- találka
- Időpontok
- nap
- Nap
- Kereslet
- bevetések
- nem
- nem
- hajtott
- időtartama
- dinamikus
- Korábban
- Keleti
- befejező
- vége
- esemény
- példa
- Jellemzők
- A
- ból ből
- front
- jövő
- Go
- GPU
- GPU
- Növekedés
- Legyen
- itt
- nagyon
- szálloda
- NYITVATARTÁS
- HTTPS
- in
- Beleértve
- alapvetően
- példa
- bele
- IT
- ITS
- maga
- jpg
- éppen
- Ismerve
- ismert
- tanulás
- hadd
- Lets
- bérbeadása
- szintek
- mint
- helyi
- gép
- gépi tanulás
- Gyártás
- piacára
- Megfelel
- Memory design
- Perc
- modell
- modellek
- módosított
- Pénz csinálás
- Szükség
- Új
- nem
- Most
- szám
- Nvidia
- of
- felajánlás
- Ohio
- on
- egyszer
- ONE
- csak
- or
- érdekében
- Más
- Béke
- fizetett
- Fizet
- százalék
- terv
- tervezett
- Plató
- Platón adatintelligencia
- PlatoData
- szép
- Áraink
- ellátó
- Vásárlás
- Q2
- Q3
- hatótávolság
- tényleg
- tükrözve
- Visszafizetés
- vidék
- régiók
- kötelező
- Booking
- Tartalék
- fenntartott
- forrás
- Tudástár
- jövedelem
- Szoba
- futás
- futás
- s
- Mondott
- azonos
- azt mondja,
- Szűkös
- tervezett
- rendszer
- Keresnek
- lát
- szolgáltatás
- Szolgáltató
- Szolgáltatások
- rövid
- előadás
- Műsorok
- egyetlen
- Méret
- So
- meghatározott
- Költési
- Állami
- Még mindig
- kínálat
- Kereslet és kínálat
- biztos
- rendszer
- hogy
- A
- azok
- Őket
- akkor
- Ott.
- Ezek
- ők
- ezt
- idén
- azok
- Keresztül
- idő
- alkalommal
- nak nek
- Végösszeg
- Vonat
- tendencia
- típus
- us
- használó
- Tényleges
- virtuális gép
- volt
- Út..
- módon
- Hetek
- amikor
- ami
- lesz
- val vel
- belül
- Munka
- év
- te
- A te
- zephyrnet
- zónák