AWS on välja pakkunud uue raha teenimise skeemi – laseb klientidel, kes soovivad GPU ressursse meeleheitlikult maksta, nende reserveerimise eest ajastatud kuupäevadeks ja kellaaegadeks, makstes ette ja ilma tellimuse muutmiseta.
Uus tarbimismudel on tuntud kui Amazon Elastic Compute Cloud (EC2) ML mahutavusplokid. See võimaldab klientidel pääseda juurde väga nõutud GPU-arvutitele, et käitada lühikest masinõppe töökoormust.
Nõudluse kasv GPU võimsuse järele koolitamiseks ja masinõppemudelite järeldamiseks on ületanud kogu tööstusharu hõlmavat pakkumist, muutes GPU-d napiks ressursiks.
Mida AWS muidugi ei tunnista, on see, et hüperskaalarid on GPU-de järjekorra eesotsas, suurendades pakkumist, sealhulgas AWS-i ennast. Nvidia teatatud ütles, et 22 protsenti selle teise kvartali kalendritulust tuli ühest pilveteenuse pakkujast.
EC2 mahuplokid on esialgu saadaval Amazon EC2 jaoks P5 virtuaalmasina eksemplarid, mida on praegu ainult üks tüüp, p5.48xlarge. Sellel on 192 vCPU-d, 2 TB süsteemimälu ja kaheksa Nvidia H100 GPU-d, mis teeb sellest päris kopsaka eksemplari.
AWS-i andmetel toimivad EC2 Capacity Blocki broneeringud nagu hotellitubade broneeringud. Määrate oma ruumi kuupäeva ja kestuse ning suuruse. Samamoodi võimaldab AWS valida kuupäeva ja kestuse, millal vajate GPU eksemplare ning vajalike eksemplaride arvu.
Kliendid saavad reserveerida EC2 võimsusploki, mis koosneb ainult ühest eksemplarist või kuni 64-st, ja neid saab vastavalt vajadusele reserveerida üheks kuni 14 päevaks. AWS võimaldab neid reserveerida kuni kaheksa nädalat ette, väites, et kliendid saavad seejärel oma masinõppe juurutamist kindlalt planeerida, teades, et neil on GPU võimsus, kui nad seda vajavad.
AWS ütleb, et EC2 Capacity Blocki hinnad on dünaamilised ja sõltuvad pakkumise ja nõudluse kogutasemest kliendi ostmise ajal. AWS väidab, et see näitab madalaima hinnaga saadaolevat pakkumist, mis vastab kliendi määratud vahemikule. A ekraanipilt ettevõtte ajaveebis näitab näidet ühest eksemplarist ühe päeva kohta, mis maksab 2,344 dollarit.
Kuid siin on kicker: EC2 võimsusploki kogumaksumus võetakse ette, arve esitatakse teie kontole 12 tunni jooksul ja AWS ei luba neid pärast ostmist muuta ega tühistada. Nii et teil on parem olla kindel, et teil on neil kuupäevadel seda GPU võimsust tõesti vaja.
Ja kui teie aeg on läbi, peatatakse teie töökoormus ilma tseremooniata. EC2 edastab sündmuse Amazon EventBridge'i kaudu, et hoiatada broneeringu lõppemisest, et kasutaja saaks töökoormust kontrollida. Töötavad eksemplarid lülituvad väljalülitusolekusse 30 minutit enne broneeringu lõppu, kuid aja möödudes lõpetatakse kõik veel töötavad eksemplarid.
EC2 võimsusplokid on praegu saadaval, kuid esialgu ainult AWS USA idapiirkonnas (Ohio). AWS teatas, et tulevikus on see saadaval täiendavates piirkondades ja kohalikes tsoonides.
Pilveäri teatatud tulu selle aasta kolmandas kvartalis 23 miljardit dollarit, võrreldes 3 miljardi dollariga aasta varem, mis peegeldab pilveturu jätkuvat kasvu, kuid aeglasemas tempos, kuna kliendid otsivad võimalusi kulutuste ohjeldamiseks. Nagu teisedki suured pilved, näeb AWS nõudlust AI-teenuste järele kui võimalust selle trendiga võidelda. ®
- SEO-põhise sisu ja PR-levi. Võimenduge juba täna.
- PlatoData.Network Vertikaalne generatiivne Ai. Jõustage ennast. Juurdepääs siia.
- PlatoAiStream. Web3 luure. Täiustatud teadmised. Juurdepääs siia.
- PlatoESG. Süsinik, CleanTech, Energia, Keskkond päikeseenergia, Jäätmekäitluse. Juurdepääs siia.
- PlatoTervis. Biotehnoloogia ja kliiniliste uuringute luureandmed. Juurdepääs siia.
- Allikas: https://go.theregister.com/feed/www.theregister.com/2023/11/01/aws_reserve_gpu_time/
- :on
- :on
- :mitte
- $ UP
- 12
- 14
- 22
- 30
- a
- juurdepääs
- konto
- Täiendavad lisad
- tunnistama
- edendama
- pärast
- AI
- AI teenused
- Häire
- võimaldama
- lubatud
- Amazon
- Amazon EC2
- an
- ja
- mistahes
- OLEME
- AS
- At
- kättesaadavus
- saadaval
- AWS
- BE
- sest
- enne
- Parem
- Suur
- Miljard
- biz
- Blokeerima
- Plokid
- kuid
- Ostab
- by
- kalender
- CAN
- Võimsus
- kindlus
- laetud
- väites,
- nõuete
- Cloud
- CO
- vastu
- Tulema
- ettevõte
- koosnevad
- Arvutama
- tarbimine
- jätkas
- Maksma
- Kursus
- Praegu
- klient
- Kliendid
- kuupäev
- Kuupäevad
- päev
- Päeva
- Nõudlus
- kasutuselevõtt
- ei
- ei
- ajendatud
- kestus
- dünaamiline
- Ajalugu
- Ida
- lõpetamine
- lõppeb
- sündmus
- näide
- FUNKTSIOONID
- eest
- Alates
- esi-
- tulevik
- Go
- GPU
- GPU
- Kasv
- Olema
- siin
- kõrgelt
- hotell
- Lahtiolekuajad
- HTTPS
- in
- Kaasa arvatud
- esialgu
- Näiteks
- sisse
- IT
- ITS
- ise
- jpg
- lihtsalt
- Teades
- teatud
- õppimine
- laskma
- Lets
- väljaüürimine
- taset
- nagu
- kohalik
- masin
- masinõpe
- Tegemine
- Turg
- vastab
- Mälu
- protokoll
- mudel
- mudelid
- modifitseeritud
- raha teenimine
- Vajadus
- Uus
- ei
- nüüd
- number
- Nvidia
- of
- pakkumine
- Ohio
- on
- kunagi
- ONE
- ainult
- or
- et
- Muu
- tempo
- makstud
- Maksma
- protsent
- kava
- plaanitud
- Platon
- Platoni andmete intelligentsus
- PlatoData
- ilus
- Hinnad
- tarnija
- ostma
- Q2
- Q3
- valik
- tõesti
- peegeldav
- Toetused
- piirkond
- piirkondades
- nõutav
- Broneerimine
- Reserv
- reserveeritud
- ressurss
- Vahendid
- tulu
- ruum
- jooks
- jooksmine
- s
- Ütlesin
- sama
- ütleb
- Napp
- plaanitud
- kava
- otsima
- näeb
- teenus
- Teenuseosutaja
- Teenused
- Lühike
- näitama
- Näitused
- ühekordne
- SUURUS
- So
- määratletud
- Kulutused
- riik
- Veel
- varustama
- Pakkumine ja nõudlus
- kindel
- süsteem
- et
- .
- oma
- Neile
- SIIS
- Seal.
- Need
- nad
- see
- Sel aastal
- need
- Läbi
- aeg
- korda
- et
- Summa
- Rong
- Trend
- tüüp
- us
- Kasutaja
- virtuaalne
- virtuaalne masin
- oli
- Tee..
- kuidas
- nädalat
- millal
- mis
- will
- koos
- jooksul
- Töö
- aasta
- sa
- Sinu
- sephyrnet
- tsoonid