AWS, GPU kaynaklarına ihtiyaç duyan müşterilerin, bunları önceden planlanmış tarihler ve saatler için rezerve etmek için ödeme yapmasına, peşin ödeme yapmasına ve herhangi bir sipariş değişikliğine izin verilmemesine olanak tanıyan yeni bir para kazanma planı geliştirdi.
Yeni tüketim modeli Amazon Elastic Compute Cloud (EC2) olarak biliniyor ML için Kapasite Blokları. Kısa makine öğrenimi iş yüklerini çalıştırmak için müşterilerin çok aranan GPU bilgi işlemine erişmesine olanak tanır.
Makine öğrenimi modellerini eğitmek ve çıkarım yapmak için GPU kapasitesine olan talepteki artış, sektör çapındaki arzı geride bırakarak GPU'ları kıt bir kaynak haline getirdi.
AWS'nin elbette kabul etmediği şey, bunun nedeni hiper ölçekleyicinin GPU'lar için kuyruğun en önünde yer alması ve AWS'nin kendisi de dahil olmak üzere arzı artırmasıdır. Nvidia söylendiğine göre Takvimin 22. Çeyreği gelirinin yüzde 2'sinin tek bir bulut hizmet sağlayıcısından sağlandığını söyledi.
EC2 Kapasite Blokları başlangıçta Amazon EC2 için kullanıma sunuldu P5 sanal makine örnekleriŞu anda yalnızca tek bir türü var: p5.48xlarge. Bu, 192 vCPU'ya, 2 TB sistem belleğine ve sekiz adet Nvidia'nın H100 GPU'suna sahiptir ve bu da onu oldukça ağır bir örnek haline getirir.
AWS'ye göre EC2 Kapasite Bloğu rezervasyonları, otel odası rezervasyonları gibi çalışır. Odanızın tarihini, süresini ve boyutunu siz belirlersiniz. Aynı şekilde AWS, GPU bulut sunucularına ihtiyaç duyacağınız tarihi, süreyi ve gerekli bulut sunucusu sayısını seçmenize olanak tanır.
Müşteriler, yalnızca tek bir bulut sunucusundan veya en fazla 2 bulut sunucusundan oluşan bir EC64 Kapasite Bloğu rezerve edebilir ve bunlar, gerektiği gibi bir ila 14 gün süreyle rezerve edilebilir. AWS, müşterilerin ihtiyaç duyduklarında GPU kapasitesine sahip olacaklarını bilerek makine öğrenimi dağıtımlarını kesin olarak planlayabileceklerini iddia ederek bunların sekiz haftaya kadar önceden rezerve edilmesine izin verecek.
AWS, EC2 Kapasite Bloğu fiyatlarının dinamik olduğunu ve müşterinin satın alma anında mevcut toplam arz ve talep seviyelerine bağlı olduğunu söylüyor. AWS, müşterinin belirttiği aralığı karşılayan mevcut en düşük fiyatlı teklifi göstereceğini iddia ediyor. A şirketin blogundaki ekran görüntüsü tek bir gün için maliyeti 2,344 ABD doları olan tek bir örneğin örneğini gösterir.
Ancak işin ilginç yanı şu: EC2 Kapasite Bloğunun toplam maliyeti önden tahsil edilir, 12 saat içinde hesabınıza fatura edilir ve AWS, bunların satın alındıktan sonra değiştirilmesine veya iptal edilmesine izin vermez. Dolayısıyla bu tarihlerde o GPU kapasitesine gerçekten ihtiyacınız olduğundan emin olsanız iyi olur.
Ve süreniz dolduğunda, iş yükünüz kararsız bir şekilde durdurulacak. EC2, kullanıcının iş yükünü kontrol edebilmesi için rezervasyonun sona erdiğini bildiren Amazon EventBridge aracılığıyla bir etkinlik yayınlayacaktır. Çalışan bulut sunucuları, rezervasyon sona ermeden 30 dakika önce kapatılma durumuna geçecektir, ancak süre dolduğunda hala çalışmakta olan tüm bulut sunucuları sonlandırılacaktır.
EC2 Kapasite Blokları şu anda mevcuttur, ancak başlangıçta yalnızca AWS ABD Doğu (Ohio) Bölgesinde mevcuttur. AWS, gelecekte ek Bölgeler ve Yerel Bölgeler için kullanılabilirliğin planlandığını söyledi.
Bulut işi bildirilen gelir Bu yılın 23. çeyreği için bir önceki yılki 3 milyar dolardan 20.5 milyar dolara yükseldi; bu, bulut pazarının devam eden büyümesini yansıtıyor, ancak müşteriler harcamalarını dizginlemenin yollarını ararken daha yavaş bir hızda ilerliyor. Diğer büyük bulutlar gibi AWS de yapay zeka hizmetlerine olan talebi bu trendle mücadele etmenin bir yolu olarak görüyor. ®
- SEO Destekli İçerik ve Halkla İlişkiler Dağıtımı. Bugün Gücünüzü Artırın.
- PlatoData.Network Dikey Üretken Yapay Zeka. Kendine güç ver. Buradan Erişin.
- PlatoAiStream. Web3 Zekası. Bilgi Genişletildi. Buradan Erişin.
- PlatoESG. karbon, temiz teknoloji, Enerji, Çevre, Güneş, Atık Yönetimi. Buradan Erişin.
- PlatoSağlık. Biyoteknoloji ve Klinik Araştırmalar Zekası. Buradan Erişin.
- Kaynak: https://go.theregister.com/feed/www.theregister.com/2023/11/01/aws_reserve_gpu_time/
- :vardır
- :dır-dir
- :olumsuzluk
- $UP
- 12
- 14
- 22
- 30
- a
- erişim
- Hesap
- Ek
- Kabul et
- ilerlemek
- Sonra
- AI
- AI hizmetleri
- Uyarmak
- izin vermek
- izin
- Amazon
- Amazon EC2
- an
- ve
- herhangi
- ARE
- AS
- At
- kullanılabilirliği
- mevcut
- AWS
- BE
- Çünkü
- önce
- Daha iyi
- Büyük
- Milyar
- biz
- Engellemek
- Blokları
- fakat
- Buys
- by
- Takvim
- CAN
- Kapasite
- kesinlik
- yüklü
- iddia
- iddia
- bulut
- CO
- mücadele
- nasıl
- şirket
- içeren
- hesaplamak
- tüketim
- devam
- Ücret
- Kurs
- Şu anda
- müşteri
- Müşteriler
- Tarih
- Tarih
- gün
- Günler
- Talep
- dağıtımları
- yok
- gelmez
- tahrik
- süre
- dinamik
- Daha erken
- Doğu
- bitirme
- uçları
- Etkinlikler
- örnek
- Özellikler
- İçin
- itibaren
- ön
- gelecek
- Go
- GPU
- GPU'lar
- Büyüme
- Var
- okuyun
- büyük ölçüde
- otel
- SAAT
- HTTPS
- in
- Dahil olmak üzere
- başlangıçta
- örnek
- içine
- IT
- ONUN
- kendisi
- jpg
- sadece
- bilme
- bilinen
- öğrenme
- izin
- Lets
- icar
- seviyeleri
- sevmek
- yerel
- makine
- makine öğrenme
- Yapımı
- pazar
- Toplandı
- Bellek
- dakika
- model
- modelleri
- değiştirilmiş
- para kazanma
- gerek
- yeni
- yok hayır
- şimdi
- numara
- Nvidia
- of
- teklif
- Ohio
- on
- bir Zamanlar
- ONE
- bir tek
- or
- sipariş
- Diğer
- Barış
- ödenmiş
- yüzde
- plan
- planlanmış
- Platon
- Plato Veri Zekası
- PlatoVeri
- güzel
- Fiyatlar
- sağlayan
- satın alma
- Q2
- Q3
- menzil
- Gerçekten mi
- yansıtan
- İadeler
- bölge
- bölgeler
- gereklidir
- Rezervasyon
- Rezerv
- ayrılmış
- kaynak
- Kaynaklar
- gelir
- oda
- koşmak
- koşu
- s
- Adı geçen
- aynı
- diyor
- Kıt
- tarifeli
- plan
- Aramak
- Gördükleri
- hizmet
- Servis Sağlayıcı
- Hizmetler
- kısa
- şov
- Gösteriler
- tek
- beden
- So
- Belirtilen
- Harcama
- Eyalet
- Yine
- arz
- Arz ve talep
- elbette
- sistem
- o
- The
- ve bazı Asya
- Onları
- sonra
- Orada.
- Bunlar
- onlar
- Re-Tweet
- Bu yıl
- Bu
- İçinden
- zaman
- zamanlar
- için
- Toplam
- Tren
- eğilim
- tip
- us
- kullanıcı
- Sanal
- Sanal makine
- oldu
- Yol..
- yolları
- Haftalar
- ne zaman
- hangi
- irade
- ile
- içinde
- İş
- yıl
- Sen
- zefirnet
- bölgeleri