AWS đã đưa ra một kế hoạch kiếm tiền mới – cho phép những khách hàng đang cần tài nguyên GPU trả tiền để đặt trước chúng theo ngày và giờ đã lên lịch, trả trước và không được phép sửa đổi đơn hàng.
Mô hình tiêu thụ mới được gọi là Đám mây điện toán đàn hồi Amazon (EC2) Khối công suất cho ML. Nó cho phép khách hàng truy cập vào điện toán GPU được nhiều người ưa chuộng để chạy khối lượng công việc học máy ngắn.
Nhu cầu ngày càng tăng về công suất GPU để đào tạo và suy luận các mô hình máy học đã vượt xa nguồn cung trên toàn ngành, khiến GPU trở thành nguồn tài nguyên khan hiếm.
Tất nhiên, điều mà AWS không thừa nhận là điều này là do siêu quy mô đang đứng đầu hàng đợi GPU, làm cạn kiệt nguồn cung, bao gồm cả chính AWS. Nvidia báo cáo cho biết 22% doanh thu quý 2 theo lịch của họ được thúc đẩy bởi một nhà cung cấp dịch vụ đám mây duy nhất.
Khối công suất EC2 ban đầu có sẵn cho Amazon EC2 Phiên bản máy ảo P5, trong đó hiện chỉ có một loại là p5.48xlarge. Nó có 192 vCPU, 2 TB bộ nhớ hệ thống và 100 GPU HXNUMX của Nvidia, khiến nó trở thành một phiên bản khá nặng.
Theo AWS, việc đặt trước Khối công suất EC2 hoạt động giống như đặt phòng khách sạn. Bạn chỉ định ngày, khoảng thời gian cũng như kích thước phòng của mình.. Theo cách tương tự, AWS cho phép bạn chọn ngày và khoảng thời gian bạn sẽ cần các phiên bản GPU cũng như số lượng phiên bản cần thiết.
Khách hàng có thể đặt trước Khối công suất EC2 chỉ bao gồm một phiên bản duy nhất hoặc tối đa 64 phiên bản và các khối này có thể được đặt trước từ một đến 14 ngày nếu cần. AWS sẽ cho phép đặt trước những thứ này trước tối đa tám tuần, đồng thời tuyên bố rằng sau đó khách hàng có thể lập kế hoạch triển khai máy học một cách chắc chắn và biết rằng họ sẽ có đủ dung lượng GPU khi cần.
AWS cho biết giá Khối công suất EC2 rất linh hoạt và phụ thuộc vào tổng mức cung và cầu hiện có tại thời điểm khách hàng mua. AWS tuyên bố họ sẽ hiển thị sản phẩm có giá thấp nhất đáp ứng được phạm vi mà khách hàng đã chỉ định. MỘT ảnh chụp màn hình trên blog của công ty hiển thị ví dụ về một phiên bản trong một ngày có giá 2,344 USD.
Nhưng điểm mấu chốt là: tổng chi phí của Khối công suất EC2 được tính trước, tính vào tài khoản của bạn trong vòng 12 giờ và AWS không cho phép sửa đổi hoặc hủy chúng sau khi mua. Vì vậy, tốt hơn hết bạn nên chắc chắn rằng mình thực sự cần dung lượng GPU đó vào những ngày đó.
Và khi hết thời gian, khối lượng công việc của bạn sẽ bị dừng lại một cách bất thường. EC2 sẽ phát ra một sự kiện thông qua Amazon EventBridge để cảnh báo rằng quá trình đặt trước sắp kết thúc để người dùng có thể kiểm tra khối lượng công việc. Các phiên bản đang chạy sẽ chuyển sang trạng thái tắt 30 phút trước khi quá trình đặt trước kết thúc, nhưng sau khi hết thời gian, mọi phiên bản vẫn đang chạy sẽ bị chấm dứt.
Khối công suất EC2 hiện có sẵn nhưng ban đầu chỉ có ở Khu vực AWS Miền Đông Hoa Kỳ (Ohio). AWS cho biết tính khả dụng đã được lên kế hoạch cho các Khu vực và Khu vực địa phương bổ sung trong tương lai.
Đám mây biz doanh thu báo cáo là 23 tỷ USD trong quý 3 năm nay, tăng từ 20.5 tỷ USD một năm trước đó, phản ánh sự tăng trưởng liên tục của thị trường đám mây nhưng với tốc độ chậm hơn khi khách hàng tìm cách hạn chế chi tiêu. Giống như các đám mây lớn khác, AWS nhận thấy nhu cầu về dịch vụ AI là cách để chống lại xu hướng đó. ®
- Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
- PlatoData.Network Vertical Generative Ai. Trao quyền cho chính mình. Truy cập Tại đây.
- PlatoAiStream. Thông minh Web3. Kiến thức khuếch đại. Truy cập Tại đây.
- Trung tâmESG. Than đá, công nghệ sạch, Năng lượng, Môi trường Hệ mặt trời, Quản lý chất thải. Truy cập Tại đây.
- PlatoSức khỏe. Tình báo thử nghiệm lâm sàng và công nghệ sinh học. Truy cập Tại đây.
- nguồn: https://go.theregister.com/feed/www.theregister.com/2023/11/01/aws_reserve_gpu_time/
- : có
- :là
- :không phải
- $ LÊN
- 12
- 14
- 22
- 30
- a
- truy cập
- Tài khoản
- thêm vào
- thừa nhận
- tiến
- Sau
- AI
- Dịch vụ AI
- Cảnh báo
- cho phép
- cho phép
- đàn bà gan dạ
- Amazon EC2
- an
- và
- bất kì
- LÀ
- AS
- At
- sẵn có
- có sẵn
- AWS
- BE
- bởi vì
- trước
- Hơn
- lớn
- Tỷ
- biz
- Chặn
- Khối
- nhưng
- Mua
- by
- Xem Lịch
- CAN
- Sức chứa
- chắc chắn
- tính phí
- tuyên bố
- tuyên bố
- đám mây
- CO
- chống lại
- Đến
- công ty
- bao gồm
- Tính
- tiêu thụ
- tiếp tục
- Phí Tổn
- Khóa học
- Hiện nay
- khách hàng
- khách hàng
- Ngày
- Ngày
- ngày
- Ngày
- Nhu cầu
- triển khai
- làm
- doesn
- điều khiển
- thời gian
- năng động
- Sớm hơn
- Đông
- kết thúc
- kết thúc
- Sự kiện
- ví dụ
- Tính năng
- Trong
- từ
- trước mặt
- tương lai
- Go
- GPU
- GPU
- Tăng trưởng
- Có
- tại đây
- cao
- khách sạn
- GIỜ LÀM VIỆC
- HTTPS
- in
- Bao gồm
- ban đầu
- ví dụ
- trong
- IT
- ITS
- chính nó
- jpg
- chỉ
- Biết
- nổi tiếng
- học tập
- cho phép
- cho phép
- để
- niveaux
- Lượt thích
- địa phương
- máy
- học máy
- Làm
- thị trường
- Đạt
- Bộ nhớ
- Phút
- kiểu mẫu
- mô hình
- sửa đổi
- kiếm tiền
- Cần
- Mới
- Không
- tại
- con số
- Nvidia
- of
- cung cấp
- Ohio
- on
- hàng loạt
- ONE
- có thể
- or
- gọi món
- Nền tảng khác
- Hòa bình
- thanh toán
- Trả
- phần trăm
- kế hoạch
- kế hoạch
- plato
- Thông tin dữ liệu Plato
- PlatoDữ liệu
- khá
- Giá
- nhà cung cấp dịch vụ
- mua
- Q2
- Q3
- phạm vi
- có thật không
- phản ánh
- Hoàn lại tiền
- khu
- vùng
- cần phải
- đặt phòng
- Dự trữ
- Ltd
- tài nguyên
- Thông tin
- doanh thu
- Phòng
- chạy
- chạy
- s
- Nói
- tương tự
- nói
- Khan hiếm
- lên kế hoạch
- Đề án
- Tìm kiếm
- nhìn
- dịch vụ
- Nhà cung cấp dịch vụ
- DỊCH VỤ
- ngắn
- hiển thị
- Chương trình
- duy nhất
- Kích thước máy
- So
- quy định
- Chi
- Tiểu bang
- Vẫn còn
- cung cấp
- Cung và cầu
- chắc chắn
- hệ thống
- việc này
- Sản phẩm
- cung cấp their dịch
- Them
- sau đó
- Đó
- Kia là
- họ
- điều này
- năm nay
- những
- Thông qua
- thời gian
- thời gian
- đến
- Tổng số:
- Train
- khuynh hướng
- kiểu
- us
- người sử dang
- ảo
- máy ảo
- là
- Đường..
- cách
- tuần
- khi nào
- cái nào
- sẽ
- với
- ở trong
- Công việc
- năm
- Bạn
- trên màn hình
- zephyrnet
- khu vực Ace