AWS запропонувала нову схему заробляння грошей – дозволяючи клієнтам, які відчайдушно потребують ресурсів графічного процесора, платити, щоб резервувати їх на заплановані дати та час, оплачуючи наперед і не дозволяючи змінювати замовлення.
Нова модель споживання відома як Amazon Elastic Compute Cloud (EC2). Блоки ємності для ML. Це дозволяє клієнтам отримати доступ до дуже затребуваних обчислень GPU для виконання коротких робочих навантажень машинного навчання.
Зростання попиту на потужність GPU для навчання та створення моделей машинного навчання випереджає пропозицію в усій галузі, що робить GPU дефіцитним ресурсом.
Звичайно, AWS не визнає, що це відбувається тому, що гіперскейлери стоять на першому місці в черзі графічних процесорів, збільшуючи пропозицію, включаючи саму AWS. Nvidia як повідомляється сказав, що 22 відсотки його календарного доходу за 2 квартал припало на одного постачальника хмарних послуг.
Блоки ємності EC2 спочатку доступні для Amazon EC2 Примірники віртуальної машини P5, з яких наразі існує лише один тип, p5.48xlarge. Він має 192 vCPU, 2 ТБ системної пам’яті та вісім графічних процесорів Nvidia H100, що робить його досить потужним примірником.
Відповідно до AWS, резервування EC2 Capacity Block працює як бронювання номерів у готелі. Ви вказуєте дату, тривалість і розмір вашої кімнати. Таким же чином AWS дозволяє вибрати дату та тривалість, коли вам знадобляться екземпляри GPU, а також кількість необхідних екземплярів.
Клієнти можуть зарезервувати блок ємності EC2, що складається лише з одного екземпляра або до 64, і їх можна зарезервувати на термін від одного до 14 днів, якщо потрібно. AWS дозволить зарезервувати їх за вісім тижнів наперед, стверджуючи, що клієнти зможуть з упевненістю планувати розгортання свого машинного навчання, знаючи, що вони матимуть потужність графічного процесора, коли їм це знадобиться.
AWS каже, що ціни на EC2 Capacity Block є динамічними та залежать від загального доступного рівня попиту та пропозиції на момент покупки клієнтом. AWS стверджує, що покаже доступну пропозицію з найнижчою ціною, яка відповідає діапазону, указаному клієнтом. А скріншот в блозі компанії показує приклад одного екземпляра за один день вартістю 2,344 долари.
Але ось головне: загальна вартість блоку ємності EC2 стягується наперед, рахунок виставляється на ваш рахунок протягом 12 годин, і AWS не дозволяє їх змінювати чи скасовувати після покупки. Тож вам краще переконатися, що вам справді потрібна ця потужність GPU на ці дати.
І коли ваш час закінчиться, ваше робоче навантаження буде безцеремонно припинено. EC2 випустить подію через Amazon EventBridge, щоб сповістити про завершення резервування, щоб користувач міг перевірити робоче навантаження. Запущені екземпляри перейдуть у стан вимкнення за 30 хвилин до завершення резервування, але після закінчення часу всі запущені екземпляри буде припинено.
Блоки ємності EC2 вже доступні, але спочатку лише в регіоні AWS US East (Огайо). За словами AWS, у майбутньому планується доступність для додаткових регіонів і локальних зон.
Хмарний бізнес звітний дохід 23 мільярди доларів США за третій квартал цього року порівняно з 3 мільярдами доларів роком раніше, що відображає постійне зростання ринку хмарних технологій, але повільнішими темпами, оскільки клієнти шукають способи приборкати витрати. Як і інші великі хмари, AWS розглядає попит на послуги ШІ як спосіб боротьби з цією тенденцією. ®
- Розповсюдження контенту та PR на основі SEO. Отримайте посилення сьогодні.
- PlatoData.Network Vertical Generative Ai. Додайте собі сили. Доступ тут.
- PlatoAiStream. Web3 Intelligence. Розширення знань. Доступ тут.
- ПлатонЕСГ. вуглець, CleanTech, Енергія, Навколишнє середовище, Сонячна, Поводження з відходами. Доступ тут.
- PlatoHealth. Розвідка про біотехнології та клінічні випробування. Доступ тут.
- джерело: https://go.theregister.com/feed/www.theregister.com/2023/11/01/aws_reserve_gpu_time/
- : має
- :є
- : ні
- $UP
- 12
- 14
- 22
- 30
- a
- доступ
- рахунки
- Додатковий
- визнати
- просування
- після
- AI
- Послуги ШІ
- Оповіщення
- дозволяти
- дозволено
- Amazon
- Amazon EC2
- an
- та
- будь-який
- ЕСТЬ
- AS
- At
- наявність
- доступний
- AWS
- BE
- оскільки
- перед тим
- Краще
- Великий
- Мільярд
- бізнес
- Блокувати
- блоки
- але
- Купує
- by
- Календар
- CAN
- потужність
- впевненість
- стягується
- стверджуючи,
- претензій
- хмара
- CO
- боротьби з
- Приходити
- компанія
- що включає
- обчислення
- споживання
- триває
- Коштувати
- Курс
- В даний час
- клієнт
- Клієнти
- Дата
- Дати
- день
- Днів
- Попит
- розгортання
- робить
- байдуже
- керований
- тривалість
- динамічний
- Раніше
- Схід
- закінчення
- закінчується
- Event
- приклад
- риси
- для
- від
- перед
- майбутнє
- Go
- GPU
- Графічні процесори
- Зростання
- Мати
- тут
- дуже
- готель
- ГОДИННИК
- HTTPS
- in
- У тому числі
- спочатку
- екземпляр
- в
- IT
- ЙОГО
- сам
- JPG
- просто
- Знання
- відомий
- вивчення
- дозволяти
- дозволяє
- здавати
- рівні
- як
- місцевий
- машина
- навчання за допомогою машини
- Робить
- ринок
- відповідає
- пам'ять
- хвилин
- модель
- Моделі
- модифікований
- заробляння грошей
- Необхідність
- Нові
- немає
- зараз
- номер
- Nvidia
- of
- пропонує
- Огайо
- on
- один раз
- ONE
- тільки
- or
- порядок
- Інше
- алюр
- оплачувану
- Платити
- відсотків
- план
- запланований
- plato
- Інформація про дані Платона
- PlatoData
- досить
- ціни
- Постачальник
- покупка
- Q2
- Q3
- діапазон
- насправді
- що відображають
- Повернення
- регіон
- райони
- вимагається
- бронювання
- Резерв
- захищені
- ресурс
- ресурси
- revenue
- Кімната
- прогін
- біг
- s
- Зазначений
- то ж
- говорить
- Дефіцитний
- плановий
- схема
- Шукати
- бачить
- обслуговування
- Постачальник послуг
- Послуги
- Короткий
- Показувати
- Шоу
- один
- Розмір
- So
- зазначений
- Витрати
- стан
- Як і раніше
- поставка
- Попит та пропозиція
- Переконайтеся
- система
- Що
- Команда
- їх
- Їх
- потім
- Там.
- Ці
- вони
- це
- У цьому році
- ті
- через
- час
- times
- до
- Усього:
- поїзд
- Trend
- тип
- us
- користувач
- Віртуальний
- віртуальна машина
- було
- шлях..
- способи
- тижня
- коли
- який
- волі
- з
- в
- Work
- рік
- Ти
- вашу
- зефірнет
- зони