Централізуйте вогонь AI

Спонсорська функція Постійний потік революційних технологій і відкриттів – вогонь, сільське господарство, колесо, друкарський верстат та Інтернет – це лише деякі з них – глибоко сформував розвиток людства та цивілізацію. І цей цикл інновацій продовжується зі штучним інтелектом (ШІ). 

Дослідницька компанія IDC зайшла так далеко, що дійшла висновку, що штучний інтелект насправді є відповіддю практично на «все». Расмус Андсб’єрг, асоційований віце-президент із даних і аналітики в IDC, каже: «Насправді штучний інтелект пропонує рішення для всього, з чим ми зараз стикаємося. Штучний інтелект може стати джерелом для швидкого відстеження цифрової трансформації, сприяти економії коштів у часи приголомшливих темпів інфляції та підтримувати зусилля з автоматизації під час нестачі робочої сили».

Звичайно, у всіх галузях і функціях організації кінцевих користувачів починають відкривати переваги штучного інтелекту, оскільки з’являються дедалі потужніші алгоритми та базова інфраструктура, що дозволяє краще приймати рішення та підвищує продуктивність. 

Світовий дохід від ринку штучного інтелекту (ШІ), включаючи відповідне програмне забезпечення, апаратне забезпечення та послуги для орієнтованих і не орієнтованих на ШІ додатків, у 383.3 році склав 2021 мільярда доларів. Це на 20.7% більше, ніж у попередньому році, згідно з найбільш останній Міжнародна корпорація даних (IDC) Всесвітній піврічний трекер штучного інтелекту.

Подібним чином розгортання програмного забезпечення штучного інтелекту в хмарі продовжує демонструвати стійке зростання. IDC очікує, що у 2022 році хмарні версії нещодавно придбаного ПЗ штучного інтелекту перевершать локальні розгортання.

Штучний інтелект є межею

Доктор Ронен Дар, головний технічний директор компанії Run:ai, що спеціалізується на штучному інтелекті, яка створила платформу керування обчисленнями для штучного інтелекту, вважає, що небо є межею для зароджуваного корпоративного сектору ШІ. 

«ШІ — це ринок, який, як ми бачимо, розвивається дуже швидко. А з точки зору підприємств ми бачимо попит і впровадження машинного навчання та ШІ. І я думаю, що зараз є нова технологія, яка дає нові можливості, які змінять світ; які революціонізують бізнес», – зазначає Дар. 

Існує також дедалі чіткіше розуміння необхідності почати досліджувати та експериментувати зі ШІ та зрозуміти, як інтегрувати ШІ в бізнес-моделі.

Дар вважає, що штучний інтелект може принести «дивовижні переваги» для покращення існуючих бізнес-процесів підприємства: «З точки зору оптимізації та перевірки поточного бізнесу, ми бачимо багато варіантів використання штучного інтелекту та машинного навчання, які покращують операції та спосіб прийняття рішень. навколо попиту та пропозиції».

Він зазначає, що нові моделі глибокого навчання на основі нейронних мереж можуть покращити процеси, прийняття рішень і точність критичних бізнес-процесів, таких як виявлення шахрайства в індустрії фінансових послуг. Охорона здоров’я — це ще один сектор, де потенціал штучного інтелекту є «величезним», особливо з точки зору допомоги лікарям приймати кращі клінічні рішення та допомоги у відкритті та розробці нових ліків. 

І, дивлячись у майбутнє, Дар прогнозує, що технологія штучного інтелекту допоможе створити абсолютно нові комерційні можливості, яких наразі немає в таких секторах, як безпілотні транспортні засоби та захоплюючі ігри. 

Інфраструктурні перешкоди, які необхідно подолати

Незважаючи на очевидний потенціал штучного інтелекту та машинного навчання на підприємстві, Дар визнає, що комерційне розгортання штучного інтелекту стримується через проблеми з інфраструктурою. Він радить, що фірми повинні дивитися на те, як ШІ потрапляє в організацію в першу чергу.

Як правило, це пов’язано з неузгодженим процесом між відділами, у якому різні команди незалежно надають технології та ресурси, що призводить до відокремленого розгортання. ІТ-спеціалісти не можуть ефективно контролювати ці спеціальні проекти й не бачать того, що відбувається. І це ускладнює, якщо не робить неможливим розрахувати рентабельність інвестицій у витрати на інфраструктуру ШІ. 

«Це класична проблема: колись це були тіньові ІТ, а тепер це тіньовий ШІ», — каже Дар. 

Крім того, найсучасніша інфраструктура, необхідна для AI/ML, є інвестицією, оскільки підприємства потребують потужного обчислювального обладнання з графічним прискоренням для обробки дуже складних даних і навчання моделей. 

«Командам штучного інтелекту потрібна велика обчислювальна потужність для навчання моделей, як правило, з використанням графічних процесорів, які є ресурсами центрів обробки даних преміум-класу, які можна розділити й використовувати неефективно», — каже Дар. «Це точно може призвести до того, що багато грошей буде витрачено даремно». 

Така ізольована інфраструктура може, наприклад, призвести до рівня використання менше ніж на 10%.

Згідно з опитуванням Run:ai, Огляд стану інфраструктури ШІ за 2021 рік, опублікованому в жовтні 2021 року, 87 відсотків респондентів сказали, що відчувають певний рівень проблем із розподілом графічного процесора/комп’ютерних ресурсів, а 12 відсотків сказали, що це трапляється часто. У результаті 83 відсотки опитаних компаній повідомили, що не повністю використовують свій графічний процесор і апаратне забезпечення ШІ. Насправді, майже дві третини (61 відсоток) вказали, що їх графічний процесор і апаратне забезпечення штучного інтелекту в основному знаходяться на «помірному» рівні використання.

Централізація ШІ

Щоб вирішити ці проблеми, Дар виступає за централізацію надання ресурсів ШІ. Run:AI розробив платформу керування обчисленнями для ШІ, яка робить саме це, централізуючи та віртуалізуючи обчислювальний ресурс GPU. Завдяки об’єднанню графічних процесорів в єдиний віртуальний рівень і автоматизованому плануванню робочого навантаження для 100-відсоткового використання цей підхід пропонує переваги в порівнянні з розділеними системами на рівні відділу. 

Централізація інфраструктури повертає контроль і видимість, звільняючи вчених від накладних витрат на керування інфраструктурою. Команди штучного інтелекту спільно використовують універсальний обчислювальний ресурс штучного інтелекту, який можна динамічно набирати вгору та вниз у міру збільшення або зменшення попиту, усуваючи вузькі місця попиту та періоди недостатнього використання. 

Такий підхід, стверджує Дар, може допомогти організаціям отримати максимальну віддачу від свого апаратного забезпечення та звільнити науковців від обмежень базових ресурсів. Все це означає, що вони можуть виконувати більше завдань і запускати більше моделей ШІ у виробництво. 

Приклад наведено Лондонським центром медичного зображення та штучного інтелекту для охорони здоров’я, заснованого на цінностях, який очолює Королівський коледж Лондона та базується в лікарні Св. Томаса. Він використовує медичні зображення та електронні дані охорони здоров’я для навчання складних алгоритмів глибокого навчання для комп’ютерного зору та обробки природної мови. Ці алгоритми використовуються для створення нових інструментів для ефективного скринінгу, швидшої діагностики та персоналізованої терапії.

Центр зрозумів, що його застаріла інфраструктура штучного інтелекту страждає від проблем з ефективністю: загальне використання GPU було нижче 30 відсотків із «значними» періодами простою для деяких компонентів. Після переходу до вирішення цих проблем шляхом прийняття централізованої моделі забезпечення обчислень штучного інтелекту на основі платформи Run:ai використання графічного процесора зросло на 110 відсотків із паралельним покращенням швидкості експерименту та загальної ефективності досліджень.

«Наші експерименти можуть тривати дні або хвилини, використовуючи цівку обчислювальної потужності або цілий кластер», — говорить доктор М. Хорхе Кардосо, доцент і старший викладач ШІ в Королівському коледжі Лондона та технічний директор Центру ШІ. «Зменшення часу отримання результатів гарантує, що ми можемо ставити більше критичних запитань про здоров’я та життя людей і відповідати на них», 

Централізація ресурсів графічного процесора зі штучним інтелектом також принесла цінні комерційні переваги Wayve, лондонській фірмі, яка розробляє програмне забезпечення зі штучним інтелектом для безпілотних автомобілів. Його технологія розроблена таким чином, щоб не залежати від датчиків, а натомість зосереджена на більшому інтелекті для кращого автономного водіння в густонаселених міських районах.

Fleet Learning Loop від Wayve передбачає безперервний цикл збору даних, контролю, навчання моделей, повторного моделювання та ліцензування моделей перед розгортанням у парку. Основне споживання обчислювальних ресурсів GPU компанією походить від виробничого навчання Fleet Learning Loop. Він тренує базову лінію продукту з повним набором даних і постійно повторює тренування для збору нових даних за допомогою ітерацій циклу навчання парку.

Компанія почала розуміти, що страждає від «жаху» планування GPU: хоча майже 100 відсотків її доступних ресурсів GPU було виділено дослідникам, менше 45 відсотків було використано під час початкового тестування. 

«Оскільки графічні процесори статично призначалися дослідникам, коли дослідники не використовували призначені їм графічні процесори, інші не могли отримати до них доступ, створюючи ілюзію, що графічні процесори для навчання моделі були завантажені, навіть якщо багато графічних процесорів простоювали», — зазначає Wayve. 

Робота з Run:ai вирішила цю проблему, усунувши відокремленість і скасувавши статичний розподіл ресурсів. Було створено пули спільних графічних процесорів, які дозволили командам отримати доступ до більшої кількості графічних процесорів і виконувати більше робочих навантажень, що призвело до покращення їх використання на 35%. 

Дзеркало підвищення ефективності ЦП

Подібно до того, як VMware протягом останніх років суттєво підвищила ефективність використання серверних ЦП з максимальною потужністю, зараз впроваджуються нові інновації для оптимізації ефективності використання GPU для обчислювальних навантажень ШІ. 

«Якщо ви подумаєте про стек програмного забезпечення, який працює поверх ЦП, він був створений із використанням VMware і віртуалізації», — пояснює Дар. «Графічні процесори є відносно новими для центрів обробки даних, а програмне забезпечення для ШІ та віртуалізації, наприклад NVIDIA AI Enterprise – це також нещодавня подія». 

«Ми пропонуємо передову технологію в цій галузі з такими можливостями, як фракційний графічний процесор, обмін завданнями тощо. дозволяючи робочим навантаженням ефективно спільно використовувати графічні процесори», — каже Дар, додаючи, що плануються подальші вдосконалення.

Run:ai тісно співпрацює з NVIDIA, щоб покращити та спростити використання GPU на підприємстві. Остання співпраця включає створення гнучкості мультихмарних графічних процесорів для компаній, які використовують графічні процесори в хмарі, а також інтеграцію з Сервер NVIDIA Triton Inference програмне забезпечення для спрощення процесу розгортання моделей у виробництві.

У зв’язку з тим, що основні інновації протягом історії мали глибокий вплив на людську расу та світ, Дар зазначає, що потужність штучного інтелекту потрібно використовувати обережно, щоб максимізувати його потенційні переваги, водночас керуючи потенційними недоліками. Він порівнює штучний інтелект з найпервіснішою інновацією з усіх: вогнем. 

«Це як вогонь, який приніс багато великих речей і змінив людські життя. Небезпеку приніс і вогонь. Тож люди зрозуміли, як жити з вогнем», — каже Дар. «Я думаю, що сьогодні це також є в ШІ». 

Спонсор Run:ai.