Це гостьовий допис у блозі, написаний спільно з Віком Пантом і Кайлом Бассеттом з PwC.
Оскільки організації все більше інвестують у машинне навчання (ML), впровадження ML стало невід’ємною частиною стратегій трансформації бізнесу. Недавній генеральний директор PwC огляд оприлюднено, що 84% канадських керівників погоджуються з тим, що штучний інтелект (ШІ) суттєво змінить їхній бізнес протягом наступних 5 років, зробивши цю технологію більш важливою, ніж будь-коли. Однак впровадження машинного навчання у виробництво вимагає кількох міркувань, зокрема здатності безпечно, стратегічно та відповідально орієнтуватися у світі ШІ. Одним із перших кроків і, зокрема, серйозним викликом для того, щоб стати на базі штучного інтелекту, є ефективна розробка конвеєрів машинного навчання, які можуть стабільно масштабуватися в хмарі. Розгляд ML у термінах конвеєрів, які створюють і підтримують моделі, а не моделі самі по собі, допомагає створювати універсальні та стійкі системи прогнозування, які краще протистоять значним змінам у відповідних даних з часом.
Багато організацій починають свою подорож у світ машинного навчання з точки зору моделі. На ранніх етапах побудови практики ML основна увага приділяється навчанню контрольованих моделей ML, які є математичними представленнями зв’язків між входами (незалежними змінними) і виходами (залежними змінними), отриманими з даних (як правило, історичних). Моделі — це математичні артефакти, які беруть вхідні дані, виконують обчислення та обчислення з ними, а також генерують прогнози чи висновки.
Незважаючи на те, що цей підхід є розумною та відносно простою відправною точкою, він за своєю суттю не є масштабованим або за своєю суттю стійким через ручний та спеціальний характер навчання моделі, налаштування, тестування та випробування. Організації з більшою зрілістю в сфері машинного навчання використовують парадигму операцій машинного навчання (MLOps), яка включає безперервну інтеграцію, безперервну доставку, безперервне розгортання та безперервне навчання. Центральним у цій парадигмі є конвеєрно-центрична точка зору для розробки та експлуатації промислових систем машинного навчання.
У цьому дописі ми починаємо з огляду MLOps та його переваг, описуємо рішення для спрощення його реалізації та надаємо подробиці про архітектуру. Ми закінчуємо практичним дослідженням, у якому висвітлюємо переваги великого клієнта AWS і PwC, який запровадив це рішення.
фон
Конвеєр MLOps — це набір взаємопов’язаних послідовностей кроків, які використовуються для створення, розгортання, експлуатації та керування однією або кількома моделями ML у виробництві. Такий конвеєр охоплює етапи створення, тестування, налаштування та розгортання моделей ML, включаючи, але не обмежуючись, підготовку даних, розробку функцій, навчання моделей, оцінку, розгортання та моніторинг. Таким чином, модель ML є продуктом конвеєра MLOps, а конвеєр — це робочий процес для створення однієї або кількох моделей ML. Такі конвеєри підтримують структуровані та систематичні процеси побудови, калібрування, оцінювання та впровадження моделей ML, а самі моделі створюють прогнози та висновки. Автоматизуючи розробку та введення в дію етапів конвеєрів, організації можуть скоротити час до доставки моделей, підвищити стабільність моделей у виробництві та покращити співпрацю між командами спеціалістів із обробки даних, інженерів програмного забезпечення та ІТ-адміністраторів.
Огляд рішення
AWS пропонує повний портфель хмарних служб для розробки та запуску конвеєрів MLOps у масштабований та стабільний спосіб. Amazon SageMaker містить повний набір можливостей як повністю керована послуга MLOps, яка дозволяє розробникам створювати, навчати, розгортати, експлуатувати та керувати моделями ML у хмарі. SageMaker охоплює весь робочий процес MLOps, від збору до підготовки та навчання даних за допомогою вбудованих високопродуктивних алгоритмів і складних автоматизованих експериментів ML (AutoML), щоб компанії могли вибрати конкретні моделі, які відповідають їхнім бізнес-пріоритетам і перевагам. SageMaker дозволяє організаціям спільно автоматизувати більшість життєвого циклу MLOps, щоб вони могли зосередитися на бізнес-результатах, не ризикуючи затримками проекту чи зростанням витрат. Таким чином SageMaker дозволяє компаніям зосередитися на результатах, не турбуючись про інфраструктуру, розробку та технічне обслуговування, пов’язане з потужністю індустріальних служб прогнозування.
SageMaker містить Amazon SageMaker JumpStart, який пропонує шаблони готових рішень для організацій, які прагнуть прискорити свій шлях MLOps. Організації можуть почати з попередньо підготовлених моделей із відкритим вихідним кодом, які можна налаштувати відповідно до їхніх конкретних потреб шляхом перепідготовки та передачі навчання. Крім того, JumpStart надає шаблони рішень, призначені для поширених випадків використання, а також приклади блокнотів Jupyter із попередньо написаним початковим кодом. Доступ до цих ресурсів можна отримати, просто відвідавши цільову сторінку JumpStart Студія Amazon SageMaker.
PwC розробила готовий прискорювач MLOps, який ще більше прискорює час отримання вартості та підвищує рентабельність інвестицій для організацій, які використовують SageMaker. Цей прискорювач MLOps покращує власні можливості JumpStart шляхом інтеграції додаткових сервісів AWS. Завдяки повному набору технічних артефактів, включаючи сценарії інфраструктури у вигляді коду (IaC), робочі процеси обробки даних, код інтеграції сервісів і шаблони конфігурації конвеєра, прискорювач PwC MLOps спрощує процес розробки та експлуатації систем прогнозування виробничого класу.
Огляд архітектури
Включення хмарних безсерверних сервісів від AWS має пріоритет в архітектурі прискорювача PwC MLOps. Точкою входу в цей прискорювач є будь-який інструмент для співпраці, як-от Slack, який спеціаліст із обробки даних або інженер даних може використовувати для запиту середовища AWS для MLOps. Такий запит аналізується, а потім повністю або напівавтоматично затверджується за допомогою функцій робочого процесу в цьому інструменті співпраці. Після схвалення запиту його деталі використовуються для параметризації шаблонів IaC. Вихідний код для цих шаблонів IaC керується в Комісія AWS. Ці параметризовані шаблони IaC надсилаються AWS CloudFormation для моделювання, надання та керування стеками ресурсів AWS і сторонніх розробників.
Наступна схема ілюструє робочий процес.
Після того, як AWS CloudFormation створить середовище для MLOps на AWS, середовище буде готове до використання спеціалістами з обробки даних, інженерами з обробки даних та їхніми співробітниками. Прискорювач PWC містить попередньо визначені ролі Управління ідентифікацією та доступом AWS (IAM), які пов’язані з діяльністю та завданнями MLOps. Ці ролі визначають служби та ресурси в середовищі MLOps, до яких можуть отримати доступ різні користувачі на основі їхніх профілів посад. Після доступу до середовища MLOps користувачі можуть отримати доступ до будь-якої модальності SageMaker для виконання своїх обов’язків. До них належать екземпляри блокнотів SageMaker, Автопілот Amazon SageMaker експериментів і студ. Ви можете скористатися всіма функціями SageMaker, включаючи навчання моделі, налаштування, оцінку, розгортання та моніторинг.
Прискорювач також включає зв'язки з Amazon DataZone для спільного використання, пошуку та виявлення даних у масштабі за межами організаційних меж для створення та збагачення моделей. Так само дані для навчання, тестування, перевірки та виявлення дрейфу моделі можуть бути джерелом різноманітних послуг, у тому числі Амазонська червона зміна, Служба реляційних баз даних Amazon (RDS Amazon), Еластична файлова система Amazon (Amazon EFS) і Служба простого зберігання Amazon (Amazon S3). Системи прогнозування можна розгортати багатьма способами, зокрема як безпосередньо кінцеві точки SageMaker, кінцеві точки SageMaker, загорнуті в AWS Lambda функції та кінцеві точки SageMaker, викликані за допомогою спеціального коду на Послуга Amazon Elastic Kubernetes (Amazon EKS) або Обчислювальна хмара Amazon Elastic (Amazon EC2). Amazon CloudWatch використовується для комплексного моніторингу середовища для MLOps на AWS для спостереження за сигналами тривоги, журналами та даними про події з усього стеку (додатки, інфраструктура, мережа та служби).
Наступна схема ілюструє цю архітектуру.
Вивчення проблеми
У цьому розділі ми ділимося прикладом великої страхової компанії в Канаді. Він зосереджений на трансформаційному впливі впровадження прискорювача MLOps і шаблонів JumpStart від PwC Canada.
Цей клієнт співпрацював з PwC Canada і AWS для вирішення проблем, пов’язаних із неефективною розробкою моделей і неефективними процесами розгортання, відсутністю послідовності та співпраці, а також труднощами з масштабуванням моделей ML. Реалізація цього прискорювача MLOps у поєднанні з шаблонами JumpStart досягла наступного:
- Наскрізна автоматизація – Автоматизація майже вдвічі скоротила час на попередню обробку даних, навчання моделі, налаштування гіперпараметрів, а також розгортання та моніторинг моделі
- Співпраця та стандартизація – Стандартизовані інструменти та фреймворки для сприяння узгодженості в усій організації майже подвоїли швидкість інноваційної моделі
- Модель управління та комплаєнс – Вони запровадили модель управління, щоб гарантувати, що всі моделі ML відповідають нормативним вимогам і дотримуються етичних принципів компанії, що зменшило витрати на управління ризиками на 40%
- Масштабована хмарна інфраструктура – Вони інвестували в масштабовану інфраструктуру для ефективного керування величезними обсягами даних і розгортання кількох моделей ML одночасно, зменшивши витрати на інфраструктуру та платформу на 50%
- Швидке розгортання – Розфасоване рішення скоротило час виробництва на 70%
Завдяки використанню найкращих практик MLOps за допомогою пакетів швидкого розгортання наш клієнт зміг зменшити ризик впровадження MLOps і повністю розкрити потенціал ML для ряду бізнес-функцій, таких як прогнозування ризиків і ціноутворення активів. Загалом, синергія між акселератором PwC MLOps і JumpStart дозволила нашому клієнту оптимізувати, масштабувати, захистити та підтримувати свою діяльність у галузі обробки даних та розробки даних.
Слід зазначити, що рішення PwC і AWS не є галузевим і актуальне для всіх галузей і секторів.
Висновок
SageMaker і його прискорювачі дозволяють організаціям підвищити продуктивність своєї програми машинного навчання. Є багато переваг, включаючи, але не обмежуючись цим:
- Спільно створюйте сценарії використання IaC, MLOps і AutoML, щоб отримати бізнес-вигоди від стандартизації
- Увімкніть ефективне експериментальне прототипування з кодом і без нього, щоб прискорити ШІ від розробки до розгортання за допомогою IaC, MLOps і AutoML
- Автоматизуйте виснажливі та трудомісткі завдання, такі як розробка функцій і налаштування гіперпараметрів за допомогою AutoML
- Використовуйте парадигму безперервного моніторингу моделі, щоб узгодити ризик використання моделі ML із схильністю підприємства до ризику
Будь ласка, зв'яжіться з авторами цієї публікації, AWS Advisory Canadaабо PwC Канада щоб дізнатися більше про Jumpstart і прискорювач MLOps від PwC.
Про авторів
Vik є партнером практики Cloud & Data у PwC Canada. Він отримав ступінь доктора філософії з інформаційних наук в Університеті Торонто. Він переконаний, що між його біологічною нейронною мережею та штучними нейронними мережами, які він тренує на SageMaker, існує телепатичний зв’язок. Зв'яжіться з ним на LinkedIn.
Рукав моря є партнером практики Cloud & Data у PwC Canada, разом зі своєю командою технічних алхіміків вони створюють чарівні рішення MLOP, які зачаровують клієнтів прискореною бізнес-цінністю. Озброєний силою штучного інтелекту та дрібкою чарівництва, Кайл перетворює складні виклики на цифрові казки, роблячи неможливе можливим. Зв'яжіться з ним на LinkedIn.
Франсуа є головним консультантом-консультантом AWS Professional Services Canada та керівником канадської практики консультування з питань даних та інновацій. Він направляє клієнтів у створенні та впровадженні їх загальної хмарної подорожі та їхніх програм даних, зосереджуючись на баченні, стратегії, бізнес-рушіях, управлінні, цільових операційних моделях і дорожніх картах. Зв'яжіться з ним на LinkedIn.
- Розповсюдження контенту та PR на основі SEO. Отримайте посилення сьогодні.
- PlatoAiStream. Web3 Data Intelligence. Розширення знань. Доступ тут.
- Карбування майбутнього з Адріенн Ешлі. Доступ тут.
- Купуйте та продавайте акції компаній, які вийшли на IPO, за допомогою PREIPO®. Доступ тут.
- джерело: https://aws.amazon.com/blogs/machine-learning/accelerate-machine-learning-time-to-value-with-amazon-sagemaker-jumpstart-and-pwcs-mlops-accelerator/
- : має
- :є
- : ні
- $UP
- 100
- 7
- a
- Здатний
- МЕНЮ
- прискорювати
- прискорений
- прискорювач
- прискорювачі
- доступ
- доступний
- доступ до
- досягнутий
- через
- діяльності
- Ad
- Додатково
- адреса
- Адміністратори
- прийняти
- Прийняття
- консультативний
- після
- AI
- алгоритми
- вирівнювати
- ВСІ
- дозволяти
- дозволяє
- по
- Також
- Amazon
- Amazon EC2
- Amazon RDS
- Amazon SageMaker
- Amazon SageMaker JumpStart
- Amazon Web Services
- кількість
- an
- та
- будь-який
- застосування
- підхід
- затверджений
- архітектура
- ЕСТЬ
- озброєний
- штучний
- штучний інтелект
- Штучний інтелект (AI)
- AS
- Оцінювання
- активи
- асоційований
- At
- authors
- автоматизувати
- Автоматизований
- автоматизація
- Автоматизація
- AutoML
- AWS
- AWS CloudFormation
- Професійні послуги AWS
- заснований
- BE
- ставати
- становлення
- буття
- користь
- Переваги
- КРАЩЕ
- передового досвіду
- Краще
- між
- Блог
- Межі
- будувати
- Створюємо
- побудований
- вбудований
- бізнес
- господарська діяльність
- Трансформація бізнесу
- підприємства
- але
- by
- розрахунки
- CAN
- Канада
- Канадський
- можливості
- випадок
- тематичне дослідження
- випадків
- центральний
- Генеральний директор
- керівники
- виклик
- проблеми
- зміна
- Зміни
- Вибирати
- клієнт
- клієнтів
- хмара
- інфраструктура хмари
- код
- співробітництво
- Збір
- COM
- приходить
- загальний
- Компанії
- компанія
- Компанії
- взаємодоповнюючі
- повний
- комплекс
- всеосяжний
- включає
- обчислення
- обчислення
- концерт
- конфігурація
- З'єднуватися
- зв'язку
- Зв'язки
- міркування
- консультант
- контакт
- безперервний
- витрати
- Обкладинки
- тріщина
- створювати
- створення
- критичний
- виготовлений на замовлення
- клієнт
- Клієнти
- дані
- Підготовка даних
- обробка даних
- наука про дані
- вчений даних
- Database
- затримки
- надання
- доставка
- залежний
- розгортання
- розгорнути
- розгортання
- розгортання
- описувати
- призначений
- деталі
- розробників
- розвивається
- розробка
- трудність
- цифровий
- безпосередньо
- відкриття
- домен
- подвоєний
- драйвери
- два
- Рано
- зароблений
- фактично
- ефективний
- включіть
- включений
- дозволяє
- охоплює
- інженер
- Машинобудування
- Інженери
- підвищувати
- Підсилює
- збагачувати
- забезпечувати
- підприємство
- Весь
- запис
- Навколишнє середовище
- встановити
- етичний
- оцінка
- Події
- НІКОЛИ
- приклад
- Експерименти
- особливість
- риси
- філе
- закінчення
- Перший
- перші кроки
- відповідати
- Сфокусувати
- фокусується
- фокусування
- після
- для
- Рамки
- каркаси
- від
- Повний
- повністю
- Функції
- далі
- породжувати
- управління
- великий
- великий
- гість
- керівні вказівки
- Гід
- вдвічі зменшено
- he
- допомагає
- висока продуктивність
- виділивши
- його
- його
- історичний
- Однак
- HTML
- HTTP
- HTTPS
- Налаштування гіперпараметрів
- Особистість
- ілюструє
- Impact
- здійснювати
- реалізація
- реалізовані
- реалізації
- неможливе
- удосконалювати
- in
- включати
- includes
- У тому числі
- включення
- Augmenter
- Збільшує
- все більше і більше
- незалежний
- промисловості
- промисловість
- неефективний
- інформація
- інформація
- Інфраструктура
- інновація
- вхід
- витрати
- страхування
- інтегральний
- Інтеграція
- інтеграція
- Інтелект
- в
- внутрішньо
- інвестицій
- інвестування
- інвестиції
- викликали
- залучений
- IT
- ЙОГО
- робота
- подорож
- JPG
- відсутність
- посадка
- великий
- вести
- УЧИТЬСЯ
- вчений
- вивчення
- Життєвий цикл
- обмеженою
- машина
- навчання за допомогою машини
- підтримувати
- обслуговування
- Більшість
- Робить
- управляти
- вдалося
- управління
- управління
- манера
- керівництво
- багато
- масивний
- математичний
- зрілість
- значущим
- Зустрічатися
- ML
- MLOps
- модель
- Моделі
- монітор
- моніторинг
- більше
- множинний
- рідний
- природа
- Переміщення
- майже
- потреби
- мережу
- мереж
- нейронної мережі
- нейронні мережі
- наступний
- особливо
- ноутбук
- зазначив,
- спостерігати
- of
- Пропозиції
- on
- ONE
- з відкритим вихідним кодом
- працювати
- операційний
- операції
- or
- організація
- організаційної
- організації
- наші
- над
- загальний
- огляд
- пакети
- сторінка
- парадигма
- частина
- партнер
- партнерська
- моделі
- Виконувати
- трубопровід
- платформа
- plato
- Інформація про дані Платона
- PlatoData
- точка
- портфель
- це можливо
- пошта
- потенціал
- влада
- Харчування
- Живлення
- практика
- практики
- прогноз
- Прогнози
- переваги
- підготовка
- ціни без прихованих комісій
- Головний
- пріоритетні
- процес
- процеси
- обробка
- Product
- Production
- продуктивність
- професійний
- Профілі
- програма
- програми
- проект
- сприяти
- макетування
- забезпечувати
- забезпечує
- PWC
- діапазон
- швидко
- ставка
- швидше
- готовий
- реалізувати
- розумний
- останній
- зменшити
- Знижений
- зниження
- регуляторні
- пов'язаний
- Відносини
- щодо
- доречний
- запросити
- Вимога
- пружний
- ресурси
- результати
- повертати
- Risk
- управління ризиками
- ризикуючи
- дорожні карти
- ролі
- біг
- безпечно
- мудрець
- масштабовані
- шкала
- Масштабування
- наука
- вчений
- Вчені
- scripts
- Грати короля карти - безкоштовно Nijumi логічна гра гри
- розділ
- Сектори
- безпечний
- пошук
- Без сервера
- обслуговування
- Послуги
- комплект
- Поділитись
- поділ
- Повинен
- істотно
- Аналогічно
- простий
- спростити
- просто
- одночасно
- слабкий
- So
- Софтвер
- рішення
- Рішення
- складний
- Source
- вихідні
- конкретний
- швидкість
- Стабільність
- стек
- Стеки
- етапи
- старт
- Починаючи
- заходи
- зберігання
- Стратегічно
- стратегії
- Стратегія
- раціоналізувати
- структурований
- студія
- Вивчення
- представлений
- такі
- набір
- підтримка
- сталого
- взаємодія
- Systems
- снасті
- Приймати
- Мета
- завдання
- команда
- команди
- технології
- технічний
- Технологія
- Шаблони
- terms
- Тестування
- ніж
- Що
- Команда
- Джерело
- світ
- їх
- Їх
- самі
- потім
- Там.
- Ці
- вони
- Мислення
- третя сторона
- це
- через
- час
- трудомісткий
- до
- інструмент
- інструменти
- Торонто
- поїзд
- Навчання
- поїзда
- переклад
- Перетворення
- перетворювальний
- повороти
- типово
- університет
- відімкнути
- представила
- Використання
- використання
- використовуваний
- користувачі
- використання
- значення
- різноманітність
- різний
- різнобічний
- бачення
- Обсяги
- було
- шлях..
- способи
- we
- Ткати
- Web
- веб-сервіси
- ДОБРЕ
- який
- ВООЗ
- волі
- з
- в
- без
- Робочі процеси
- світ
- Загорнуті
- років
- Ти
- зефірнет