To jest gościnny wpis na blogu napisany wspólnie z Vikiem Pantem i Kylem Bassettem z PwC.
Ponieważ organizacje coraz częściej inwestują w uczenie maszynowe (ML), przyjęcie ML stało się integralną częścią strategii transformacji biznesowej. Niedawny prezes PwC badanie ujawniło, że 84% kanadyjskich dyrektorów generalnych zgadza się, że sztuczna inteligencja (AI) znacząco zmieni ich biznes w ciągu najbliższych 5 lat, czyniąc tę technologię bardziej krytyczną niż kiedykolwiek. Jednak wdrożenie ML do produkcji wiąże się z różnymi względami, w szczególności z możliwością bezpiecznego, strategicznego i odpowiedzialnego poruszania się po świecie sztucznej inteligencji. Jednym z pierwszych kroków, a przede wszystkim wielkim wyzwaniem, aby stać się zasilanym sztuczną inteligencją, jest efektywne opracowanie potoków ML, które można skalować w zrównoważony sposób w chmurze. Myślenie o ML w kategoriach potoków, które generują i utrzymują modele, a nie modele same w sobie, pomaga budować wszechstronne i odporne systemy predykcyjne, które są w stanie lepiej wytrzymać znaczące zmiany odpowiednich danych w czasie.
Wiele organizacji rozpoczyna swoją podróż w świat uczenia maszynowego od punktu widzenia skoncentrowanego na modelu. Na wczesnych etapach budowania praktyki ML nacisk kładziony jest na szkolenie nadzorowanych modeli ML, które są matematycznymi reprezentacjami relacji między danymi wejściowymi (zmiennymi niezależnymi) a wynikami (zmiennymi zależnymi), które są wyuczone z danych (zwykle historycznych). Modele to artefakty matematyczne, które pobierają dane wejściowe, wykonują na nich obliczenia i generują prognozy lub wnioski.
Chociaż to podejście jest rozsądnym i stosunkowo prostym punktem wyjścia, nie jest ono z natury skalowalne ani samoistnie trwałe ze względu na ręczny i ad hoc charakter działań związanych z modelowaniem, dostrajaniem, testowaniem i próbami. Organizacje o większej dojrzałości w dziedzinie ML przyjmują paradygmat operacji ML (MLOps), który obejmuje ciągłą integrację, ciągłe dostarczanie, ciągłe wdrażanie i ciągłe szkolenie. Centralnym punktem tego paradygmatu jest punkt widzenia skoncentrowany na potoku w zakresie opracowywania i obsługi systemów uczenia maszynowego o wytrzymałości przemysłowej.
W tym poście zaczniemy od omówienia MLOps i jego zalet, opiszemy rozwiązanie upraszczające jego implementacje i przedstawimy szczegółowe informacje na temat architektury. Kończymy studium przypadku ukazującym korzyści, jakie odniósł duży klient AWS i PwC, który wdrożył to rozwiązanie.
Tło
Potok MLOps to zestaw powiązanych ze sobą sekwencji kroków, które są używane do tworzenia, wdrażania, obsługi i zarządzania jednym lub większą liczbą modeli ML w środowisku produkcyjnym. Taki potok obejmuje etapy tworzenia, testowania, dostrajania i wdrażania modeli ML, w tym między innymi przygotowywanie danych, inżynierię funkcji, szkolenie modeli, ocenę, wdrażanie i monitorowanie. W związku z tym model ML jest produktem potoku MLOps, a potok to przepływ pracy służący do tworzenia jednego lub większej liczby modeli ML. Takie potoki wspierają ustrukturyzowane i systematyczne procesy budowania, kalibrowania, oceny i wdrażania modeli ML, a same modele generują prognozy i wnioski. Automatyzując rozwój i operacjonalizację etapów potoków, organizacje mogą skrócić czas dostarczania modeli, zwiększyć stabilność modeli w produkcji i usprawnić współpracę między zespołami analityków danych, inżynierów oprogramowania i administratorów IT.
Omówienie rozwiązania
AWS oferuje kompleksowe portfolio natywnych usług chmurowych do opracowywania i obsługi potoków MLOps w skalowalny i zrównoważony sposób. Amazon Sage Maker obejmuje kompleksowe portfolio możliwości jako w pełni zarządzana usługa MLOps umożliwiająca programistom tworzenie, szkolenie, wdrażanie, obsługę i zarządzanie modelami ML w chmurze. SageMaker obejmuje cały przepływ pracy MLOps, od zbierania po przygotowanie i szkolenie danych za pomocą wbudowanych algorytmów o wysokiej wydajności i wyrafinowanych zautomatyzowanych eksperymentów ML (AutoML), dzięki czemu firmy mogą wybrać konkretne modele, które pasują do ich priorytetów i preferencji biznesowych. SageMaker umożliwia organizacjom wspólną automatyzację większości cyklu życia MLOps, dzięki czemu mogą skupić się na wynikach biznesowych bez ryzyka opóźnień w projektach lub eskalacji kosztów. W ten sposób SageMaker pozwala firmom skupić się na wynikach bez martwienia się o infrastrukturę, rozwój i konserwację związaną z zasilaniem przemysłowych usług prognozowania.
SageMaker zawiera Amazon SageMaker JumpStart, która oferuje gotowe wzorce rozwiązań dla organizacji, które chcą przyspieszyć swoją podróż MLOps. Organizacje mogą zacząć od wstępnie wyszkolonych i otwartych modeli, które można dostosować do konkretnych potrzeb poprzez przekwalifikowanie i przeniesienie. Ponadto JumpStart zapewnia szablony rozwiązań przeznaczone do radzenia sobie z typowymi przypadkami użycia, a także przykładowe notatniki Jupyter z wstępnie napisanym kodem startowym. Dostęp do tych zasobów można uzyskać, odwiedzając po prostu stronę docelową JumpStart Studio Amazon SageMaker.
Firma PwC stworzyła gotowy akcelerator MLOps, który jeszcze bardziej przyspiesza czas uzyskania wartości i zwiększa zwrot z inwestycji w organizacjach korzystających z SageMaker. Ten akcelerator MLOps zwiększa natywne możliwości JumpStart poprzez integrację uzupełniających usług AWS. Dzięki kompleksowemu zestawowi artefaktów technicznych, w tym skryptom infrastruktury jako kodu (IaC), przepływom pracy przetwarzania danych, kodowi integracji usług i szablonom konfiguracji potoków, akcelerator MLOps firmy PwC upraszcza proces opracowywania i obsługi systemów predykcyjnych klasy produkcyjnej.
Przegląd architektury
Włączenie natywnych chmurowych usług bezserwerowych z AWS ma priorytet w architekturze akceleratora PwC MLOps. Punktem wejścia do tego akceleratora jest dowolne narzędzie do współpracy, takie jak Slack, którego naukowiec lub inżynier danych może użyć do zażądania środowiska AWS dla MLOps. Takie żądanie jest analizowane, a następnie w pełni lub półautomatycznie zatwierdzane przy użyciu funkcji przepływu pracy w tym narzędziu do współpracy. Po zatwierdzeniu żądania jego szczegóły są wykorzystywane do parametryzacji szablonów IaC. Kod źródłowy tych szablonów IaC jest zarządzany w Zatwierdzenie kodu AWS. Te sparametryzowane szablony IaC są przesyłane do Tworzenie chmury AWS do modelowania, udostępniania i zarządzania stosami zasobów AWS i innych firm.
Poniższy diagram ilustruje przepływ pracy.
Po udostępnieniu przez AWS CloudFormation środowiska dla MLOps na AWS, środowisko jest gotowe do użycia przez analityków danych, inżynierów danych i ich współpracowników. Akcelerator PWC zawiera predefiniowane role na AWS Zarządzanie tożsamością i dostępem (IAM), które są związane z działaniami i zadaniami MLOps. Role te określają usługi i zasoby w środowisku MLOps, do których dostęp mają różni użytkownicy na podstawie ich profili stanowisk. Po uzyskaniu dostępu do środowiska MLOps użytkownicy mogą uzyskać dostęp do dowolnej modalności SageMaker w celu wykonywania swoich obowiązków. Należą do nich instancje notatników SageMaker, Autopilot Amazon SageMaker eksperymenty i Studio. Możesz korzystać ze wszystkich funkcji i funkcji SageMaker, w tym szkolenia modeli, dostrajania, oceny, wdrażania i monitorowania.
Akcelerator zawiera również połączenia z Strefa danych Amazona do udostępniania, wyszukiwania i odkrywania danych na dużą skalę ponad granicami organizacji w celu generowania i wzbogacania modeli. Podobnie dane do uczenia, testowania, sprawdzania poprawności i wykrywania dryfowania modelu mogą pochodzić z różnych usług, w tym Amazonka Przesunięcie ku czerwieni, Usługa relacyjnych baz danych Amazon (Amazon RDS), System plików Amazon Elastic (Amazon EFS) i Usługa Amazon Simple Storage (Amazon S3). Systemy predykcyjne można wdrażać na wiele sposobów, w tym bezpośrednio jako punkty końcowe SageMaker, punkty końcowe SageMaker opakowane w AWS Lambda funkcje i punkty końcowe SageMaker wywoływane przez niestandardowy kod Elastyczna usługa Amazon Kubernetes (Amazon EKS) lub Elastyczna chmura obliczeniowa Amazon (Amazonka EC2). Amazon Cloud Watch służy do kompleksowego monitorowania środowiska dla MLOps na AWS w celu obserwacji alarmów, dzienników i danych zdarzeń z całego stosu (aplikacje, infrastruktura, sieć i usługi).
Poniższy diagram ilustruje tę architekturę.
Case study
W tej sekcji przedstawiamy przykładowe studium przypadku z dużej firmy ubezpieczeniowej w Kanadzie. Koncentruje się na przełomowym wpływie wdrożenia akceleratora MLOps i szablonów JumpStart firmy PwC Canada.
Ten klient nawiązał współpracę z PwC Canada i AWS, aby sprostać wyzwaniom związanym z nieefektywnym opracowywaniem modeli i nieefektywnymi procesami wdrażania, brakiem spójności i współpracy oraz trudnościami w skalowaniu modeli ML. Wdrożenie tego akceleratora MLOps w porozumieniu z szablonami JumpStart przyniosło następujące rezultaty:
- Kompleksowa automatyzacja – Automatyzacja skróciła o połowę czas potrzebny na wstępne przetwarzanie danych, uczenie modeli, dostrajanie hiperparametrów oraz wdrażanie i monitorowanie modeli
- Współpraca i standaryzacja – Standaryzowane narzędzia i ramy promujące spójność w całej organizacji prawie podwoiły tempo innowacji modeli
- Zarządzanie modelami i zgodność – Wdrożyli ramy zarządzania modelami, aby zapewnić, że wszystkie modele ML spełniają wymogi regulacyjne i są zgodne z wytycznymi etycznymi firmy, co obniżyło koszty zarządzania ryzykiem o 40%
- Skalowalna infrastruktura chmurowa – Zainwestowali w skalowalną infrastrukturę, aby skutecznie zarządzać ogromnymi ilościami danych i wdrażać wiele modeli uczenia maszynowego jednocześnie, zmniejszając koszty infrastruktury i platformy o 50%
- Szybkie wdrożenie – Gotowe rozwiązanie skróciło czas produkcji o 70%
Dostarczając najlepsze praktyki MLOps poprzez pakiety szybkiego wdrażania, nasz klient był w stanie zmniejszyć ryzyko związane z wdrożeniem MLOps i odblokować pełny potencjał ML dla szeregu funkcji biznesowych, takich jak przewidywanie ryzyka i wycena aktywów. Ogólnie rzecz biorąc, synergia między akceleratorem PwC MLOps i JumpStart umożliwiła naszemu klientowi usprawnienie, skalowanie, zabezpieczenie i utrzymanie działań związanych z nauką o danych i inżynierią danych.
Należy zauważyć, że rozwiązanie PwC i AWS nie jest specyficzne dla branży i jest odpowiednie dla różnych branż i sektorów.
Wnioski
SageMaker i jego akceleratory pozwalają organizacjom zwiększyć produktywność ich programu ML. Istnieje wiele korzyści, w tym między innymi:
- Wspólnie twórz przypadki użycia IaC, MLOps i AutoML, aby czerpać korzyści biznesowe ze standaryzacji
- Włącz wydajne prototypowanie eksperymentalne, z kodem i bez niego, w celu turbodoładowania sztucznej inteligencji od etapu projektowania do wdrożenia za pomocą IaC, MLOps i AutoML
- Zautomatyzuj żmudne, czasochłonne zadania, takie jak inżynieria funkcji i dostrajanie hiperparametrów za pomocą AutoML
- Zastosuj paradygmat ciągłego monitorowania modelu, aby dostosować ryzyko użycia modelu ML do apetytu na ryzyko przedsiębiorstwa
Proszę o kontakt z autorami tego posta, AWS Advisory Kanadalub PwC Kanada aby dowiedzieć się więcej o programie Jumpstart i akceleratorze MLOps firmy PwC.
O autorach
Vik jest Partnerem w praktyce Cloud & Data w PwC Canada. Uzyskał tytuł doktora nauk informatycznych na Uniwersytecie w Toronto. Jest przekonany, że istnieje telepatyczne połączenie między jego biologiczną siecią neuronową a sztucznymi sieciami neuronowymi, które trenuje na SageMaker. Połącz się z nim LinkedIn.
Kyle jest partnerem w praktyce Cloud & Data w PwC Canada, wraz ze swoim zespołem alchemików technicznych, opracowują czarujące rozwiązania MLOP, które hipnotyzują klientów przyspieszoną wartością biznesową. Uzbrojony w moc sztucznej inteligencji i odrobinę magii, Kyle zamienia złożone wyzwania w cyfrowe bajki, sprawiając, że niemożliwe staje się możliwe. Połącz się z nim LinkedIn.
Francois jest głównym konsultantem doradczym w AWS Professional Services Canada i kanadyjskim kierownikiem ds. doradztwa w zakresie danych i innowacji. Prowadzi klientów w celu ustanowienia i wdrożenia ich ogólnej podróży w chmurze i ich programów danych, koncentrując się na wizji, strategii, czynnikach biznesowych, zarządzaniu, docelowych modelach operacyjnych i planach działania. Połącz się z nim LinkedIn.
- Dystrybucja treści i PR oparta na SEO. Uzyskaj wzmocnienie już dziś.
- PlatoAiStream. Analiza danych Web3. Wiedza wzmocniona. Dostęp tutaj.
- Wybijanie przyszłości w Adryenn Ashley. Dostęp tutaj.
- Kupuj i sprzedawaj akcje spółek PRE-IPO z PREIPO®. Dostęp tutaj.
- Źródło: https://aws.amazon.com/blogs/machine-learning/accelerate-machine-learning-time-to-value-with-amazon-sagemaker-jumpstart-and-pwcs-mlops-accelerator/
- :ma
- :Jest
- :nie
- $W GÓRĘ
- 100
- 7
- a
- Zdolny
- O nas
- przyśpieszyć
- przyśpieszony
- akcelerator
- akceleratory
- dostęp
- dostęp
- Dostęp
- osiągnięty
- w poprzek
- zajęcia
- Ad
- do tego
- adres
- Administratorzy
- przyjąć
- Przyjęcie
- doradczy
- Po
- AI
- Algorytmy
- wyrównać
- Wszystkie kategorie
- dopuszczać
- pozwala
- wzdłuż
- również
- Amazonka
- Amazon EC2
- Amazon RDS
- Amazon Sage Maker
- Amazon SageMaker JumpStart
- Amazon Web Services
- ilość
- an
- i
- każdy
- aplikacje
- podejście
- zatwierdzony
- architektura
- SĄ
- uzbrojony
- sztuczny
- sztuczna inteligencja
- Sztuczna inteligencja (AI)
- AS
- oceniając
- kapitał
- powiązany
- At
- Autorzy
- zautomatyzować
- zautomatyzowane
- automatyzacja
- Automatyzacja
- AutoML
- AWS
- Tworzenie chmury AWS
- Usługi profesjonalne AWS
- na podstawie
- BE
- stają się
- staje
- jest
- korzyści
- Korzyści
- BEST
- Najlepsze praktyki
- Ulepsz Swój
- pomiędzy
- Blog
- Granice
- budować
- Budowanie
- wybudowany
- wbudowany
- biznes
- Funkcje biznesowe
- Transformacja biznesowa
- biznes
- ale
- by
- Obliczenia
- CAN
- Kanada
- Kanadyjczyk
- możliwości
- walizka
- studium przypadku
- Etui
- centralny
- ceo
- prezesi
- wyzwanie
- wyzwania
- zmiana
- Zmiany
- Dodaj
- klient
- klientów
- Chmura
- infrastruktura chmurowa
- kod
- współpraca
- Zbieranie
- COM
- byliśmy spójni, od początku
- wspólny
- Firmy
- sukcesy firma
- Firma
- uzupełniający
- kompletny
- kompleks
- wszechstronny
- zawiera
- obliczenia
- obliczać
- koncert
- systemu
- Skontaktuj się
- połączenie
- połączenia
- Rozważania
- konsultant
- skontaktuj się
- ciągły
- Koszty:
- Okładki
- pęknięcie
- Stwórz
- Tworzenie
- krytyczny
- zwyczaj
- klient
- Klientów
- dane
- Przygotowywanie danych
- analiza danych
- nauka danych
- naukowiec danych
- Baza danych
- opóźnienia
- dostarczanie
- dostawa
- zależny
- rozwijać
- wdrażane
- wdrażanie
- Wdrożenie
- opisać
- zaprojektowany
- detale
- deweloperzy
- rozwijanie
- oprogramowania
- Trudność
- cyfrowy
- bezpośrednio
- odkrywanie
- domena
- podwojona
- sterowniki
- z powodu
- Wcześnie
- zdobył
- faktycznie
- wydajny
- umożliwiać
- włączony
- Umożliwia
- obejmuje
- inżynier
- Inżynieria
- Inżynierowie
- wzmacniać
- Poprawia
- wzbogacać
- zapewnić
- Enterprise
- Cały
- wejście
- Środowisko
- zapewniają
- etyczny
- ewaluację
- wydarzenia
- EVER
- przykład
- eksperymenty
- Cecha
- Korzyści
- filet
- koniec
- i terminów, a
- pierwsze kroki
- dopasować
- Skupiać
- koncentruje
- skupienie
- następujący
- W razie zamówieenia projektu
- Framework
- Ramy
- od
- pełny
- w pełni
- Funkcje
- dalej
- Generować
- zarządzanie
- wspaniały
- większy
- Gość
- wytyczne
- Przewodniki
- o połowę
- he
- pomaga
- wysoka wydajność
- podświetlanie
- go
- jego
- historyczny
- Jednak
- HTML
- http
- HTTPS
- Dostrajanie hiperparametrów
- tożsamość
- ilustruje
- Rezultat
- wdrożenia
- realizacja
- realizowane
- wykonawczych
- niemożliwy
- podnieść
- in
- zawierać
- obejmuje
- Włącznie z
- włączenie
- Zwiększać
- Zwiększenia
- coraz bardziej
- niezależny
- przemysłowa
- przemysł
- niewydajny
- Informacje
- Informacja
- Infrastruktura
- Innowacja
- wkład
- Wejścia
- ubezpieczenie
- integralny
- Integracja
- integracja
- Inteligencja
- najnowszych
- wewnętrznie
- zainwestowany
- inwestowanie
- inwestycja
- przywołany
- zaangażowany
- IT
- JEGO
- Praca
- podróż
- jpg
- Brak
- lądowanie
- duży
- prowadzić
- UCZYĆ SIĘ
- dowiedziałem
- nauka
- wifecycwe
- Ograniczony
- maszyna
- uczenie maszynowe
- utrzymać
- konserwacja
- Większość
- Dokonywanie
- zarządzanie
- zarządzane
- i konserwacjami
- zarządzający
- sposób
- podręcznik
- wiele
- masywny
- matematyczny
- dojrzałość
- wymowny
- Poznaj nasz
- ML
- MLOps
- model
- modele
- monitor
- monitorowanie
- jeszcze
- wielokrotność
- rodzimy
- Natura
- Nawigacja
- prawie
- wymagania
- sieć
- sieci
- sieci neuronowe
- sieci neuronowe
- Następny
- szczególnie
- notatnik
- zauważyć
- obserwować
- of
- Oferty
- on
- ONE
- open source
- działać
- operacyjny
- operacje
- or
- organizacja
- organizacyjny
- organizacji
- ludzkiej,
- koniec
- ogólny
- przegląd
- Pakiety
- strona
- paradygmat
- część
- partnerem
- partner
- wzory
- wykonać
- rurociąg
- Platforma
- plato
- Analiza danych Platona
- PlatoDane
- punkt
- teczka
- możliwy
- Post
- potencjał
- power
- powered
- Zasilanie
- praktyka
- praktyki
- przepowiednia
- Przewidywania
- preferencje
- przygotowanie
- wycena
- Główny
- priorytetowe
- wygląda tak
- procesów
- przetwarzanie
- Produkt
- Produkcja
- wydajność
- profesjonalny
- profile
- Program
- Programy
- projekt
- promować
- prototypowanie
- zapewniać
- zapewnia
- PWC
- zasięg
- szybki
- Kurs
- raczej
- gotowy
- zrealizować
- rozsądny
- niedawny
- zmniejszyć
- Zredukowany
- redukcja
- regulacyjne
- związane z
- Relacje
- stosunkowo
- zażądać
- wymagania
- sprężysty
- Zasoby
- Efekt
- powrót
- Ryzyko
- Zarządzanie ryzykiem
- ryzykować
- mapy drogowe
- role
- bieganie
- bezpiecznie
- sagemaker
- skalowalny
- Skala
- skalowaniem
- nauka
- Naukowiec
- Naukowcy
- skrypty
- poszukiwania
- Sekcja
- Sektory
- bezpieczne
- poszukuje
- Bezserwerowe
- usługa
- Usługi
- zestaw
- Share
- dzielenie
- powinien
- znacznie
- Podobnie
- Prosty
- upraszczać
- po prostu
- jednocześnie
- luźny
- So
- Tworzenie
- rozwiązanie
- Rozwiązania
- wyrafinowany
- Źródło
- Kod źródłowy
- specyficzny
- prędkości
- Stabilność
- stos
- Półki na książki
- etapy
- początek
- Startowy
- Cel
- przechowywanie
- Strategicznie
- strategie
- Strategia
- opływowy
- zbudowany
- studio
- Badanie
- składane
- taki
- apartament
- wsparcie
- zrównoważone
- synergia
- systemy
- sprzęt
- Brać
- cel
- zadania
- zespół
- Zespoły
- tech
- Techniczny
- Technologia
- Szablony
- REGULAMIN
- Testowanie
- niż
- że
- Połączenia
- Źródło
- świat
- ich
- Im
- sami
- następnie
- Tam.
- Te
- one
- Myślący
- innych firm
- to
- Przez
- czas
- czasochłonne
- do
- narzędzie
- narzędzia
- Toronto
- Pociąg
- Trening
- pociągi
- przenieść
- Transformacja
- transformacyjny
- włącza
- zazwyczaj
- uniwersytet
- odblokować
- odsłonięty
- Stosowanie
- posługiwać się
- używany
- Użytkownicy
- za pomocą
- wartość
- różnorodność
- różnorodny
- wszechstronny
- wizja
- kłęby
- była
- Droga..
- sposoby
- we
- Splot
- sieć
- usługi internetowe
- DOBRZE
- który
- KIM
- będzie
- w
- w ciągu
- bez
- przepływów pracy
- świat
- Owinięty
- lat
- You
- zefirnet