Havainnollistavat muistikirjat Amazon SageMaker JumpStartissa

Amazon SageMaker JumpStart on SageMakerin koneoppimiskeskus (ML), joka tarjoaa valmiiksi koulutettuja, julkisesti saatavilla olevia malleja monenlaisille ongelmatyypeille, jotka auttavat sinua pääsemään alkuun koneoppimisen kanssa.

JumpStart tarjoaa myös esimerkkimuistikirjoja, jotka käyttävät Amazon Sage Maker ominaisuuksia, kuten spot-instanssikoulutus ja kokeet useissa eri mallityypeissä ja käyttötapauksissa. Nämä esimerkkimuistikirjat sisältävät koodia, joka näyttää kuinka ML-ratkaisuja käytetään SageMakerin ja JumpStartin avulla. Niitä voidaan mukauttaa vastaamaan omia tarpeitasi ja ne voivat siten nopeuttaa sovelluskehitystä.

Lisäsimme äskettäin 10 uutta muistikirjaa JumpStartiin Amazon SageMaker Studio. Tämä viesti keskittyy näihin uusiin muistikirjoihin. Tätä kirjoitettaessa JumpStart tarjoaa 56 muistikirjaa, jotka vaihtelevat uusimpien NLP-mallien käyttämisestä tietojoukkojen harhan korjaamiseen malleja harjoitettaessa.

10 uutta muistikirjaa voivat auttaa sinua seuraavilla tavoilla:

• Ne tarjoavat esimerkkikoodin, jonka voit suorittaa sellaisenaan Studion JumpStart-käyttöliittymästä ja nähdä, kuinka koodi toimii
• Ne näyttävät erilaisten SageMaker- ja JumpStart-sovellusliittymien käytön
• Ne tarjoavat teknisen ratkaisun, jota voit muokata edelleen omien tarpeidesi mukaan

JumpStartin kautta tarjottavien muistikirjojen määrä kasvaa säännöllisesti, kun muistikirjoja lisätään. Nämä muistikirjat ovat saatavilla myös osoitteessa GitHub.

Muistikirjojen yleiskatsaus

10 uutta muistikirjaa ovat seuraavat:

• Kontekstin sisäinen oppiminen AlexaTM 20B:llä – Osoittaa, kuinka AlexaTM 20B:tä käytetään konteksti-oppimiseen nolla- ja muutaman otoksen oppimisella viidellä esimerkkitehtävällä: tekstin yhteenveto, luonnollisen kielen luominen, konekäännös, kattava kysymyksiin vastaaminen sekä luonnollisen kielen päättely ja luokittelu.
• Reilun lineaarinen oppija SageMakerissa – Viime aikoina on ollut huolta ML-algoritmien harhasta, joka johtuu olemassa olevien ihmisten ennakkoluulojen matkimisesta. Tämä muistikirja soveltaa oikeudenmukaisuuskäsitteitä mallien ennusteiden säätämiseksi asianmukaisesti.
• Hallitse ML-kokeilua SageMaker-haulla – Amazon SageMaker Searchin avulla voit nopeasti löytää ja arvioida tärkeimmät mallikoulutusajot mahdollisesti sadoista ja tuhansista SageMaker-mallikoulutustöistä.
• SageMakerin hermoaihemalli – SageMaker Neural Topic Model (NTM) on valvomaton oppimisalgoritmi, joka yrittää kuvata joukon havaintoja erillisten luokkien sekoituksena.
• Ennusta ajonopeusrikkomukset – SageMaker DeepAR -algoritmia voidaan käyttää mallin kouluttamiseen useille katuille samanaikaisesti ja useiden katukameroiden rikkomusten ennustamiseen.
• Rintasyövän ennuste - Tämä muistikirja käyttää UCI:n rintasyövän diagnostiikkatietoaineistoa ennustemallin rakentamiseen siitä, osoittaako rintojen massakuva hyvänlaatuista vai pahanlaatuista kasvainta.
• Ensemble-ennusteet useista malleista – Yhdistämällä tai laskemalla keskiarvoa useista lähteistä ja malleista saatuja ennusteita saamme yleensä paremman ennusteen. Tämä muistikirja havainnollistaa tätä käsitettä.
• SageMakerin asynkroninen päättely – Asynkroninen päättely on uusi päättelyvaihtoehto lähes reaaliaikaisiin päättelytarpeisiin. Pyyntöjen käsittely voi kestää jopa 15 minuuttia, ja niiden hyötykuorma on enintään 1 Gt.
• TensorFlow tuo oma mallisi - Opi kouluttamaan TensorFlow-mallia paikallisesti ja ottamaan sen käyttöön SageMakerissa tämän muistikirjan avulla.
• Scikit-learning tuo oma mallisi - Tämä muistikirja näyttää, kuinka käyttää esikoulutettua Scikit-learn-mallia SageMaker Scikit-learn -säilön kanssa luodaksesi nopeasti isännöidyn päätepisteen kyseiselle mallille.

Edellytykset

Jotta voit käyttää näitä muistikirjoja, varmista, että sinulla on pääsy Studioon suoritusroolilla, jonka avulla voit käyttää SageMaker-toimintoja. Alla oleva lyhyt video auttaa sinua navigoimaan JumpStart-muistikirjoihin.

Seuraavissa osioissa käymme läpi kaikki 10 uutta ratkaisua ja keskustelemme joistakin niiden mielenkiintoisista yksityiskohdista.

Oppiminen kontekstissa AlexaTM 20B:llä

AlexaTM 20B on monitehtävä, monikielinen, laajamittainen sekvenssistä sekvenssiin (seq2seq) -malli, joka on koulutettu Common Crawl (mC4)- ja Wikipedia-tietojen sekoitukselle 12 kielellä käyttämällä melunvaimennus- ja kausaalikielimallinnustehtäviä (CLM). Se saavuttaa huippuluokan suorituskyvyn yleisissä kontekstin sisäisissä kielitehtävissä, kuten yhteenvedon tekemisessä ja konekääntämisessä, ja se on parempi kuin vain dekooderimallit, kuten Open AI:n GPT3 ja Googlen PaLM, jotka ovat yli kahdeksan kertaa suurempia.

Kontekstin sisäinen oppiminen, joka tunnetaan myös nimellä suostuttelu, viittaa menetelmään, jossa käytät NLP-mallia uudessa tehtävässä ilman, että sitä tarvitsee hienosäätää. Muutama tehtäväesimerkki tarjotaan mallille vain osana päättelyn syötettä, joka tunnetaan nimellä muutaman otoksen kontekstissa tapahtuva oppiminen. Joissakin tapauksissa malli voi toimia hyvin ilman harjoitustietoja ollenkaan, jos vain selitetään, mitä pitäisi ennustaa. Tätä kutsutaan nolla-shot-kontekstioppiminen.

Tämä muistikirja näyttää, kuinka AlexaTM 20B otetaan käyttöön JumpStart API:n kautta ja suoritetaan päättely. Se myös osoittaa, kuinka AlexaTM 20B:tä voidaan käyttää konteksti-oppimiseen viidellä esimerkkitehtävällä: tekstin yhteenveto, luonnollisen kielen luominen, konekäännös, poimiva kysymyksiin vastaaminen sekä luonnollisen kielen päättely ja luokittelu.

Muistikirja osoittaa seuraavaa:

• Kertaluonteinen tekstin yhteenveto, luonnollisen kielen luominen ja konekäännös käyttämällä yhtä koulutusesimerkkiä jokaisessa näistä tehtävistä
• Nollakohtaiseen kysymykseen vastaaminen ja luonnollisen kielen päättely sekä luokittelu mallilla sellaisenaan ilman koulutusesimerkkejä.

Kokeile omaa tekstiäsi tätä mallia vastaan ​​ja katso, kuinka se tekee yhteenvedon tekstistä, poimii kysymyksiä ja vastauksia tai kääntää kielestä toiselle.

Reilun lineaarinen oppija SageMakerissa

Viime aikoina on ollut huolta ML-algoritmien harhasta, joka johtuu olemassa olevien ihmisten ennakkoluulojen matkimisesta. Nykyään useilla ML-menetelmillä on vahvoja sosiaalisia vaikutuksia, esimerkiksi niitä käytetään ennustamaan pankkilainoja, vakuutuskorkoja tai mainontaa. Valitettavasti algoritmi, joka oppii historiallisista tiedoista, perii luonnollisesti aiemmat harhaluulot. Tämä muistikirja esittelee, kuinka tämä ongelma ratkaistaan ​​käyttämällä SageMakeria ja reiluja algoritmeja lineaaristen oppijoiden kontekstissa.

Se aluksi esittelee joitain oikeudenmukaisuuden taustalla olevia käsitteitä ja matematiikkaa, sitten lataa dataa, kouluttaa mallin ja lopuksi soveltaa oikeudenmukaisuuskäsitteitä mallin ennusteiden säätämiseksi asianmukaisesti.

Muistikirja osoittaa seuraavaa:

• Standardin lineaarisen mallin käyttäminen UCI:n aikuisten tietojoukossa.
• Osoittaa epäoikeudenmukaisuutta malliennusteissa
• Tietojen korjaaminen harhan poistamiseksi
• Mallin uudelleenkoulutus

Kokeile käyttää omia tietojasi käyttämällä tätä esimerkkikoodia ja havaitse, onko siinä harhaa. Yritä sen jälkeen poistaa harhaa, jos sellaista on, tietojoukostasi käyttämällä tämän esimerkkimuistikirjan toimitettuja toimintoja.

Hallitse ML-kokeiluja SageMaker Searchin avulla

SageMaker Searchin avulla voit nopeasti löytää ja arvioida tärkeimmät mallikoulutusajot mahdollisesti sadoista ja tuhansista SageMaker-mallikoulutustöistä. ML-mallin kehittäminen vaatii jatkuvaa kokeilua, uusien oppimisalgoritmien kokeilemista ja hyperparametrien viritystä, samalla kun tarkkaillaan tällaisten muutosten vaikutusta mallin suorituskykyyn ja tarkkuuteen. Tämä iteratiivinen harjoitus johtaa usein satojen mallikoulutuskokeiden ja malliversioiden räjähdysmäiseen määrään, mikä hidastaa lähentymistä ja voittavan mallin löytämistä. Lisäksi tietoräjähdys tekee malliversion syntyperinnön jäljittämisestä erittäin vaikeaa – ainutlaatuista tietojoukkojen, algoritmien ja parametrien yhdistelmää, joka alun perin loi mallin.

Tämä muistikirja näyttää, kuinka SageMaker Searchin avulla voit nopeasti ja helposti järjestää, seurata ja arvioida malliharjoittelutöitäsi SageMakerissa. Voit etsiä kaikkia määrittäviä attribuutteja käytetystä oppimisalgoritmista, hyperparametriasetuksista, käytetyistä koulutustietojoukoista ja jopa tunnisteista, jotka olet lisännyt malliharjoitustöihin. Voit myös nopeasti verrata ja luokitella harjoituksiasi niiden suorituskykymittareiden, kuten harjoitushäviön ja validointitarkkuuden, perusteella. Näin voit luoda tulostaulukoita voittavien mallien tunnistamiseksi, joita voidaan ottaa käyttöön tuotantoympäristöissä. SageMaker Search voi nopeasti jäljittää elävässä ympäristössä käyttöön otetun malliversion täydellisen sukulinjan aina koulutuksessa ja mallin validoinnissa käytettyihin tietojoukoihin saakka.

Muistikirja osoittaa seuraavaa:

• Lineaarisen mallin koulutus kolme kertaa
• SageMaker Searchin käyttäminen näiden kokeiden järjestämiseen ja arvioimiseen
• Tulosten visualisointi tulostaulukossa
• Mallin käyttöönotto päätepisteeseen
• Mallin jäljityslinja alkaen päätepisteestä

Omassa ennakoivien mallien kehittämisessä saatat suorittaa useita kokeita. Kokeile käyttää SageMaker Searchia tällaisissa kokeissa ja koe, kuinka se voi auttaa sinua monin tavoin.

SageMakerin hermoaihemalli

SageMaker Neural Topic Model (NTM) on valvomaton oppimisalgoritmi, joka yrittää kuvata joukon havaintoja erillisten luokkien sekoituksena. NTM:ää käytetään yleisimmin löytämään käyttäjän määrittämän määrän aiheita, jotka jaetaan tekstikorpuksen asiakirjoissa. Tässä jokainen havainto on dokumentti, ominaisuudet ovat kunkin sanan läsnäolo (tai esiintymismäärä) ja luokat ovat aiheita. Koska menetelmää ei valvota, aiheita ei ole määritelty etukäteen, eikä niitä voida taata, että ne vastaavat sitä, miten ihminen voi luonnollisesti luokitella asiakirjoja. Aiheet opitaan todennäköisyysjakaumana kussakin asiakirjassa esiintyvien sanojen välillä. Jokainen dokumentti puolestaan ​​​​kuvataan aiheiden sekoitukseksi.

Tämä muistikirja käyttää SageMaker NTM -algoritmia mallin kouluttamiseen 20NewsGroups-tietojoukossa. Tätä tietojoukkoa on käytetty laajasti aihemallinnuksen vertailukohtana.

Muistikirja osoittaa seuraavaa:

• SageMaker-harjoitustyön luominen tietojoukolle NTM-mallin tuottamiseksi
• Mallin käyttäminen päätelmien suorittamiseen SageMaker-päätepisteen kanssa
• Koulutetun mallin tutkiminen ja opittujen aiheiden visualisointi

Voit helposti muokata tätä muistikirjaa toimimaan tekstidokumenteissasi ja jakaa ne eri aiheisiin.

Ennusta ajonopeusrikkomukset

Tämä muistikirja esittelee aikasarjaennusteita käyttämällä SageMaker DeepAR -algoritmia analysoimalla Chicagon kaupungin nopeuskamerarikkomustietojoukon. Tietojoukkoa isännöi Data.gov, ja sitä hallinnoi US General Services Administration, Technology Transformation Service.

Kamerajärjestelmät tallentavat nämä rikkomukset, ja ne ovat saatavilla parantamaan yleisön elämää Chicagon kaupungin tietoportaalin kautta. Nopeuskamerarikkomustietojoukkoa voidaan käyttää tiedoissa olevien kuvioiden erottamiseen ja merkityksellisten oivallusten saamiseksi.

Tietojoukko sisältää useita kameroiden sijainteja ja päivittäisiä rikkomuksia. Jokainen kameran päivittäinen rikkomusluku voidaan pitää erillisenä aikasarjana. Voit käyttää SageMaker DeepAR -algoritmia mallin opettamiseen useille katuille samanaikaisesti ja useiden katukameroiden rikkomusten ennustamiseen.

Muistikirja osoittaa seuraavaa:

• SageMaker DeepAR -algoritmin harjoitteleminen aikasarjatietojoukossa spot-instanssien avulla
• Päätelmien tekeminen koulutetusta mallista liikennerikkomusten ennustamiseksi

Tämän muistikirjan avulla voit oppia kuinka aikasarjaongelmia voidaan ratkaista SageMakerin DeepAR-algoritmin avulla ja kokeilla soveltaa sitä omiin aikasarjatietosarjoihisi.

Rintasyövän ennuste

Tämä muistikirja ottaa esimerkin rintasyövän ennustamisesta UCI:n rintasyövän diagnostiikkatietoaineiston avulla. Se käyttää tätä tietojoukkoa rakentaakseen ennakoivan mallin siitä, osoittaako rintojen massakuva hyvänlaatuista vai pahanlaatuista kasvainta.

Muistikirja osoittaa seuraavaa:

• Perusasetukset SageMakerin käyttöä varten
• Tietojoukkojen muuntaminen Protobuf-muotoon, jota SageMaker-algoritmit käyttävät, ja lataaminen kohteeseen Amazonin yksinkertainen tallennuspalvelu (Amazon S3)
• SageMakerin lineaarisen oppijamallin kouluttaminen tietojoukossa
• Koulutetun mallin isännöinti
• Pisteytys koulutetun mallin avulla

Voit käydä tämän muistikirjan läpi oppiaksesi ratkaisemaan liiketoimintaongelman SageMakerin avulla ja ymmärtämään koulutuksen ja mallin isännöinnin vaiheet.

Ensemble-ennusteet useista malleista

ML:n käytännön sovelluksissa ennustaviin tehtäviin yksi malli ei usein riitä. Useimmat ennustekilpailut edellyttävät yleensä useiden lähteiden ennusteiden yhdistämistä paremman ennusteen saamiseksi. Yhdistämällä tai laskemalla keskiarvoa useista lähteistä tai malleista saatuja ennusteita saamme yleensä paremman ennusteen. Tämä johtuu siitä, että mallin valinnassa on huomattavaa epävarmuutta ja monissa käytännön sovelluksissa ei ole yhtä oikeaa mallia. Siksi on hyödyllistä yhdistää eri mallien ennusteita. Bayesilaisessa kirjallisuudessa tätä ajatusta kutsutaan Bayesin mallin keskiarvon laskemiseksi, ja sen on osoitettu toimivan paljon paremmin kuin vain yhden mallin valitseminen.

Tässä muistikirjassa on havainnollistava esimerkki, jonka avulla voidaan ennustaa, tienaako henkilö yli 50,000 XNUMX dollaria vuodessa koulutusta, työkokemusta, sukupuolta ja muuta koskevien tietojen perusteella.

Muistikirja osoittaa seuraavaa:

• SageMaker-muistikirjan valmistelu
• Tietojoukon lataaminen Amazon S3:sta SageMakerin avulla
• Tietojen tutkiminen ja muuntaminen niin, että se voidaan syöttää SageMaker-algoritmeihin
• Mallin arvioiminen SageMaker XGBoost (Extreme Gradient Boosting) -algoritmilla
• Isännöi mallia SageMakerissa, jotta voit tehdä jatkuvia ennusteita
• Toisen mallin estimoiminen SageMakerin lineaarisella oppijamenetelmällä
• Molempien mallien ennusteiden yhdistäminen ja yhdistetyn ennusteen arviointi
• Luodaan lopullisia ennusteita testitietojoukosta

Kokeile käyttää tätä muistikirjaa tietojoukossasi ja käyttää useita algoritmeja. Kokeile SageMakerin ja JumpStartin tarjoamia erilaisia ​​malliyhdistelmiä ja katso, mikä mallien yhdistelmä antaa parhaat tulokset omilla tiedoillasi.

SageMakerin asynkroninen päättely

SageMakerin asynkroninen päättely on SageMakerin uusi ominaisuus, joka asettaa saapuvat pyynnöt jonoon ja käsittelee ne asynkronisesti. SageMaker tarjoaa tällä hetkellä asiakkaille kaksi päättelyvaihtoehtoa ML-mallien käyttöönottamiseksi: reaaliaikainen vaihtoehto matalan viiveen työkuormille ja erämuunnos, offline-vaihtoehto, jolla käsitellään päättelypyyntöjä etukäteen saatavilla olevista tietoeristä. Reaaliaikainen päättely sopii työkuormille, joiden hyötykuorman koot ovat alle 6 Mt ja vaativat päättelypyyntöjen käsittelyn 60 sekunnissa. Erämuunnos sopii tietoerien offline-johtopäätökseen.

Asynkroninen päättely on uusi päättelyvaihtoehto lähes reaaliaikaisiin päättelytarpeisiin. Pyyntöjen käsittely voi kestää jopa 15 minuuttia, ja niiden hyötykuorma on enintään 1 Gt. Asynkroninen päättely sopii työkuormille, joilla ei ole sekuntia alemman viiveen vaatimuksia ja joilla on kevennetyt latenssivaatimukset. Saatat esimerkiksi joutua käsittelemään päättelyn suuresta useiden megatavujen kuvasta 5 minuutin sisällä. Lisäksi asynkronisten päättelypäätepisteiden avulla voit hallita kustannuksia skaalaamalla päätepisteiden lukumäärän nollaan niiden ollessa käyttämättömänä, joten maksat vain, kun päätepisteesi käsittelevät pyyntöjä.

Muistikirja osoittaa seuraavaa:

• SageMaker-mallin luominen
• Päätepisteen luominen käyttämällä tätä mallia ja asynkronista päättelykonfiguraatiota
• Ennusteiden tekeminen tätä asynkronista päätepistettä vastaan

Tämä muistikirja näyttää toimivan esimerkin asynkronisen päätepisteen kokoamisesta SageMaker-mallille.

TensorFlow tuo oma mallisi

TensorFlow-mallia koulutetaan paikallisesti luokitustehtävässä, jossa tätä kannettavaa ajetaan. Sitten se otetaan käyttöön SageMaker-päätepisteessä.

Muistikirja osoittaa seuraavaa:

• TensorFlow-mallin kouluttaminen paikallisesti IRIS-tietojoukossa
• Tuo mallin SageMakeriin
• Isännöi sitä päätepisteessä

Jos sinulla on itse kehittämiäsi TensorFlow-malleja, tämä esimerkkimuistikirja voi auttaa sinua isännöimään malliasi SageMaker-hallitussa päätepisteessä.

Scikit-Learn tuo oma mallisi

SageMaker sisältää toimintoja, jotka tukevat isännöityä muistikirjaympäristöä, hajautettua, palvelimetonta koulutusta ja reaaliaikaista isännöintiä. Se toimii parhaiten, kun kaikkia kolmea palvelua käytetään yhdessä, mutta niitä voidaan käyttää myös itsenäisesti. Jotkin käyttötapaukset voivat vaatia vain isännöinnin. Ehkä malli on koulutettu ennen SageMakerin olemassaoloa toisessa palvelussa.

Muistikirja osoittaa seuraavaa:

• Valmiiksi koulutetun Scikit-learn-mallin käyttäminen SageMaker Scikit-learn -säilön kanssa luodaksesi nopeasti isännöidyn päätepisteen kyseiselle mallille

Jos sinulla on itse kehittämiäsi Scikit-learn-malleja, tämä esimerkkimuistikirja voi auttaa sinua isännöimään malliasi SageMaker-hallitussa päätepisteessä.

Siivoa resurssit

Kun olet lopettanut muistikirjan käyttämisen JumpStartissa, varmista Poista kaikki resurssit jotta kaikki prosessissa luomasi resurssit poistetaan ja laskutuksesi lopetetaan. Näiden muistikirjojen viimeinen solu poistaa yleensä luodut päätepisteet.

Yhteenveto

Tämä viesti opasti sinut 10 uuden esimerkkimuistikirjan läpi, jotka lisättiin äskettäin JumpStartiin. Vaikka tämä viesti keskittyi näihin 10 uuteen muistikirjaan, käytettävissä on yhteensä 56 muistikirjaa tämän kirjoittamisen jälkeen. Kehotamme sinua kirjautumaan sisään Studioon ja tutustumaan JumpStart-muistikirjoihin itse ja alkamaan saada niistä välitöntä arvoa. Lisätietoja on kohdassa Amazon SageMaker Studio ja SageMaker JumpStart.

---

kirjailijasta

Tohtori Raju Penmatcha on AI/ML Specialist Solutions Architect AI Platformsissa AWS:ssä. Hän valmistui tohtoriksi Stanfordin yliopistosta. Hän työskentelee tiiviisti SageMakerin low/no-code -palveluiden parissa, joiden avulla asiakkaat voivat helposti rakentaa ja ottaa käyttöön koneoppimismalleja ja -ratkaisuja.