LightOn Lyra-fr -malli on nyt saatavilla Amazon SageMakerissa

Olemme iloisia voidessamme ilmoittaa LightOn Lyra-fr -pohjamallin saatavuudesta asiakkaille, jotka käyttävät Amazon SageMakeria. LightOn on johtava eurooppalaisiin kieliin erikoistuneiden perustusmallien rakentaja. Lyra-fr on huippuluokan ranskankielinen malli, jota voidaan käyttää muun muassa keskustelun tekoälyn, tekstinkirjoitustyökalujen, tekstiluokittajien, semanttisen haun ja muiden luomiseen. Voit helposti kokeilla tätä mallia ja käyttää sitä Amazon SageMaker JumpStart. JumpStart on SageMakerin koneoppimiskeskus (ML), joka tarjoaa pääsyn perusmalleihin sisäänrakennettujen algoritmien ja päästä päähän -ratkaisumallien lisäksi, jotta pääset nopeasti alkuun ML:n kanssa.

Tässä blogissa näytämme kuinka Lyra-fr-mallia käytetään SageMakerissa.

Perustusmallit

Perustusmallit on tyypillisesti koulutettu miljardeihin parametreihin, ja ne ovat mukautettavissa monenlaisiin käyttötapauksiin. Nykyään tunnetuimpia perustusmalleja käytetään artikkeleiden yhteenvetoon, digitaalisen taiteen luomiseen ja koodin luomiseen yksinkertaisista tekstiohjeista. Nämä mallit ovat kalliita kouluttaa, joten asiakkaat haluavat käyttää olemassa olevia esikoulutettuja perusmalleja ja hienosäätää niitä tarpeen mukaan sen sijaan, että kouluttaisivat mallit itse. SageMaker tarjoaa kuratoidun luettelon malleista, joista voit valita SageMaker-konsolista. Voit testata näitä malleja suoraan verkkokäyttöliittymässä. Kun haluat käyttää perusmallia mittakaavassa, voit tehdä sen helposti poistumatta SageMakerista käyttämällä mallintoimittajien valmiita muistikirjoja. Koska mallit isännöidään ja otetaan käyttöön AWS:ssä, voit olla varma, että tietojasi, riippumatta siitä, käytetäänkö niitä mallin arvioimiseen tai käyttöön, ei koskaan jaeta kolmansille osapuolille.

Lyra-fr on markkinoiden suurin ranskankielinen malli. Se on 10 miljardin parametrin malli, jonka LightOn on kouluttanut ja tehnyt saataville. Lyra-fr on koulutettu laajalle ranskalaiselle kuratoidulle datalle, ja se pystyy kirjoittamaan ihmismäistä tekstiä ja ratkaisemaan monimutkaisia ​​tehtäviä, kuten luokittelua, kysymyksiin vastaamista ja yhteenvetoa. Kaikki tämä säilyttäen kohtuullisen päättelynopeuden, 1–2 sekunnin välillä keskimääräiselle pyynnölle. Voit yksinkertaisesti kuvailla tehtävää, jonka haluat suorittaa luonnollisella kielellä, ja Lyra-fr tuottaa vastauksia ranskan äidinkielenään puhuvan tason tasolla. Lyra-fr tarjoaa liiketoimintavalmiita älykkyyttä koskevia primitiivisiä ominaisuuksia, kuten ohjattavan sukupolven ja tekstin luokittelun, vain muutamalla koodirivillä. Haastavampia tehtäviä varten suorituskykyä voidaan parantaa "muutaman laukauksen" oppimistilassa tarjoamalla kehotteessa pari syöte-tulosesimerkkiä.

Lyra-fr:n käyttäminen SageMakerissa

Ohjaamme sinut Lyra-fr-mallin käyttöön kolmessa yksinkertaisessa vaiheessa:

• Tutustu – Etsi Lyra-fr-malli SageMakerin AWS-hallintakonsolista.
• Testi – Testaa mallia web-käyttöliittymän avulla.
• Sijoittaa – Käytä kannettavaa mallin edistyneiden ominaisuuksien käyttöönottoa ja testaamista.

Tutustu

Lyra-fr:n kaltaisten meikkipohjamallien löytämisen helpottamiseksi olemme koonneet kaikki meikkimallit yhteen paikkaan. Lyra-fr-mallin löytäminen:

1. Kirjaudu sisään AWS-hallintakonsoli SageMakerille.
2. Vasemmassa navigointipaneelissa sinun pitäisi nähdä osio nimeltä Kaapelikäynnistys with Perustusmallit sen alla. Pyydä pääsyä tähän ominaisuuteen, jos sinulla ei vielä ole käyttöoikeutta.
3. Kun tilisi on sallittujen luettelossa, näet luettelon malleista oikealla. Täältä löydät Lyra-fr 10B -mallin.
   
4. Klikkaamalla Näytä malli näyttää koko mallikortin lisävaihtoehdoineen.
   

Testi

Yleinen käyttötapa on suorittaa ad hoc -testejä varmistaaksesi, että malli vastaa tarpeitasi. Voit testata Lyra-fr-mallia suoraan SageMaker-konsolista. Tässä esimerkissä aiomme käyttää yksinkertaista tekstikehotetta pyytämällä mallia luomaan luettelon artikkeliideoista aiheesta "akvarelli" tai "l'aquarelle" ranskaksi.

1. Valitse edellisessä osiossa näytetystä mallikortista Kokeile mallia. Tämä avaa uuden välilehden, jossa on testikäyttöliittymä.
2. Anna tässä käyttöliittymässä tekstinsyöttö, jonka haluat välittää mallille. Voit myös säätää haluamasi parametrit oikeanpuoleisilla liukusäätimillä. Kun olet tyytyväinen, valitse Luo tekstiä.
   

Huomaa, että perusmallit ja niiden tulosteet ovat mallintoimittajalta, eikä AWS ole vastuussa niiden sisällöstä tai tarkkuudesta.

Sijoittaa

Tekstin luontimallit toimivat parhaiten, kun annat esimerkkejä tiedoista, jotka haluat mallin tarjoavan. Tätä kutsutaan muutaman laukauksen oppimiseksi. Esittelemme tätä ominaisuutta käyttämällä Lyra-fr-mallimuistikirjaa. Esimerkkimuistikirjassa käydään läpi Lyra-fr-mallin käyttöönotto SageMakerissa, tekstin yhteenvedon tekeminen ja luominen sekä muutaman kerran oppiminen.

Se sisältää myös esimerkkejä johtopäätöspyyntöjen tekemisestä suoraan JSON:n tai Lyra Python SDK:n avulla. Lyra Python SDK huolehtii syötteen muotoilusta, päätepisteen kutsumisesta ja tulosteen purkamisesta. Päätepistettä kohti on yksi luokka: Luo, Analysoi, Valitse, Upota, Vertaa ja Tokenize. Huomaa, että tämä esimerkki käyttää ml.p4d.24xlarge-instanssia. Jos AWS-tilisi oletusraja on 0, sinun on pyydettävä rajan korotusta tälle GPU-esiintymälle.

SageMaker tarjoaa hallitun kannettavan käyttökokemuksen SageMaker Studion kautta. Lisätietoja SageMaker Studion määrittämisestä on kohdassa Amazon SageMaker -kehitysopas. Aiomme kloonata tämän GitHub-repon SageMaker Studioon tässä demossa, mutta muistikirja toimii myös muissa ympäristöissä.

Katsotaanpa, kuinka muistikirjaa käytetään:

1. Siirry mallikorttiin tämän blogikirjoituksen Discover-osiossa ja valitse Näytä muistikirja. Sinun pitäisi nähdä uusi välilehti auki GitHubissa Lyra-fr-muistikirjan kanssa.
2. Valitse GitHubissa lightonmuse-sagemaker-sdk; tämä vie sinut repoon. Valitse Koodi -painiketta ja kopioi HTTPS-URL-osoite.
   
3. Avaa SageMaker Studio. Valitse Kloonaa arkisto ja liitä sitten ylhäältä kopioitu URL-osoite.
   
4. Siirry Lyra-fr-muistikirjaan käyttämällä vasemmalla olevaa tiedostoselainta.
5. Tämä muistikirja toimii päästä päähän ilman lisäsyöttöä ja puhdistaa myös luomansa resurssit. Voimme tarkastella esimerkkiä "Luon käyttäminen tunteiden analysointiin". Tämä esimerkki käyttää Lyra Python SDK:ta ja osoittaa harvojen oppimisen opettamalla mallille muutama esimerkki siitä, mikä teksti pitäisi luokitella positiiviseksi (positiiviset), negatiiviseksi (négatifs) tai sekamuotoiseksi (mitigés).
6. Voit nähdä, että Lyra Python SDK:lla sinun tarvitsee vain antaa SageMaker-päätepisteen nimi ja syöte. SDK hoitaa kaiken jäsentämisen, muotoilun ja asennuksen puolestasi.
   
7. Tämän kehotteen suorittaminen palauttaa, että viimeinen lause on positiivinen.
   

Puhdistaa

Kun olet testannut päätepisteen, varmista, että poistat SageMaker-päätepäätepisteen ja poistat mallin kulujen välttämiseksi.

Yhteenveto

Tässä viestissä näytimme sinulle, kuinka voit löytää, testata ja ottaa käyttöön Lyra-fr-mallin Amazon SageMakerin avulla. Pyydä käyttöoikeutta kokeile pohjamallia SageMakerissa tänään ja kerro meille palautteesi!

---

Tietoja kirjoittajista

Iacopo Poli on LightOnin teknologiajohtaja, joka vastaa yrityksen strategisista teknisistä valinnoista erittäin suurten kielimallien rakentamisessa ja niiden tarjoamisessa yleisölle. Hän on intohimoinen koneoppimisen demokratisoimisesta intuitiivisten käyttöliittymien kautta. Vapaa-ajallaan hän nauttii Pariisin parhaiden ravintoloiden etsimisestä.

Alan Tan on SageMakerin vanhempi tuotepäällikkö, joka johtaa suuria mallipäätelmiä. Hän on intohimoinen koneoppimisen soveltamisesta analytiikan alalla. Työn ulkopuolella hän viihtyy ulkona.