Model LightOn Lyra-fr je zdaj na voljo na Amazon SageMaker

Z veseljem sporočamo, da je na voljo model podlage LightOn Lyra-fr za stranke, ki uporabljajo Amazon SageMaker. LightOn je vodilni pri gradnji modelov temeljev, specializiran za evropske jezike. Lyra-fr je najsodobnejši francoski jezikovni model, ki ga je mogoče uporabiti za ustvarjanje pogovorne umetne inteligence, orodij za pisanje besedil, klasifikatorjev besedila, semantičnega iskanja in še več. Ta model lahko preprosto preizkusite in ga uporabljate z Amazon SageMaker JumpStart. JumpStart je središče strojnega učenja (ML) SageMakerja, ki poleg vgrajenih algoritmov in celovitih predlog rešitev omogoča dostop do temeljnih modelov, ki vam pomagajo hitro začeti uporabljati ML.

V tem blogu bomo prikazali, kako uporabiti model Lyra-fr v SageMakerju.

Modeli temeljev

Temeljni modeli so običajno usposobljeni na milijardah parametrov in so prilagodljivi široki kategoriji primerov uporabe. Najbolj znani modeli temeljev se danes uporabljajo za povzemanje člankov, ustvarjanje digitalne umetnosti in ustvarjanje kode iz preprostih besedilnih navodil. Usposabljanje teh modelov je drago, zato stranke želijo uporabiti obstoječe vnaprej pripravljene modele temeljev in jih po potrebi natančno prilagoditi, namesto da bi te modele usposobile same. SageMaker ponuja izbran seznam modelov, med katerimi lahko izbirate na konzoli SageMaker. Te modele lahko preizkusite neposredno na spletnem vmesniku. Ko želite uporabiti osnovni model v velikem obsegu, lahko to storite preprosto, ne da bi zapustili SageMaker, tako da uporabite vnaprej pripravljene prenosnike ponudnikov modelov. Ker modeli gostujejo in so nameščeni na AWS, ste lahko prepričani, da se vaši podatki, ne glede na to, ali se uporabljajo za ocenjevanje ali uporabo modela v velikem obsegu, nikoli ne delijo s tretjimi osebami.

Lyra-fr je največji francoski jezikovni model, ki je danes na voljo na trgu. Gre za model z 10 milijardami parametrov, ki ga je usposobil in omogočil dostop LightOn. Lyra-fr je bila usposobljena na velikem korpusu francoskih kuriranih podatkov in je sposobna pisati človeško podobno besedilo in reševati kompleksne naloge, kot so razvrščanje, odgovarjanje na vprašanja in povzemanje. Vse to ob ohranjanju razumne hitrosti sklepanja, v območju 1–2 sekund za povprečno zahtevo. Nalogo, ki jo želite opraviti, lahko preprosto opišete v naravnem jeziku in Lyra-fr bo ustvaril odgovore na ravni maternega govorca francoščine. Lyra-fr ponuja primitive inteligence, pripravljene za poslovanje, kot je vodljivo ustvarjanje in klasifikacija besedila, v samo nekaj vrsticah kode. Pri zahtevnejših nalogah je mogoče izboljšati zmogljivost v učnem načinu »nekaj posnetkov«, tako da v pozivu zagotovite nekaj vhodno-izhodnih primerov.

Uporaba Lyra-fr na SageMakerju

V treh preprostih korakih vam bomo predstavili, kako uporabljati model Lyra-fr:

• Odkrijte – Poiščite model Lyra-fr na upravljalni konzoli AWS za SageMaker.
• Test – Testirajte model s spletnim vmesnikom.
• uvajanje – Uporabite prenosni računalnik za uvajanje in testiranje naprednih zmogljivosti modela.

Odkrijte

Da bi olajšali odkrivanje modelov temeljev, kot je Lyra-fr, smo vse modele temeljev združili na enem mestu. Za iskanje modela Lyra-fr:

1. Prijavite se v Konzola za upravljanje AWS za SageMaker.
2. Na levi navigacijski plošči bi morali videti razdelek z imenom jumpstart z Modeli temeljev pod njim. Zahtevajte dostop do te funkcije, če še nimate dostopa.
3. Ko je vaš račun na seznamu dovoljenih, boste na desni videli seznam modelov. Tukaj boste našli model Lyra-fr 10B.
   
4. S klikom na Ogled modela prikaže celotno kartico modela z dodatnimi možnostmi.
   

Test

Pogost primer uporabe je izvajanje ad hoc testov, da se prepričate, da model ustreza vašim potrebam. Model Lyra-fr lahko preizkusite neposredno s konzole SageMaker. V tem primeru bomo uporabili preprost besedilni poziv tako, da bomo od modela zahtevali, naj ustvari seznam idej za članke na temo »akvarel« ali »l'aquarelle« v francoščini.

1. Na kartici modela, prikazani v prejšnjem razdelku, izberite Preizkusite model. S tem se odpre nov zavihek s preskusnim vmesnikom.
2. V tem vmesniku zagotovite vnos besedila, ki ga želite posredovati modelu. Z drsniki na desni lahko tudi nastavite poljubne parametre. Ko ste zadovoljni, izberite Ustvari besedilo.
   

Upoštevajte, da osnovni modeli in njihov rezultat izvirajo od ponudnika modelov in AWS ni odgovoren za njihovo vsebino ali točnost.

uvajanje

Modeli za generiranje besedila najbolje delujejo, ko navedete primere informacij, ki jih želite, da model zagotovi. To se imenuje nekajkratno učenje. To zmožnost bomo predstavili z vzorčnim prenosnim računalnikom Lyra-fr. V vzorčnem zvezku je opisano, kako uvesti model Lyra-fr v SageMaker, kako povzemati in ustvariti besedilo ter nekajkratno učenje.

Vključuje tudi primere izdelave zahtev za sklepanje neposredno z uporabo JSON ali z Lyra Python SDK. Lyra Python SDK poskrbi za formatiranje vnosa, klic končne točke in razpakiranje izhoda. Na končno točko obstaja en razred: Ustvari, Analiziraj, Izberi, Vdelaj, Primerjaj in Tokeniziraj. Upoštevajte, da ta primer uporablja primerek ml.p4d.24xlarge. Če je vaša privzeta omejitev za vaš račun AWS 0, morate zahtevati povečanje omejitve za ta primer GPE.

SageMaker ponuja izkušnjo upravljanega prenosnika prek SageMaker Studio. Za podrobnosti o tem, kako nastaviti SageMaker Studio, glejte Vodnik za razvijalce Amazon SageMaker. Ta repo GitHub bomo v tej predstavitvi klonirali v SageMaker Studio, vendar bo prenosnik deloval tudi v drugih okoljih.

Oglejmo si, kako zagnati prenosni računalnik:

1. Pojdite na kartico modela v razdelku Odkrijte v tej objavi v spletnem dnevniku in izberite Ogled zvezka. V GitHubu bi morali videti odprt nov zavihek z zvezkom Lyra-fr.
2. V GitHubu izberite lightonmuse-sagemaker-sdk; to vas bo pripeljalo do repoja. Izberite Koda in kopirajte URL HTTPS.
   
3. Odprite SageMaker Studio. Izberite Klonirajte repozitorij in nato prilepite URL, kopiran od zgoraj.
   
4. Z brskalnikom datotek na levi se pomaknite do prenosnega računalnika Lyra-fr.
5. Ta prenosnik deluje od konca do konca brez potrebe po dodatnem vnosu in čisti vire, ki jih ustvari. Lahko si ogledamo primer »uporabe Create za analizo razpoloženja«. Ta primer uporablja Lyra Python SDK in prikazuje kratkotrajno učenje s poučevanjem modela z nekaj primeri, katero besedilo je treba kategorizirati kot pozitivno (positifs), negativno (négatifs) ali mešano (mitigés).
6. Vidite lahko, da morate pri Lyra Python SDK vse, kar morate storiti, zagotoviti ime končne točke SageMaker in vnos. SDK namesto vas poskrbi za razčlenjevanje, oblikovanje in nastavitev.
   
7. Zagon tega poziva vrne, da je zadnji stavek pozitiven.
   

Čiščenje

Ko ste preizkusili končno točko, izbrišite končno točko sklepanja SageMaker in izbrišite model, da se izognete zaračunavanju.

zaključek

V tej objavi smo vam pokazali, kako odkriti, preizkusiti in uvesti model Lyra-fr z uporabo Amazon SageMaker. Zahtevaj dostop do preizkusite temeljni model danes v SageMakerju in nam sporočite svoje povratne informacije!

---

O avtorjih

Jakopo Poli je tehnični direktor podjetja LightOn, odgovoren za strateške tehnične izbire podjetja pri gradnji zelo velikih jezikovnih modelov in njihovem ponujanju javnosti. Navdušen je nad demokratizacijo strojnega učenja prek intuitivnih vmesnikov. V prostem času uživa v iskanju najboljših restavracij v Parizu.

Alan Tan je višji produktni vodja pri podjetju SageMaker, ki vodi prizadevanja za sklepanje velikih modelov. Navdušen je nad uporabo strojnega učenja na področju analitike. Izven dela uživa na prostem.