Natančno nastavite Llama 2 za ustvarjanje besedila na Amazon SageMaker JumpStart | Spletne storitve Amazon

Danes z veseljem oznanjamo zmožnost natančnega prilagajanja modelov Llama 2 s pomočjo Meta Amazon SageMaker JumpStart. Družina velikih jezikovnih modelov (LLM) Llama 2 je zbirka vnaprej usposobljenih in natančno nastavljenih generativnih besedilnih modelov, ki obsegajo od 7 milijard do 70 milijard parametrov. Natančno nastavljeni LLM-ji, imenovani Llama-2-chat, so optimizirani za primere uporabe dialoga. Te modele lahko preprosto preizkusite in jih uporabite s SageMaker JumpStart, ki je središče strojnega učenja (ML), ki omogoča dostop do algoritmov, modelov in rešitev ML, tako da lahko hitro začnete z ML. Zdaj lahko tudi natančno prilagodite 7 milijard, 13 milijard in 70 milijard parametrov modelov generiranja besedila Llama 2 na SageMaker JumpStart z uporabo Amazon SageMaker Studio Uporabniški vmesnik z nekaj kliki ali uporabo SDK-ja SageMaker Python.

Generativni osnovni modeli umetne inteligence so že več kot eno leto v središču večine raziskav in primerov uporabe ML in umetne inteligence. Ti osnovni modeli se zelo dobro obnesejo pri generativnih nalogah, kot so generiranje besedila, povzemanje, odgovarjanje na vprašanja, generiranje slik in videa ter več, zaradi svoje velike velikosti in tudi zato, ker so usposobljeni za več velikih naborov podatkov in stotine nalog. Kljub velikim zmožnostim posploševanja teh modelov pogosto obstajajo primeri uporabe, ki imajo zelo specifične podatke o domeni (kot so zdravstvene ali finančne storitve), zaradi česar ti modeli morda ne bodo mogli zagotoviti dobrih rezultatov za te primere uporabe. Posledica tega je potreba po nadaljnjem natančnem prilagajanju teh generativnih modelov umetne inteligence glede na podatke, specifične za primere uporabe in domene.

V tem prispevku si bomo ogledali, kako natančno prilagoditi vnaprej pripravljene modele za generiranje besedila Llama 2 prek SageMaker JumpStart.

Kaj je Llama 2

Llama 2 je avtoregresivni jezikovni model, ki uporablja optimizirano transformatorsko arhitekturo. Llama 2 je namenjena komercialni in raziskovalni uporabi v angleškem jeziku. Na voljo je v različnih velikostih parametrov – 7 milijard, 13 milijard in 70 milijard – kot tudi v predhodno usposobljenih in natančno nastavljenih različicah. Po besedah ​​​​Mete prilagojene različice uporabljajo nadzorovano fino uravnavanje (SFT) in okrepitveno učenje s človeškimi povratnimi informacijami (RLHF), da se uskladijo s človeškimi željami glede uporabnosti in varnosti. Llama 2 je bila predhodno usposobljena za 2 bilijona žetonov podatkov iz javno dostopnih virov. Uglašeni modeli so namenjeni klepetu, podobnemu pomočniku, medtem ko je vnaprej usposobljene modele mogoče prilagoditi za različne naloge generiranja naravnega jezika. Ne glede na to, katero različico modela uporablja razvijalec, je vodnik za odgovorno uporabo podjetja Meta lahko pomaga pri vodenju dodatne natančne nastavitve, ki je morda potrebna za prilagoditev in optimizacijo modelov z ustreznimi varnostnimi ublažitvami.

Trenutno je Llama 2 na voljo v naslednjih regijah:

• Razpoložljiv vnaprej usposobljen model: "us-west-2", "us-east-1", "us-east-2", "eu-west-1", "ap-southeast-1", "ap-southeast-2"
• Natančno prilagodite in uvedite natančno nastavljen model: “us-east-1”, “us-west-2”,“eu-west-1”

Kaj je SageMaker JumpStart

S SageMaker JumpStart lahko praktiki ML izbirajo med široko izbiro javno dostopnih modelov temeljev. Strokovnjaki ML lahko uvedejo temeljne modele v namenske Amazon SageMaker primerke iz omrežno izoliranega okolja in prilagodite modele z uporabo SageMakerja za usposabljanje in uvajanje modelov. Zdaj lahko odkrijete in uvedete Llama 2 z nekaj kliki v SageMaker Studio ali programsko prek SDK SageMaker Python, kar vam omogoča, da izpeljete zmogljivost modela in kontrole MLOps s funkcijami SageMaker, kot je npr. Amazonski cevovodi SageMaker, Napaka Amazon SageMaker, ali kontejnerski dnevniki. Model je nameščen v varnem okolju AWS in pod vašimi kontrolami VPC, kar pomaga zagotoviti varnost podatkov. Poleg tega lahko s programom SageMaker JumpStart natančno prilagodite vnaprej pripravljene modele generiranja besedila Llama2 7B, 13B in 70B.

Natančno nastavite modele Llama2

Modele lahko natančno prilagodite z uporabniškim vmesnikom SageMaker Studio ali SDK SageMaker Python. V tem razdelku obravnavamo obe metodi.

Natančna nastavitev brez kode prek uporabniškega vmesnika SageMaker Studio

V SageMaker Studio lahko dostopate do modelov Llama 2 prek SageMaker JumpStart pod Modeli, zvezki in rešitve, kot je prikazano na naslednjem posnetku zaslona.

Če ne vidite modelov Llama 2, posodobite svojo različico SageMaker Studio tako, da zaustavite in znova zaženete. Za več informacij o posodobitvah različic glejte Zaustavite in posodobite aplikacije Studio.

Z izbiro lahko najdete tudi druge štiri različice modela Raziščite vse modele generiranja besedila ali iskanje lame v iskalnem polju.

Na tej strani lahko pokažete na Preprosta storitev shranjevanja Amazon (Amazon S3), ki vsebuje nabore podatkov za usposabljanje in validacijo za natančno nastavitev. Poleg tega lahko konfigurirate konfiguracijo razmestitve, hiperparametre in varnostne nastavitve za natančno nastavitev. Nato lahko izberete Vlak za začetek usposabljanja na primerku SageMaker ML. Prejšnji posnetek zaslona prikazuje stran za natančno nastavitev za model Llama-2 7B; vendar pa lahko modele generiranja besedila 13B in 70B Llama 2 natančno prilagodite z uporabo ustreznih strani modelov na podoben način. Če želite uporabljati modele Llama 2, morate sprejeti licenčno pogodbo za končnega uporabnika (EULA). Prikaže se, ko izberete Vlak, kot je prikazano na naslednjem posnetku zaslona. Izberite Prebral sem in sprejemam EULA in AUP za začetek natančnega prilagajanja.

Namestite model

Ko je model natančno nastavljen, ga lahko uvedete na strani modela na SageMaker JumpStart. Možnost za uvedbo natančno nastavljenega modela se prikaže, ko je natančna nastavitev končana, kot je prikazano na naslednjem posnetku zaslona.

Natančna nastavitev prek SDK-ja SageMaker Python

Prav tako lahko natančno prilagodite modele Llama 2 s SDK SageMaker Python. Sledi vzorčna koda za natančno nastavitev Llame 2 7B na vašem naboru podatkov:

import os
import boto3
from sagemaker.session import Session
from sagemaker.jumpstart.estimator import JumpStartEstimator # To fine-tune the 13B/70B model, please change model_id to `meta-textgeneration-llama-2-13b`/`meta-textgeneration-llama-2-70b`.
model_id = "meta-textgeneration-llama-2-7b" estimator = JumpStartEstimator( model_id=model_id, environment={"accept_eula": "true"}
)
# By default, instruction tuning is set to false. Thus, to use instruction tuning dataset you use
estimator.set_hyperparameters(instruction_tuned="True", epoch="5")
estimator.fit({"training": train_data_location})

Natančno nastavljen model lahko uvedete neposredno iz ocenjevalca:

finetuned_predictor = estimator.deploy()

Kodo najdete tudi v Natančno prilagodite modele LLaMA 2 na SageMaker JumpStart. Vključuje pripravo nabora podatkov, usposabljanje za vaš nabor podatkov po meri in uvajanje natančno nastavljenega modela. Prikazuje fino nastavitev na podmnožici nabora podatkov Dolly s primeri iz naloge povzemanja. Sledi primer vnosa z odgovori natančno nastavljenih in nenastavljenih skupaj z odgovorom temeljne resnice:

Vnos v model:

Below is an instruction that describes a task, paired with an input that provides further context. Write a response that appropriately completes the request.nn### Instruction:nWhen did Felix Luna die?nn### Input:nFélix César Luna (30 September 1925 – 5 November 2009) was an Argentine writer, lyricist and historian.nnnn### Response:n

Odgovor Ground Truth:

Felix Luna died on November 5th, 2009

Odgovor nenatančno nastavljenega modela:

Félix César Luna (30 September 1925 – 5 November 2009) was an ArgentinennWhen did Luna die?nnn### Explanation:nWe answer the question with the input's date of birth and the date of death.nnn### Solution: 1102n

Odgovor natančno nastavljenega modela:

Félix Luna died on November 5th, 2009.nn

Za primerjalno analizo zmogljivosti različnih modelov na naboru podatkov Dolly in Dialogsum glejte Primerjalna analiza uspešnosti v dodatku na koncu te objave.

Tehnika finega uravnavanja

Jezikovni modeli, kot je Llama, so večji od 10 GB ali celo 100 GB. Natančna nastavitev tako velikih modelov zahteva primerke s precej velikim pomnilnikom CUDA. Poleg tega je lahko usposabljanje teh modelov zelo počasno zaradi velikosti modela. Zato za učinkovito fino nastavitev uporabljamo naslednje optimizacije:

• Nizka prilagoditev (LoRA) – To je vrsta parametrsko učinkovitega natančnega prilagajanja (PEFT) za učinkovito natančno prilagajanje velikih modelov. Pri tem zamrznemo celoten model in v model dodamo le majhen niz nastavljivih parametrov ali plasti. Na primer, namesto da bi trenirali vseh 7 milijard parametrov za Llamo 2 7B, lahko natančno nastavimo manj kot 1 % parametrov. To pomaga pri znatnem zmanjšanju pomnilniške zahteve, ker moramo shraniti le gradiente, stanja optimizatorja in druge informacije, povezane z usposabljanjem, le za 1 % parametrov. Poleg tega to pomaga zmanjšati čas usposabljanja in tudi stroške. Za več podrobnosti o tej metodi glejte LoRA: Nizka prilagoditev velikih jezikovnih modelov.
• Int8 kvantizacija – Tudi z optimizacijami, kot je LoRA, so modeli, kot je Llama 70B, še vedno preveliki za treniranje. Za zmanjšanje pomnilniškega odtisa med vadbo lahko med vadbo uporabimo kvantizacijo Int8. Kvantizacija običajno zmanjša natančnost podatkovnih tipov s plavajočo vejico. Čeprav to zmanjša pomnilnik, potreben za shranjevanje uteži modelov, poslabša zmogljivost zaradi izgube informacij. Kvantizacija Int8 uporablja samo četrtino natančnosti, vendar ne povzroči poslabšanja zmogljivosti, ker ne izpusti preprosto bitov. Podatke zaokrožuje iz ene vrste v drugo. Če želite izvedeti več o kvantizaciji Int8, glejte LLM.int8(): 8-bitno matrično množenje za transformatorje v merilu.
• Popolnoma razrezani vzporedni podatki (FSDP) – To je vrsta podatkovno-vzporednega učnega algoritma, ki razdeli parametre modela med podatkovne vzporedne delavce in lahko po želji preloži del učnega računanja na CPE. Čeprav so parametri razdeljeni na različne grafične procesorje, je izračun vsake mikroserije lokalen za delavca grafične procesorske enote. Parametre razdeli bolj enotno in doseže optimizirano delovanje prek prekrivanja komunikacije in računanja med usposabljanjem.

Naslednja tabela primerja različne metode s tremi modeli Llama 2.

Upoštevajte, da natančno prilagajanje modelov Llama temelji na skriptih, ki jih zagotavljajo naslednji GitHub repo.

Format nabora podatkov za usposabljanje

SageMaker JumpStart trenutno podpira nabore podatkov tako v obliki prilagajanja domene kot v obliki nastavitve navodil. V tem razdelku podajamo primer nabora podatkov v obeh formatih. Za več podrobnosti glejte Oblikovanje nabora podatkov razdelek v dodatku.

Oblika prilagoditve domene

Model generiranja besedila Llama 2 je mogoče natančno nastaviti na katerem koli naboru podatkov, specifičnih za domeno. Ko je model natančno nastavljen na naboru podatkov, specifičnih za domeno, naj bi model ustvaril besedilo, specifično za domeno, in rešil različne naloge NLP v tej specifični domeni z nekaj pozivi. Pri tem naboru podatkov je vnos datoteka CSV, JSON ali TXT. Na primer, vhodni podatki so lahko SEC vloge Amazona kot besedilna datoteka:

This report includes estimates, projections, statements relating to our
business plans, objectives, and expected operating results that are “forward-
looking statements” within the meaning of the Private Securities Litigation
Reform Act of 1995, Section 27A of the Securities Act of 1933, and Section 21E
of the Securities Exchange Act of 1934. Forward-looking statements may appear
throughout this report, including the following sections: “Business” (Part I,
Item 1 of this Form 10-K), “Risk Factors” (Part I, Item 1A of this Form 10-K),
and “Management’s Discussion and Analysis of Financial Condition and Results
of Operations” (Part II, Item 7 of this Form 10-K). These forward-looking
statements generally are identified by the words “believe,” “project,”
“expect,” “anticipate,” “estimate,” “intend,” “strategy,” “future,”
“opportunity,” “plan,” “may,” “should,” “will,” “would,” “will be,” “will
continue,” “will likely result,” and similar expressions.

Format nastavitve navodil

Pri natančnem uravnavanju navodil je model natančno nastavljen za niz nalog obdelave naravnega jezika (NLP), opisanih z uporabo navodil. To pomaga izboljšati zmogljivost modela za nevidna opravila z zero-shot pozivi. V formatu nabora podatkov za uravnavanje navodil določite template.json datoteka, ki opisuje vhodne in izhodne formate. Na primer, vsaka vrstica v datoteki train.jsonl izgleda takole:

{"instruction": "What is a dispersive prism?", "context": "In optics, a dispersive prism is an optical prism that is used to disperse light, that is, to separate light into its spectral components (the colors of the rainbow). Different wavelengths (colors) of light will be deflected by the prism at different angles. This is a result of the prism material's index of refraction varying with wavelength (dispersion). Generally, longer wavelengths (red) undergo a smaller deviation than shorter wavelengths (blue). The dispersion of white light into colors by a prism led Sir Isaac Newton to conclude that white light consisted of a mixture of different colors.", "response": "A dispersive prism is an optical prism that disperses the light's different wavelengths at different angles. When white light is shined through a dispersive prism it will separate into the different colors of the rainbow."}

Dodatna datoteka template.json izgleda takole:

{ "prompt": "Below is an instruction that describes a task, paired with an input that provides further context. " "Write a response that appropriately completes the request.nn" "### Instruction:n{instruction}nn### Input:n{context}nn", "completion": " {response}",
}

Podprti hiperparametri za usposabljanje

Natančna nastavitev Llama 2 podpira številne hiperparametre, od katerih lahko vsak vpliva na pomnilniško zahtevo, hitrost usposabljanja in zmogljivost natančno nastavljenega modela:

• epoha – Število prehodov, ki jih opravi algoritem za natančno nastavitev skozi nabor podatkov za usposabljanje. Biti mora celo število, večje od 1. Privzeto je 5.
• stopnja učenja – Hitrost, s katero se uteži modela posodabljajo po delu skozi vsako serijo primerov usposabljanja. Pozitivno plavajoče mora biti večje od 0. Privzeto je 1e-4.
• instruction_tuned – Ne glede na to, ali je treba model usposobiti z navodili ali ne. mora biti 'True"ali"False'. Privzeto je 'False".
• per_device_train_batch_size – Velikost paketa na jedro GPE/CPE za usposabljanje. Biti mora pozitivno celo število. Privzeto je 4.
• per_device_eval_batch_size – Velikost paketa na jedro GPE/CPE za oceno. Biti mora pozitivno celo število. Privzeto je 1.
• max_train_samples – Za namene odpravljanja napak ali hitrejšega usposabljanja skrajšajte število primerov usposabljanja na to vrednost. Vrednost -1 pomeni uporabo vseh učnih vzorcev. Biti mora pozitivno celo število ali -1. Privzeta vrednost je -1.
• max_val_samples – Za namene odpravljanja napak ali hitrejšega usposabljanja skrajšajte število primerov preverjanja veljavnosti na to vrednost. Vrednost -1 pomeni uporabo vseh potrditvenih vzorcev. Biti mora pozitivno celo število ali -1. Privzeta vrednost je -1.
• max_input_length – Največja skupna dolžina vhodnega zaporedja po tokenizaciji. Zaporedja, daljša od tega, bodo okrnjena. Če je -1, max_input_length je nastavljen na najmanj 1024 in največjo dolžino modela, ki jo definira tokenizer. Če je nastavljena na pozitivno vrednost, max_input_length je nastavljen na najmanjšo podano vrednost in model_max_length definira tokenizer. Biti mora pozitivno celo število ali -1. Privzeta vrednost je -1.
• validation_split_ratio – Če je validacijski kanal none, mora biti razmerje med validacijo vlaka in podatki o vlaku med 0–1. Privzeta vrednost je 0.2.
• train_data_split_seed – Če validacijski podatki niso prisotni, to popravi naključno razdelitev vhodnih podatkov o usposabljanju na podatke o usposabljanju in validaciji, ki jih uporablja algoritem. Biti mora celo število. Privzeto je 0.
• preprocessing_num_workers – Število procesov, ki jih je treba uporabiti za predhodno obdelavo. če None, se glavni postopek uporablja za predprocesiranje. Privzeto je None.
• lora_r – Lora R. Mora biti pozitivno celo število. Privzeto je 8.
• lora_alfa – Lora Alfa. Biti mora pozitivno celo število. Privzeto je 32
• lora_dropout – Lora Dropout. mora biti pozitivno plavajoče med 0 in 1. Privzeta vrednost je 0.05.
• int8_kvantizacija - Če True, je model naložen z 8-bitno natančnostjo za usposabljanje. Privzeto za 7B in 13B je False. Privzeta vrednost za 70B je True.
• omogoči_fsdp - Če True, usposabljanje uporablja FSDP. Privzeto za 7B in 13B je True. Privzeta vrednost za 70B je False. Upoštevajte, da int8_quantization ni podprt s FSDP.

Vrste primerkov in združljivi hiperparametri

Zahteva po pomnilniku med natančno nastavitvijo se lahko razlikuje glede na več dejavnikov:

• Vrsta modela – Model 7B ima najmanjšo potrebo po pomnilniku GPE, model 70B pa največjo
• Največja vhodna dolžina – Višja vrednost dolžine vnosa vodi do obdelave več žetonov hkrati in kot taka zahteva več pomnilnika CUDA
• Velikost serije – Večja velikost paketa zahteva večji pomnilnik CUDA in zato zahteva večje vrste primerkov
• Int8 kvantizacija – Če uporabljate kvantizacijo Int8, se model naloži v nizko natančnost in zato potrebuje manj pomnilnika CUDA

Za lažji začetek ponujamo nabor kombinacij različnih vrst primerkov, hiperparametrov in vrst modelov, ki jih je mogoče uspešno natančno nastaviti. Izberete lahko konfiguracijo glede na vaše zahteve in razpoložljivost vrst primerkov. Vse tri modele natančno prilagodimo na različne nastavitve s tremi epohami na podnaboru podatkov Dolly s primeri povzemanja.

7B model

Naslednja tabela povzema možnosti natančne nastavitve na modelu 7B.

13B

Naslednja tabela povzema možnosti natančne nastavitve na modelu 13B.

70B

Naslednja tabela povzema možnosti natančne nastavitve na modelu 70B.

Priporočila o vrstah primerkov in hiperparametrih

Pri natančnem prilagajanju natančnosti modela upoštevajte naslednje:

• Večji modeli, kot je 70B, zagotavljajo boljše delovanje kot 7B
• Zmogljivost brez kvantizacije Int8 je boljša od zmogljivosti s kvantizacijo INT8

Upoštevajte naslednje zahteve glede časa usposabljanja in pomnilnika CUDA:

• Nastavitev int8_quantization=True zmanjša potrebo po spominu in vodi do hitrejšega usposabljanja.
• Zmanjšanje per_device_train_batch_size in max_input_length zmanjša pomnilniško zahtevo in se zato lahko izvaja na manjših primerkih. Vendar pa lahko nastavitev zelo nizkih vrednosti podaljša čas vadbe.
• Če ne uporabljate kvantizacije Int8 (int8_quantization=False), uporabite FSDP (enable_fsdp=True) za hitrejši in učinkovitejši trening.

Pri izbiri vrste primerka upoštevajte naslednje:

• Primerki G5 zagotavljajo najučinkovitejše usposabljanje med podprtimi tipi primerkov. Torej, če imate na voljo primerke G5, jih uporabite.
• Čas usposabljanja je v veliki meri odvisen od števila grafičnih procesorjev in razpoložljivega pomnilnika CUDA. Zato je usposabljanje na primerkih z enakim številom grafičnih procesorjev (na primer ml.g5.2xlarge in ml.g5.4xlarge) približno enako. Zato lahko za šolanje uporabite cenejši primerek (ml.g5.2xlarge).
• Pri uporabi primerkov p3 bo usposabljanje izvedeno z 32-bitno natančnostjo, ker bfloat16 ni podprt v teh primerkih. Zato bo opravilo usposabljanja porabilo dvojno količino pomnilnika CUDA pri usposabljanju na primerkih p3 v primerjavi z primerki g5.

Če želite izvedeti več o stroških usposabljanja na primer, glejte Na primerki Amazon EC2 G5.

Če je nabor podatkov v formatu za prilagajanje navodil in so zaporedja vnosa+dokončanja majhna (na primer 50–100 besed), potem je visoka vrednost max_input_length vodi v zelo slabo delovanje. Privzeta vrednost tega parametra je -1, kar ustreza max_input_length 2048 za modele Llama. Zato priporočamo, da uporabite majhno vrednost, če vaš nabor podatkov vsebuje majhne vzorce max_input_length (na primer 200–400).

Nazadnje, zaradi velikega povpraševanja po instancah G5 lahko pride do nerazpoložljivosti teh instanc v vaši regiji z napako “CapacityError: Unable to provision requested ML compute capacity. Please retry using a different ML instance type.” Če naletite na to napako, znova poskusite opraviti usposabljanje ali poskusite z drugo regijo.

Težave pri natančnem prilagajanju zelo velikih modelov

V tem razdelku razpravljamo o dveh težavah pri natančnem prilagajanju zelo velikih modelov.

Onemogoči izhodno stiskanje

Izhod učnega opravila je privzeto usposobljen model, ki je stisnjen v formatu .tar.gz, preden se naloži v Amazon S3. Vendar pa lahko ta korak zaradi velike velikosti modela traja dolgo. Na primer, stiskanje in nalaganje modela 70B lahko traja več kot 4 ure. Da bi se izognili tej težavi, lahko uporabite funkcijo za onemogočanje stiskanja izhoda, ki jo podpira platforma za usposabljanje SageMaker. V tem primeru se model naloži brez kakršnega koli stiskanja, ki se nato uporabi za uvajanje:

estimator = JumpStartEstimator(
model_id=model_id, environment={"accept_eula": "true"}, disable_output_compression=True
)

Težava s časovno omejitvijo jedra SageMaker Studio

Zaradi velikosti modela Llama 70B lahko usposabljanje traja več ur in jedro SageMaker Studio lahko umre med fazo usposabljanja. Vendar pa v tem času usposabljanje še vedno poteka v SageMakerju. Če se to zgodi, lahko končno točko še vedno uvedete z imenom opravila usposabljanja z naslednjo kodo:

from sagemaker.jumpstart.estimator import JumpStartEstimator
training_job_name = <<<INSERT_TRAINING_JOB_NAME>>> attached_estimator = JumpStartEstimator.attach(training_job_name, model_id)
attached_estimator.logs()
attached_estimator.deploy()

Če želite poiskati ime dela usposabljanja, se pomaknite do konzole SageMaker in pod usposabljanje v podoknu za krmarjenje izberite Usposabljanja. Določite ime delovnega mesta usposabljanja in ga nadomestite s prejšnjo kodo.

zaključek

V tej objavi smo razpravljali o natančnem prilagajanju modelov Meta Llama 2 z uporabo SageMaker JumpStart. Pokazali smo, da lahko uporabite konzolo SageMaker JumpStart v SageMaker Studio ali SDK SageMaker Python za natančno nastavitev in uvajanje teh modelov. Razpravljali smo tudi o tehniki natančnega prilagajanja, vrstah primerkov in podprtih hiperparametrih. Poleg tega smo začrtali priporočila za optimizirano usposabljanje na podlagi različnih testov, ki smo jih izvedli. Rezultati natančnega prilagajanja treh modelov v dveh nizih podatkov so prikazani v dodatku na koncu te objave. Kot lahko vidimo iz teh rezultatov, fina nastavitev izboljša povzemanje v primerjavi z nenatančno nastavljenimi modeli. Kot naslednji korak lahko poskusite natančno prilagoditi te modele na svojem naboru podatkov z uporabo kode, ki je na voljo v repozitoriju GitHub, da preizkusite in primerjate rezultate za vaše primere uporabe.

Avtorji se želijo zahvaliti za tehnične prispevke Christopherju Whittenu, Xin Huangu, Kylu Ulrichu, Sifei Li, Amy You, Adamu Kozdrowiczu, Evanu Kravitzu, Benjaminu Crabtreeju, Haotianu Anu, Mananu Shahu, Tonyju Cruzu, Ernevu Sharmi, Jonathanu Guinegagnu in Juneu. zmagal.

O avtorjih

dr. Vivek Madan je uporabni znanstvenik pri ekipi Amazon SageMaker JumpStart. Doktoriral je na Univerzi Illinois v Urbana-Champaign in bil podoktorski raziskovalec na Georgia Tech. Je aktiven raziskovalec strojnega učenja in oblikovanja algoritmov ter je objavil članke na konferencah EMNLP, ICLR, COLT, FOCS in SODA.

Dr. Farooq Sabir je višji strokovnjak za rešitve za umetno inteligenco in strojno učenje pri AWS. Ima doktorat in magisterij iz elektrotehnike na Univerzi v Teksasu v Austinu in magisterij iz računalništva na Georgia Institute of Technology. Ima več kot 15 let delovnih izkušenj, rad pa tudi poučuje in mentorira študente. Pri AWS strankam pomaga oblikovati in reševati njihove poslovne probleme na področju podatkovne znanosti, strojnega učenja, računalniškega vida, umetne inteligence, numerične optimizacije in sorodnih področij. S sedežem v Dallasu v Teksasu on in njegova družina radi potujejo in se odpravijo na dolga potovanja.

Dr. Ashish Khetan je višji aplikativni znanstvenik pri Amazon SageMaker JumpStart in pomaga pri razvoju algoritmov strojnega učenja. Doktoriral je na Univerzi Illinois Urbana-Champaign. Je aktiven raziskovalec strojnega učenja in statističnega sklepanja ter je objavil številne članke na konferencah NeurIPS, ICML, ICLR, JMLR, ACL in EMNLP.

Dodatek

Ta dodatek ponuja dodatne informacije o primerjalni analizi zmogljivosti in oblikovanju nabora podatkov.

Primerjalna analiza uspešnosti

V tem razdelku nudimo rezultate za natančno nastavitev treh modelov Llama 2 (7B, 13B in 70B) na dveh različnih nizih podatkov: Dolly in Dialogsum. Za nabor podatkov Dolly je naša naloga povzeti odstavek besedila, medtem ko za Dialogsum natančno prilagodimo model, da povzamemo razpravo med dvema osebama. V naslednjih tabelah prikazujemo vhod v model (poziv in navodila), temeljno resnico (povzetek), odziv predhodno usposobljenega modela Llama 2 in odziv natančno nastavljenega modela Llama 2 za vsakega od treh Llama 2 modela. Prikazujemo rezultate sklepanja za pet podatkovnih točk. Iz naslednjih tabel lahko opazite, da se povzetki izboljšajo za oba nabora podatkov, ko natančno prilagodimo modele.

• Rezultati za natančno nastavitev modela generiranja besedila Llama 2 7B na naboru podatkov Dolly:

• Rezultati za natančno nastavitev modela generiranja besedila Llama 2 13B na naboru podatkov Dolly:

• Rezultati za natančno nastavitev modela generiranja besedila Llama 2 70B na naboru podatkov Dolly:

• Rezultati za natančno nastavitev modela generiranja besedila Llama 2 7B na naboru podatkov Dialogsum:

• Rezultati za natančno nastavitev modela Llama-2 13B na naboru podatkov Dialogsum:

• Rezultati za natančno nastavitev modela Llama 2 70B na naboru podatkov Dialogsum:

Oblikovanje nabora podatkov

Trenutno ponujamo dve vrsti natančnega prilagajanja: natančno prilagajanje navodil in natančno prilagajanje domene. Z določitvijo parametra lahko enostavno preklopite na enega od načinov usposabljanja instruction_tuned kot 'True"ali"False".

Oblika prilagoditve domene

Model generiranja besedila je mogoče tudi natančno nastaviti na katerem koli naboru podatkov, specifičnih za domeno. Ko je model natančno nastavljen na naboru podatkov, specifičnih za domeno, naj bi model ustvaril besedilo, specifično za domeno, in rešil različne naloge NLP v tej specifični domeni z nekaj pozivi.

Za vnos v model uporabite imenik za usposabljanje in izbirno validacijo. Vsak imenik vsebuje datoteko CSV, JSON ali TXT. Pri datotekah CSV in JSON se podatki o vlaku ali potrditvi uporabijo iz stolpca, imenovanega besedilo, ali prvega stolpca, če ni stolpca, imenovanega text je najdeno. Število datotek v usposabljanju in preverjanju (če je na voljo) mora biti enako 1.

Rezultat je usposobljen model, ki ga je mogoče uporabiti za sklepanje.

Sledi primer datoteke TXT za natančno nastavitev modela generiranja besedila. Datoteka TXT je dokumentacija SEC družbe Amazon iz obdobja 2021–2022:

This report includes estimates, projections, statements relating to our
business plans, objectives, and expected operating results that are “forward-
looking statements” within the meaning of the Private Securities Litigation
Reform Act of 1995, Section 27A of the Securities Act of 1933, and Section 21E
of the Securities Exchange Act of 1934. Forward-looking statements may appear
throughout this report, including the following sections: “Business” (Part I,
Item 1 of this Form 10-K), “Risk Factors” (Part I, Item 1A of this Form 10-K),
and “Management’s Discussion and Analysis of Financial Condition and Results
of Operations” (Part II, Item 7 of this Form 10-K). These forward-looking
statements generally are identified by the words “believe,” “project,”
“expect,” “anticipate,” “estimate,” “intend,” “strategy,” “future,”
“opportunity,” “plan,” “may,” “should,” “will,” “would,” “will be,” “will
continue,” “will likely result,” and similar expressions. Forward-looking
statements are based on current expectations and assumptions that are subject
to risks and uncertainties that may cause actual results to differ materially.
We describe risks and uncertainties that could cause actual results and events
to differ materially in “Risk Factors,” “Management’s Discussion and Analysis
of Financial Condition and Results of Operations,” and “Quantitative and
Qualitative Disclosures about Market Risk” (Part II, Item 7A of this Form
10-K). Readers are cautioned not to place undue reliance on forward-looking
statements, which speak only as of the date they are made. We undertake no
obligation to update or revise publicly any forward-looking statements,
whether because of new information, future events, or otherwise. GENERAL Embracing Our Future ...

Natančna nastavitev navodil

Model generiranja besedila je mogoče nastaviti z navodili za vse besedilne podatke, pod pogojem, da so podatki v pričakovanem formatu. Model, prilagojen z navodili, je mogoče nadalje uporabiti za sklepanje.

Za vnos uporabite imenik za usposabljanje in izbirno validacijo. Imenik za usposabljanje in preverjanje mora vsebovati eno ali več datotek v obliki vrstic JSON (.jsonl). Zlasti imenik vlakov lahko vsebuje tudi neobvezno datoteko *.json, ki opisuje vhodne in izhodne formate.

Najboljši model je izbran glede na validacijsko izgubo, izračunano na koncu vsake epohe. Če potrditveni niz ni podan, se (nastavljiv) odstotek podatkov o usposabljanju samodejno razdeli in uporabi za validacijo.

Podatki o usposabljanju morajo biti oblikovani v obliki vrstic JSON (.jsonl), kjer je vsaka vrstica slovar, ki predstavlja en vzorec podatkov. Vsi podatki o usposabljanju morajo biti v eni sami mapi; vendar ga je mogoče shraniti v več datotekah .jsonl. Pripona datoteke .jsonl je obvezna. Mapa za usposabljanje lahko vsebuje tudi a template.json datoteka, ki opisuje vhodne in izhodne formate. Če ni podana nobena datoteka predloge, bo uporabljena naslednja predloga:

{ "prompt": "Below is an instruction that describes a task, paired with an input that provides further context. Write a response that appropriately completes the request.nn### Instruction:n{instruction}nn### Input:n{context}`, "completion": "{response}",
}

V tem primeru morajo podatki v vnosih vrstic JSON vključevati prompt in completion polja. Če je na voljo predloga po meri, jo je treba uporabiti tudi prompt in completion tipke za definiranje vhodnih in izhodnih predlog. Sledi vzorčna predloga po meri:

{ "prompt": "question: {question} context: {context}", "completion": "{answer}"
}

Tukaj morajo podatki v vnosih vrstic JSON vključevati question, contextin answer Polja.

Rezultat je usposobljen model, ki ga je mogoče uporabiti za sklepanje.

Zagotavljamo podmnožico podatkov o vlogah SEC družbe Amazon. Prenese se iz javno dostopnih EDGAR. Navodila za dostop do podatkov najdete na Dostop do podatkov EDGAR.

licenca: Licenca Creative Commons Attribution-ShareAlike (CC BY-SA 4.0)

• Distribucija vsebine in PR s pomočjo SEO. Okrepite se še danes.
• PlatoData.Network Vertical Generative Ai. Opolnomočite se. Dostopite tukaj.
• PlatoAiStream. Web3 Intelligence. Razširjeno znanje. Dostopite tukaj.
• PlatoESG. Avtomobili/EV, Ogljik, CleanTech, Energija, Okolje, sončna energija, Ravnanje z odpadki. Dostopite tukaj.
• PlatoHealth. Obveščanje o biotehnologiji in kliničnih preskušanjih. Dostopite tukaj.
• ChartPrime. Izboljšajte svojo igro trgovanja s ChartPrime. Dostopite tukaj.
• BlockOffsets. Posodobitev okoljskega offset lastništva. Dostopite tukaj.
• vir: https://aws.amazon.com/blogs/machine-learning/fine-tune-llama-2-for-text-generation-on-amazon-sagemaker-jumpstart/