Peenhäälestage Llama 2 teksti genereerimiseks rakenduses Amazon SageMaker JumpStart | Amazoni veebiteenused

Täna on meil hea meel teatada, et Meta abil on võimalik Llama 2 mudeleid peenhäälestada Amazon SageMaker JumpStart. Suurte keelemudelite (LLM) perekond Llama 2 on eelkoolitatud ja peenhäälestatud generatiivse tekstimudelite kogum, mille skaala ulatub 7 miljardist 70 miljardi parameetrini. Peenhäälestatud LLM-id, nn Llama-2-chat, on optimeeritud dialoogide kasutamiseks. Saate neid mudeleid hõlpsalt proovida ja kasutada koos SageMaker JumpStartiga, mis on masinõppe (ML) keskus, mis pakub juurdepääsu algoritmidele, mudelitele ja ML-lahendustele, et saaksite ML-iga kiiresti alustada. Nüüd saate SageMaker JumpStartis ka täpsustada 7 miljardi, 13 miljardi ja 70 miljardi parameetriga Llama 2 teksti genereerimise mudeleid. Amazon SageMaker Studio Kasutajaliides mõne klõpsuga või SageMaker Python SDK abil.

Generatiivsed AI sihtasutuse mudelid on olnud enamuse ML ja tehisintellekti uuringute ja kasutusjuhtumite keskmes juba üle aasta. Need vundamendimudelid toimivad väga hästi generatiivsete ülesannetega, nagu teksti genereerimine, kokkuvõtete tegemine, küsimustele vastamine, piltide ja videote genereerimine ja palju muud, kuna need on suured ning on koolitatud mitme suure andmestiku ja sadade ülesannete täitmiseks. Vaatamata nende mudelite suurele üldistusvõimele on sageli kasutusjuhtumeid, millel on väga spetsiifilised domeeniandmed (nt tervishoid või finantsteenused), mistõttu ei pruugi need mudelid nende kasutusjuhtude puhul häid tulemusi anda. Selle tulemuseks on vajadus neid generatiivseid tehisintellekti mudeleid täiendavalt viimistleda juhtumi- ja domeenispetsiifiliste andmete põhjal.

Selles postituses käsitleme SageMaker JumpStarti kaudu Llama 2 eelkoolitatud teksti genereerimise mudelite peenhäälestamist.

Mis on Llama 2

Llama 2 on automaatselt regressiivne keelemudel, mis kasutab optimeeritud trafo arhitektuuri. Llama 2 on mõeldud äriliseks ja teaduslikuks kasutamiseks inglise keeles. See on saadaval mitmesugustes parameetrite suurustes – 7 miljardit, 13 miljardit ja 70 miljardit – ning ka eelkoolitatud ja viimistletud variatsioone. Meta sõnul kasutavad häälestatud versioonid juhendatud peenhäälestust (SFT) ja tugevdavat õpet koos inimese tagasisidega (RLHF), et viia need vastavusse inimeste eelistustega abivalmiduse ja ohutuse osas. Llama 2 koolitati eelnevalt avalikult kättesaadavatest allikatest pärit 2 triljoni andmemärgiga. Häälestatud mudelid on mõeldud assistendilaadseks vestluseks, samas kui eelkoolitatud mudeleid saab kohandada mitmesuguste loomuliku keele genereerimise ülesannete jaoks. Sõltumata sellest, millist mudeli versiooni arendaja kasutab, Meta vastutustundliku kasutamise juhend võib aidata juhtida täiendavaid peenhäälestusi, mis võivad osutuda vajalikuks mudelite kohandamiseks ja optimeerimiseks sobivate ohutusmeetmetega.

Praegu on Llama 2 saadaval järgmistes piirkondades:

• Saadaval on eelkoolitatud mudeli juurutamine: "us-west-2", "us-east-1", "us-east-2", "eu-west-1", "ap-southeast-1", "ap-southeast-2"
• Viimistlege ja juurutage peenhäälestatud mudelit: “us-east-1”, “us-west-2”,“eu-west-1”

Mis on SageMaker JumpStart

SageMaker JumpStarti abil saavad ML-i praktikud valida laia valiku avalikult kättesaadavate vundamendimudelite hulgast. ML-praktikud saavad sihtotstarbeliselt kasutusele võtta sihtasutuse mudelid Amazon SageMaker eksemplare võrgust eraldatud keskkonnast ja kohandage mudeleid SageMakeri abil mudeli koolituseks ja juurutamiseks. Nüüd saate Llama 2 mõne klõpsuga SageMaker Studios või programmiliselt SageMaker Python SDK kaudu avastada ja juurutada, võimaldades teil tuletada mudeli jõudlust ja MLOps-i juhtelemente SageMakeri funktsioonidega, nagu näiteks Amazon SageMakeri torujuhtmed, Amazon SageMakeri silurvõi konteineri palke. Mudel on juurutatud AWS-i turvalises keskkonnas ja teie VPC kontrolli all, aidates tagada andmete turvalisust. Lisaks saate SageMaker JumpStarti kaudu peenhäälestada Llama2 7B, 13B ja 70B eelkoolitatud teksti genereerimise mudeleid.

Llama2 mudelite peenhäälestus

Mudeleid saate täpsustada kas SageMaker Studio kasutajaliidese või SageMaker Python SDK abil. Selles jaotises käsitleme mõlemat meetodit.

Koodivaba peenhäälestus SageMaker Studio kasutajaliidese kaudu

SageMaker Studios pääsete juurde Llama 2 mudelitele SageMakeri JumpStarti kaudu Mudelid, märkmikud ja lahendused, nagu on näidatud järgmisel ekraanipildil.

Kui te Llama 2 mudeleid ei näe, värskendage oma SageMaker Studio versiooni, lülitades välja ja taaskäivitades. Versioonivärskenduste kohta lisateabe saamiseks vaadake Lülitage Studio rakendused välja ja värskendage neid.

Valides leiate ka neli muud mudelivarianti Tutvuge kõigi teksti genereerimise mudelitega või otsides otsingukastist laama.

Sellel lehel saate osutada Amazoni lihtne salvestusteenus (Amazon S3) kopp, mis sisaldab peenhäälestamiseks mõeldud koolitus- ja valideerimisandmekogumeid. Lisaks saate peenhäälestamiseks konfigureerida juurutamise konfiguratsiooni, hüperparameetreid ja turbesätteid. Seejärel saate valida Rong koolitustöö alustamiseks SageMaker ML eksemplaris. Eelnev ekraanipilt näitab mudeli Llama-2 7B peenhäälestuslehte; aga saate 13B ja 70B Llama 2 tekstigeneratsiooni mudeleid täpselt häälestada, kasutades nende vastavaid mudelilehti sarnaselt. Llama 2 mudelite kasutamiseks peate nõustuma lõppkasutaja litsentsilepinguga (EULA). See kuvatakse siis, kui valite Rong, nagu on näidatud järgmisel ekraanipildil. Vali Olen lugenud läbi EULA ja AUP ning nõustun nendega peenhäälestustöö alustamiseks.

Mudeli juurutamine

Pärast mudeli peenhäälestamist saate selle juurutada, kasutades SageMakeri JumpStarti mudelilehte. Peenhäälestatud mudeli juurutamise valik kuvatakse, kui peenhäälestus on lõppenud, nagu on näidatud järgmisel ekraanipildil.

Täpsustage SageMaker Python SDK kaudu

Llama 2 mudeleid saate ka SageMaker Python SDK abil täpsustada. Järgmine on näidiskood teie andmestiku Llama 2 7B peenhäälestamiseks:

import os
import boto3
from sagemaker.session import Session
from sagemaker.jumpstart.estimator import JumpStartEstimator # To fine-tune the 13B/70B model, please change model_id to `meta-textgeneration-llama-2-13b`/`meta-textgeneration-llama-2-70b`.
model_id = "meta-textgeneration-llama-2-7b" estimator = JumpStartEstimator( model_id=model_id, environment={"accept_eula": "true"}
)
# By default, instruction tuning is set to false. Thus, to use instruction tuning dataset you use
estimator.set_hyperparameters(instruction_tuned="True", epoch="5")
estimator.fit({"training": train_data_location})

Täpselt häälestatud mudeli saate juurutada otse hindajast:

finetuned_predictor = estimator.deploy()

Koodi leiate ka siit LLaMA 2 mudelite peenhäälestus SageMaker JumpStartis. See hõlmab andmestiku ettevalmistamist, kohandatud andmestiku koolitust ja peenhäälestatud mudeli juurutamist. See demonstreerib Dolly andmestiku alamhulga peenhäälestamist kokkuvõteülesande näidetega. Järgmine on näidissisend koos peenhäälestatud ja peenhäälestamata vastustega koos põhitõe vastusega:

Sisend mudelile:

Below is an instruction that describes a task, paired with an input that provides further context. Write a response that appropriately completes the request.nn### Instruction:nWhen did Felix Luna die?nn### Input:nFélix César Luna (30 September 1925 – 5 November 2009) was an Argentine writer, lyricist and historian.nnnn### Response:n

Põhitõe vastus:

Felix Luna died on November 5th, 2009

Vastus peenhäälestamata mudelilt:

Félix César Luna (30 September 1925 – 5 November 2009) was an ArgentinennWhen did Luna die?nnn### Explanation:nWe answer the question with the input's date of birth and the date of death.nnn### Solution: 1102n

Vastus peenhäälestatud mudelilt:

Félix Luna died on November 5th, 2009.nn

Andmestiku Dolly ja Dialogsum erinevate mudelite jõudluse võrdlusuuringu kohta vaadake jaotist Tulemuslikkuse võrdlusuuringud jaotise lisas selle postituse lõpus.

Peenhäälestuse tehnika

Keelemudelid, nagu Llama, on suuremad kui 10 GB või isegi 100 GB. Selliste suurte mudelite peenhäälestamiseks on vaja märkimisväärselt suure CUDA-mäluga eksemplare. Lisaks võib nende mudelite treenimine mudeli suuruse tõttu olla väga aeglane. Seetõttu kasutame tõhusaks peenhäälestamiseks järgmisi optimeerimisi:

• Madala asetusega kohandamine (LoRA) – See on teatud tüüpi parameetrite tõhus peenhäälestus (PEFT) suurte mudelite tõhusaks peenhäälestamiseks. Selle käigus külmutame kogu mudeli ja lisame mudelisse vaid väikese komplekti reguleeritavaid parameetreid või kihte. Näiteks selle asemel, et treenida kõiki 7 miljardit parameetrit Llama 2 7B jaoks, saame peenhäälestada vähem kui 1% parameetritest. See aitab oluliselt vähendada mäluvajadust, sest me peame salvestama ainult 1% parameetrite gradiente, optimeerija olekuid ja muud koolitusega seotud teavet. Lisaks aitab see vähendada koolituse aega ja kulusid. Selle meetodi kohta lisateabe saamiseks vaadake LoRA: suurte keelemudelite madalatasemeline kohandamine.
• Int8 kvantimine – Isegi selliste optimeeringutega nagu LoRA on mudelid nagu Llama 70B ikka veel treenimiseks liiga suured. Mälu jalajälje vähendamiseks treeningu ajal saame treeningu ajal kasutada Int8 kvantiseerimist. Kvantimine vähendab tavaliselt ujukoma andmetüüpide täpsust. Kuigi see vähendab mudeli kaalude salvestamiseks vajalikku mälu, halvendab see teabe kadumise tõttu jõudlust. Int8 kvantimine kasutab ainult veerandi täpsust, kuid ei põhjusta jõudluse halvenemist, kuna see ei kaota lihtsalt bitte. See ümardab andmed ühelt tüübilt teisele. Int8 kvantimise kohta lisateabe saamiseks vaadake LLM.int8(): 8-bitine maatrikskorrutis mastaabis transformerite jaoks.
• Täielikult jagatud andmete paralleelne (FSDP) – See on teatud tüüpi andmeparalleelne treeningalgoritm, mis killustab mudeli parameetrid andmetega paralleelsete töötajate vahel ja võib valikuliselt osa treeninguarvutustest protsessoritele maha laadida. Kuigi parameetrid on jagatud erinevate GPU-de vahel, on iga mikropartii arvutamine GPU töötaja jaoks kohalik. See killustab parameetreid ühtlasemalt ja saavutab optimeeritud jõudluse suhtluse ja arvutuste kattumise kaudu treeningu ajal.

Järgmises tabelis võrreldakse erinevaid meetodeid kolme Llama 2 mudeliga.

Pange tähele, et Llama mudelite peenhäälestus põhineb alljärgnevatel skriptidel GitHub repo.

Koolituse andmestiku vorming

SageMaker JumpStart toetab praegu andmekogumeid nii domeeni kohandamise vormingus kui ka juhiste häälestamise vormingus. Selles jaotises määrame näidisandmestiku mõlemas vormingus. Lisateabe saamiseks vaadake Andmekogumi vormindamine jaotises lisas.

Domeeni kohandamise vorming

Teksti genereerimise Llama 2 mudelit saab peenhäälestada mis tahes domeenispetsiifilises andmekogumis. Pärast domeenispetsiifilise andmestiku peenhäälestamist peaks mudel genereerima domeenispetsiifilist teksti ja lahendama selles konkreetses domeenis mitmesugused NLP-ülesanded, kasutades mõne võttega viipasid. Selle andmestiku puhul koosneb sisend CSV-, JSON- või TXT-failist. Näiteks võivad sisendandmed olla tekstifailina Amazoni SEC-failid:

This report includes estimates, projections, statements relating to our
business plans, objectives, and expected operating results that are “forward-
looking statements” within the meaning of the Private Securities Litigation
Reform Act of 1995, Section 27A of the Securities Act of 1933, and Section 21E
of the Securities Exchange Act of 1934. Forward-looking statements may appear
throughout this report, including the following sections: “Business” (Part I,
Item 1 of this Form 10-K), “Risk Factors” (Part I, Item 1A of this Form 10-K),
and “Management’s Discussion and Analysis of Financial Condition and Results
of Operations” (Part II, Item 7 of this Form 10-K). These forward-looking
statements generally are identified by the words “believe,” “project,”
“expect,” “anticipate,” “estimate,” “intend,” “strategy,” “future,”
“opportunity,” “plan,” “may,” “should,” “will,” “would,” “will be,” “will
continue,” “will likely result,” and similar expressions.

Juhendi häälestamise formaat

Käskude peenhäälestamisel on mudel peenhäälestatud loomuliku keele töötlemise (NLP) ülesannete komplekti jaoks, mida kirjeldatakse juhiste abil. See aitab nullkaadri viipade abil parandada mudeli jõudlust nähtamatute ülesannete puhul. Käskude häälestamise andmestiku vormingus määrate template.json fail, mis kirjeldab sisend- ja väljundvorminguid. Näiteks faili iga rida train.jsonl näeb välja järgmine:

{"instruction": "What is a dispersive prism?", "context": "In optics, a dispersive prism is an optical prism that is used to disperse light, that is, to separate light into its spectral components (the colors of the rainbow). Different wavelengths (colors) of light will be deflected by the prism at different angles. This is a result of the prism material's index of refraction varying with wavelength (dispersion). Generally, longer wavelengths (red) undergo a smaller deviation than shorter wavelengths (blue). The dispersion of white light into colors by a prism led Sir Isaac Newton to conclude that white light consisted of a mixture of different colors.", "response": "A dispersive prism is an optical prism that disperses the light's different wavelengths at different angles. When white light is shined through a dispersive prism it will separate into the different colors of the rainbow."}

Täiendav fail template.json näeb välja järgmine:

{ "prompt": "Below is an instruction that describes a task, paired with an input that provides further context. " "Write a response that appropriately completes the request.nn" "### Instruction:n{instruction}nn### Input:n{context}nn", "completion": " {response}",
}

Toetatud hüperparameetrid treenimiseks

Llama 2 peenhäälestus toetab mitmeid hüperparameetreid, millest igaüks võib mõjutada peenhäälestatud mudeli mälunõuet, treeningkiirust ja jõudlust:

• epohh – Läbimiste arv, mille peenhäälestusalgoritm läbib treeningu andmestiku. Peab olema täisarv, mis on suurem kui 1. Vaikimisi on 5.
• õppimise_määr – Mudeli kaalude värskendamise kiirus pärast iga treeningnäidete partii läbitöötamist. Peab olema positiivne ujuk, mis on suurem kui 0. Vaikimisi on 1e-4.
• instruction_tuned – Kas modelli juhendada-koolitada või mitte. Peab olema 'True"või"False'. Vaikimisi on 'False'.
• per_device_train_batch_size – Partii suurus GPU tuuma/protsessori kohta koolituse jaoks. Peab olema positiivne täisarv. Vaikimisi on 4.
• per_device_eval_batch_size – Hindamiseks mõeldud partii suurus GPU tuuma/protsessori kohta. Peab olema positiivne täisarv. Vaikimisi on 1.
• max_train_samples – Silumiseks või kiiremaks treenimiseks kärpige treeningnäidete arv selle väärtuseni. Väärtus -1 tähendab kõigi treeningnäidiste kasutamist. Peab olema positiivne täisarv või -1. Vaikimisi on -1.
• max_val_samples – Silumiseks või kiiremaks väljaõppeks kärpige valideerimisnäidete arv selle väärtuseni. Väärtus -1 tähendab kõigi valideerimisnäidiste kasutamist. Peab olema positiivne täisarv või -1. Vaikimisi on -1.
• max_sisendi_pikkus – Sisendjada maksimaalne kogupikkus pärast märgistamist. Sellest pikemad jadad kärbitakse. Kui -1, max_input_length on seatud minimaalseks 1024 ja maksimaalseks mudeli pikkuseks, mille määrab tokenisaator. Kui see on seatud positiivsele väärtusele, max_input_length on seatud antud väärtuse miinimumile ja model_max_length määratletud tokenisaatori poolt. Peab olema positiivne täisarv või -1. Vaikimisi on -1.
• validation_split_ratio – Kui valideerimiskanal on none, peab rongi andmetest eraldatud rongi valideerimise suhe olema vahemikus 0–1. Vaikimisi on 0.2.
• train_data_split_seed – Kui valideerimisandmed puuduvad, fikseerib see sisendtreeningu andmete juhusliku jagamise algoritmi kasutatavateks treening- ja valideerimisandmeteks. Peab olema täisarv. Vaikimisi on 0.
• eeltöötlus_töötajate_arv – eeltöötluseks kasutatavate protsesside arv. Kui None, põhiprotsessi kasutatakse eeltöötluseks. Vaikimisi on None.
• lora_r – Lora R. Peab olema positiivne täisarv. Vaikimisi on 8.
• lora_alpha - Lora Alfa. Peab olema positiivne täisarv. Vaikimisi on 32
• lora_dropout – Lora Dropout. peab olema positiivne ujuk vahemikus 0 kuni 1. Vaikimisi on 0.05.
• int8_kvantimine - Kui True, mudel on treenimiseks laaditud 8-bitise täpsusega. Vaikimisi 7B ja 13B jaoks on False. Vaikimisi on 70B True.
• enable_fsdp - Kui True, koolitusel kasutatakse FSDP-d. Vaikimisi 7B ja 13B jaoks on True. Vaikimisi on 70B False. Pange tähele, et int8_quantization FSDP ei toeta.

Eksemplaritüübid ja ühilduvad hüperparameetrid

Peenhäälestuse mälunõue võib mitme teguri tõttu erineda.

• Mudelitüüp – 7B mudelil on kõige vähem GPU mälunõudlust ja 70B mudelil on suurim mälunõue
• Maksimaalne sisendi pikkus - Sisendpikkuse suurem väärtus toob kaasa rohkemate žetoonide korraga töötlemise ja nõuab seetõttu rohkem CUDA mälu
• Partii suurus – Suurem partii suurus nõuab suuremat CUDA mälu ja seetõttu on vaja suuremaid eksemplaritüüpe
• Int8 kvantimine – Int8 kvantiseerimise kasutamisel laaditakse mudel madala täpsusega ja seetõttu vajab see vähem CUDA mälu

Alustamise hõlbustamiseks pakume erinevate eksemplaritüüpide, hüperparameetrite ja mudelitüüpide kombinatsioone, mida saab edukalt peenhäälestada. Saate valida konfiguratsiooni vastavalt oma vajadustele ja eksemplaritüüpide saadavusele. Täpsustame kõiki kolme mudelit erinevatel seadetel kolme epohhiga Dolly andmestiku alamhulga koos kokkuvõtete näidetega.

7B mudel

Järgmine tabel võtab kokku 7B mudeli peenhäälestusvalikud.

13B

Järgmine tabel võtab kokku 13B mudeli peenhäälestusvalikud.

70B

Järgmine tabel võtab kokku 70B mudeli peenhäälestusvalikud.

Soovitused eksemplaritüüpide ja hüperparameetrite kohta

Mudeli täpsuse täpsustamisel pidage meeles järgmist.

• Suuremad mudelid, nagu 70B, tagavad parema jõudluse kui 7B
• Jõudlus ilma Int8 kvantimiseta on parem kui jõudlus INT8 kvantiseerimisega

Pange tähele järgmisi treeninguaegu ja CUDA mälunõudeid:

• Kehtestamine int8_quantization=True vähendab mäluvajadust ja viib kiirema treeninguni.
• Vähenemine per_device_train_batch_size ja max_input_length vähendab mälunõuet ja seetõttu saab seda kasutada väiksematel eksemplaridel. Väga madalate väärtuste seadmine võib aga treeninguaega pikendada.
• Kui te ei kasuta Int8 kvantiseerimist (int8_quantization=False), kasutage FSDP-d (enable_fsdp=True) kiiremaks ja tõhusamaks treenimiseks.

Eksemplari tüübi valimisel võtke arvesse järgmist.

• G5 eksemplarid pakuvad toetatud eksemplaritüüpide seas kõige tõhusamat koolitust. Seega, kui teil on saadaval G5 eksemplare, peaksite neid kasutama.
• Treeningu aeg sõltub suuresti GPU-de arvust ja saadaolevast CUDA mälust. Seetõttu on sama arvu GPU-dega eksemplaride (nt ml.g5.2xlarge ja ml.g5.4xlarge) koolitus ligikaudu sama. Seetõttu saate treenimiseks kasutada odavamat eksemplari (ml.g5.2xlarge).
• P3 eksemplaride kasutamisel toimub koolitus 32-bitise täpsusega, kuna bfloat16 nendel juhtudel ei toetata. Seetõttu kulutab treeningtöö p3 eksemplaridel treenides võrreldes g5 eksemplaridega kaks korda rohkem CUDA mälu.

Koolituse maksumuse kohta eksemplari kohta lisateabe saamiseks vaadake Amazon EC2 G5 eksemplarid.

Kui andmestik on juhiste häälestamise vormingus ja sisend+lõpetamise jadad on väikesed (nt 50–100 sõna), siis on suur väärtus max_input_length viib väga halva jõudluseni. Selle parameetri vaikeväärtus on -1, mis vastab max_input_length 2048 Llama mudelite jaoks. Seetõttu soovitame, et kui teie andmekogum sisaldab väikeseid näidiseid, kasutage jaoks väikest väärtust max_input_length (näiteks 200–400).

Lõpuks võib G5 eksemplaride suure nõudluse tõttu tekkida nende eksemplaride puudumine teie piirkonnas koos veaga “CapacityError: Unable to provision requested ML compute capacity. Please retry using a different ML instance type.” Kui teil tekib see tõrge, proovige uuesti koolitustööd või proovige teist piirkonda.

Probleemid väga suurte mudelite peenhäälestamisel

Selles jaotises käsitleme kahte probleemi väga suurte mudelite peenhäälestamisel.

Keela väljundi tihendamine

Vaikimisi on koolitustöö väljund koolitatud mudel, mis tihendatakse enne Amazon S3 üleslaadimist tar.gz-vormingus. Mudeli suurte mõõtmete tõttu võib see samm aga kaua aega võtta. Näiteks 70B mudeli tihendamiseks ja üleslaadimiseks võib kuluda rohkem kui 4 tundi. Selle probleemi vältimiseks võite kasutada SageMakeri treeningplatvormi toetatud väljundi tihendamise keelamise funktsiooni. Sel juhul laaditakse mudel üles ilma tihendamiseta, mida kasutatakse edasiseks juurutamiseks:

estimator = JumpStartEstimator(
model_id=model_id, environment={"accept_eula": "true"}, disable_output_compression=True
)

SageMaker Studio kerneli ajalõpu probleem

Llama 70B mudeli suuruse tõttu võib treeningtöö võtta mitu tundi ja SageMaker Studio tuum võib treeningfaasis välja surra. Selle aja jooksul aga käivad SageMakeris veel treeningud. Kui see juhtub, saate lõpp-punkti siiski juurutada, kasutades järgmise koodiga koolitustöö nime:

from sagemaker.jumpstart.estimator import JumpStartEstimator
training_job_name = <<<INSERT_TRAINING_JOB_NAME>>> attached_estimator = JumpStartEstimator.attach(training_job_name, model_id)
attached_estimator.logs()
attached_estimator.deploy()

Koolitustöö nime leidmiseks liikuge SageMakeri konsooli ja selle alla koolitus valige navigeerimispaanil Koolitustööd. Tuvastage koolitustöö nimi ja asendage see eelmise koodiga.

Järeldus

Selles postituses arutasime Meta Llama 2 mudelite peenhäälestamist, kasutades SageMaker JumpStart. Näitasime, et saate nende mudelite viimistlemiseks ja juurutamiseks kasutada SageMakeri JumpStart-konsooli SageMaker Studios või SageMaker Python SDK-d. Arutasime ka peenhäälestustehnikat, eksemplaritüüpe ja toetatud hüperparameetreid. Lisaks andsime välja soovitused optimeeritud koolituseks, mis põhinevad erinevatel meie poolt läbi viidud testidel. Kolme mudeli kahe andmekogumi peenhäälestamise tulemused on näidatud selle postituse lõpus olevas lisas. Nagu nendest tulemustest näeme, parandab peenhäälestus kokkuvõtet võrreldes peenhäälestamata mudelitega. Järgmise sammuna võite proovida neid mudeleid oma andmestikul peenhäälestada, kasutades GitHubi hoidlas oleva koodi, et testida ja võrrelda tulemusi vastavalt oma kasutusjuhtumitele.

Autorid soovivad tunnustada Christopher Whitteni, Xin Huangi, Kyle Ulrichi, Sifei Li, Amy You, Adam Kozdrowiczi, Evan Kravitzi, Benjamin Crabtree, Haotian Ani, Manan Shahi, Tony Cruzi, Ernev Sharma, Jonathan Guinegagne'i ja June'i tehnilist panust. Võitis.

Autoritest

Dr Vivek Madan on Amazon SageMaker JumpStart meeskonna rakendusteadlane. Ta sai doktorikraadi Illinoisi ülikoolist Urbana-Champaignis ja oli Georgia Techi järeldoktor. Ta on aktiivne masinõppe ja algoritmide kujundamise uurija ning avaldanud ettekandeid EMNLP, ICLR, COLT, FOCS ja SODA konverentsidel.

Dr Farooq Sabir on AWS-i tehisintellekti ja masinõppe lahenduste vanemarhitekt. Tal on doktori- ja magistrikraad elektrotehnika alal Texase ülikoolist Austinis ning magistrikraadi arvutiteaduses Georgia Tehnoloogiainstituudist. Tal on üle 15-aastane töökogemus ning talle meeldib õpetada ja juhendada ka kolledži üliõpilasi. AWS-is aitab ta klientidel sõnastada ja lahendada äriprobleeme andmeteaduse, masinõppe, arvutinägemise, tehisintellekti, numbrilise optimeerimise ja sellega seotud valdkondades. Teksases Dallases asuv talle ja ta perele meeldib reisida ja pikki teereise teha.

Dr Ashish Khetan on Amazon SageMaker JumpStarti vanemrakendusteadlane ja aitab välja töötada masinõppe algoritme. Ta sai doktorikraadi Illinoisi Urbana-Champaigni ülikoolist. Ta on aktiivne masinõppe ja statistiliste järelduste uurija ning avaldanud palju artikleid NeurIPS, ICML, ICLR, JMLR, ACL ja EMNLP konverentsidel.

Lisa

See lisa sisaldab lisateavet jõudluse võrdlusuuringute ja andmestiku vormindamise kohta.

Tulemuslikkuse võrdlusuuringud

Selles jaotises pakume tulemusi kolme Llama 2 mudeli (7B, 13B ja 70B) peenhäälestamiseks kahes erinevas andmekogumis. Dolly ja Dialogsum. Dolly andmestiku puhul on meie ülesandeks teha kokkuvõte teksti lõigust, Dialogsumi puhul aga viimistleme mudelit, et võtta kokku kahe inimese vaheline arutelu. Järgmistes tabelites näitame mudeli sisendit (viip ja juhised), põhitõde (kokkuvõte), vastust eelkoolitatud Llama 2 mudelilt ja vastust peenhäälestatud Llama 2 mudelilt iga kolme laama jaoks. 2 mudelit. Näitame viie andmepunkti järeldustulemusi. Järgmistest tabelitest näete, et mudelite peenhäälestamisel paranevad mõlema andmestiku kokkuvõtted.

• Dolly andmestiku teksti genereerimise mudeli Llama 2 7B peenhäälestuse tulemused:

• Dolly andmestiku teksti genereerimise mudeli Llama 2 13B peenhäälestuse tulemused:

• Dolly andmestiku teksti genereerimise mudeli Llama 2 70B peenhäälestuse tulemused:

• Dialogsumi andmestiku Llama 2 7B teksti genereerimise mudeli peenhäälestuse tulemused:

• Dialogsumi andmestiku mudeli Llama-2 13B peenhäälestuse tulemused:

• Dialogsumi andmestiku mudeli Llama 2 70B peenhäälestuse tulemused:

Andmekogumi vormindamine

Praegu pakume kahte tüüpi peenhäälestust: juhiste peenhäälestus ja domeeni kohandamise peenhäälestus. Parameetrit täpsustades saate hõlpsalt ühele treeningmeetoditest üle minna instruction_tuned kui "True"või"False'.

Domeeni kohandamise vorming

Teksti genereerimise mudelit saab peenhäälestada ka mis tahes domeenispetsiifilises andmekogumis. Pärast domeenispetsiifilise andmestiku peenhäälestamist peaks mudel genereerima domeenispetsiifilist teksti ja lahendama selles konkreetses domeenis mitmesugused NLP-ülesanded, kasutades mõne võttega viipasid.

Mudeli sisestamiseks kasutage koolitus- ja valikulist valideerimiskataloogi. Iga kataloog sisaldab CSV-, JSON- või TXT-faili. CSV- ja JSON-failide puhul kasutatakse rongi- või valideerimisandmeid veerust nimega tekst või esimesest veerust, kui ühtegi veergu ei nimetata. text on leitud. Treeningu ja kinnitamise (kui see on olemas) failide arv peaks võrduma vastavalt 1-ga.

Väljund on koolitatud mudel, mida saab järelduste tegemiseks kasutada.

Järgmine on näide TXT-failist teksti genereerimise mudeli peenhäälestamiseks. TXT-fail on Amazoni SEC-failid aastatel 2021–2022:

This report includes estimates, projections, statements relating to our
business plans, objectives, and expected operating results that are “forward-
looking statements” within the meaning of the Private Securities Litigation
Reform Act of 1995, Section 27A of the Securities Act of 1933, and Section 21E
of the Securities Exchange Act of 1934. Forward-looking statements may appear
throughout this report, including the following sections: “Business” (Part I,
Item 1 of this Form 10-K), “Risk Factors” (Part I, Item 1A of this Form 10-K),
and “Management’s Discussion and Analysis of Financial Condition and Results
of Operations” (Part II, Item 7 of this Form 10-K). These forward-looking
statements generally are identified by the words “believe,” “project,”
“expect,” “anticipate,” “estimate,” “intend,” “strategy,” “future,”
“opportunity,” “plan,” “may,” “should,” “will,” “would,” “will be,” “will
continue,” “will likely result,” and similar expressions. Forward-looking
statements are based on current expectations and assumptions that are subject
to risks and uncertainties that may cause actual results to differ materially.
We describe risks and uncertainties that could cause actual results and events
to differ materially in “Risk Factors,” “Management’s Discussion and Analysis
of Financial Condition and Results of Operations,” and “Quantitative and
Qualitative Disclosures about Market Risk” (Part II, Item 7A of this Form
10-K). Readers are cautioned not to place undue reliance on forward-looking
statements, which speak only as of the date they are made. We undertake no
obligation to update or revise publicly any forward-looking statements,
whether because of new information, future events, or otherwise. GENERAL Embracing Our Future ...

Juhendi peenhäälestus

Teksti genereerimise mudelit saab käsupõhiselt häälestada mis tahes tekstiandmetel, eeldusel, et andmed on oodatud vormingus. Juhistega häälestatud mudelit saab järelduste tegemiseks edasi kasutada.

Kasutage sisestamiseks koolitus- ja valikulist valideerimiskataloogi. Koolitus- ja valideerimiskataloogid peaksid sisaldama ühte või mitut JSON-rea (.jsonl) vormingus faili. Eelkõige võib rongikataloog sisaldada ka valikulist *.json-faili, mis kirjeldab sisend- ja väljundvorminguid.

Parim mudel valitakse iga epohhi lõpus arvutatud valideerimiskao järgi. Kui valideerimiskomplekti ei anta, jagatakse (reguleeritav) protsent treeningandmetest automaatselt osadeks ja kasutatakse valideerimiseks.

Treeningandmed peavad olema vormindatud JSON read (.jsonl) vormingus, kus iga rida on sõnastik, mis esindab ühte andmenäidist. Kõik treeninguandmed peavad olema ühes kaustas; selle saab aga salvestada mitmesse jsonl-faili. Jsonl-faililaiend on kohustuslik. Koolitusmapp võib sisaldada ka a template.json fail, mis kirjeldab sisend- ja väljundvorminguid. Kui mallifaili pole antud, kasutatakse järgmist malli:

{ "prompt": "Below is an instruction that describes a task, paired with an input that provides further context. Write a response that appropriately completes the request.nn### Instruction:n{instruction}nn### Input:n{context}`, "completion": "{response}",
}

Sel juhul peavad JSON-ridade kirjed sisaldama andmeid prompt ja completion väljad. Kui on ette nähtud kohandatud mall, peab see ka kasutama prompt ja completion klahve sisend- ja väljundmallide määratlemiseks. Järgmine on kohandatud malli näidis.

{ "prompt": "question: {question} context: {context}", "completion": "{answer}"
}

Siin peavad JSON-ridade kirjed sisaldama question, contextja answer valdkondades.

Väljund on koolitatud mudel, mida saab järelduste tegemiseks kasutada.

Pakume Amazoni SEC-failide andmete alamhulka. See laaditakse alla avalikult kättesaadavalt EDGAR. Andmetele juurdepääsu juhiste saamiseks vaadake Juurdepääs EDGAR-i andmetele.

litsents: Creative Commonsi Attribution-ShareAlike litsents (CC BY-SA 4.0)

• SEO-põhise sisu ja PR-levi. Võimenduge juba täna.
• PlatoData.Network Vertikaalne generatiivne Ai. Jõustage ennast. Juurdepääs siia.
• PlatoAiStream. Web3 luure. Täiustatud teadmised. Juurdepääs siia.
• PlatoESG. Autod/elektrisõidukid, Süsinik, CleanTech, Energia, Keskkond päikeseenergia, Jäätmekäitluse. Juurdepääs siia.
• PlatoTervis. Biotehnoloogia ja kliiniliste uuringute luureandmed. Juurdepääs siia.
• ChartPrime. Tõsta oma kauplemismängu ChartPrime'iga kõrgemale. Juurdepääs siia.
• BlockOffsets. Keskkonnakompensatsiooni omandi ajakohastamine. Juurdepääs siia.
• Allikas: https://aws.amazon.com/blogs/machine-learning/fine-tune-llama-2-for-text-generation-on-amazon-sagemaker-jumpstart/