Hienosäädä Llama 2 tekstin luomista varten Amazon SageMaker JumpStart | Amazon Web Services

Tänään meillä on ilo ilmoittaa, että Meta pystyy hienosäätämään Llama 2 -malleja Amazon SageMaker JumpStart. Llama 2 -perhe suuria kielimalleja (LLM) on kokoelma esikoulutettuja ja hienosäädettyjä generatiivisia tekstimalleja, joiden skaala vaihtelee 7 miljardista 70 miljardiin parametriin. Hienosäädetyt LLM:t, nimeltään Llama-2-chat, on optimoitu dialogikäyttöön. Voit helposti kokeilla näitä malleja ja käyttää niitä SageMaker JumpStartin kanssa, joka on koneoppimiskeskus (ML), joka tarjoaa pääsyn algoritmeihin, malleihin ja ML-ratkaisuihin, jotta pääset nopeasti alkuun ML:n kanssa. Nyt voit myös hienosäätää 7 miljardia, 13 miljardia ja 70 miljardia parametria Llama 2 -tekstin sukupolven malleja SageMaker JumpStartissa käyttämällä Amazon SageMaker Studio Käyttöliittymä muutamalla napsautuksella tai käyttämällä SageMaker Python SDK:ta.

Generatiiviset tekoälyperusmallit ovat olleet useimpien ML- ja tekoälytutkimuksen ja -käyttötapausten keskipisteenä jo yli vuoden ajan. Nämä perusmallit toimivat erittäin hyvin generatiivisissa tehtävissä, kuten tekstin luomisessa, yhteenvedossa, kysymyksiin vastaamisessa, kuvien ja videoiden luomisessa ja muissa, suuren koonsa vuoksi ja myös siksi, että ne ovat koulutettuja useisiin suuriin tietokokonaisuuksiin ja satoihin tehtäviin. Huolimatta näiden mallien suurista yleistysmahdollisuuksista, on usein käyttötapauksia, joissa on hyvin spesifistä aluetietoa (kuten terveydenhuolto tai rahoituspalvelut), minkä vuoksi nämä mallit eivät välttämättä pysty tarjoamaan hyviä tuloksia näihin käyttötapauksiin. Tästä seuraa, että näitä generatiivisia tekoälymalleja on edelleen hienosäädetty käyttötapauskohtaisten ja verkkotunnuskohtaisten tietojen perusteella.

Tässä viestissä käymme läpi kuinka hienosäätää Llama 2:n esikoulutettuja tekstin luontimalleja SageMaker JumpStartin avulla.

Mikä on Llama 2

Llama 2 on automaattisesti regressiivinen kielimalli, joka käyttää optimoitua muuntajaarkkitehtuuria. Llama 2 on tarkoitettu kaupalliseen ja tutkimuskäyttöön englanniksi. Sitä on saatavana eri parametrikokoina – 7 miljardia, 13 miljardia ja 70 miljardia – sekä esikoulutettuja ja hienosäädettyjä muunnelmia. Metan mukaan viritetyt versiot käyttävät valvottua hienosäätöä (SFT) ja vahvistusoppimista ihmisen palautteen avulla (RLHF) mukautuakseen ihmisten auttavaisuuden ja turvallisuuden mieltymyksiin. Llama 2 oli esikoulutettu 2 biljoonalla datatunnisteella julkisista lähteistä. Viritetyt mallit on tarkoitettu assistentin kaltaiseen chattiin, kun taas valmiiksi koulutetut mallit voidaan mukauttaa erilaisiin luonnollisen kielen generointitehtäviin. Riippumatta siitä, mitä mallin versiota kehittäjä käyttää, Metan vastuullinen käyttöopas voi auttaa ohjaamaan ylimääräisiä hienosäätöjä, jotka voivat olla tarpeen mallien mukauttamiseen ja optimointiin asianmukaisin turvatoimin.

Tällä hetkellä Llama 2 on saatavilla seuraavilla alueilla:

• Ota käyttöön esikoulutettu malli saatavilla: "us-west-2", "us-east-1", "us-east-2", "eu-west-1", "ap-southeast-1", "ap-southeast-2"
• Hienosäädä ja ota käyttöön hienosäädettyä mallia: “us-east-1”, “us-west-2”,“eu-west-1”

Mikä on SageMaker JumpStart

SageMaker JumpStartin avulla ML-harjoittajat voivat valita laajasta valikoimasta julkisesti saatavilla olevia meikkimalleja. ML-ammattilaiset voivat ottaa käyttöön perustamismalleja omistettuihin Amazon Sage Maker instansseja verkosta eristetystä ympäristöstä ja mukauta malleja SageMakerin avulla mallin koulutusta ja käyttöönottoa varten. Voit nyt löytää ja ottaa käyttöön Llama 2:n muutamalla napsautuksella SageMaker Studiossa tai ohjelmallisesti SageMaker Python SDK:n kautta, jolloin voit johtaa mallin suorituskykyä ja MLOps-säätimiä SageMaker-ominaisuuksien, kuten esim. Amazon SageMaker -putkistot, Amazon SageMaker -korjaamotai konttitukkeja. Malli on otettu käyttöön suojatussa AWS-ympäristössä ja VPC-ohjaimissasi, mikä auttaa varmistamaan tietoturvan. Lisäksi voit hienosäätää Llama2 7B, 13B ja 70B valmiiksi koulutettuja tekstin sukupolvimalleja SageMaker JumpStartin avulla.

Hienosäädä Llama2-malleja

Voit hienosäätää malleja joko SageMaker Studion käyttöliittymällä tai SageMaker Python SDK:lla. Keskustelemme molemmista menetelmistä tässä osiossa.

Kooditon hienosäätö SageMaker Studio -käyttöliittymän kautta

SageMaker Studiossa voit käyttää Llama 2 -malleja SageMaker JumpStart -sovelluksen kautta Mallit, muistikirjat ja ratkaisut, kuten seuraavassa kuvakaappauksessa näkyy.

Jos et näe Llama 2 -malleja, päivitä SageMaker Studio -versio sammuttamalla ja käynnistämällä uudelleen. Lisätietoja versiopäivityksistä on kohdassa Sammuta ja päivitä Studio-sovellukset.

Löydät myös neljä muuta mallivaihtoehtoa valitsemalla Tutustu kaikkiin tekstinluontimalleihin tai etsimällä hakukentästä laamaa.

Tällä sivulla voit osoittaa Amazonin yksinkertainen tallennuspalvelu (Amazon S3) -ämpäri, joka sisältää koulutus- ja validointitietojoukot hienosäätöä varten. Lisäksi voit määrittää käyttöönoton määritykset, hyperparametrit ja suojausasetukset hienosäätöä varten. Voit sitten valita Juna aloittaaksesi koulutustyön SageMaker ML -esiintymässä. Edellisessä kuvakaappauksessa näkyy Llama-2 7B -mallin hienosäätösivu; Voit kuitenkin hienosäätää 13B ja 70B Llama 2 -tekstisukupolvimalleja käyttämällä vastaavia mallisivuja samalla tavalla. Käyttääksesi Llama 2 -malleja sinun on hyväksyttävä loppukäyttäjän lisenssisopimus (EULA). Se tulee näkyviin, kun valitset Juna, kuten seuraavassa kuvakaappauksessa näkyy. Valita Olen lukenut ja hyväksyn EULA:n ja AUP:n aloittaaksesi hienosäätötyön.

Ota käyttöön malli

Kun malli on hienosäädetty, voit ottaa sen käyttöön SageMaker JumpStartin mallisivulla. Hienosäädetyn mallin käyttöönottovaihtoehto tulee näkyviin, kun hienosäätö on valmis, kuten seuraavassa kuvakaappauksessa näkyy.

Hienosäädä SageMaker Python SDK:n kautta

Voit myös hienosäätää Llama 2 -malleja SageMaker Python SDK:n avulla. Seuraavassa on esimerkkikoodi Llama 2 7B:n hienosäätämiseksi tietojoukossasi:

import os
import boto3
from sagemaker.session import Session
from sagemaker.jumpstart.estimator import JumpStartEstimator # To fine-tune the 13B/70B model, please change model_id to `meta-textgeneration-llama-2-13b`/`meta-textgeneration-llama-2-70b`.
model_id = "meta-textgeneration-llama-2-7b" estimator = JumpStartEstimator( model_id=model_id, environment={"accept_eula": "true"}
)
# By default, instruction tuning is set to false. Thus, to use instruction tuning dataset you use
estimator.set_hyperparameters(instruction_tuned="True", epoch="5")
estimator.fit({"training": train_data_location})

Voit ottaa hienosäädetyn mallin käyttöön suoraan estimaattorista:

finetuned_predictor = estimator.deploy()

Löydät koodin myös osoitteesta Hienosäädä LLaMA 2 -malleja SageMaker JumpStartissa. Se sisältää tietojoukon valmistelun, mukautetun tietojoukon koulutuksen ja hienosäädetyn mallin käyttöönoton. Se esittelee Dolly-tietojoukon osajoukon hienosäätöä yhteenvetotehtävän esimerkein. Seuraavassa on esimerkkisyöte, jossa on vastaukset hienosäädetyistä ja ei-hienovirittävistä sekä pohjatotuusvaste:

Syöte malliin:

Below is an instruction that describes a task, paired with an input that provides further context. Write a response that appropriately completes the request.nn### Instruction:nWhen did Felix Luna die?nn### Input:nFélix César Luna (30 September 1925 – 5 November 2009) was an Argentine writer, lyricist and historian.nnnn### Response:n

Ground Truth -vastaus:

Felix Luna died on November 5th, 2009

Vastaus hienosäätämättömästä mallista:

Félix César Luna (30 September 1925 – 5 November 2009) was an ArgentinennWhen did Luna die?nnn### Explanation:nWe answer the question with the input's date of birth and the date of death.nnn### Solution: 1102n

Vastaus hienosäädetystä mallista:

Félix Luna died on November 5th, 2009.nn

Lisätietoja Dolly- ja Dialogsum-tietojoukon eri mallien suorituskyvystä on kohdassa Suorituskyvyn vertailu osio tämän postauksen lopussa olevassa liitteessä.

Hienosäätötekniikka

Kielimallit, kuten Llama, ovat kooltaan yli 10 Gt tai jopa 100 Gt. Tällaisten suurten mallien hienosäätö vaatii ilmentymiä, joissa on huomattavasti korkea CUDA-muisti. Lisäksi näiden mallien koulutus voi olla hyvin hidasta mallin koosta johtuen. Siksi käytämme seuraavia optimointeja tehokkaaseen hienosäätöön:

• Low-Rank Adaption (LoRA) – Tämä on eräänlainen parametritehokas hienosäätö (PEFT) suurten mallien tehokkaaseen hienosäätöön. Tässä jäädytämme koko mallin ja lisäämme malliin vain pienen joukon säädettäviä parametreja tai kerroksia. Esimerkiksi sen sijaan, että kouluttaisimme kaikki 7 miljardia parametria Llama 2 7B:lle, voimme hienosäätää alle 1 % parametreista. Tämä auttaa vähentämään merkittävästi muistin tarvetta, koska meidän tarvitsee tallentaa vain 1 %:n parametreista kaltevuudet, optimointitilat ja muut koulutukseen liittyvät tiedot. Lisäksi tämä auttaa vähentämään harjoitusaikaa ja kustannuksia. Lisätietoja tästä menetelmästä on kohdassa LoRA: Suurien kielimallien matala-arvoinen mukautus.
• Int8 kvantisointi – Jopa optimoinnilla, kuten LoRA, mallit, kuten Llama 70B, ovat edelleen liian suuria harjoitteluun. Muistijalanjäljen pienentämiseksi harjoituksen aikana voimme käyttää Int8-kvantisointia harjoituksen aikana. Kvantisointi tyypillisesti vähentää liukulukutietotyyppien tarkkuutta. Vaikka tämä vähentää mallin painojen tallentamiseen tarvittavaa muistia, se heikentää suorituskykyä tietojen menettämisen vuoksi. Int8-kvantisointi käyttää vain neljänneksen tarkkuutta, mutta se ei aiheuta suorituskyvyn heikkenemistä, koska se ei yksinkertaisesti pudota bittejä. Se pyöristää tiedot tyypistä toiseen. Lisätietoja Int8-kvantisoinnista on kohdassa LLM.int8(): 8-bittinen matriisikertolasku muuntajille mittakaavassa.
• Täysin jaettu datan rinnakkaistiedot (FSDP) – Tämä on eräänlainen data-rinnakkaisopetusalgoritmi, joka sirpalee mallin parametrit tietojen rinnakkaisten työntekijöiden kesken ja voi valinnaisesti siirtää osan opetuslaskennasta suorittimille. Vaikka parametrit on jaettu eri grafiikkasuorittimille, kunkin mikroerän laskenta on GPU-työntekijän paikallista. Se sirpalee parametreja tasaisemmin ja saavuttaa optimaalisen suorituskyvyn tiedonsiirron ja laskennan päällekkäisyyksien avulla harjoituksen aikana.

Seuraavassa taulukossa verrataan eri menetelmiä kolmeen Llama 2 -malliin.

Huomaa, että Llama-mallien hienosäätö perustuu seuraaviin skripteihin GitHub repo.

Koulutustietojoukon muoto

SageMaker JumpStart tukee tällä hetkellä tietojoukkoja sekä verkkotunnuksen mukauttamismuodossa että ohjeiden viritysmuodossa. Tässä osiossa määritämme esimerkkitietojoukon molemmissa muodoissa. Katso lisätietoja osoitteesta Tietojoukon muotoilu osio liitteessä.

Verkkotunnuksen sovitusmuoto

Tekstin sukupolven Llama 2 -mallia voidaan hienosäätää missä tahansa toimialuekohtaisessa tietojoukossa. Kun se on hienosäädetty toimialuekohtaisessa tietojoukossa, mallin odotetaan luovan toimialuekohtaista tekstiä ja ratkaisevan erilaisia ​​NLP-tehtäviä kyseisessä toimialueessa muutaman otoksen kehotuksella. Tämän tietojoukon syöte koostuu CSV-, JSON- tai TXT-tiedostosta. Syöttötiedot voivat olla esimerkiksi Amazonin SEC-tiedostoja tekstitiedostona:

This report includes estimates, projections, statements relating to our
business plans, objectives, and expected operating results that are “forward-
looking statements” within the meaning of the Private Securities Litigation
Reform Act of 1995, Section 27A of the Securities Act of 1933, and Section 21E
of the Securities Exchange Act of 1934. Forward-looking statements may appear
throughout this report, including the following sections: “Business” (Part I,
Item 1 of this Form 10-K), “Risk Factors” (Part I, Item 1A of this Form 10-K),
and “Management’s Discussion and Analysis of Financial Condition and Results
of Operations” (Part II, Item 7 of this Form 10-K). These forward-looking
statements generally are identified by the words “believe,” “project,”
“expect,” “anticipate,” “estimate,” “intend,” “strategy,” “future,”
“opportunity,” “plan,” “may,” “should,” “will,” “would,” “will be,” “will
continue,” “will likely result,” and similar expressions.

Ohjeen viritysmuoto

Ohjeiden hienosäädössä mallia hienosäädetään ohjeiden avulla kuvatuille luonnollisen kielen käsittelyn (NLP) tehtäville. Tämä auttaa parantamaan mallin suorituskykyä näkymättömissä tehtävissä nollakuvakehotteilla. Ohjeiden virityksen tietojoukon muodossa määrität template.json tiedosto, joka kuvaa tulo- ja tulostusmuodot. Esimerkiksi tiedoston jokainen rivi train.jsonl näyttää tältä:

{"instruction": "What is a dispersive prism?", "context": "In optics, a dispersive prism is an optical prism that is used to disperse light, that is, to separate light into its spectral components (the colors of the rainbow). Different wavelengths (colors) of light will be deflected by the prism at different angles. This is a result of the prism material's index of refraction varying with wavelength (dispersion). Generally, longer wavelengths (red) undergo a smaller deviation than shorter wavelengths (blue). The dispersion of white light into colors by a prism led Sir Isaac Newton to conclude that white light consisted of a mixture of different colors.", "response": "A dispersive prism is an optical prism that disperses the light's different wavelengths at different angles. When white light is shined through a dispersive prism it will separate into the different colors of the rainbow."}

Lisätiedosto template.json näyttää tältä:

{ "prompt": "Below is an instruction that describes a task, paired with an input that provides further context. " "Write a response that appropriately completes the request.nn" "### Instruction:n{instruction}nn### Input:n{context}nn", "completion": " {response}",
}

Tuetut hyperparametrit harjoitteluun

Llama 2 -hienosäätö tukee useita hyperparametreja, joista jokainen voi vaikuttaa hienosäädetyn mallin muistin tarpeeseen, harjoitusnopeuteen ja suorituskykyyn:

• aikakausi – Kulkujen määrä, jonka hienosäätöalgoritmi suorittaa harjoitustietojoukon läpi. On oltava kokonaisluku, joka on suurempi kuin 1. Oletusarvo on 5.
• oppimisnopeus – Nopeus, jolla mallin painot päivitetään jokaisen harjoitusesimerkkierän käsittelyn jälkeen. Positiivinen float on oltava suurempi kuin 0. Oletusarvo on 1e-4.
• ohje_viritetty – Opastaako mallia vai ei. Täytyy olla 'True"tai"False'. Oletus on 'False".
• per_device_train_batch_size – Erän koko GPU-ydintä/prosessoria kohti harjoittelua varten. On oltava positiivinen kokonaisluku. Oletusarvo on 4.
• per_device_eval_batch_size – Erän koko GPU-ydintä/suoritinta kohti arvioitavaksi. On oltava positiivinen kokonaisluku. Oletusarvo on 1.
• max_train_samples – Vähennä harjoitusesimerkkien määrä tähän arvoon virheenkorjausta tai nopeampaa harjoittelua varten. Arvo -1 tarkoittaa kaikkien harjoitusnäytteiden käyttöä. On oltava positiivinen kokonaisluku tai -1. Oletusarvo on -1.
• max_val_samples – Katkaise tarkistusesimerkkien määrä tähän arvoon virheenkorjausta tai nopeampaa koulutusta varten. Arvo -1 tarkoittaa kaikkien vahvistusnäytteiden käyttöä. On oltava positiivinen kokonaisluku tai -1. Oletusarvo on -1.
• max_input_length – Syöttösekvenssin enimmäispituus tokenoinnin jälkeen. Tätä pidemmät sekvenssit katkaistaan. Jos -1, max_input_length on asetettu minimiin 1024 ja tokenisaattorin määrittelemään mallin enimmäispituuteen. Jos asetettu arvo on positiivinen, max_input_length on asetettu annetun arvon minimiin ja model_max_length tokenisaattorin määrittelemä. On oltava positiivinen kokonaisluku tai -1. Oletusarvo on -1.
• validation_split_ratio – Jos vahvistuskanava on none, junatiedoista jaetun junan validoinnin suhteen on oltava välillä 0–1. Oletusarvo on 0.2.
• train_data_split_seed – Jos validointitietoja ei ole, tämä korjaa syötetyn harjoitusdatan satunnaisen jakamisen algoritmin käyttämiin opetus- ja validointitietoihin. Täytyy olla kokonaisluku. Oletusarvo on 0.
• preprocessing_num_workers – Esikäsittelyyn käytettävien prosessien määrä. Jos None, pääprosessia käytetään esikäsittelyyn. Oletus on None.
• lora_r – Lora R. Täytyy olla positiivinen kokonaisluku. Oletusarvo on 8.
• lora_alpha – Lora Alpha. On oltava positiivinen kokonaisluku. Oletusarvo on 32
• lora_dropout – Lora Dropout. on oltava positiivinen float välillä 0 ja 1. Oletus on 0.05.
• int8_quantization - Jos True, malli on ladattu 8-bittisellä tarkkuudella harjoittelua varten. 7B:n ja 13B:n oletusarvo on False. 70B:n oletusarvo on True.
• enable_fsdp - Jos True, koulutuksessa käytetään FSDP:tä. 7B:n ja 13B:n oletusarvo on True. 70B:n oletusarvo on False. Ota huomioon, että int8_quantization FSDP ei tue sitä.

Instanssityypit ja yhteensopivat hyperparametrit

Muistin tarve hienosäädön aikana voi vaihdella useiden tekijöiden perusteella:

• Mallityyppi – Mallissa 7B on vähiten GPU-muistitarve ja 70B:ssä suurin muistitarve
• Suurin tulopituus – Suurempi syötteen pituuden arvo johtaa useamman tunnisteen käsittelyyn kerralla ja vaatii siten enemmän CUDA-muistia
• Erän koko – Suurempi eräkoko vaatii suuremman CUDA-muistin ja vaatii siksi suurempia ilmentymätyyppejä
• Int8 kvantisointi – Jos käytät Int8-kvantisointia, malli ladataan alhaisella tarkkuudella ja vaatii siksi vähemmän CUDA-muistia

Jotta pääset alkuun, tarjoamme joukon eri ilmentymätyyppien, hyperparametrien ja mallityyppien yhdistelmiä, joita voidaan hienosäätää. Voit valita kokoonpanon tarpeidesi ja ilmentymätyyppien saatavuuden mukaan. Hienosäädämme kaikkia kolmea mallia useilla eri asetuksilla kolmella aikakaudella Dolly-tietojoukon osajoukossa yhteenvetoesimerkkien avulla.

7B malli

Seuraavassa taulukossa on yhteenveto 7B-mallin hienosäätövaihtoehdoista.

13B

Seuraavassa taulukossa on yhteenveto 13B-mallin hienosäätövaihtoehdoista.

70B

Seuraavassa taulukossa on yhteenveto 70B-mallin hienosäätövaihtoehdoista.

Suosituksia ilmentymätyypeistä ja hyperparametreistä

Kun hienosäädät mallin tarkkuutta, pidä mielessä seuraavat asiat:

• Suuremmat mallit, kuten 70B, tarjoavat paremman suorituskyvyn kuin 7B
• Suorituskyky ilman Int8-kvantisointia on parempi kuin suorituskyky INT8-kvantisoinnilla

Huomaa seuraavat harjoitusaika- ja CUDA-muistivaatimukset:

• Asetus int8_quantization=True vähentää muistin tarvetta ja nopeuttaa harjoittelua.
• Vähentämällä per_device_train_batch_size ja max_input_length vähentää muistin tarvetta ja siksi sitä voidaan käyttää pienemmissä tapauksissa. Hyvin alhaisten arvojen asettaminen voi kuitenkin pidentää harjoitusaikaa.
• Jos et käytä Int8-kvantisointia (int8_quantization=False), käytä FSDP:tä (enable_fsdp=True) nopeampaa ja tehokkaampaa harjoittelua varten.

Kun valitset ilmentymän tyyppiä, ota huomioon seuraavat seikat:

• G5-instanssit tarjoavat tehokkaimman koulutuksen tuetuista ilmentymätyypeistä. Siksi, jos sinulla on G5-esiintymiä käytettävissä, sinun tulee käyttää niitä.
• Harjoitteluaika riippuu pitkälti GPU:iden määrästä ja käytettävissä olevasta CUDA-muistista. Siksi koulutus instansseissa, joissa on sama määrä GPU:ita (esimerkiksi ml.g5.2xlarge ja ml.g5.4xlarge), on suunnilleen sama. Siksi voit käyttää halvempaa esiintymää harjoitteluun (ml.g5.2xlarge).
• Käytettäessä p3-instanssia koulutus suoritetaan 32-bittisellä tarkkuudella, koska bfloat16:ta ei tueta näissä tapauksissa. Siksi koulutustyö kuluttaa kaksinkertaisen määrän CUDA-muistia, kun harjoittelet p3-esiintymillä verrattuna g5-esiintymiin.

Lisätietoja koulutuksen kustannuksista tapauskohtaisesti on kohdassa Amazon EC2 G5 -esiintymät.

Jos tietojoukko on ohjeviritysmuodossa ja syöttö+täydennyssekvenssit ovat pieniä (kuten 50–100 sanaa), niin suuri arvo max_input_length johtaa erittäin huonoon suorituskykyyn. Tämän parametrin oletusarvo on -1, joka vastaa max_input_length 2048 Llama-malleille. Siksi suosittelemme, että jos tietojoukossasi on pieniä näytteitä, käytä pientä arvoa max_input_length (kuten 200-400).

Lopuksi G5-instanssien suuren kysynnän vuoksi saatat kokea, että nämä ilmentymät eivät ole käytettävissä alueellasi virheen vuoksi. “CapacityError: Unable to provision requested ML compute capacity. Please retry using a different ML instance type.” Jos kohtaat tämän virheen, yritä koulutustyötä uudelleen tai kokeile toista aluetta.

Ongelmia erittäin suurten mallien hienosäädössä

Tässä osiossa käsittelemme kahta asiaa, kun hienosäädetään erittäin suuria malleja.

Poista lähdön pakkaus käytöstä

Oletusarvoisesti koulutustyön tulos on koulutettu malli, joka pakataan .tar.gz-muotoon ennen kuin se ladataan Amazon S3:een. Mallin suuren koon vuoksi tämä vaihe voi kuitenkin kestää kauan. Esimerkiksi 70B-mallin pakkaaminen ja lataaminen voi kestää yli 4 tuntia. Voit välttää tämän ongelman käyttämällä SageMaker-harjoitusalustan tukemaa lähdön pakkaustoimintoa. Tässä tapauksessa malli ladataan ilman pakkausta, jota käytetään edelleen käyttöönottoon:

estimator = JumpStartEstimator(
model_id=model_id, environment={"accept_eula": "true"}, disable_output_compression=True
)

SageMaker Studion ytimen aikakatkaisuongelma

Llama 70B -mallin koosta johtuen harjoitustyö voi kestää useita tunteja ja SageMaker Studion ydin voi kuolla koulutusvaiheen aikana. Tänä aikana harjoitukset ovat kuitenkin vielä käynnissä SageMakerissa. Jos näin tapahtuu, voit silti ottaa päätepisteen käyttöön käyttämällä koulutustyön nimeä seuraavalla koodilla:

from sagemaker.jumpstart.estimator import JumpStartEstimator
training_job_name = <<<INSERT_TRAINING_JOB_NAME>>> attached_estimator = JumpStartEstimator.attach(training_job_name, model_id)
attached_estimator.logs()
attached_estimator.deploy()

Löydät koulutustehtävän nimen siirtymällä SageMaker-konsoliin ja sen alle koulutus valitse siirtymisruudussa Harjoittelupaikat. Tunnista koulutustehtävän nimi ja korvaa se edellisellä koodilla.

Yhteenveto

Tässä viestissä keskustelimme Metan Llama 2 -mallien hienosäädöstä SageMaker JumpStartin avulla. Osoitimme, että voit käyttää SageMaker Studion SageMaker JumpStart -konsolia tai SageMaker Python SDK:ta näiden mallien hienosäätämiseen ja käyttöönottoon. Keskustelimme myös hienosäätötekniikasta, ilmentymätyypeistä ja tuetuista hyperparametreistä. Lisäksi hahmottelimme suosituksia koulutuksen optimointiin erilaisten tekemiemme testien perusteella. Kolmen mallin hienosäädön tulokset kahdessa tietojoukossa näkyvät tämän viestin lopussa olevassa liitteessä. Kuten näemme näistä tuloksista, hienosäätö parantaa yhteenvetoa verrattuna hienosäätämättömiin malleihin. Seuraavana vaiheena voit yrittää hienosäätää näitä malleja omassa tietojoukossasi käyttämällä GitHub-tietovaraston koodia testataksesi ja vertaillaksesi tuloksia käyttötapauksiesi mukaan.

Kirjoittajat haluavat kiittää Christopher Whittenin, Xin Huangin, Kyle Ulrichin, Sifei Lin, Amy Youn, Adam Kozdrowiczin, Evan Kravitzin, Benjamin Crabtreen, Haotian Anin, Manan Shahin, Tony Cruzin, Ernev Sharman, Jonathan Guinegagnen ja Junen teknisestä panoksesta. Voitti.

Tietoja Tekijät

Tohtori Vivek Madan on soveltuva tutkija Amazon SageMaker JumpStart -tiimin kanssa. Hän sai tohtorin tutkinnon Illinoisin yliopistosta Urbana-Champaignissa ja oli tutkijatohtorina Georgia Techissä. Hän on aktiivinen koneoppimisen ja algoritmisuunnittelun tutkija ja julkaissut julkaisuja EMNLP-, ICLR-, COLT-, FOCS- ja SODA-konferensseissa.

Tohtori Farooq Sabir on AWS:n vanhempi tekoäly- ja koneoppimisen asiantuntijaratkaisuarkkitehti. Hänellä on tohtorin ja MS:n tutkinnot sähkötekniikasta Texasin yliopistosta Austinista ja MS-tutkinto tietojenkäsittelytieteestä Georgia Institute of Technologysta. Hänellä on yli 15 vuoden työkokemus ja hän haluaa myös opettaa ja mentoroida korkeakouluopiskelijoita. AWS:ssä hän auttaa asiakkaita muotoilemaan ja ratkaisemaan liiketoimintaongelmiaan datatieteen, koneoppimisen, tietokonenäön, tekoälyn, numeerisen optimoinnin ja niihin liittyvien alojen aloilla. Hän asuu Dallasissa, Texasissa, ja hän ja hänen perheensä rakastavat matkustamista ja pitkiä matkoja.

Tohtori Ashish Khetan on vanhempi soveltuva tutkija Amazon SageMaker JumpStartissa ja auttaa kehittämään koneoppimisalgoritmeja. Hän sai tohtorin tutkinnon Illinois Urbana-Champaignin yliopistosta. Hän on aktiivinen koneoppimisen ja tilastollisen päättelyn tutkija, ja hän on julkaissut monia artikkeleita NeurIPS-, ICML-, ICLR-, JMLR-, ACL- ja EMNLP-konferensseissa.

Liite

Tämä liite sisältää lisätietoja suorituskyvyn vertailusta ja tietojoukon muotoilusta.

Suorituskyvyn vertailu

Tässä osiossa tarjoamme tuloksia kolmen Llama 2 -mallin (7B, 13B ja 70B) hienosäädöstä kahdessa eri tietojoukossa: kameravaunu ja Dialogsum. Dolly-tietojoukon osalta tehtävämme on tehdä yhteenveto tekstistä, kun taas Dialogsumissa hienosäädämme mallia tiivistämään kahden ihmisen välistä keskustelua. Seuraavissa taulukoissa näytetään malliin syöte (kehote ja ohjeet), perustotuus (yhteenveto), vastaus esikoulutetusta Llama 2 -mallista ja vastaus hienosäädetystä Llama 2 -mallista kullekin kolmelle laamalle 2 mallia. Näytämme päättelytulokset viidelle datapisteelle. Seuraavista taulukoista voit huomata, että yhteenvedot paranevat molemmissa tietojoukoissa, kun hienosäädämme malleja.

• Tulokset Dolly-tietojoukon Llama 2 7B -tekstin sukupolven mallin hienosäädölle:

• Tulokset Dolly-tietojoukon Llama 2 13B -tekstin sukupolven mallin hienosäädölle:

• Tulokset Dolly-tietojoukon Llama 2 70B -tekstin sukupolven mallin hienosäädölle:

• Tulokset Llama 2 7B -tekstin luontimallin hienosäädöstä Dialogsum-tietojoukossa:

• Tulokset Llama-2 13B -mallin hienosäädöstä Dialogsum-tietojoukossa:

• Tulokset Llama 2 70B -mallin hienosäädöstä Dialogsum-tietojoukossa:

Tietojoukon muotoilu

Tarjoamme tällä hetkellä kahden tyyppistä hienosäätöä: ohjeiden hienosäätöä ja verkkoalueen mukauttamisen hienosäätöä. Voit helposti vaihtaa johonkin harjoitusmenetelmistä määrittämällä parametrin instruction_tuned kuten 'True"tai"False".

Verkkotunnuksen sovitusmuoto

Tekstin luontimallia voidaan myös hienosäätää missä tahansa toimialuekohtaisessa tietojoukossa. Kun se on hienosäädetty toimialuekohtaisessa tietojoukossa, mallin odotetaan luovan toimialuekohtaista tekstiä ja ratkaisevan erilaisia ​​NLP-tehtäviä kyseisessä toimialueessa muutaman otoksen kehotuksella.

Käytä mallin syöttämiseen koulutus- ja valinnaista validointihakemistoa. Jokainen hakemisto sisältää CSV-, JSON- tai TXT-tiedoston. CSV- ja JSON-tiedostoissa käytetään juna- tai vahvistustietoja sarakkeesta nimeltä teksti tai ensimmäisestä sarakkeesta, jos ei ole saraketta nimeltä text on löydetty. Harjoituksessa olevien tiedostojen määrän ja validoinnin (jos toimitetaan) tulee olla vastaavasti 1.

Tulos on koulutettu malli, jota voidaan käyttää johtopäätösten tekemiseen.

Seuraavassa on esimerkki TXT-tiedostosta tekstin luontimallin hienosäätöä varten. TXT-tiedosto on Amazonin SEC-tiedostoja vuosilta 2021–2022:

This report includes estimates, projections, statements relating to our
business plans, objectives, and expected operating results that are “forward-
looking statements” within the meaning of the Private Securities Litigation
Reform Act of 1995, Section 27A of the Securities Act of 1933, and Section 21E
of the Securities Exchange Act of 1934. Forward-looking statements may appear
throughout this report, including the following sections: “Business” (Part I,
Item 1 of this Form 10-K), “Risk Factors” (Part I, Item 1A of this Form 10-K),
and “Management’s Discussion and Analysis of Financial Condition and Results
of Operations” (Part II, Item 7 of this Form 10-K). These forward-looking
statements generally are identified by the words “believe,” “project,”
“expect,” “anticipate,” “estimate,” “intend,” “strategy,” “future,”
“opportunity,” “plan,” “may,” “should,” “will,” “would,” “will be,” “will
continue,” “will likely result,” and similar expressions. Forward-looking
statements are based on current expectations and assumptions that are subject
to risks and uncertainties that may cause actual results to differ materially.
We describe risks and uncertainties that could cause actual results and events
to differ materially in “Risk Factors,” “Management’s Discussion and Analysis
of Financial Condition and Results of Operations,” and “Quantitative and
Qualitative Disclosures about Market Risk” (Part II, Item 7A of this Form
10-K). Readers are cautioned not to place undue reliance on forward-looking
statements, which speak only as of the date they are made. We undertake no
obligation to update or revise publicly any forward-looking statements,
whether because of new information, future events, or otherwise. GENERAL Embracing Our Future ...

Ohjeiden hienosäätö

Tekstin luontimalli voidaan ohjeistaa mille tahansa tekstidatalle edellyttäen, että tiedot ovat odotetussa muodossa. Ohjeistettua mallia voidaan käyttää edelleen päätelmien tekemiseen.

Käytä syöttämiseen koulutus- ja valinnaista vahvistushakemistoa. Koulutus- ja vahvistushakemistojen tulee sisältää yksi tai useampia JSON-rivejä (.jsonl) muotoiltuja tiedostoja. Erityisesti junahakemisto voi sisältää myös valinnaisen *.json-tiedoston, joka kuvaa tulo- ja tulostusmuodot.

Paras malli valitaan validointihäviön mukaan, joka lasketaan kunkin aikakauden lopussa. Jos validointijoukkoa ei anneta, (säädettävä) prosenttiosuus harjoitustiedoista jaetaan automaattisesti ja käytetään validointiin.

Harjoitustiedot on muotoiltava JSON lines (.jsonl) -muotoon, jossa jokainen rivi on sanakirja, joka edustaa yhtä datanäytettä. Kaikkien harjoitustietojen on oltava yhdessä kansiossa; Se voidaan kuitenkin tallentaa useisiin .jsonl-tiedostoihin. .jsonl-tiedostotunniste on pakollinen. Harjoituskansio voi sisältää myös a template.json tiedosto, joka kuvaa tulo- ja tulostusmuodot. Jos mallitiedostoa ei anneta, käytetään seuraavaa mallia:

{ "prompt": "Below is an instruction that describes a task, paired with an input that provides further context. Write a response that appropriately completes the request.nn### Instruction:n{instruction}nn### Input:n{context}`, "completion": "{response}",
}

Tässä tapauksessa JSON-rivien merkintöjen tietojen on sisällettävä prompt ja completion kentät. Jos mukautettu malli tarjotaan, sitä on myös käytettävä prompt ja completion näppäimiä syöte- ja lähtömallien määrittämiseen. Seuraavassa on esimerkki mukautetusta mallista:

{ "prompt": "question: {question} context: {context}", "completion": "{answer}"
}

Tässä JSON-rivien tiedoissa on oltava question, contextja answer kentät.

Tulos on koulutettu malli, jota voidaan käyttää johtopäätösten tekemiseen.

Tarjoamme osajoukon Amazonin SEC-ilmoitustietoja. Se on ladattu julkisesti saatavilla olevasta osoitteesta Edgar. Katso ohjeet tietojen käyttämiseen kohdasta EDGAR-tietojen käyttö.

lisenssi: Creative Commons Attribution-ShareAlike -lisenssi (CC BY-SA 4.0)

• SEO-pohjainen sisällön ja PR-jakelu. Vahvista jo tänään.
• PlatoData.Network Vertical Generatiivinen Ai. Vahvista itseäsi. Pääsy tästä.
• PlatoAiStream. Web3 Intelligence. Tietoa laajennettu. Pääsy tästä.
• PlatoESG. Autot / sähköautot, hiili, CleanTech, energia, ympäristö, Aurinko, Jätehuolto. Pääsy tästä.
• PlatonHealth. Biotekniikan ja kliinisten kokeiden älykkyys. Pääsy tästä.
• ChartPrime. Nosta kaupankäyntipeliäsi ChartPrimen avulla. Pääsy tästä.
• BlockOffsets. Ympäristövastuun omistuksen nykyaikaistaminen. Pääsy tästä.
• Lähde: https://aws.amazon.com/blogs/machine-learning/fine-tune-llama-2-for-text-generation-on-amazon-sagemaker-jumpstart/