Finomhangolja a Llama 2-t a szöveggeneráláshoz az Amazon SageMaker JumpStart | Amazon webszolgáltatások

Ma örömmel jelentjük be, hogy a Meta segítségével finomhangolhatjuk a Llama 2 modelleket Amazon SageMaker JumpStart. A Llama 2 nagy nyelvi modellek (LLM) családja előre betanított és finomhangolt generatív szövegmodellek gyűjteménye, 7 milliárdtól 70 milliárdig terjedő skálán. A finomhangolt LLM-ek, az úgynevezett Llama-2-chat, párbeszédes felhasználási esetekre vannak optimalizálva. Könnyedén kipróbálhatja ezeket a modelleket, és használhatja őket a SageMaker JumpStarttal, amely egy gépi tanulási (ML) központ, amely hozzáférést biztosít az algoritmusokhoz, modellekhez és ML-megoldásokhoz, így gyorsan elkezdheti az ML használatát. Mostantól 7 milliárd, 13 milliárd és 70 milliárd paraméterű Llama 2 szöveggeneráló modellt is finomhangolhat a SageMaker JumpStart programban a Amazon SageMaker Studio UI néhány kattintással vagy a SageMaker Python SDK használatával.

A generatív AI-alapmodellek már több mint egy éve a legtöbb ML és mesterséges intelligencia kutatás és felhasználási eset középpontjában állnak. Ezek az alapmodellek nagyon jól teljesítenek olyan generatív feladatoknál, mint például szöveggenerálás, összegzés, kérdésmegválaszolás, kép- és videógenerálás stb., nagy méretük miatt, valamint azért is, mert több nagy adathalmazra és több száz feladatra vannak kiképezve. E modellek nagy általánosító képessége ellenére gyakran előfordulnak olyan felhasználási esetek, amelyek nagyon specifikus tartományi adatokkal rendelkeznek (például egészségügy vagy pénzügyi szolgáltatások), ami miatt előfordulhat, hogy ezek a modellek nem tudnak jó eredményeket nyújtani ezekre a felhasználási esetekre. Ez azt eredményezi, hogy a generatív mesterséges intelligencia modellek további finomhangolására van szükség a használati eset- és tartomány-specifikus adatokhoz képest.

Ebben a bejegyzésben végigvezetjük a Llama 2 előre betanított szöveggeneráló modellek finomhangolását a SageMaker JumpStart segítségével.

Mi az a Llama 2

A Llama 2 egy automatikusan regresszív nyelvi modell, amely optimalizált transzformátor architektúrát használ. A Llama 2 angol nyelvű kereskedelmi és kutatási használatra készült. Számos paraméterméretben – 7 milliárd, 13 milliárd és 70 milliárd –, valamint előre betanított és finomhangolt variációkban kapható. A Meta szerint a hangolt változatok felügyelt finomhangolást (SFT) és megerősítő tanulást emberi visszacsatoláson (RLHF) használnak, hogy igazodjanak az emberi preferenciákhoz a segítőkészség és a biztonság érdekében. A Llama 2-t 2 billió tokennyi, nyilvánosan elérhető forrásból származó adatra képezték ki. A hangolt modellek asszisztens-szerű csevegésre szolgálnak, míg az előre betanított modellek különféle természetes nyelvgenerálási feladatokra adaptálhatók. Függetlenül attól, hogy a fejlesztő a modell melyik verzióját használja, a felelős használati útmutató a Metától segíthet a további finomhangolásokban, amelyek szükségesek lehetnek a modellek testreszabásához és optimalizálásához a megfelelő biztonsági intézkedésekkel.

Jelenleg a Llama 2 a következő régiókban érhető el:

• Rendelkezésre álló előre betanított modell telepítése: "us-west-2", "us-east-1", "us-east-2", "eu-west-1", "ap-southeast-1", "ap-southeast-2"
• A finomhangolt modell finomhangolása és üzembe helyezése: “us-east-1”, “us-west-2”,“eu-west-1”

Mi az a SageMaker JumpStart

A SageMaker JumpStart segítségével az ML gyakorlói a nyilvánosan elérhető alapozó modellek széles választékából választhatnak. Az ML gyakorlói alapmodelleket telepíthetnek dedikált Amazon SageMaker példányokat egy hálózattól elszigetelt környezetből, és testreszabhatja a modelleket a SageMaker segítségével a modell betanítására és telepítésére. Mostantól néhány kattintással felfedezheti és üzembe helyezheti a Llama 2-t a SageMaker Stúdióban vagy programozottan a SageMaker Python SDK-n keresztül, lehetővé téve a modell teljesítményének és az MLOps vezérlők származtatását a SageMaker funkcióival, mint pl. Amazon SageMaker csővezetékek, Amazon SageMaker Debuggervagy konténernaplókat. A modellt AWS biztonságos környezetben és az Ön VPC-vezérlése alatt helyezik üzembe, így biztosítva az adatbiztonságot. Ezenkívül finomhangolhatja a Llama2 7B, 13B és 70B előre betanított szöveggeneráló modelleket a SageMaker JumpStart segítségével.

A Llama2 modellek finomhangolása

A modelleket a SageMaker Studio UI vagy a SageMaker Python SDK segítségével finomhangolhatja. Ebben a részben mindkét módszert tárgyaljuk.

Kód nélküli finomhangolás a SageMaker Studio UI-n keresztül

A SageMaker Studio alkalmazásban a Llama 2 modelleket a SageMaker JumpStart alatt érheti el Modellek, notebookok és megoldások, ahogy az a következő képernyőképen látható.

Ha nem látja a Llama 2 modelleket, frissítse a SageMaker Studio verzióját úgy, hogy leállítja és újraindítja. A verziófrissítésekkel kapcsolatos további információkért lásd: Állítsa le és frissítse a Studio alkalmazásokat.

Választással további négy modellváltozatot is találhat Fedezze fel az összes szöveggenerációs modellt vagy láma keresése a keresőmezőben.

Ezen az oldalon rámutathat a Amazon egyszerű tárolási szolgáltatás (Amazon S3) vödör, amely a képzési és érvényesítési adatkészleteket tartalmazza a finomhangoláshoz. Ezenkívül konfigurálhatja a központi telepítési konfigurációt, a hiperparamétereket és a biztonsági beállításokat a finomhangoláshoz. Ezután választhat Vonat a betanítási feladat elindításához egy SageMaker ML példányon. Az előző képernyőképen a Llama-2 7B modell finomhangolási oldala látható; azonban a 13B és 70B Llama 2 szöveggenerációs modelleket hasonló módon finomhangolhatja a megfelelő modelloldalak használatával. A Llama 2 modellek használatához el kell fogadnia a végfelhasználói licencszerződést (EULA). Akkor jelenik meg, amikor választasz Vonat, ahogy az a következő képernyőképen látható. Választ Elolvastam és elfogadom az EULA-t és az AUP-t a finomhangolási munka megkezdéséhez.

Telepítse a modellt

A modell finomhangolása után telepítheti a SageMaker JumpStart modelloldalán. A finomhangolás befejeztével megjelenik a finomhangolt modell üzembe helyezésének lehetősége, amint az a következő képernyőképen látható.

Finomhangolás a SageMaker Python SDK segítségével

A Llama 2 modelleket a SageMaker Python SDK segítségével is finomhangolhatja. A következő mintakód a Llama 2 7B finomhangolásához az adatkészleten:

import os
import boto3
from sagemaker.session import Session
from sagemaker.jumpstart.estimator import JumpStartEstimator # To fine-tune the 13B/70B model, please change model_id to `meta-textgeneration-llama-2-13b`/`meta-textgeneration-llama-2-70b`.
model_id = "meta-textgeneration-llama-2-7b" estimator = JumpStartEstimator( model_id=model_id, environment={"accept_eula": "true"}
)
# By default, instruction tuning is set to false. Thus, to use instruction tuning dataset you use
estimator.set_hyperparameters(instruction_tuned="True", epoch="5")
estimator.fit({"training": train_data_location})

A finomhangolt modellt közvetlenül a becslőből telepítheti:

finetuned_predictor = estimator.deploy()

A kódot itt is megtalálod Finomhangolja a LLaMA 2 modelleket a SageMaker JumpStarton. Tartalmazza az adatkészlet-előkészítést, az egyéni adatkészletre vonatkozó oktatást és a finomhangolt modell üzembe helyezését. Az összegzési feladat példáival szemlélteti a Dolly-adatkészlet egy részhalmazának finomhangolását. A következő példa a finomhangolt és nem finomhangolt válaszokkal együtt az alapigazság válaszával együtt:

Bemenet a modellbe:

Below is an instruction that describes a task, paired with an input that provides further context. Write a response that appropriately completes the request.nn### Instruction:nWhen did Felix Luna die?nn### Input:nFélix César Luna (30 September 1925 – 5 November 2009) was an Argentine writer, lyricist and historian.nnnn### Response:n

A földi igazság válasza:

Felix Luna died on November 5th, 2009

A nem finomhangolt modell válasza:

Félix César Luna (30 September 1925 – 5 November 2009) was an ArgentinennWhen did Luna die?nnn### Explanation:nWe answer the question with the input's date of birth and the date of death.nnn### Solution: 1102n

A finomhangolt modell válasza:

Félix Luna died on November 5th, 2009.nn

A Dolly és Dialogsum adatkészletben található különböző modellek teljesítményének összehasonlításához tekintse meg a Teljesítmény-benchmarking szakasz a mellékletben a bejegyzés végén.

Finomhangolási technika

Az olyan nyelvi modellek, mint a Llama, több mint 10 GB vagy akár 100 GB méretűek. Az ilyen nagy modellek finomhangolásához lényegesen magas CUDA-memóriával rendelkező példányokra van szükség. Ezenkívül ezeknek a modelleknek a betanítása nagyon lassú lehet a modell mérete miatt. Ezért a hatékony finomhangolás érdekében a következő optimalizációkat használjuk:

• Alacsony szintű adaptáció (LoRA) – Ez a paraméterhatékony finomhangolás (PEFT) egy fajtája a nagy modellek hatékony finomhangolásához. Ebben az egész modellt lefagyasztjuk, és csak egy kis állítható paraméter- vagy rétegkészletet adunk a modellhez. Például ahelyett, hogy a Llama 7 2B mind a 7 milliárd paraméterét betanítanánk, a paraméterek kevesebb mint 1%-át tudjuk finomhangolni. Ez jelentősen csökkenti a memóriaigényt, mert csak a paraméterek 1%-ánál kell a gradienseket, az optimalizáló állapotokat és a képzéssel kapcsolatos egyéb információkat tárolnunk. Ezenkívül ez segít csökkenteni a képzési időt és a költségeket. A módszerrel kapcsolatos további részletekért lásd: LoRA: Nagy nyelvi modellek alacsony rangú adaptációja.
• Int8 kvantálás – Még az olyan optimalizálások mellett is, mint a LoRA, az olyan modellek, mint a Llama 70B, még mindig túl nagyok a betanításhoz. Az edzés közbeni memória lábnyomának csökkentése érdekében edzés közben használhatjuk az Int8 kvantálást. A kvantálás általában csökkenti a lebegőpontos adattípusok pontosságát. Ez ugyan csökkenti a modellsúlyok tárolásához szükséges memóriát, de rontja a teljesítményt az információvesztés miatt. Az Int8 kvantálás csak negyed pontosságot használ, de nem jár a teljesítmény romlásával, mert nem egyszerűen eldobja a biteket. Az adatokat egyik típusról a másikra kerekíti. Ha többet szeretne megtudni az Int8 kvantálásról, tekintse meg a LLM.int8(): 8 bites mátrixszorzás skálán transzformátorokhoz.
• Teljesen megosztott adatok párhuzamos (FSDP) – Ez az adatpárhuzamos betanítási algoritmus egyfajta típusa, amely a modell paramétereit az adatokkal párhuzamos dolgozók között szilánkokra bontja, és opcionálisan a betanítási számítások egy részét a CPU-kra terhelheti. Bár a paraméterek különböző GPU-k között vannak felosztva, minden egyes mikrobatch számítása helyileg a GPU-munkásra vonatkozik. Egyenletesebben bontja le a paramétereket, és optimalizált teljesítményt ér el az edzés közbeni kommunikáció és számítási átfedés révén.

Az alábbi táblázat különböző módszereket hasonlít össze a három Llama 2 modellel.

Ne feledje, hogy a Llama modellek finomhangolása a következő szkripteken alapul GitHub repo.

Képzési adatkészlet formátuma

A SageMaker JumpStart jelenleg támogatja az adatkészleteket mind a tartomány adaptációs formátumában, mind az utasításhangolási formátumban. Ebben a részben megadunk egy példaadatkészletet mindkét formátumban. További részletekért lásd a Adatkészlet formázása szakaszt a mellékletben.

Domain adaptációs formátum

A szöveggeneráló Llama 2 modell bármilyen tartomány-specifikus adatkészleten finomhangolható. A tartomány-specifikus adatkészlet finomhangolása után a modelltől elvárható, hogy tartományspecifikus szöveget generáljon, és néhány lépéses felszólítással megoldja a különböző NLP-feladatokat az adott tartományban. Ezzel az adatkészlettel a bemenet CSV-, JSON- vagy TXT-fájlból áll. Például a bemeneti adatok lehetnek az Amazon SEC-fájljai szövegfájlként:

This report includes estimates, projections, statements relating to our
business plans, objectives, and expected operating results that are “forward-
looking statements” within the meaning of the Private Securities Litigation
Reform Act of 1995, Section 27A of the Securities Act of 1933, and Section 21E
of the Securities Exchange Act of 1934. Forward-looking statements may appear
throughout this report, including the following sections: “Business” (Part I,
Item 1 of this Form 10-K), “Risk Factors” (Part I, Item 1A of this Form 10-K),
and “Management’s Discussion and Analysis of Financial Condition and Results
of Operations” (Part II, Item 7 of this Form 10-K). These forward-looking
statements generally are identified by the words “believe,” “project,”
“expect,” “anticipate,” “estimate,” “intend,” “strategy,” “future,”
“opportunity,” “plan,” “may,” “should,” “will,” “would,” “will be,” “will
continue,” “will likely result,” and similar expressions.

Utasítás hangolási formátum

Az utasítások finomhangolása során a modell az utasítások segítségével leírt természetes nyelvi feldolgozási (NLP) feladatokra van finomítva. Ez segít a modell teljesítményének javításában a nem látott feladatoknál a nullapontos figyelmeztetésekkel. Az utasításhangolási adatkészlet formátumban adja meg a template.json fájl, amely leírja a bemeneti és a kimeneti formátumokat. Például a fájl minden sora train.jsonl a következőképpen néz ki:

{"instruction": "What is a dispersive prism?", "context": "In optics, a dispersive prism is an optical prism that is used to disperse light, that is, to separate light into its spectral components (the colors of the rainbow). Different wavelengths (colors) of light will be deflected by the prism at different angles. This is a result of the prism material's index of refraction varying with wavelength (dispersion). Generally, longer wavelengths (red) undergo a smaller deviation than shorter wavelengths (blue). The dispersion of white light into colors by a prism led Sir Isaac Newton to conclude that white light consisted of a mixture of different colors.", "response": "A dispersive prism is an optical prism that disperses the light's different wavelengths at different angles. When white light is shined through a dispersive prism it will separate into the different colors of the rainbow."}

A kiegészítő fájl template.json a következőképpen néz ki:

{ "prompt": "Below is an instruction that describes a task, paired with an input that provides further context. " "Write a response that appropriately completes the request.nn" "### Instruction:n{instruction}nn### Input:n{context}nn", "completion": " {response}",
}

Támogatott hiperparaméterek az edzéshez

A Llama 2 finomhangolása számos hiperparamétert támogat, amelyek mindegyike befolyásolhatja a finomhangolt modell memóriaigényét, edzési sebességét és teljesítményét:

• korszak – A finomhangoló algoritmus által a betanítási adatkészleten keresztül végrehajtott lépések száma. 1-nél nagyobb egész számnak kell lennie. Az alapértelmezett érték 5.
• tanulási_ráta – Az a sebesség, amellyel a modellsúlyok frissítésre kerülnek az egyes képzési példák kötegeinek kidolgozása után. 0-nál nagyobb pozitív lebegésnek kell lennie. Az alapértelmezett érték 1e-4.
• utasítás_hangolt – Akár oktatni-tanítani a modellt, akár nem. Kell, hogy legyen 'True"vagy"False'. Az alapértelmezett a 'False".
• per_device_train_batch_size – A köteg mérete GPU magonként/CPU-nként a betanításhoz. Pozitív egész számnak kell lennie. Az alapértelmezett a 4.
• per_device_eval_batch_size – A köteg mérete GPU magonként/CPU-nként az értékeléshez. Pozitív egész számnak kell lennie. Az alapértelmezett az 1.
• max_train_samples – Hibakeresés vagy gyorsabb betanítás céljából csökkentse a betanítási példák számát erre az értékre. Az -1 érték az összes betanítási minta felhasználását jelenti. Pozitív egész számnak vagy -1-nek kell lennie. Az alapértelmezett érték -1.
• max_val_samples – Hibakeresés vagy gyorsabb betanítás érdekében csonkolja az érvényesítési példák számát erre az értékre. Az -1 érték az összes érvényesítési minta használatát jelenti. Pozitív egész számnak vagy -1-nek kell lennie. Az alapértelmezett érték -1.
• max_input_length – Maximális teljes bemeneti sorozathossz a tokenizálás után. Az ennél hosszabb sorozatok csonkolva lesznek. Ha -1, max_input_length a minimum 1024-re és a tokenizátor által meghatározott maximális modellhosszra van állítva. Ha pozitív értékre van állítva, max_input_length a megadott érték minimumára van állítva és a model_max_length a tokenizátor határozza meg. Pozitív egész számnak vagy -1-nek kell lennie. Az alapértelmezett érték -1.
• validation_split_ratio – Ha az érvényesítési csatorna none, a vonatadatokból leválasztott vonatérvényesítés arányának 0 és 1 között kell lennie. Az alapértelmezett 0.2.
• train_data_split_seed – Ha nincsenek érvényesítési adatok, ez rögzíti a bemeneti betanítási adatok véletlenszerű felosztását az algoritmus által használt betanítási és érvényesítési adatokra. Egész számnak kell lennie. Az alapértelmezett 0.
• preprocessing_num_workers – Az előfeldolgozáshoz használt folyamatok száma. Ha None, a fő eljárást előfeldolgozásra használják. Az alapértelmezett None.
• lora_r – Lora R. Pozitív egész számnak kell lennie. Az alapértelmezett a 8.
• lora_alpha – Alfa Lora. Pozitív egész számnak kell lennie. Az alapértelmezett a 32
• lora_dropout – Lora Dropout. pozitív lebegésnek kell lennie 0 és 1 között. Az alapértelmezett érték 0.05.
• int8_kvantálás - Ha True, a modell 8 bites pontossággal van betöltve az edzéshez. A 7B és 13B alapértelmezett értéke False. A 70B alapértelmezett értéke True.
• enable_fsdp - Ha True, a képzés az FSDP-t használja. A 7B és 13B alapértelmezett értéke True. A 70B alapértelmezett értéke False. Vegye figyelembe, hogy int8_quantization az FSDP nem támogatja.

Példánytípusok és kompatibilis hiperparaméterek

A memóriaigény a finomhangolás során több tényezőtől függően változhat:

• Modelltípus – A 7B modell rendelkezik a legkevesebb GPU memóriaigénnyel, a 70B pedig a legnagyobb memóriaigénnyel
• Maximális bemeneti hossz - A bemeneti hossz nagyobb értéke több token egyidejű feldolgozásához vezet, és így több CUDA memóriát igényel
• Csomó méret – A nagyobb kötegméret nagyobb CUDA-memóriát igényel, ezért nagyobb példánytípusokat igényel
• Int8 kvantálás – Ha Int8 kvantálást használ, a modell alacsony pontossággal töltődik be, ezért kevesebb CUDA memóriát igényel

Az indulás megkönnyítése érdekében különféle példánytípusok, hiperparaméterek és modelltípusok kombinációit kínáljuk, amelyek sikeresen finomhangolhatók. Kiválaszthat egy konfigurációt az igényeinek és a példánytípusok elérhetőségének megfelelően. Mindhárom modellt finomhangoljuk különféle beállításokon, három korszakkal a Dolly-adatkészlet egy részhalmazán, összefoglaló példákkal.

7B modell

Az alábbi táblázat összefoglalja a 7B modell finomhangolási lehetőségeit.

13B

Az alábbi táblázat összefoglalja a 13B modell finomhangolási lehetőségeit.

70B

Az alábbi táblázat összefoglalja a 70B modell finomhangolási lehetőségeit.

Javaslatok a példánytípusokhoz és a hiperparaméterekhez

A modell pontosságának finomhangolásakor vegye figyelembe a következőket:

• A nagyobb modellek, például a 70B jobb teljesítményt nyújtanak, mint a 7B
• Az Int8 kvantálás nélküli teljesítmény jobb, mint az INT8 kvantálással

Vegye figyelembe a következő edzési időt és CUDA memóriakövetelményeket:

• Beállítás int8_quantization=True csökkenti a memóriaigényt és gyorsabb edzéshez vezet.
• Csökkenő per_device_train_batch_size és a max_input_length csökkenti a memóriaigényt, ezért kisebb példányokon is futtatható. Nagyon alacsony értékek beállítása azonban megnövelheti az edzési időt.
• Ha nem használ Int8 kvantálást (int8_quantization=False), használja az FSDP-t (enable_fsdp=True) a gyorsabb és hatékonyabb edzés érdekében.

A példány típusának kiválasztásakor vegye figyelembe a következőket:

• A támogatott példánytípusok közül a G5-példányok biztosítják a leghatékonyabb képzést. Ezért, ha rendelkezésre állnak G5-példányok, használja azokat.
• A képzési idő nagyban függ a GPU-k számától és a rendelkezésre álló CUDA-memória mennyiségétől. Ezért az azonos számú GPU-val (például ml.g5.2xlarge és ml.g5.4xlarge) rendelkező példányokon végzett képzés nagyjából ugyanaz. Ezért az olcsóbb példányt használhatja edzésre (ml.g5.2xlarge).
• A p3 példányok használatakor a betanítás 32 bites pontossággal történik, mivel a bfloat16 nem támogatott ezeken a példányokon. Ezért a betanítási feladat kétszer annyi CUDA-memóriát fog igénybe venni, ha p3-példányokon oktat a g5-példányokhoz képest.

Ha többet szeretne megtudni a képzés példányonkénti költségeiről, tekintse meg a következőt: Amazon EC2 G5 példányok.

Ha az adatkészlet utasításhangolás formátumú, és a bemeneti+befejezési sorozatok kicsik (például 50–100 szó), akkor a max_input_length nagyon gyenge teljesítményhez vezet. Ennek a paraméternek az alapértelmezett értéke -1, ami megfelel a max_input_length 2048-ból Llama modellekhez. Ezért azt javasoljuk, hogy ha az adatkészlete kis mintákat tartalmaz, használjon kis értéket max_input_length (például 200-400).

Végül a G5-példányok iránti nagy kereslet miatt előfordulhat, hogy ezek a példányok nem érhetők el az Ön régiójában a hibával. “CapacityError: Unable to provision requested ML compute capacity. Please retry using a different ML instance type.” Ha ezt a hibát tapasztalja, próbálkozzon újra a betanítási feladattal, vagy próbáljon ki egy másik régiót.

Problémák a nagyon nagy modellek finomhangolásakor

Ebben a részben a nagyon nagy modellek finomhangolásakor két kérdést tárgyalunk.

Kimeneti tömörítés letiltása

Alapértelmezés szerint a betanítási feladat kimenete egy betanított modell, amelyet .tar.gz formátumba tömörítenek, mielőtt feltöltenék az Amazon S3-ba. A modell nagy mérete miatt azonban ez a lépés sokáig tarthat. Például a 70B modell tömörítése és feltöltése több mint 4 órát is igénybe vehet. A probléma elkerülése érdekében használhatja a SageMaker képzési platform által támogatott kimeneti tömörítés letiltása funkciót. Ebben az esetben a modell tömörítés nélkül kerül feltöltésre, amelyet a továbbiakban a telepítéshez használnak fel:

estimator = JumpStartEstimator(
model_id=model_id, environment={"accept_eula": "true"}, disable_output_compression=True
)

A SageMaker Studio kernel időtúllépési problémája

A Llama 70B modell mérete miatt a betanítás több órát is igénybe vehet, és a SageMaker Studio kernel elhalhat a betanítási szakaszban. Ez idő alatt azonban a SageMakerben még zajlanak az edzések. Ha ez megtörténik, továbbra is telepítheti a végpontot a betanítási feladat nevével a következő kóddal:

from sagemaker.jumpstart.estimator import JumpStartEstimator
training_job_name = <<<INSERT_TRAINING_JOB_NAME>>> attached_estimator = JumpStartEstimator.attach(training_job_name, model_id)
attached_estimator.logs()
attached_estimator.deploy()

A képzési feladat nevének megkereséséhez navigáljon a SageMaker konzolra és az alá Képzések a navigációs ablakban válassza a lehetőséget Képzési munkák. Határozza meg a képzési munka nevét, és cserélje be az előző kódba.

Következtetés

Ebben a bejegyzésben a Meta Llama 2 modelljeinek finomhangolását tárgyaltuk a SageMaker JumpStart segítségével. Megmutattuk, hogy a SageMaker Studio SageMaker JumpStart konzolját vagy a SageMaker Python SDK-t használhatja a modellek finomhangolására és üzembe helyezésére. Megbeszéltük a finomhangolási technikát, a példánytípusokat és a támogatott hiperparamétereket is. Ezen kívül ajánlásokat fogalmaztunk meg az optimalizált képzésre az általunk végzett különféle tesztek alapján. A három modell két adatkészletre vonatkozó finomhangolásának eredményei a bejegyzés végén található függelékben láthatók. Ahogy ezekből az eredményekből is látható, a finomhangolás javítja az összegzést a nem finomhangolt modellekhez képest. Következő lépésként megpróbálhatja finomhangolni ezeket a modelleket a saját adatkészletén a GitHub tárházában található kód segítségével, hogy tesztelje és összehasonlítsa az eredményeket az Ön használati eseteihez.

A szerzők szeretnének köszönetet mondani Christopher Whitten, Xin Huang, Kyle Ulrich, Sifei Li, Amy You, Adam Kozdrowicz, Evan Kravitz, Benjamin Crabtree, Haotian An, Manan Shah, Tony Cruz, Ernev Sharma, Jonathan Guinegagne és June technikai közreműködéséért. Nyerte.

A szerzőkről

Dr. Vivek Madan az Amazon SageMaker JumpStart csapatának alkalmazott tudósa. PhD fokozatát az Illinoisi Egyetemen szerezte, az Urbana-Champaign-ben, és a Georgia Tech posztdoktori kutatója volt. Aktív kutatója a gépi tanulásnak és az algoritmustervezésnek, és publikált előadásokat EMNLP, ICLR, COLT, FOCS és SODA konferenciákon.

Dr. Farooq Sabir az AWS mesterséges intelligenciával és gépi tanulással foglalkozó megoldásokkal foglalkozó vezető építésze. Az austini Texasi Egyetemen szerzett PhD és MS fokozatot villamosmérnöki szakon, valamint MS fokozatot számítástechnikából a Georgia Institute of Technology-n. Több mint 15 éves munkatapasztalattal rendelkezik, és szeret főiskolai hallgatókat tanítani és mentorálni. Az AWS-nél segít az ügyfeleknek üzleti problémáik megfogalmazásában és megoldásában az adattudomány, a gépi tanulás, a számítógépes látás, a mesterséges intelligencia, a numerikus optimalizálás és a kapcsolódó területeken. A texasi Dallasban él, és családjával szeretnek utazni és hosszú utazásokra mennek.

Dr. Ashish Khetan az Amazon SageMaker JumpStart vezető alkalmazott tudósa, és segít gépi tanulási algoritmusok fejlesztésében. PhD fokozatát az Illinois Urbana-Champaign Egyetemen szerezte. A gépi tanulás és a statisztikai következtetések aktív kutatója, és számos közleményt publikált NeurIPS, ICML, ICLR, JMLR, ACL és EMNLP konferenciákon.

Függelék

Ez a függelék további információkat tartalmaz a teljesítmény-benchmarkingról és az adatkészlet formázásáról.

Teljesítmény-benchmarking

Ebben a részben a három Llama 2 modell (7B, 13B és 70B) finomhangolásához nyújtunk eredményeket két különböző adatkészleten: Dolly és a Dialogsum. A Dolly-adatkészlet esetében az a feladatunk, hogy összefoglaljunk egy szövegrészletet, míg a Dialogsum esetében finomhangoljuk a modellt, hogy összefoglaljuk a két ember közötti vitát. A következő táblázatokban bemutatjuk a modell bemenetét (kérdés és utasítások), az alapigazságot (összefoglaló), az előre betanított Llama 2 modell válaszát és a finomhangolt Llama 2 modell válaszát mindhárom láma esetében. 2 modell. Következtetési eredményeket mutatunk öt adatpontra. A következő táblázatokból láthatja, hogy a modellek finomhangolásakor az összefoglalók mindkét adatkészletre javulnak.

• A Llama 2 7B szöveggeneráló modell finomhangolásának eredménye a Dolly adatkészleten:

• A Llama 2 13B szöveggeneráló modell finomhangolásának eredménye a Dolly adatkészleten:

• A Llama 2 70B szöveggeneráló modell finomhangolásának eredménye a Dolly adatkészleten:

• A Llama 2 7B szöveggeneráló modell finomhangolásának eredménye a Dialogsum adatkészleten:

• A Llama-2 13B modell finomhangolásának eredménye a Dialogsum adatkészleten:

• A Llama 2 70B modell finomhangolásának eredménye a Dialogsum adatkészleten:

Adatkészlet formázása

Jelenleg kétféle finomhangolást kínálunk: az utasítás finomhangolását és a tartományadaptáció finomhangolását. A paraméter megadásával egyszerűen átválthat valamelyik edzésmódszerre instruction_tuned mint 'True"vagy"False".

Domain adaptációs formátum

A szöveggenerálási modell bármely tartományspecifikus adatkészleten finomhangolható. A tartomány-specifikus adatkészlet finomhangolása után a modelltől elvárható, hogy tartományspecifikus szöveget generáljon, és néhány lépéses felszólítással megoldja a különböző NLP-feladatokat az adott tartományban.

A modellhez való bevitelhez használjon egy oktatási és opcionális érvényesítési könyvtárat. Minden könyvtár tartalmaz egy CSV-, JSON- vagy TXT-fájlt. CSV- és JSON-fájlok esetén a vonat vagy az érvényesítési adatok a szöveg nevű oszlopból, vagy az első oszlopból kerülnek felhasználásra, ha nincs nevezett oszlop. text található. A képzés alatt álló fájlok számának és az érvényesítésnek (ha van ilyen) 1-nek kell lennie.

A kimenet egy betanított modell, amelyből következtetni lehet.

A következő példa egy TXT-fájlra mutat be példát a szöveggenerálási modell finomhangolásához. A TXT fájl az Amazon SEC-fájlja 2021–2022 között:

This report includes estimates, projections, statements relating to our
business plans, objectives, and expected operating results that are “forward-
looking statements” within the meaning of the Private Securities Litigation
Reform Act of 1995, Section 27A of the Securities Act of 1933, and Section 21E
of the Securities Exchange Act of 1934. Forward-looking statements may appear
throughout this report, including the following sections: “Business” (Part I,
Item 1 of this Form 10-K), “Risk Factors” (Part I, Item 1A of this Form 10-K),
and “Management’s Discussion and Analysis of Financial Condition and Results
of Operations” (Part II, Item 7 of this Form 10-K). These forward-looking
statements generally are identified by the words “believe,” “project,”
“expect,” “anticipate,” “estimate,” “intend,” “strategy,” “future,”
“opportunity,” “plan,” “may,” “should,” “will,” “would,” “will be,” “will
continue,” “will likely result,” and similar expressions. Forward-looking
statements are based on current expectations and assumptions that are subject
to risks and uncertainties that may cause actual results to differ materially.
We describe risks and uncertainties that could cause actual results and events
to differ materially in “Risk Factors,” “Management’s Discussion and Analysis
of Financial Condition and Results of Operations,” and “Quantitative and
Qualitative Disclosures about Market Risk” (Part II, Item 7A of this Form
10-K). Readers are cautioned not to place undue reliance on forward-looking
statements, which speak only as of the date they are made. We undertake no
obligation to update or revise publicly any forward-looking statements,
whether because of new information, future events, or otherwise. GENERAL Embracing Our Future ...

Utasítás finomhangolása

A szöveggenerálási modell tetszőleges szöveges adatra utasítható, feltéve, hogy az adatok a várt formátumban vannak. Az utasításra hangolt modell tovább alkalmazható következtetések levonására.

A bevitelhez használjon képzési és opcionális érvényesítési könyvtárat. A betanítási és érvényesítési könyvtárnak egy vagy több JSON-soros (.jsonl) formátumú fájlt kell tartalmaznia. Különösen a vonatkönyvtár tartalmazhat egy opcionális *.json fájlt, amely leírja a bemeneti és kimeneti formátumokat.

A legjobb modellt az egyes korszakok végén számított érvényesítési veszteségek alapján választjuk ki. Ha nincs megadva érvényesítési készlet, akkor a betanítási adatok egy (állítható) százaléka automatikusan felosztásra kerül és érvényesítésre kerül felhasználásra.

A betanítási adatokat JSON-sorok (.jsonl) formátumban kell formázni, ahol minden sor egyetlen adatmintát reprezentáló szótár. Minden edzésadatnak egyetlen mappában kell lennie; azonban több .jsonl fájlba is menthető. A .jsonl fájl kiterjesztése kötelező. Az edzésmappa tartalmazhat még a template.json a bemeneti és kimeneti formátumokat leíró fájl. Ha nincs megadva sablonfájl, akkor a következő sablon kerül felhasználásra:

{ "prompt": "Below is an instruction that describes a task, paired with an input that provides further context. Write a response that appropriately completes the request.nn### Instruction:n{instruction}nn### Input:n{context}`, "completion": "{response}",
}

Ebben az esetben a JSON-sorok bejegyzéseinek tartalmaznia kell prompt és a completion mezőket. Ha egyéni sablont adnak meg, annak is használnia kell prompt és a completion gombokat a bemeneti és kimeneti sablonok meghatározásához. Az alábbi minta egyéni sablon:

{ "prompt": "question: {question} context: {context}", "completion": "{answer}"
}

Itt a JSON-sorok bejegyzéseiben szereplő adatoknak tartalmazniuk kell a question, contextés answer területeken.

A kimenet egy betanított modell, amelyből következtetni lehet.

Az Amazon SEC-nyilvántartási adatainak egy részét biztosítjuk. Letölthető a nyilvánosan elérhető oldalról EDGAR. Az adatokhoz való hozzáféréssel kapcsolatos utasításokért lásd: Hozzáférés az EDGAR adatokhoz.

Licenc: Creative Commons Nevezd meg! – Nevezd meg hasonlóképpen licenc (CC BY-SA 4.0)

• SEO által támogatott tartalom és PR terjesztés. Erősödjön még ma.
• PlatoData.Network Vertical Generative Ai. Erősítse meg magát. Hozzáférés itt.
• PlatoAiStream. Web3 Intelligence. Felerősített tudás. Hozzáférés itt.
• PlatoESG. Autóipar / elektromos járművek, Carbon, CleanTech, Energia, Környezet, Nap, Hulladékgazdálkodás. Hozzáférés itt.
• PlatoHealth. Biotechnológiai és klinikai vizsgálatok intelligencia. Hozzáférés itt.
• ChartPrime. Emelje fel kereskedési játékát a ChartPrime segítségével. Hozzáférés itt.
• BlockOffsets. A környezetvédelmi ellentételezési tulajdon korszerűsítése. Hozzáférés itt.
• Forrás: https://aws.amazon.com/blogs/machine-learning/fine-tune-llama-2-for-text-generation-on-amazon-sagemaker-jumpstart/