Llama 2 را برای تولید متن در Amazon SageMaker JumpStart تنظیم کنید | خدمات وب آمازون

امروز، ما هیجان زده هستیم که قابلیت تنظیم دقیق مدل های Llama 2 توسط متا را با استفاده از Amazon SageMaker JumpStart. خانواده مدل‌های زبان بزرگ Llama 2 (LLMs) مجموعه‌ای از مدل‌های متنی تولیدی از پیش آموزش‌دیده و تنظیم‌شده است که در مقیاسی از ۷ میلیارد تا ۷۰ میلیارد پارامتر متغیر است. LLM های تنظیم شده به نام Llama-7-chat، برای موارد استفاده از گفتگو بهینه شده اند. می‌توانید به راحتی این مدل‌ها را امتحان کنید و با SageMaker JumpStart، که یک هاب یادگیری ماشین (ML) است که دسترسی به الگوریتم‌ها، مدل‌ها و راه‌حل‌های ML را فراهم می‌کند، استفاده کنید تا بتوانید به سرعت با ML شروع کنید. اکنون می‌توانید مدل‌های تولید متن Llama 70 2 میلیارد، 7 میلیارد و 13 میلیارد پارامتری را در SageMaker JumpStart با استفاده از Amazon SageMaker Studio UI با چند کلیک یا با استفاده از SageMaker Python SDK.

بیش از یک سال است که بیش از یک سال است که مدل‌های پایه هوش مصنوعی مولد تمرکز بیشتر تحقیقات و موارد استفاده از ML و هوش مصنوعی بوده است. این مدل‌های پایه به دلیل اندازه بزرگشان و همچنین به این دلیل که روی چندین مجموعه داده بزرگ و صدها کار آموزش دیده‌اند، با وظایف تولیدی، مانند تولید متن، خلاصه‌سازی، پاسخ‌گویی به سؤال، تولید تصویر و ویدیو و موارد دیگر بسیار خوب عمل می‌کنند. علیرغم قابلیت های تعمیم زیاد این مدل ها، اغلب موارد استفاده وجود دارد که داده های دامنه بسیار خاصی دارند (مانند خدمات بهداشتی و درمانی یا خدمات مالی)، به همین دلیل این مدل ها ممکن است نتوانند نتایج خوبی برای این موارد استفاده ارائه دهند. این منجر به نیاز به تنظیم دقیق بیشتر این مدل‌های هوش مصنوعی مولد بر روی داده‌های مورد خاص و دامنه خاص می‌شود.

در این پست، نحوه تنظیم دقیق مدل های تولید متن از پیش آموزش دیده Llama 2 را از طریق SageMaker JumpStart شرح می دهیم.

لاما 2 چیست؟

Llama 2 یک مدل زبان رگرسیون خودکار است که از معماری ترانسفورماتور بهینه شده استفاده می کند. Llama 2 برای استفاده تجاری و تحقیقاتی به زبان انگلیسی در نظر گرفته شده است. این در طیف وسیعی از اندازه‌های پارامتر - 7 میلیارد، 13 میلیارد و 70 میلیارد - و همچنین تغییرات از پیش آموزش‌دیده و تنظیم‌شده است. به گفته متا، نسخه‌های تنظیم‌شده از تنظیم دقیق نظارت شده (SFT) و یادگیری تقویتی با بازخورد انسانی (RLHF) استفاده می‌کنند تا با ترجیحات انسان برای مفید بودن و ایمنی هماهنگ شوند. Llama 2 بر روی 2 تریلیون توکن داده از منابع در دسترس عموم از قبل آموزش داده شده بود. مدل‌های تنظیم‌شده برای چت دستیار در نظر گرفته شده‌اند، در حالی که مدل‌های از پیش آموزش‌دیده را می‌توان برای انواع وظایف تولید زبان طبیعی تطبیق داد. صرف نظر از اینکه توسعه‌دهنده از چه نسخه‌ای از مدل استفاده می‌کند، راهنمای استفاده مسئولانه از متا می تواند به هدایت تنظیمات دقیق اضافی که ممکن است برای سفارشی سازی و بهینه سازی مدل ها با کاهش ایمنی مناسب لازم باشد کمک کند.

در حال حاضر، Llama 2 در مناطق زیر در دسترس است:

• استقرار مدل از پیش آموزش دیده موجود: "us-west-2", "us-east-1", "us-east-2", "eu-west-1", "ap-southeast-1", "ap-southeast-2"
• تنظیم دقیق و استقرار مدل دقیق تنظیم شده: “us-east-1”, “us-west-2”,“eu-west-1”

SageMaker JumpStart چیست؟

با SageMaker JumpStart، پزشکان ML می‌توانند از میان مجموعه وسیعی از مدل‌های پایه در دسترس عموم انتخاب کنند. پزشکان ML می توانند مدل های پایه را به صورت اختصاصی به کار گیرند آمازون SageMaker نمونه هایی از یک محیط جدا شده از شبکه و سفارشی کردن مدل ها با استفاده از SageMaker برای آموزش و استقرار مدل. اکنون می‌توانید Llama 2 را با چند کلیک در SageMaker Studio یا به صورت برنامه‌نویسی از طریق SageMaker Python SDK کشف و استقرار دهید و به شما امکان می‌دهد عملکرد مدل و کنترل‌های MLOps را با ویژگی‌های SageMaker استخراج کنید. خطوط لوله آمازون SageMaker, دیباگر Amazon SageMaker، یا سیاهههای مربوط به کانتینر. این مدل در یک محیط امن AWS و تحت کنترل های VPC شما مستقر شده است و به اطمینان از امنیت داده ها کمک می کند. علاوه بر این، می توانید مدل های تولید متن از پیش آموزش دیده Llama2 7B، 13B و 70B را از طریق SageMaker JumpStart تنظیم کنید.

مدل های Llama2 تنظیم دقیق

می توانید مدل ها را با استفاده از SageMaker Studio UI یا SageMaker Python SDK تنظیم دقیق کنید. ما در این بخش به هر دو روش می پردازیم.

تنظیم دقیق بدون کد از طریق رابط کاربری SageMaker Studio

در SageMaker Studio، می‌توانید از طریق SageMaker JumpStart به مدل‌های Llama 2 دسترسی داشته باشید. مدل ها، نوت بوک ها و راه حل ها، همانطور که در تصویر زیر نشان داده شده است.

اگر مدل‌های Llama 2 را نمی‌بینید، نسخه SageMaker Studio خود را با خاموش کردن و راه‌اندازی مجدد به‌روزرسانی کنید. برای اطلاعات بیشتر در مورد به روز رسانی نسخه، مراجعه کنید برنامه های استودیو را خاموش و به روز کنید.

همچنین می توانید با انتخاب چهار مدل دیگر را بیابید تمام مدل های تولید متن را کاوش کنید یا جستجوی لاما در کادر جستجو.

در این صفحه می توانید به سرویس ذخیره سازی ساده آمازون سطل (Amazon S3) حاوی مجموعه داده‌های آموزشی و اعتبارسنجی برای تنظیم دقیق. علاوه بر این، می‌توانید پیکربندی استقرار، فراپارامترها و تنظیمات امنیتی را برای تنظیم دقیق پیکربندی کنید. سپس می توانید انتخاب کنید قطار برای شروع کار آموزشی در یک نمونه SageMaker ML. تصویر قبلی صفحه تنظیم دقیق مدل Llama-2 7B را نشان می دهد. با این حال، می‌توانید مدل‌های تولید متن 13B و 70B Llama 2 را با استفاده از صفحات مدل مربوطه آنها به طور مشابه تنظیم کنید. برای استفاده از مدل‌های Llama 2، باید موافقتنامه مجوز کاربر نهایی (EULA) را بپذیرید. زمانی که شما انتخاب می کنید نشان داده می شود قطار، همانطور که در تصویر زیر نشان داده شده است. انتخاب کنید EULA و AUP را خوانده و قبول کرده ام برای شروع کار تنظیم دقیق

مدل را مستقر کنید

پس از تنظیم دقیق مدل، می توانید آن را با استفاده از صفحه مدل در SageMaker JumpStart اجرا کنید. همانطور که در تصویر زیر نشان داده شده است، گزینه استقرار مدل تنظیم شده پس از اتمام تنظیم دقیق ظاهر می شود.

تنظیم دقیق از طریق SageMaker Python SDK

همچنین می‌توانید مدل‌های Llama 2 را با استفاده از SageMaker Python SDK تنظیم کنید. کد زیر یک نمونه کد برای تنظیم دقیق Llama 2 7B در مجموعه داده شما است:

import os
import boto3
from sagemaker.session import Session
from sagemaker.jumpstart.estimator import JumpStartEstimator # To fine-tune the 13B/70B model, please change model_id to `meta-textgeneration-llama-2-13b`/`meta-textgeneration-llama-2-70b`.
model_id = "meta-textgeneration-llama-2-7b" estimator = JumpStartEstimator( model_id=model_id, environment={"accept_eula": "true"}
)
# By default, instruction tuning is set to false. Thus, to use instruction tuning dataset you use
estimator.set_hyperparameters(instruction_tuned="True", epoch="5")
estimator.fit({"training": train_data_location})

شما می توانید مدل دقیق تنظیم شده را مستقیماً از برآوردگر مستقر کنید:

finetuned_predictor = estimator.deploy()

شما همچنین می توانید کد را در مدل‌های LLaMA 2 را در SageMaker JumpStart تنظیم کنید. این شامل آماده سازی مجموعه داده، آموزش بر روی مجموعه داده های سفارشی شما، و استقرار مدل دقیق تنظیم شده است. تنظیم دقیق زیرمجموعه ای از مجموعه داده دالی را با مثال هایی از کار خلاصه سازی نشان می دهد. در زیر نمونه ورودی با پاسخ‌هایی از تنظیم دقیق و تنظیم نشده به همراه پاسخ حقیقت زمین است:

ورودی مدل:

Below is an instruction that describes a task, paired with an input that provides further context. Write a response that appropriately completes the request.nn### Instruction:nWhen did Felix Luna die?nn### Input:nFélix César Luna (30 September 1925 – 5 November 2009) was an Argentine writer, lyricist and historian.nnnn### Response:n

پاسخ حقیقت زمینی:

Felix Luna died on November 5th, 2009

پاسخ از مدل بدون تنظیم دقیق:

Félix César Luna (30 September 1925 – 5 November 2009) was an ArgentinennWhen did Luna die?nnn### Explanation:nWe answer the question with the input's date of birth and the date of death.nnn### Solution: 1102n

پاسخ از مدل دقیق تنظیم شده:

Félix Luna died on November 5th, 2009.nn

برای ارزیابی عملکرد مدل‌های مختلف در مجموعه داده‌های Dolly و Dialogsum، به آدرس زیر مراجعه کنید محک زدن عملکرد بخش در ضمیمه انتهای این پست.

تکنیک تنظیم دقیق

مدل های زبانی مانند Llama بیش از 10 گیگابایت یا حتی 100 گیگابایت حجم دارند. تنظیم دقیق چنین مدل های بزرگی به نمونه هایی با حافظه CUDA بسیار بالا نیاز دارد. علاوه بر این، آموزش این مدل ها به دلیل اندازه مدل می تواند بسیار کند باشد. بنابراین، برای تنظیم دقیق کارآمد، از بهینه‌سازی‌های زیر استفاده می‌کنیم:

• سازگاری با رتبه پایین (LoRA) - این یک نوع تنظیم دقیق کارآمد پارامتر (PEFT) برای تنظیم دقیق کارآمد مدل های بزرگ است. در این، کل مدل را فریز می کنیم و فقط مجموعه کوچکی از پارامترها یا لایه های قابل تنظیم را به مدل اضافه می کنیم. به عنوان مثال، به جای آموزش تمام 7 میلیارد پارامتر برای Llama 2 7B، می‌توانیم کمتر از 1 درصد از پارامترها را تنظیم کنیم. این به کاهش قابل توجه نیاز به حافظه کمک می کند زیرا ما فقط باید گرادیان ها، حالت های بهینه ساز و سایر اطلاعات مربوط به آموزش را فقط برای 1٪ از پارامترها ذخیره کنیم. علاوه بر این، این به کاهش زمان آموزش و همچنین کاهش هزینه کمک می کند. برای جزئیات بیشتر در مورد این روش، مراجعه کنید LoRA: انطباق با رتبه پایین مدل های زبان بزرگ.
• کوانتیزاسیون Int8 – حتی با بهینه‌سازی‌هایی مانند LoRA، مدل‌هایی مانند Llama 70B هنوز برای آموزش بسیار بزرگ هستند. برای کاهش ردپای حافظه در حین تمرین، می توانیم از کوانتیزه سازی Int8 در حین تمرین استفاده کنیم. کوانتیزاسیون معمولاً دقت انواع داده های ممیز شناور را کاهش می دهد. اگرچه این باعث کاهش حافظه مورد نیاز برای ذخیره وزن مدل می شود، اما به دلیل از دست دادن اطلاعات، عملکرد را کاهش می دهد. کوانتیزاسیون Int8 فقط از یک چهارم دقت استفاده می کند، اما باعث کاهش عملکرد نمی شود زیرا به سادگی بیت ها را رها نمی کند. داده ها را از یک نوع به نوع دیگر گرد می کند. برای آشنایی با کوانتیزاسیون Int8 به ادامه مطلب مراجعه کنید LLM.int8(): ضرب ماتریس 8 بیتی برای ترانسفورماتورها در مقیاس.
• موازی داده کاملاً خرد شده (FSDP) - این یک نوع الگوریتم آموزشی موازی داده است که پارامترهای مدل را در بین کارگران موازی داده تقسیم می کند و می تواند به صورت اختیاری بخشی از محاسبات آموزشی را به CPU ها بارگذاری کند. اگرچه پارامترها در بین GPU های مختلف تقسیم می شوند، محاسبه هر میکروبچ برای کارگر GPU محلی است. پارامترها را به طور یکنواخت‌تر خرد می‌کند و از طریق ارتباط و همپوشانی محاسباتی در طول آموزش، عملکرد بهینه‌ای را به دست می‌آورد.

جدول زیر روش های مختلف را با سه مدل Llama 2 مقایسه می کند.

توجه داشته باشید که تنظیم دقیق مدل های Llama بر اساس اسکریپت های ارائه شده توسط موارد زیر است GitHub repo.

قالب مجموعه داده های آموزشی

SageMaker JumpStart در حال حاضر از مجموعه داده‌ها در قالب تطبیق دامنه و فرمت تنظیم دستورالعمل پشتیبانی می‌کند. در این بخش یک مجموعه داده نمونه را در هر دو فرمت مشخص می کنیم. برای جزئیات بیشتر، به قالب بندی مجموعه داده بخش در پیوست

فرمت تطبیق دامنه

مدل Llama 2 تولید متن را می توان بر روی هر مجموعه داده خاص دامنه تنظیم کرد. پس از تنظیم دقیق مجموعه داده‌های دامنه، انتظار می‌رود که مدل متن خاص دامنه را تولید کند و وظایف مختلف NLP را در آن دامنه خاص با درخواست چند شات حل کند. با این مجموعه داده، ورودی از یک فایل CSV، JSON یا TXT تشکیل شده است. به عنوان مثال، داده های ورودی ممکن است فایل های SEC آمازون به عنوان یک فایل متنی باشند:

This report includes estimates, projections, statements relating to our
business plans, objectives, and expected operating results that are “forward-
looking statements” within the meaning of the Private Securities Litigation
Reform Act of 1995, Section 27A of the Securities Act of 1933, and Section 21E
of the Securities Exchange Act of 1934. Forward-looking statements may appear
throughout this report, including the following sections: “Business” (Part I,
Item 1 of this Form 10-K), “Risk Factors” (Part I, Item 1A of this Form 10-K),
and “Management’s Discussion and Analysis of Financial Condition and Results
of Operations” (Part II, Item 7 of this Form 10-K). These forward-looking
statements generally are identified by the words “believe,” “project,”
“expect,” “anticipate,” “estimate,” “intend,” “strategy,” “future,”
“opportunity,” “plan,” “may,” “should,” “will,” “would,” “will be,” “will
continue,” “will likely result,” and similar expressions.

فرمت تنظیم دستورالعمل

در تنظیم دقیق دستورالعمل، مدل برای مجموعه‌ای از وظایف پردازش زبان طبیعی (NLP) که با استفاده از دستورالعمل‌ها شرح داده شده‌اند، تنظیم می‌شود. این به بهبود عملکرد مدل برای کارهای غیرقابل مشاهده با اعلان‌های شات صفر کمک می‌کند. در قالب مجموعه داده تنظیم دستورالعمل، شما را مشخص می کنید template.json فایلی که فرمت های ورودی و خروجی را توصیف می کند. به عنوان مثال، هر خط در فایل train.jsonl به نظر می رسد به شرح زیر است:

{"instruction": "What is a dispersive prism?", "context": "In optics, a dispersive prism is an optical prism that is used to disperse light, that is, to separate light into its spectral components (the colors of the rainbow). Different wavelengths (colors) of light will be deflected by the prism at different angles. This is a result of the prism material's index of refraction varying with wavelength (dispersion). Generally, longer wavelengths (red) undergo a smaller deviation than shorter wavelengths (blue). The dispersion of white light into colors by a prism led Sir Isaac Newton to conclude that white light consisted of a mixture of different colors.", "response": "A dispersive prism is an optical prism that disperses the light's different wavelengths at different angles. When white light is shined through a dispersive prism it will separate into the different colors of the rainbow."}

فایل اضافی template.json به نظر می رسد به شرح زیر است:

{ "prompt": "Below is an instruction that describes a task, paired with an input that provides further context. " "Write a response that appropriately completes the request.nn" "### Instruction:n{instruction}nn### Input:n{context}nn", "completion": " {response}",
}

هایپرپارامترهای پشتیبانی شده برای آموزش

تنظیم دقیق Llama 2 از تعدادی فراپارامتر پشتیبانی می کند که هر کدام می توانند بر نیاز حافظه، سرعت تمرین و عملکرد مدل تنظیم شده تأثیر بگذارند:

• دوره - تعداد پاس هایی که الگوریتم تنظیم دقیق از مجموعه داده آموزشی انجام می دهد. باید یک عدد صحیح بزرگتر از 1 باشد. پیش فرض 5 است.
• یادگیری_نرخ – سرعتی که وزن های مدل پس از کار در هر دسته از نمونه های آموزشی به روز می شوند. باید یک شناور مثبت بزرگتر از 0 باشد. پیش فرض 1e-4 است.
• instruction_tuned – اینکه آیا مدل را آموزش می دهد یا نه. باید باشد 'True' یا 'False'. پیش فرض استFalse".
• اندازه هر_دستگاه_قطار_بچ - اندازه دسته در هر هسته GPU/CPU برای آموزش. باید یک عدد صحیح مثبت باشد. پیش فرض 4 است.
• اندازه هر_دستگاه_eval_batch - اندازه دسته در هر هسته GPU/CPU برای ارزیابی. باید یک عدد صحیح مثبت باشد. پیش فرض 1 است.
• max_train_samples - برای اهداف اشکال زدایی یا آموزش سریعتر، تعداد نمونه های آموزشی را به این مقدار کاهش دهید. مقدار -1 به معنای استفاده از تمام نمونه های آموزشی است. باید یک عدد صحیح مثبت یا -1 باشد. پیش فرض -1 است.
• max_val_samples - برای اهداف اشکال زدایی یا آموزش سریعتر، تعداد نمونه های اعتبارسنجی را به این مقدار کوتاه کنید. مقدار -1 به معنای استفاده از تمام نمونه های اعتبار سنجی است. باید یک عدد صحیح مثبت یا -1 باشد. پیش فرض -1 است.
• حداکثر_طول_ورودی - حداکثر طول توالی ورودی کل پس از توکن سازی. دنباله های طولانی تر از این کوتاه می شوند. اگر -1، max_input_length روی حداقل 1024 و حداکثر طول مدل تعریف شده توسط توکنایزر تنظیم شده است. اگر روی مقدار مثبت تنظیم شود، max_input_length بر روی حداقل مقدار ارائه شده تنظیم شده است model_max_length توسط توکنایزر تعریف شده است. باید یک عدد صحیح مثبت یا -1 باشد. پیش فرض -1 است.
• اعتبار_شکل_نسبت - اگر کانال اعتبارسنجی باشد none، نسبت اعتبار سنجی قطار از داده های قطار باید بین 0-1 باشد. پیش فرض 0.2 است.
• train_data_split_seed - اگر داده های اعتبار سنجی وجود نداشته باشد، این تقسیم تصادفی داده های آموزشی ورودی به داده های آموزشی و اعتبار سنجی مورد استفاده توسط الگوریتم را برطرف می کند. باید یک عدد صحیح باشد. پیش فرض 0 است.
• preprocessing_num_workers - تعداد فرآیندهایی که برای پیش پردازش استفاده می شود. اگر None، فرآیند اصلی برای پیش پردازش استفاده می شود. پیش فرض است None.
• lora_r – Lora R. باید یک عدد صحیح مثبت باشد. پیش فرض 8 است.
• lora_alpha - لورا آلفا. باید یک عدد صحیح مثبت باشد. پیش فرض 32 است
• lora_droopout - ترک تحصیل لورا باید شناور مثبت بین 0 و 1 باشد. پیش فرض 0.05 است.
• int8_quantization - اگر True، مدل با دقت 8 بیت برای آموزش بارگذاری شده است. پیش فرض برای 7B و 13B است False. پیش فرض برای 70B است True.
• enable_fsdp - اگر True، آموزش از FSDP استفاده می کند. پیش فرض برای 7B و 13B است True. پیش فرض برای 70B است False. توجه داشته باشید که int8_quantization با FSDP پشتیبانی نمی شود.

انواع نمونه و فراپارامترهای سازگار

نیاز به حافظه در هنگام تنظیم دقیق ممکن است بر اساس چندین عامل متفاوت باشد:

• نوع مدل – مدل 7B کمترین نیاز به حافظه GPU و 70B بیشترین نیاز به حافظه را دارد
• حداکثر طول ورودی - مقدار بالاتر طول ورودی منجر به پردازش توکن های بیشتر در یک زمان می شود و به همین دلیل به حافظه CUDA بیشتری نیاز دارد.
• اندازه دسته - اندازه دسته بزرگتر به حافظه CUDA بزرگتر نیاز دارد و بنابراین به انواع نمونه های بزرگتر نیاز دارد
• کوانتیزاسیون Int8 - در صورت استفاده از کوانتیزاسیون Int8، مدل با دقت پایین بارگذاری می شود و بنابراین به حافظه CUDA کمتری نیاز دارد.

برای کمک به شما در شروع کار، مجموعه‌ای از ترکیب‌هایی از انواع نمونه‌های مختلف، فراپارامترها و انواع مدل‌ها را ارائه می‌کنیم که می‌توانند با موفقیت تنظیم شوند. شما می توانید پیکربندی را بر اساس نیاز خود و در دسترس بودن انواع نمونه انتخاب کنید. ما هر سه مدل را در تنظیمات مختلف با سه دوره در زیرمجموعه‌ای از مجموعه داده دالی با مثال‌های خلاصه تنظیم می‌کنیم.

مدل 7B

جدول زیر گزینه های تنظیم دقیق مدل 7B را خلاصه می کند.

13B

جدول زیر گزینه های تنظیم دقیق مدل 13B را خلاصه می کند.

70B

جدول زیر گزینه های تنظیم دقیق مدل 70B را خلاصه می کند.

توصیه هایی در مورد انواع نمونه و فراپارامترها

هنگام تنظیم دقیق دقت مدل، موارد زیر را در نظر داشته باشید:

• مدل های بزرگتر مانند 70B عملکرد بهتری نسبت به 7B ارائه می دهند
• عملکرد بدون کوانتیزه سازی Int8 بهتر از عملکرد با کوانتیشن INT8 است

به زمان آموزش زیر و نیازهای حافظه CUDA توجه کنید:

• محیط int8_quantization=True نیاز به حافظه را کاهش می دهد و منجر به تمرین سریعتر می شود.
• کاهنده per_device_train_batch_size و max_input_length نیاز به حافظه را کاهش می دهد و بنابراین می تواند در نمونه های کوچکتر اجرا شود. با این حال، تنظیم مقادیر بسیار پایین ممکن است زمان تمرین را افزایش دهد.
• اگر از کوانتیزاسیون Int8 استفاده نمی کنید (int8_quantization=False، از FSDP استفاده کنید (enable_fsdp=True) برای آموزش سریعتر و کارآمدتر.

هنگام انتخاب نوع نمونه، موارد زیر را در نظر بگیرید:

• نمونه های G5 کارآمدترین آموزش را در بین انواع نمونه های پشتیبانی شده ارائه می دهند. بنابراین، اگر نمونه های G5 در دسترس دارید، باید از آنها استفاده کنید.
• زمان آموزش تا حد زیادی به تعداد GPU ها و حافظه CUDA موجود بستگی دارد. بنابراین، آموزش روی نمونه‌هایی با تعداد واحد پردازش گرافیکی (مثلاً ml.g5.2xlarge و ml.g5.4xlarge) تقریباً یکسان است. بنابراین، می‌توانید از نمونه ارزان‌تر برای آموزش استفاده کنید (ml.g5.2xlarge).
• هنگام استفاده از نمونه های p3، آموزش با دقت 32 بیتی انجام می شود زیرا bfloat16 در این نمونه ها پشتیبانی نمی شود. بنابراین، کار آموزش در مقایسه با نمونه های g3، دو برابر مقدار حافظه CUDA را هنگام آموزش روی نمونه های p5 مصرف می کند.

برای اطلاع از هزینه آموزش به ازای هر نمونه به نمونه های آمازون EC2 G5.

اگر مجموعه داده در قالب تنظیم دستورالعمل باشد و توالی ورودی + تکمیل کوچک باشد (مانند 50 تا 100 کلمه)، پس مقدار زیادی از max_input_length منجر به عملکرد بسیار ضعیف می شود. مقدار پیش فرض این پارامتر -1 است که با max_input_length سال 2048 برای مدل های لاما. بنابراین، توصیه می کنیم که اگر مجموعه داده شما حاوی نمونه های کوچکی است، از مقدار کمی برای استفاده کنید max_input_length (مانند 200-400).

در نهایت، به دلیل تقاضای زیاد نمونه‌های G5، ممکن است در دسترس نبودن این نمونه‌ها در منطقه خود با خطا مواجه شوید. “CapacityError: Unable to provision requested ML compute capacity. Please retry using a different ML instance type.” اگر با این خطا مواجه شدید، کار آموزشی را دوباره امتحان کنید یا منطقه دیگری را امتحان کنید.

مشکلات تنظیم دقیق مدل های بسیار بزرگ

در این بخش، ما دو موضوع را در هنگام تنظیم دقیق مدل های بسیار بزرگ مورد بحث قرار می دهیم.

فشرده سازی خروجی را غیرفعال کنید

به طور پیش فرض، خروجی یک کار آموزشی یک مدل آموزش دیده است که قبل از آپلود در Amazon S3 در قالب tar.gz فشرده می شود. با این حال، به دلیل اندازه بزرگ مدل، این مرحله می تواند زمان زیادی را ببرد. به عنوان مثال، فشرده سازی و آپلود مدل 70B می تواند بیش از 4 ساعت طول بکشد. برای جلوگیری از این مشکل، می‌توانید از ویژگی غیرفعال کردن فشرده‌سازی خروجی که توسط پلتفرم آموزشی SageMaker پشتیبانی می‌شود، استفاده کنید. در این حالت، مدل بدون هیچ فشرده سازی آپلود می شود که بیشتر برای استقرار استفاده می شود:

estimator = JumpStartEstimator(
model_id=model_id, environment={"accept_eula": "true"}, disable_output_compression=True
)

مشکل مهلت زمانی هسته SageMaker Studio

با توجه به اندازه مدل Llama 70B، کار آموزش ممکن است چندین ساعت طول بکشد و هسته SageMaker Studio در مرحله آموزش از بین برود. با این حال، در این مدت، آموزش هنوز در SageMaker در حال اجرا است. اگر این اتفاق افتاد، همچنان می‌توانید نقطه پایانی را با استفاده از نام شغل آموزشی با کد زیر مستقر کنید:

from sagemaker.jumpstart.estimator import JumpStartEstimator
training_job_name = <<<INSERT_TRAINING_JOB_NAME>>> attached_estimator = JumpStartEstimator.attach(training_job_name, model_id)
attached_estimator.logs()
attached_estimator.deploy()

برای یافتن نام شغل آموزشی، به کنسول SageMaker و زیر بروید آموزش در قسمت ناوبری، را انتخاب کنید مشاغل آموزشی. نام شغل آموزشی را مشخص کرده و در کد قبلی جایگزین کنید.

نتیجه

در این پست، ما در مورد تنظیم دقیق مدل‌های Llama 2 متا با استفاده از SageMaker JumpStart صحبت کردیم. ما نشان دادیم که می‌توانید از کنسول SageMaker JumpStart در SageMaker Studio یا SageMaker Python SDK برای تنظیم دقیق و استقرار این مدل‌ها استفاده کنید. ما همچنین در مورد تکنیک تنظیم دقیق، انواع نمونه و فراپارامترهای پشتیبانی شده بحث کردیم. علاوه بر این، بر اساس آزمایش‌های مختلفی که انجام دادیم، توصیه‌هایی برای آموزش بهینه ارائه کردیم. نتایج مربوط به تنظیم دقیق سه مدل در دو مجموعه داده در پیوست در انتهای این پست نشان داده شده است. همانطور که از این نتایج می بینیم، تنظیم دقیق، خلاصه سازی را در مقایسه با مدل های تنظیم نشده بهبود می بخشد. به عنوان گام بعدی، می‌توانید با استفاده از کد ارائه شده در مخزن GitHub، این مدل‌ها را روی مجموعه داده‌های خود تنظیم دقیق کنید تا نتایج را برای موارد استفاده خود آزمایش و محک بزنید.

نویسندگان مایلند از کمک های فنی کریستوفر ویتن، شین هوانگ، کایل اولریش، سیفی لی، امی یو، آدام کوزدرویچ، ایوان کراویتز، بنجامین کرابتری، هائوتین آن، مانان شاه، تونی کروز، ارنف شارما، جاناتان گینه گینه و جون قدردانی کنند. برنده شد.

درباره نویسنده

دکتر ویوک مدان یک دانشمند کاربردی با تیم آمازون SageMaker JumpStart است. او دکترای خود را از دانشگاه ایلینویز در Urbana-Champaign گرفت و پژوهشگر پست دکترا در جورجیا تک بود. او یک محقق فعال در یادگیری ماشین و طراحی الگوریتم است و مقالاتی در کنفرانس های EMNLP، ICLR، COLT، FOCS و SODA منتشر کرده است.

دکتر فاروق صابر یک معمار ارشد راه حل های متخصص هوش مصنوعی و یادگیری ماشین در AWS است. او دارای مدرک دکتری و کارشناسی ارشد در مهندسی برق از دانشگاه تگزاس در آستین و کارشناسی ارشد در علوم کامپیوتر از موسسه فناوری جورجیا است. او بیش از 15 سال سابقه کار دارد و همچنین دوست دارد به دانشجویان کالج تدریس و راهنمایی کند. او در AWS به مشتریان کمک می کند تا مشکلات تجاری خود را در زمینه علم داده، یادگیری ماشین، بینایی کامپیوتر، هوش مصنوعی، بهینه سازی عددی و حوزه های مرتبط فرموله و حل کنند. او و خانواده اش که در دالاس، تگزاس مستقر هستند، عاشق سفر و رفتن به سفرهای جاده ای طولانی هستند.

دکتر آشیش ختان یک دانشمند ارشد کاربردی با Amazon SageMaker JumpStart است و به توسعه الگوریتم های یادگیری ماشین کمک می کند. او دکترای خود را از دانشگاه ایلینویز Urbana-Champaign گرفت. او یک محقق فعال در یادگیری ماشین و استنتاج آماری است و مقالات زیادی در کنفرانس های NeurIPS، ICML، ICLR، JMLR، ACL و EMNLP منتشر کرده است.

ضمیمه

این ضمیمه اطلاعات بیشتری در مورد معیار عملکرد و قالب‌بندی داده‌ها ارائه می‌دهد.

محک زدن عملکرد

در این بخش، ما نتایجی را برای تنظیم دقیق سه مدل Llama 2 (7B، 13B، و 70B) در دو مجموعه داده مختلف ارائه می‌کنیم: عروسک و گفتگو. برای مجموعه داده Dolly، وظیفه ما خلاصه کردن یک پاراگراف از متن است، در حالی که برای Dialogsum، مدل را برای خلاصه کردن بحث بین دو نفر تنظیم می کنیم. در جداول زیر، ورودی مدل (اعلان و دستورالعمل)، حقیقت زمین (خلاصه)، پاسخ از مدل Llama 2 از قبل آموزش دیده و پاسخ از مدل Llama 2 بهینه برای هر یک از سه لاما را نشان می دهیم. 2 مدل. ما نتایج استنتاج را برای پنج نقطه داده نشان می دهیم. از جداول زیر می توانید متوجه شوید که خلاصه ها برای هر دو مجموعه داده زمانی که مدل ها را دقیق تنظیم می کنیم، بهبود می یابد.

• نتایج برای تنظیم دقیق مدل تولید متن Llama 2 7B در مجموعه داده Dolly:

• نتایج برای تنظیم دقیق مدل تولید متن Llama 2 13B در مجموعه داده Dolly:

• نتایج برای تنظیم دقیق مدل تولید متن Llama 2 70B در مجموعه داده Dolly:

• نتایج برای تنظیم دقیق مدل تولید متن Llama 2 7B در مجموعه داده Dialogsum:

• نتایج برای تنظیم دقیق مدل Llama-2 13B در مجموعه داده Dialogsum:

• نتایج برای تنظیم دقیق مدل Llama 2 70B در مجموعه داده Dialogsum:

قالب بندی مجموعه داده

ما در حال حاضر دو نوع تنظیم دقیق ارائه می دهیم: تنظیم دقیق دستورالعمل و تنظیم دقیق تطبیق دامنه. با تعیین پارامتر می توانید به راحتی به یکی از روش های آموزشی سوئیچ کنید instruction_tuned مانند 'True' یا 'False".

فرمت تطبیق دامنه

مدل تولید متن همچنین می‌تواند روی هر مجموعه داده خاص دامنه تنظیم شود. پس از تنظیم دقیق مجموعه داده‌های دامنه، انتظار می‌رود که مدل متن خاص دامنه را تولید کند و وظایف مختلف NLP را در آن دامنه خاص با درخواست چند شات حل کند.

برای ورودی مدل، از دایرکتوری آموزشی و تأیید اعتبار اختیاری استفاده کنید. هر دایرکتوری حاوی یک فایل CSV، JSON یا TXT است. برای فایل‌های CSV و JSON، قطار یا داده‌های اعتبارسنجی از ستونی به نام متن یا ستون اول در صورتی که ستونی نامیده نمی‌شود استفاده می‌شود. text یافت می شود. تعداد فایل های تحت آموزش و اعتبارسنجی (در صورت ارائه) باید به ترتیب برابر با 1 باشد.

خروجی یک مدل آموزش دیده است که می تواند برای استنتاج به کار گرفته شود.

در زیر نمونه ای از فایل TXT برای تنظیم دقیق مدل تولید متن آورده شده است. فایل TXT فایل های SEC آمازون از 2021-2022 است:

This report includes estimates, projections, statements relating to our
business plans, objectives, and expected operating results that are “forward-
looking statements” within the meaning of the Private Securities Litigation
Reform Act of 1995, Section 27A of the Securities Act of 1933, and Section 21E
of the Securities Exchange Act of 1934. Forward-looking statements may appear
throughout this report, including the following sections: “Business” (Part I,
Item 1 of this Form 10-K), “Risk Factors” (Part I, Item 1A of this Form 10-K),
and “Management’s Discussion and Analysis of Financial Condition and Results
of Operations” (Part II, Item 7 of this Form 10-K). These forward-looking
statements generally are identified by the words “believe,” “project,”
“expect,” “anticipate,” “estimate,” “intend,” “strategy,” “future,”
“opportunity,” “plan,” “may,” “should,” “will,” “would,” “will be,” “will
continue,” “will likely result,” and similar expressions. Forward-looking
statements are based on current expectations and assumptions that are subject
to risks and uncertainties that may cause actual results to differ materially.
We describe risks and uncertainties that could cause actual results and events
to differ materially in “Risk Factors,” “Management’s Discussion and Analysis
of Financial Condition and Results of Operations,” and “Quantitative and
Qualitative Disclosures about Market Risk” (Part II, Item 7A of this Form
10-K). Readers are cautioned not to place undue reliance on forward-looking
statements, which speak only as of the date they are made. We undertake no
obligation to update or revise publicly any forward-looking statements,
whether because of new information, future events, or otherwise. GENERAL Embracing Our Future ...

تنظیم دقیق دستورالعمل

مدل تولید متن را می توان بر روی هر داده متنی با دستورالعمل تنظیم کرد، مشروط بر اینکه داده ها در قالب مورد انتظار باشند. مدل تنظیم شده با دستورالعمل را می توان برای استنتاج بیشتر به کار برد.

برای ورودی، از دایرکتوری آموزشی و تأیید اعتبار اختیاری استفاده کنید. دایرکتوری‌های قطار و اعتبارسنجی باید حاوی یک یا چند فایل فرمت‌شده با خط JSON (.jsonl) باشد. به طور خاص، دایرکتوری قطار همچنین می‌تواند حاوی یک فایل *.json اختیاری باشد که فرمت‌های ورودی و خروجی را توصیف می‌کند.

بهترین مدل با توجه به از دست دادن اعتبار، محاسبه شده در پایان هر دوره انتخاب می شود. اگر مجموعه اعتبارسنجی داده نشود، درصد (قابل تنظیم) از داده های آموزشی به طور خودکار تقسیم می شود و برای اعتبار سنجی استفاده می شود.

داده های آموزشی باید در قالب خطوط JSON (jsonl.) قالب بندی شوند، که در آن هر خط یک فرهنگ لغت است که یک نمونه داده واحد را نشان می دهد. تمام داده های آموزشی باید در یک پوشه واحد باشد. با این حال، می توان آن را در چندین فایل .jsonl ذخیره کرد. پسوند فایل jsonl اجباری است. پوشه آموزش همچنین می تواند حاوی یک template.json فایلی که فرمت های ورودی و خروجی را توصیف می کند. در صورتی که فایل قالب داده نشود، از الگوی زیر استفاده می شود:

{ "prompt": "Below is an instruction that describes a task, paired with an input that provides further context. Write a response that appropriately completes the request.nn### Instruction:n{instruction}nn### Input:n{context}`, "completion": "{response}",
}

در این مورد، داده های ورودی های خطوط JSON باید شامل شوند prompt و completion زمینه های. اگر یک قالب سفارشی ارائه شده است، باید از آن نیز استفاده شود prompt و completion کلیدهایی برای تعریف الگوهای ورودی و خروجی. نمونه زیر یک الگوی سفارشی است:

{ "prompt": "question: {question} context: {context}", "completion": "{answer}"
}

در اینجا، داده‌های ورودی‌های خطوط JSON باید شامل موارد زیر باشد question, contextو answer زمینه ها.

خروجی یک مدل آموزش دیده است که می تواند برای استنتاج به کار گرفته شود.

ما زیر مجموعه ای از داده های پرونده های SEC آمازون را ارائه می دهیم. از در دسترس عموم دانلود می شود ادگار. برای دستورالعمل های مربوط به دسترسی به داده ها، مراجعه کنید دسترسی به داده های EDGAR.

مجوز: مجوز Creative Commons Attribution-ShareAlike (CC BY-SA 4.0)

• محتوای مبتنی بر SEO و توزیع روابط عمومی. امروز تقویت شوید.
• PlatoData.Network Vertical Generative Ai. به خودت قدرت بده دسترسی به اینجا.
• PlatoAiStream. هوش وب 3 دانش تقویت شده دسترسی به اینجا.
• PlatoESG. خودرو / خودروهای الکتریکی، کربن ، CleanTech، انرژی، محیط، خورشیدی، مدیریت پسماند دسترسی به اینجا.
• PlatoHealth. هوش بیوتکنولوژی و آزمایشات بالینی. دسترسی به اینجا.
• ChartPrime. بازی معاملاتی خود را با ChartPrime ارتقا دهید. دسترسی به اینجا.
• BlockOffsets. نوسازی مالکیت افست زیست محیطی. دسترسی به اینجا.
• منبع: https://aws.amazon.com/blogs/machine-learning/fine-tune-llama-2-for-text-generation-on-amazon-sagemaker-jumpstart/