قم بضبط Llama 2 لإنشاء النص على Amazon SageMaker JumpStart | خدمات الويب الأمازون

اليوم، يسعدنا أن نعلن عن القدرة على ضبط نماذج Llama 2 بواسطة Meta باستخدام أمازون سيج ميكر جومب ستارت. عائلة Llama 2 من نماذج اللغات الكبيرة (LLMs) عبارة عن مجموعة من نماذج النصوص التوليدية المدربة مسبقًا والمضبوطة بدقة والتي يتراوح حجمها من 7 مليارات إلى 70 مليار معلمة. تم تحسين LLMs المضبوطة بدقة، والتي تسمى Llama-2-chat، لحالات استخدام الحوار. يمكنك بسهولة تجربة هذه النماذج واستخدامها مع SageMaker JumpStart، وهو مركز للتعلم الآلي (ML) يوفر الوصول إلى الخوارزميات والنماذج وحلول تعلم الآلة حتى تتمكن من بدء استخدام تعلم الآلة بسرعة. يمكنك الآن أيضًا ضبط 7 مليار و13 مليار و70 مليار معلمة من نماذج إنشاء النص Llama 2 على SageMaker JumpStart باستخدام أمازون ساجميكر ستوديو واجهة المستخدم ببضع نقرات أو باستخدام SageMaker Python SDK.

لقد كانت النماذج الأساسية للذكاء الاصطناعي التوليدي هي محور معظم أبحاث وحالات استخدام تعلم الآلة والذكاء الاصطناعي لأكثر من عام حتى الآن. تعمل هذه النماذج الأساسية بشكل جيد جدًا مع المهام التوليدية، مثل إنشاء النص والتلخيص والإجابة على الأسئلة وإنشاء الصور والفيديو والمزيد، نظرًا لحجمها الكبير وأيضًا لأنها مدربة على العديد من مجموعات البيانات الكبيرة ومئات المهام. على الرغم من إمكانيات التعميم الكبيرة لهذه النماذج، غالبًا ما تكون هناك حالات استخدام تحتوي على بيانات مجال محددة جدًا (مثل الرعاية الصحية أو الخدمات المالية)، ولهذا السبب قد لا تتمكن هذه النماذج من تقديم نتائج جيدة لحالات الاستخدام هذه. ويؤدي هذا إلى الحاجة إلى مزيد من الضبط الدقيق لنماذج الذكاء الاصطناعي التوليدية هذه على استخدام البيانات الخاصة بالحالة والبيانات الخاصة بالمجال.

في هذا المنشور، سنتعرف على كيفية ضبط نماذج إنشاء النص المدربة مسبقًا في Llama 2 عبر SageMaker JumpStart.

ما هو اللاما 2

Llama 2 هو نموذج لغة ارتداد تلقائي يستخدم بنية محولات محسّنة. اللاما 2 مخصص للاستخدام التجاري والبحثي باللغة الإنجليزية. تأتي في مجموعة من أحجام المعلمات —7 مليار ، و 13 مليارًا ، و 70 مليارًا - بالإضافة إلى الاختلافات المُدربة مسبقًا والمُحكمة. وفقًا لـ Meta ، تستخدم الإصدارات المضبوطة الضبط الدقيق الخاضع للإشراف (SFT) والتعلم المعزز من خلال التغذية المرتدة البشرية (RLHF) للتوافق مع تفضيلات الإنسان من أجل المساعدة والسلامة. تم تدريب Llama 2 مسبقًا على 2 تريليون رمز من البيانات من المصادر المتاحة للجمهور. النماذج المضبوطة مخصصة للدردشة المشابهة للمساعد ، في حين يمكن تكييف النماذج المدربة مسبقًا لمجموعة متنوعة من مهام إنشاء اللغة الطبيعية. بغض النظر عن إصدار النموذج الذي يستخدمه المطور ، فإن ملف دليل الاستخدام المسؤول من Meta يمكن أن تساعد في توجيه الضبط الدقيق الإضافي الذي قد يكون ضروريًا لتخصيص النماذج وتحسينها باستخدام وسائل تخفيف السلامة المناسبة.

تتوفر Llama 2 حاليًا في المناطق التالية:

• نشر النموذج المُدرب مسبقًا المتاح: "us-west-2", "us-east-1", "us-east-2", "eu-west-1", "ap-southeast-1", "ap-southeast-2"
• ضبط النموذج الدقيق ونشره: “us-east-1”, “us-west-2”,“eu-west-1”

ما هو برنامج SageMaker JumpStart

باستخدام SageMaker JumpStart، يمكن لممارسي تعلم الآلة الاختيار من بين مجموعة واسعة من نماذج الأساس المتاحة للعامة. يمكن لممارسي ML نشر النماذج الأساسية لـ مخصصة الأمازون SageMaker مثيلات من بيئة شبكة معزولة وتخصيص النماذج باستخدام SageMaker للتدريب على النماذج ونشرها. يمكنك الآن اكتشاف ونشر Llama 2 ببضع نقرات في SageMaker Studio أو برمجيًا من خلال SageMaker Python SDK، مما يتيح لك استخلاص أداء النموذج وعناصر تحكم MLOps باستخدام ميزات SageMaker مثل خطوط أنابيب Amazon SageMaker, الأمازون SageMaker المصححأو سجلات الحاوية. يتم نشر النموذج في بيئة AWS الآمنة وتحت ضوابط VPC الخاصة بك، مما يساعد على ضمان أمان البيانات. بالإضافة إلى ذلك، يمكنك ضبط نماذج إنشاء النص المدربة مسبقًا Llama2 7B و13B و70B عبر SageMaker JumpStart.

ضبط نماذج Llama2

يمكنك ضبط النماذج باستخدام SageMaker Studio UI أو SageMaker Python SDK. نناقش كلتا الطريقتين في هذا القسم.

الضبط الدقيق بدون تعليمات برمجية عبر واجهة مستخدم SageMaker Studio

في SageMaker Studio، يمكنك الوصول إلى نماذج Llama 2 عبر SageMaker JumpStart أدناه النماذج والدفاتر والحلول، كما هو موضح في الصورة التالية.

إذا كنت لا ترى نماذج Llama 2، فقم بتحديث إصدار SageMaker Studio الخاص بك عن طريق إيقاف التشغيل وإعادة التشغيل. لمزيد من المعلومات حول تحديثات الإصدار، راجع قم بإيقاف تشغيل وتحديث تطبيقات الاستوديو.

يمكنك أيضًا العثور على أربعة نماذج أخرى من خلال الاختيار استكشف جميع نماذج إنشاء النص أو البحث عن اللاما في مربع البحث.

في هذه الصفحة، يمكنك الإشارة إلى خدمة تخزين أمازون البسيطة مجموعة (Amazon S3) تحتوي على مجموعات بيانات التدريب والتحقق من الصحة من أجل الضبط الدقيق. بالإضافة إلى ذلك، يمكنك تكوين تكوين النشر والمعلمات الفائقة وإعدادات الأمان للضبط الدقيق. يمكنك بعد ذلك الاختيار قطار لبدء مهمة التدريب على مثيل SageMaker ML. تعرض لقطة الشاشة السابقة صفحة الضبط الدقيق لنموذج Llama-2 7B؛ ومع ذلك، يمكنك ضبط نماذج إنشاء النص 13B و70B Llama 2 باستخدام صفحات النماذج الخاصة بها بالمثل. لاستخدام نماذج Llama 2، يتعين عليك قبول اتفاقية ترخيص المستخدم النهائي (EULA). وسوف تظهر عندما تختار قطار، كما هو موضح في لقطة الشاشة التالية. يختار لقد قرأت وقبلت اتفاقية ترخيص المستخدم النهائي (EULA) وسياسة الاستخدام المقبول (AUP). لبدء مهمة الضبط الدقيق.

انشر النموذج

بعد ضبط النموذج بشكل دقيق، يمكنك نشره باستخدام صفحة النموذج على SageMaker JumpStart. سيظهر خيار نشر النموذج المضبوط بدقة عند الانتهاء من الضبط الدقيق، كما هو موضح في لقطة الشاشة التالية.

الضبط الدقيق عبر SageMaker Python SDK

يمكنك أيضًا ضبط نماذج Llama 2 باستخدام SageMaker Python SDK. فيما يلي نموذج للتعليمة البرمجية لضبط Llama 2 7B في مجموعة البيانات الخاصة بك:

import os
import boto3
from sagemaker.session import Session
from sagemaker.jumpstart.estimator import JumpStartEstimator # To fine-tune the 13B/70B model, please change model_id to `meta-textgeneration-llama-2-13b`/`meta-textgeneration-llama-2-70b`.
model_id = "meta-textgeneration-llama-2-7b" estimator = JumpStartEstimator( model_id=model_id, environment={"accept_eula": "true"}
)
# By default, instruction tuning is set to false. Thus, to use instruction tuning dataset you use
estimator.set_hyperparameters(instruction_tuned="True", epoch="5")
estimator.fit({"training": train_data_location})

يمكنك نشر النموذج المضبوط مباشرة من المقدر:

finetuned_predictor = estimator.deploy()

يمكنك أيضًا العثور على الكود في قم بضبط نماذج LLaMA 2 على SageMaker JumpStart. ويتضمن إعداد مجموعة البيانات، والتدريب على مجموعة البيانات المخصصة الخاصة بك، ونشر النموذج المضبوط بدقة. وهو يوضح الضبط الدقيق لمجموعة فرعية من مجموعة بيانات Dolly مع أمثلة من مهمة التلخيص. فيما يلي نموذج الإدخال مع الاستجابات من المضبوطة وغير المضبوطة إلى جانب استجابة الحقيقة الأرضية:

الإدخال للنموذج:

Below is an instruction that describes a task, paired with an input that provides further context. Write a response that appropriately completes the request.nn### Instruction:nWhen did Felix Luna die?nn### Input:nFélix César Luna (30 September 1925 – 5 November 2009) was an Argentine writer, lyricist and historian.nnnn### Response:n

رد الحقيقة الأرضية:

Felix Luna died on November 5th, 2009

الرد من النموذج غير المضبوط:

Félix César Luna (30 September 1925 – 5 November 2009) was an ArgentinennWhen did Luna die?nnn### Explanation:nWe answer the question with the input's date of birth and the date of death.nnn### Solution: 1102n

الرد من النموذج الدقيق:

Félix Luna died on November 5th, 2009.nn

لقياس أداء النماذج المختلفة في مجموعة بيانات Dolly وDialogsum، راجع قياس الأداء القسم في الملحق في نهاية هذه المشاركة.

تقنية الضبط الدقيق

يبلغ حجم نماذج اللغة مثل Llama أكثر من 10 جيجابايت أو حتى 100 جيجابايت. يتطلب الضبط الدقيق لهذه النماذج الكبيرة مثيلات ذات ذاكرة CUDA عالية بشكل ملحوظ. علاوة على ذلك، قد يكون تدريب هذه النماذج بطيئًا جدًا نظرًا لحجم النموذج. لذلك، من أجل الضبط الدقيق الفعال، نستخدم التحسينات التالية:

• التكيف ذو الرتبة المنخفضة (LoRA) - هذا نوع من الضبط الدقيق الفعال للمعلمات (PEFT) من أجل الضبط الدقيق الفعال للنماذج الكبيرة. في هذا، نقوم بتجميد النموذج بأكمله وإضافة مجموعة صغيرة فقط من المعلمات أو الطبقات القابلة للتعديل إلى النموذج. على سبيل المثال، بدلاً من تدريب جميع المعلمات البالغ عددها 7 مليار لـ Llama 2 7B، يمكننا ضبط أقل من 1% من المعلمات. يساعد هذا في تقليل متطلبات الذاكرة بشكل كبير لأننا نحتاج فقط إلى تخزين التدرجات وحالات المُحسِّن والمعلومات الأخرى المتعلقة بالتدريب لـ 1% فقط من المعلمات. علاوة على ذلك، يساعد ذلك في تقليل وقت التدريب وكذلك التكلفة. لمزيد من التفاصيل حول هذه الطريقة، راجع LoRA: التكيف منخفض الرتبة لنماذج اللغة الكبيرة.
• Int8 التكميم - حتى مع التحسينات مثل LoRA، لا تزال نماذج مثل Llama 70B أكبر من أن يتم تدريبها. لتقليل أثر الذاكرة أثناء التدريب، يمكننا استخدام تكميم Int8 أثناء التدريب. عادةً ما يقلل التكميم من دقة أنواع بيانات النقطة العائمة. على الرغم من أن هذا يقلل من الذاكرة المطلوبة لتخزين أوزان النماذج، إلا أنه يؤدي إلى انخفاض الأداء بسبب فقدان المعلومات. يستخدم تكميم Int8 ربع الدقة فقط ولكنه لا يؤدي إلى تدهور الأداء لأنه لا يسقط البتات ببساطة. يقوم بتقريب البيانات من نوع إلى آخر. لمعرفة المزيد عن تكميم Int8، راجع LLM.int8(): مضاعفة مصفوفة 8 بت للمحولات على نطاق واسع.
• البيانات المتوازية بالكامل (FSDP) - هذا نوع من خوارزمية التدريب المتوازية للبيانات التي تقوم بتقسيم معلمات النموذج عبر العاملين المتوازيين للبيانات ويمكن اختياريًا إلغاء تحميل جزء من حساب التدريب إلى وحدات المعالجة المركزية (CPU). على الرغم من أن المعلمات مقسمة عبر وحدات معالجة الرسومات المختلفة، إلا أن حساب كل دفعة صغيرة يكون محليًا لعامل وحدة معالجة الرسومات. إنه يقسم المعلمات بشكل أكثر اتساقًا ويحقق الأداء الأمثل من خلال تداخل الاتصالات والحساب أثناء التدريب.

يقارن الجدول التالي الطرق المختلفة مع نماذج Llama 2 الثلاثة.

لاحظ أن الضبط الدقيق لنماذج اللاما يعتمد على البرامج النصية المقدمة من خلال ما يلي جيثب ريبو.

تنسيق مجموعة بيانات التدريب

يدعم SageMaker JumpStart حاليًا مجموعات البيانات في كل من تنسيق تكييف المجال وتنسيق ضبط التعليمات. في هذا القسم، نحدد مجموعة بيانات نموذجية في كلا التنسيقين. لمزيد من التفاصيل، راجع تنسيق مجموعة البيانات القسم في الملحق

تنسيق التكيف المجال

يمكن ضبط نموذج إنشاء النص Llama 2 على أي مجموعة بيانات خاصة بالمجال. بعد ضبطه على مجموعة البيانات الخاصة بالمجال، من المتوقع أن يقوم النموذج بإنشاء نص خاص بالمجال وحل مهام البرمجة اللغوية العصبية المتنوعة في هذا المجال المحدد مع عدد قليل من اللقطات. باستخدام مجموعة البيانات هذه، يتكون الإدخال من ملف CSV أو JSON أو TXT. على سبيل المثال، قد تكون البيانات المدخلة بمثابة ملفات نصية لدى هيئة الأوراق المالية والبورصات الأمريكية (SEC) لشركة أمازون كملف نصي:

This report includes estimates, projections, statements relating to our
business plans, objectives, and expected operating results that are “forward-
looking statements” within the meaning of the Private Securities Litigation
Reform Act of 1995, Section 27A of the Securities Act of 1933, and Section 21E
of the Securities Exchange Act of 1934. Forward-looking statements may appear
throughout this report, including the following sections: “Business” (Part I,
Item 1 of this Form 10-K), “Risk Factors” (Part I, Item 1A of this Form 10-K),
and “Management’s Discussion and Analysis of Financial Condition and Results
of Operations” (Part II, Item 7 of this Form 10-K). These forward-looking
statements generally are identified by the words “believe,” “project,”
“expect,” “anticipate,” “estimate,” “intend,” “strategy,” “future,”
“opportunity,” “plan,” “may,” “should,” “will,” “would,” “will be,” “will
continue,” “will likely result,” and similar expressions.

تنسيق ضبط التعليمات

في عملية ضبط التعليمات، يتم ضبط النموذج بشكل دقيق لمجموعة من مهام معالجة اللغة الطبيعية (NLP) الموضحة باستخدام التعليمات. يساعد هذا في تحسين أداء النموذج للمهام غير المرئية من خلال المطالبات الصفرية. في تنسيق مجموعة بيانات ضبط التعليمات، يمكنك تحديد template.json ملف يصف تنسيقات الإدخال والإخراج. على سبيل المثال، كل سطر في الملف train.jsonl يشبه ما يلي:

{"instruction": "What is a dispersive prism?", "context": "In optics, a dispersive prism is an optical prism that is used to disperse light, that is, to separate light into its spectral components (the colors of the rainbow). Different wavelengths (colors) of light will be deflected by the prism at different angles. This is a result of the prism material's index of refraction varying with wavelength (dispersion). Generally, longer wavelengths (red) undergo a smaller deviation than shorter wavelengths (blue). The dispersion of white light into colors by a prism led Sir Isaac Newton to conclude that white light consisted of a mixture of different colors.", "response": "A dispersive prism is an optical prism that disperses the light's different wavelengths at different angles. When white light is shined through a dispersive prism it will separate into the different colors of the rainbow."}

الملف الإضافي template.json يشبه ما يلي:

{ "prompt": "Below is an instruction that describes a task, paired with an input that provides further context. " "Write a response that appropriately completes the request.nn" "### Instruction:n{instruction}nn### Input:n{context}nn", "completion": " {response}",
}

المعلمات الفائقة المدعومة للتدريب

يدعم الضبط الدقيق لـ Llama 2 عددًا من المعلمات الفائقة، كل منها يمكن أن يؤثر على متطلبات الذاكرة، وسرعة التدريب، وأداء النموذج المضبوط بدقة:

• عصر - عدد التمريرات التي تجريها خوارزمية الضبط الدقيق عبر مجموعة بيانات التدريب. يجب أن يكون عددًا صحيحًا أكبر من 1. الإعداد الافتراضي هو 5.
• معدل التعليم – معدل تحديث أوزان النموذج بعد العمل على كل دفعة من الأمثلة التدريبية. يجب أن يكون تعويمًا موجبًا أكبر من 0. القيمة الافتراضية هي 1e-4.
• التعليمات_ضبطها – هل سيتم تعليم النموذج أم لا. لا بد وأن 'True"أو"False'. الافتراضي هو 'False".
• per_device_train_batch_size – حجم الدفعة لكل وحدة معالجة الرسومات الأساسية/وحدة المعالجة المركزية للتدريب. يجب ان يكون تصحيحا اجابيا. الافتراضي هو 4.
• per_device_eval_batch_size - حجم الدفعة لكل وحدة معالجة الرسومات الأساسية/وحدة المعالجة المركزية للتقييم. يجب ان يكون تصحيحا اجابيا. الافتراضي هو 1.
• max_train_samples – لأغراض تصحيح الأخطاء أو التدريب بشكل أسرع، قم باقتطاع عدد أمثلة التدريب لهذه القيمة. القيمة -1 تعني استخدام كافة عينات التدريب. يجب أن يكون عددًا صحيحًا موجبًا أو -1. الافتراضي هو -1.
• max_val_samples – لأغراض تصحيح الأخطاء أو التدريب بشكل أسرع، قم باقتطاع عدد أمثلة التحقق من الصحة لهذه القيمة. القيمة -1 تعني استخدام كافة عينات التحقق من الصحة. يجب أن يكون عددًا صحيحًا موجبًا أو -1. الافتراضي هو -1.
• max_input_length - الحد الأقصى لطول تسلسل الإدخال الإجمالي بعد الترميز. سيتم اقتطاع تسلسلات أطول من هذا. إذا -1، max_input_length تم ضبطه على الحد الأدنى وهو 1024 والحد الأقصى لطول النموذج الذي يحدده برنامج الرمز المميز. إذا تم تعيينها على قيمة إيجابية، max_input_length تم ضبطه على الحد الأدنى من القيمة المقدمة و model_max_length تم تعريفه بواسطة الرمز المميز. يجب أن يكون عددًا صحيحًا موجبًا أو -1. الافتراضي هو -1.
• validation_split_ratio - إذا كانت قناة التحقق من الصحة none، يجب أن تكون نسبة فصل التحقق من صحة القطار من بيانات القطار بين 0-1. الافتراضي هو 0.2.
• Train_data_split_seed - في حالة عدم وجود بيانات التحقق من الصحة، يؤدي ذلك إلى إصلاح التقسيم العشوائي لبيانات التدريب المدخلة إلى بيانات التدريب والتحقق التي تستخدمها الخوارزمية. يجب أن يكون صحيحا. الافتراضي هو 0.
• المعالجة المسبقة_num_workers – عدد العمليات المستخدمة للمعالجة المسبقة. لو None، يتم استخدام العملية الرئيسية للمعالجة المسبقة. الافتراضي هو None.
• lora_r – لورا ر. يجب أن يكون عدداً صحيحاً موجباً. الافتراضي هو 8.
• lora_alpha - لورا ألفا. يجب ان يكون تصحيحا اجابيا. الافتراضي هو 32
• lora_dropout - لورا التسرب. يجب أن يكون تعويمًا موجبًا بين 0 و1. القيمة الافتراضية هي 0.05.
• int8_quantization - إذا True، يتم تحميل النموذج بدقة 8 بت للتدريب. الافتراضي لـ 7B و13B هو False. الافتراضي لـ 70B هو True.
• تمكين_fsdp - إذا True، يستخدم التدريب FSDP. الافتراضي لـ 7B و13B هو True. الافتراضي لـ 70B هو False. لاحظ أن int8_quantization غير مدعوم مع FSDP.

أنواع المثيلات والمعلمات الفائقة المتوافقة

قد تختلف متطلبات الذاكرة أثناء الضبط الدقيق بناءً على عدة عوامل:

• نوع النموذج - الطراز 7B لديه أقل متطلبات ذاكرة وحدة معالجة الرسومات (GPU) والطراز 70B لديه أكبر متطلبات الذاكرة
• الحد الأقصى لطول الإدخال - تؤدي القيمة الأعلى لطول الإدخال إلى معالجة المزيد من الرموز المميزة في المرة الواحدة، وبالتالي تتطلب المزيد من ذاكرة CUDA
• حجم الدفعة - يتطلب حجم الدفعة الأكبر ذاكرة CUDA أكبر وبالتالي يتطلب أنواع مثيلات أكبر
• Int8 التكميم - في حالة استخدام تكميم Int8، يتم تحميل النموذج بدقة منخفضة وبالتالي يتطلب ذاكرة CUDA أقل

لمساعدتك على البدء، نقدم مجموعة من المجموعات من أنواع المثيلات المختلفة والمعلمات الفائقة وأنواع النماذج التي يمكن ضبطها بدقة بنجاح. يمكنك تحديد التكوين وفقًا لمتطلباتك ومدى توفر أنواع المثيلات. نقوم بضبط النماذج الثلاثة جميعها على مجموعة متنوعة من الإعدادات مع ثلاث فترات على مجموعة فرعية من مجموعة بيانات Dolly مع أمثلة التلخيص.

نموذج 7 ب

يلخص الجدول التالي خيارات الضبط الدقيق في الطراز 7B.

13B

يلخص الجدول التالي خيارات الضبط الدقيق في الطراز 13B.

70B

يلخص الجدول التالي خيارات الضبط الدقيق في الطراز 70B.

توصيات بشأن أنواع المثيلات والمعلمات الفائقة

عند ضبط دقة النموذج، ضع في اعتبارك ما يلي:

• توفر الموديلات الأكبر حجمًا مثل 70B أداءً أفضل من 7B
• الأداء بدون تكميم Int8 أفضل من الأداء باستخدام تكميم INT8

لاحظ وقت التدريب التالي ومتطلبات ذاكرة CUDA:

• الضبط int8_quantization=True يقلل من متطلبات الذاكرة ويؤدي إلى تدريب أسرع.
• تقليل per_device_train_batch_size و max_input_length يقلل من متطلبات الذاكرة وبالتالي يمكن تشغيله على مثيلات أصغر. ومع ذلك، فإن تحديد قيم منخفضة جدًا قد يؤدي إلى زيادة وقت التدريب.
• إذا كنت لا تستخدم تكميم Int8 (int8_quantization=False)، استخدم FSDP (enable_fsdp=True) لتدريب أسرع وأكثر كفاءة.

عند اختيار نوع المثيل، ضع في اعتبارك ما يلي:

• توفر مثيلات G5 التدريب الأكثر كفاءة بين أنواع المثيلات المدعومة. لذلك، إذا كانت لديك مثيلات G5 متاحة، فيجب عليك استخدامها.
• يعتمد وقت التدريب إلى حد كبير على مقدار عدد وحدات معالجة الرسومات وذاكرة CUDA المتوفرة. ولذلك، فإن التدريب على المثيلات التي لها نفس العدد من وحدات معالجة الرسومات (على سبيل المثال، ml.g5.2xlarge وml.g5.4xlarge) هو نفسه تقريبًا. لذلك، يمكنك استخدام المثيل الأرخص للتدريب (ml.g5.2xlarge).
• عند استخدام مثيلات p3، سيتم إجراء التدريب بدقة 32 بت لأن bfloat16 غير مدعوم في هذه المثيلات. لذلك، ستستهلك مهمة التدريب ضعف كمية ذاكرة CUDA عند التدريب على مثيلات p3 مقارنة بمثيلات g5.

للتعرف على تكلفة التدريب لكل مثيل، راجع مثيلات Amazon EC2 G5.

إذا كانت مجموعة البيانات في تنسيق ضبط التعليمات وكانت تسلسلات الإدخال والإكمال صغيرة (مثل 50-100 كلمة)، فستكون قيمة عالية max_input_length يؤدي إلى أداء ضعيف للغاية. القيمة الافتراضية لهذه المعلمة هي -1، والتي تتوافق مع max_input_length لعام 2048 لنماذج اللاما. لذلك، نوصي باستخدام قيمة صغيرة لـ إذا كانت مجموعة البيانات الخاصة بك تحتوي على عينات صغيرة max_input_length (مثل 200-400).

أخيرًا، نظرًا لارتفاع الطلب على مثيلات G5، قد تواجه عدم توفر هذه المثيلات في منطقتك مع ظهور الخطأ “CapacityError: Unable to provision requested ML compute capacity. Please retry using a different ML instance type.” إذا واجهت هذا الخطأ، فأعد محاولة مهمة التدريب أو جرب منطقة مختلفة.

مشاكل عند ضبط النماذج الكبيرة جدًا

في هذا القسم، نناقش مسألتين عند ضبط النماذج الكبيرة جدًا.

تعطيل ضغط الإخراج

افتراضيًا، تكون مخرجات مهمة التدريب عبارة عن نموذج مُدرب يتم ضغطه بتنسيق ‎.tar.gz قبل تحميله إلى Amazon S3. ومع ذلك، نظرًا لحجم النموذج الكبير، قد تستغرق هذه الخطوة وقتًا طويلاً. على سبيل المثال، يمكن أن يستغرق ضغط النموذج 70B وتحميله أكثر من 4 ساعات. لتجنب هذه المشكلة، يمكنك استخدام ميزة تعطيل ضغط الإخراج التي تدعمها منصة التدريب SageMaker. في هذه الحالة، يتم تحميل النموذج دون أي ضغط، والذي يتم استخدامه أيضًا للنشر:

estimator = JumpStartEstimator(
model_id=model_id, environment={"accept_eula": "true"}, disable_output_compression=True
)

مشكلة مهلة نواة SageMaker Studio

نظرًا لحجم نموذج Llama 70B، قد تستغرق مهمة التدريب عدة ساعات وقد تموت نواة SageMaker Studio أثناء مرحلة التدريب. ومع ذلك، خلال هذا الوقت، لا يزال التدريب قيد التنفيذ في SageMaker. إذا حدث ذلك، فلا يزال بإمكانك نشر نقطة النهاية باستخدام اسم مهمة التدريب بالكود التالي:

from sagemaker.jumpstart.estimator import JumpStartEstimator
training_job_name = <<<INSERT_TRAINING_JOB_NAME>>> attached_estimator = JumpStartEstimator.attach(training_job_name, model_id)
attached_estimator.logs()
attached_estimator.deploy()

للعثور على اسم مهمة التدريب، انتقل إلى وحدة تحكم SageMaker وتحت قادة الإيمان في جزء التنقل ، اختر وظائف التدريب. حدد اسم الوظيفة التدريبية واستبدله في الكود السابق.

وفي الختام

في هذا المنشور، ناقشنا الضبط الدقيق لنماذج Meta's Llama 2 باستخدام SageMaker JumpStart. لقد أظهرنا أنه يمكنك استخدام وحدة التحكم SageMaker JumpStart في SageMaker Studio أو SageMaker Python SDK لضبط هذه النماذج ونشرها. ناقشنا أيضًا تقنية الضبط الدقيق وأنواع المثيلات والمعلمات الفائقة المدعومة. بالإضافة إلى ذلك، قمنا بتحديد توصيات للتدريب الأمثل بناءً على الاختبارات المختلفة التي أجريناها. تظهر نتائج ضبط النماذج الثلاثة على مجموعتي بيانات في الملحق الموجود في نهاية هذا المنشور. وكما نرى من هذه النتائج، فإن الضبط الدقيق يحسن التلخيص مقارنة بالنماذج غير المضبوطة بدقة. كخطوة تالية، يمكنك محاولة ضبط هذه النماذج على مجموعة البيانات الخاصة بك باستخدام الكود المتوفر في مستودع GitHub لاختبار النتائج وقياسها لحالات الاستخدام الخاصة بك.

يود المؤلفون الاعتراف بالمساهمات الفنية لكريستوفر ويتن، وشين هوانغ، وكايل أولريش، وسيفي لي، وآيمي يو، وآدم كوزدرويتش، وإيفان كرافيتز، وبنجامين كرابتري، وهاوتيان آن، ومانان شاه، وتوني كروز، وإرنيف شارما، وجوناثان جينيجان، ويونيو. فاز.

حول المؤلف

الدكتور فيفيك مادان هو عالم تطبيقي مع فريق Amazon SageMaker JumpStart. حصل على الدكتوراه من جامعة إلينوي في Urbana-Champaign وكان باحثًا بعد الدكتوراه في Georgia Tech. وهو باحث نشط في التعلم الآلي وتصميم الخوارزمية وقد نشر أوراقًا علمية في مؤتمرات EMNLP و ICLR و COLT و FOCS و SODA.

د.فاروق صابر هو مهندس حلول متخصص في الذكاء الاصطناعي وتعلم الآلة في AWS. وهو حاصل على درجتي الدكتوراه والماجستير في الهندسة الكهربائية من جامعة تكساس في أوستن ودرجة الماجستير في علوم الكمبيوتر من معهد جورجيا للتكنولوجيا. لديه أكثر من 15 عامًا من الخبرة العملية ويحب أيضًا تعليم وإرشاد طلاب الجامعات. في AWS ، يساعد العملاء على صياغة مشاكل أعمالهم وحلها في علوم البيانات والتعلم الآلي ورؤية الكمبيوتر والذكاء الاصطناعي والتحسين العددي والمجالات ذات الصلة. من مقره في دالاس ، تكساس ، يحب هو وعائلته السفر والقيام برحلات طويلة على الطريق.

د. أشيش خيتان هو عالم تطبيقي أقدم في Amazon SageMaker JumpStart ويساعد في تطوير خوارزميات التعلم الآلي. حصل على الدكتوراه من جامعة إلينوي في أوربانا شامبين. وهو باحث نشط في التعلم الآلي والاستدلال الإحصائي ، وقد نشر العديد من الأوراق البحثية في مؤتمرات NeurIPS و ICML و ICLR و JMLR و ACL و EMNLP.

الزائدة الدودية

يوفر هذا الملحق معلومات إضافية حول قياس الأداء وتنسيق مجموعة البيانات.

قياس الأداء

في هذا القسم، نقدم نتائج لضبط نماذج Llama 2 الثلاثة (7B و13B و70B) على مجموعتين مختلفتين من البيانات: عربة و مجموع الحوار. بالنسبة لمجموعة بيانات Dolly، تتمثل مهمتنا في تلخيص فقرة من النص، بينما بالنسبة إلى Dialogsum، نقوم بضبط النموذج لتلخيص مناقشة بين شخصين. في الجداول التالية، نعرض مدخلات النموذج (الموجه والتعليمات)، والحقيقة الأرضية (الملخص)، والاستجابة من نموذج Llama 2 المدرب مسبقًا، والاستجابة من نموذج Llama 2 المضبوط بدقة لكل من اللاما الثلاثة 2 نماذج. نعرض نتائج الاستدلال لخمس نقاط بيانات. يمكنك أن تلاحظ من الجداول التالية أن الملخصات تتحسن لكلا مجموعتي البيانات عندما نقوم بضبط النماذج.

• نتائج الضبط الدقيق لنموذج إنشاء النص Llama 2 7B في مجموعة بيانات Dolly:

• نتائج الضبط الدقيق لنموذج إنشاء النص Llama 2 13B في مجموعة بيانات Dolly:

• نتائج الضبط الدقيق لنموذج إنشاء النص Llama 2 70B في مجموعة بيانات Dolly:

• نتائج الضبط الدقيق لنموذج إنشاء النص Llama 2 7B في مجموعة بيانات Dialogsum:

• نتائج الضبط الدقيق لنموذج Llama-2 13B في مجموعة بيانات Dialogsum:

• نتائج الضبط الدقيق لنموذج Llama 2 70B في مجموعة بيانات Dialogsum:

تنسيق مجموعة البيانات

نقدم حاليًا نوعين من الضبط الدقيق: الضبط الدقيق للتعليمات والضبط الدقيق للتكيف مع المجال. يمكنك التبديل بسهولة إلى إحدى طرق التدريب عن طريق تحديد المعلمة instruction_tuned مثل 'True"أو"False".

تنسيق التكيف المجال

يمكن أيضًا ضبط نموذج إنشاء النص على أي مجموعة بيانات خاصة بالمجال. بعد ضبطه على مجموعة البيانات الخاصة بالمجال، من المتوقع أن يقوم النموذج بإنشاء نص خاص بالمجال وحل مهام البرمجة اللغوية العصبية المتنوعة في هذا المجال المحدد مع عدد قليل من اللقطات.

للإدخال في النموذج، استخدم دليل التحقق من الصحة التدريبي والاختياري. يحتوي كل دليل على ملف CSV أو JSON أو TXT. بالنسبة لملفات CSV وJSON، يتم استخدام بيانات التدريب أو التحقق من الصحة من العمود المسمى نص أو العمود الأول إذا لم يكن هناك عمود يسمى text وجد. يجب أن يساوي عدد الملفات قيد التدريب والتحقق من الصحة (إذا تم توفيرها) 1، على التوالي.

الناتج هو نموذج مدرب يمكن نشره للاستدلال.

ما يلي هو مثال لملف TXT لضبط نموذج إنشاء النص. ملف TXT هو ملفات SEC الخاصة بأمازون من 2021 إلى 2022:

This report includes estimates, projections, statements relating to our
business plans, objectives, and expected operating results that are “forward-
looking statements” within the meaning of the Private Securities Litigation
Reform Act of 1995, Section 27A of the Securities Act of 1933, and Section 21E
of the Securities Exchange Act of 1934. Forward-looking statements may appear
throughout this report, including the following sections: “Business” (Part I,
Item 1 of this Form 10-K), “Risk Factors” (Part I, Item 1A of this Form 10-K),
and “Management’s Discussion and Analysis of Financial Condition and Results
of Operations” (Part II, Item 7 of this Form 10-K). These forward-looking
statements generally are identified by the words “believe,” “project,”
“expect,” “anticipate,” “estimate,” “intend,” “strategy,” “future,”
“opportunity,” “plan,” “may,” “should,” “will,” “would,” “will be,” “will
continue,” “will likely result,” and similar expressions. Forward-looking
statements are based on current expectations and assumptions that are subject
to risks and uncertainties that may cause actual results to differ materially.
We describe risks and uncertainties that could cause actual results and events
to differ materially in “Risk Factors,” “Management’s Discussion and Analysis
of Financial Condition and Results of Operations,” and “Quantitative and
Qualitative Disclosures about Market Risk” (Part II, Item 7A of this Form
10-K). Readers are cautioned not to place undue reliance on forward-looking
statements, which speak only as of the date they are made. We undertake no
obligation to update or revise publicly any forward-looking statements,
whether because of new information, future events, or otherwise. GENERAL Embracing Our Future ...

تعليمات صقل

يمكن ضبط نموذج إنشاء النص حسب التعليمات على أي بيانات نصية بشرط أن تكون البيانات بالتنسيق المتوقع. يمكن نشر النموذج المضبوط للتعليمات بشكل أكبر للاستدلال.

للإدخال، استخدم دليل التحقق من الصحة والتدريب الاختياري. يجب أن تحتوي أدلة التدريب والتحقق من الصحة على ملف واحد أو أكثر بتنسيق خطوط JSON (.jsonl). على وجه الخصوص، يمكن أن يحتوي دليل القطار أيضًا على ملف *.json اختياري يصف تنسيقات الإدخال والإخراج.

ويتم اختيار النموذج الأفضل وفقًا لخسارة التحقق من الصحة، والتي يتم حسابها في نهاية كل فترة. إذا لم يتم تقديم مجموعة التحقق من الصحة، فسيتم تقسيم نسبة (قابلة للتعديل) من بيانات التدريب تلقائيًا واستخدامها للتحقق من الصحة.

يجب تنسيق بيانات التدريب بتنسيق خطوط JSON (.jsonl)، حيث يكون كل سطر عبارة عن قاموس يمثل عينة بيانات واحدة. يجب أن تكون جميع بيانات التدريب في مجلد واحد؛ ومع ذلك، يمكن حفظه في ملفات .jsonl متعددة. ملحق الملف .jsonl إلزامي. يمكن أن يحتوي مجلد التدريب أيضًا على ملف template.json ملف يصف تنسيقات الإدخال والإخراج. إذا لم يتم توفير ملف القالب، فسيتم استخدام القالب التالي:

{ "prompt": "Below is an instruction that describes a task, paired with an input that provides further context. Write a response that appropriately completes the request.nn### Instruction:n{instruction}nn### Input:n{context}`, "completion": "{response}",
}

في هذه الحالة، يجب أن تتضمن البيانات الموجودة في إدخالات خطوط JSON prompt و completion مجالات. إذا تم توفير قالب مخصص، فيجب استخدامه أيضًا prompt و completion مفاتيح لتحديد قوالب الإدخال والإخراج. فيما يلي نموذج لقالب مخصص:

{ "prompt": "question: {question} context: {context}", "completion": "{answer}"
}

هنا، يجب أن تتضمن البيانات الموجودة في إدخالات أسطر JSON ما يلي question, contextو answer الحقول.

الناتج هو نموذج مدرب يمكن نشره للاستدلال.

نحن نقدم مجموعة فرعية من بيانات إيداعات SEC الخاصة بأمازون. يتم تنزيله من المتاحة للجمهور EDGAR. للحصول على تعليمات حول الوصول إلى البيانات، راجع الوصول إلى بيانات EDGAR.

رخصة: رخصة المشاع الإبداعي الإسناد - المشاركة بالمثل (CC BY-SA 4.0)

• محتوى مدعوم من تحسين محركات البحث وتوزيع العلاقات العامة. تضخيم اليوم.
• PlatoData.Network Vertical Generative Ai. تمكين نفسك. الوصول هنا.
• أفلاطونايستريم. ذكاء Web3. تضخيم المعرفة. الوصول هنا.
• أفلاطون السيارات / المركبات الكهربائية ، كربون، كلينتك ، الطاقة، بيئة، شمسي، إدارة المخلفات. الوصول هنا.
• أفلاطون هيلث. التكنولوجيا الحيوية وذكاء التجارب السريرية. الوصول هنا.
• تشارت بريم. ارفع مستوى لعبة التداول الخاصة بك مع ChartPrime. الوصول هنا.
• BlockOffsets. تحديث ملكية الأوفست البيئية. الوصول هنا.
• المصدر https://aws.amazon.com/blogs/machine-learning/fine-tune-llama-2-for-text-generation-on-amazon-sagemaker-jumpstart/