כוונן את Llama 2 ליצירת טקסט באמזון SageMaker JumpStart | שירותי האינטרנט של אמזון

היום, אנו נרגשים להכריז על היכולת לכוונן עדין דגמי Llama 2 על ידי Meta באמצעות אמזון SageMaker JumpStart. משפחת Llama 2 של מודלים של שפה גדולה (LLMs) היא אוסף של מודלים של טקסט יצירתי מאומנים מראש, בקנה מידה של 7 מיליארד עד 70 מיליארד פרמטרים. LLMs מכוונים עדין, הנקראים Llama-2-chat, מותאמים למקרי שימוש בדיאלוג. אתה יכול בקלות לנסות את המודלים האלה ולהשתמש בהם עם SageMaker JumpStart, שהוא רכזת למידת מכונה (ML) המספקת גישה לאלגוריתמים, מודלים ופתרונות ML כדי שתוכל להתחיל במהירות עם ML. עכשיו אתה יכול גם לכוונן 7 מיליארד, 13 מיליארד ו-70 מיליארד פרמטרים של דגמי יצירת טקסט של Lama 2 ב- SageMaker JumpStart באמצעות סטודיו SageMaker של אמזון ממשק משתמש בכמה קליקים או באמצעות SageMaker Python SDK.

מודלים של יסודות בינה מלאכותית גנרטיבית היו המוקד של רוב המחקר והשימוש במקרי ML ובינה מלאכותית כבר למעלה משנה. מודלים בסיסיים אלו מתפקדים טוב מאוד עם משימות גנרטיביות, כגון הפקת טקסט, סיכום, מענה לשאלות, יצירת תמונות ווידאו ועוד, בגלל הגודל הגדול שלהם וגם בגלל שהם מאומנים על כמה מערכי נתונים גדולים ומאות משימות. למרות יכולות ההכללה הנהדרות של מודלים אלו, לעיתים קרובות ישנם מקרי שימוש בעלי נתוני תחום מאוד ספציפיים (כגון שירותי בריאות או שירותים פיננסיים), שבגללם ייתכן שהמודלים הללו לא יוכלו לספק תוצאות טובות עבור מקרי שימוש אלו. כתוצאה מכך יש צורך בכוונון נוסף של מודלים אלו בינה מלאכותית על פני הנתונים הספציפיים למקרה ולתחום השימוש.

בפוסט זה, אנו עוברים דרך כיצד לכוונן דגמי יצירת טקסט מאומנים מראש של Llama 2 באמצעות SageMaker JumpStart.

מה זה לאמה 2

Llama 2 הוא מודל שפה אוטומטי רגרסיבי המשתמש בארכיטקטורת שנאי אופטימלית. Llama 2 מיועד לשימוש מסחרי ומחקרי באנגלית. הוא מגיע במגוון גדלים של פרמטרים - 7 מיליארד, 13 מיליארד ו-70 מיליארד - כמו גם וריאציות מאומנות ומכווננות מראש. לפי Meta, הגרסאות המכווננות משתמשות בכוונון עדין מפוקח (SFT) ולמידת חיזוק עם משוב אנושי (RLHF) כדי להתאים להעדפות אנושיות לעזרה ובטיחות. לאמה 2 הוכשרה מראש על 2 טריליון אסימונים של נתונים ממקורות זמינים לציבור. הדגמים המכוונים מיועדים לצ'אט דמוי עוזר, בעוד שניתן להתאים דגמים שהוכשרו מראש למגוון משימות יצירת שפה טבעית. לא משנה באיזו גרסה של המודל משתמש המפתח, ה מדריך שימוש אחראי מבית Meta יכול לסייע בהנחיית כוונון עדין נוסף שעשוי להיות נחוץ להתאמה אישית ואופטימיזציה של הדגמים עם אמצעי בטיחות מתאימות.

נכון לעכשיו, Llama 2 זמין באזורים הבאים:

• זמין לפרוס מודל מאומן מראש: "us-west-2", "us-east-1", "us-east-2", "eu-west-1", "ap-southeast-1", "ap-southeast-2"
• כוונן ופרוס את המודל המכוונן: “us-east-1”, “us-west-2”,“eu-west-1”

מה זה SageMaker JumpStart

עם SageMaker JumpStart, מתרגלי ML יכולים לבחור מתוך מבחר רחב של דגמי יסודות זמינים לציבור. מתרגלי ML יכולים לפרוס מודלים של בסיס למסורים אמזון SageMaker מופעים מסביבה מבודדת רשת והתאמה אישית של מודלים באמצעות SageMaker להדרכה ופריסה של מודלים. כעת אתה יכול לגלות ולפרוס את Llama 2 בכמה לחיצות ב-SageMaker Studio או באופן תכנותי דרך SageMaker Python SDK, מה שמאפשר לך להפיק ביצועי מודל ובקרות MLOps עם תכונות של SageMaker כגון צינורות SageMaker של אמזון, באגים של SageMaker באמזון, או יומני מיכל. המודל נפרס בסביבה מאובטחת של AWS ותחת בקרות ה-VPC שלך, ועוזר להבטיח אבטחת נתונים. בנוסף, תוכל לכוונן עדין את דגמי יצירת הטקסט המאומנים מראש של Llama2 7B, 13B ו-70B באמצעות SageMaker JumpStart.

כוונן דגמי Llama2

אתה יכול לכוונן את הדגמים באמצעות ממשק המשתמש של SageMaker Studio או SageMaker Python SDK. אנו דנים בשתי השיטות בחלק זה.

כוונון עדין ללא קוד באמצעות ממשק המשתמש של SageMaker Studio

ב-SageMaker Studio, אתה יכול לגשת לדגמי Llama 2 דרך SageMaker JumpStart תחת דגמים, מחברות ופתרונות, כפי שמוצג בצילום המסך הבא.

אם אינך רואה דגמי Llama 2, עדכן את גרסת SageMaker Studio שלך על ידי כיבוי והפעלה מחדש. למידע נוסף על עדכוני גרסה, עיין ב כבה ועדכן את אפליקציות Studio.

אתה יכול גם למצוא ארבע גרסאות דגמים אחרות על ידי בחירה חקור את כל המודלים ליצירת טקסט או חיפוש לאמה בתיבת החיפוש.

בעמוד זה, אתה יכול להצביע על שירות אחסון פשוט של אמזון (Amazon S3) דלי המכיל את מערכי ההדרכה והאימות לכוונון עדין. בנוסף, תוכל להגדיר תצורת פריסה, היפרפרמטרים והגדרות אבטחה לכוונון עדין. לאחר מכן תוכל לבחור רכבת כדי להתחיל את עבודת ההדרכה במופע SageMaker ML. צילום המסך הקודם מציג את דף הכוונון העדין עבור דגם ה-Llama-2 7B; עם זאת, אתה יכול לכוונן עדין את דגמי יצירת הטקסט 13B ו-70B Llama 2 באמצעות דפי הדגם המתאימים באופן דומה. כדי להשתמש בדגמי Llama 2, עליך לאשר את הסכם רישיון משתמש הקצה (EULA). זה יופיע כשאתה בוחר רכבת, כפי שמוצג בצילום המסך הבא. בחר קראתי ואני מקבל את EULA ו-AUP כדי להתחיל את עבודת הכוונון העדין.

פרוס את הדגם

לאחר כוונון עדין של הדגם, תוכל לפרוס אותו באמצעות דף המודל ב- SageMaker JumpStart. האפשרות לפרוס את הדגם המכוונן תופיע עם סיום הכוונון העדין, כפי שמוצג בצילום המסך הבא.

כוונון עדין באמצעות SageMaker Python SDK

אתה יכול גם לכוונן עדין את דגמי Llama 2 באמצעות SageMaker Python SDK. להלן קוד לדוגמה לכוונון עדין של Llama 2 7B במערך הנתונים שלך:

import os
import boto3
from sagemaker.session import Session
from sagemaker.jumpstart.estimator import JumpStartEstimator # To fine-tune the 13B/70B model, please change model_id to `meta-textgeneration-llama-2-13b`/`meta-textgeneration-llama-2-70b`.
model_id = "meta-textgeneration-llama-2-7b" estimator = JumpStartEstimator( model_id=model_id, environment={"accept_eula": "true"}
)
# By default, instruction tuning is set to false. Thus, to use instruction tuning dataset you use
estimator.set_hyperparameters(instruction_tuned="True", epoch="5")
estimator.fit({"training": train_data_location})

אתה יכול לפרוס את המודל המכוונן ישירות מהמעריך:

finetuned_predictor = estimator.deploy()

אתה יכול גם למצוא את הקוד ב כוונן את דגמי LLaMA 2 ב- SageMaker JumpStart. זה כולל הכנת מערך נתונים, הדרכה על מערך הנתונים המותאם אישית שלך ופריסה של המודל המכוונן. זה מדגים כוונון עדין על תת-קבוצה של מערך הנתונים של דולי עם דוגמאות ממשימת הסיכום. להלן הקלט לדוגמה עם תגובות מכוונות עדינות ולא מכוונות יחד עם תגובת האמת הבסיסית:

קלט לדגם:

Below is an instruction that describes a task, paired with an input that provides further context. Write a response that appropriately completes the request.nn### Instruction:nWhen did Felix Luna die?nn### Input:nFélix César Luna (30 September 1925 – 5 November 2009) was an Argentine writer, lyricist and historian.nnnn### Response:n

תגובת Ground Truth:

Felix Luna died on November 5th, 2009

תגובה מהדגם הלא מכוונן:

Félix César Luna (30 September 1925 – 5 November 2009) was an ArgentinennWhen did Luna die?nnn### Explanation:nWe answer the question with the input's date of birth and the date of death.nnn### Solution: 1102n

תגובה מהדגם המכוונן:

Félix Luna died on November 5th, 2009.nn

למדוד ביצועים של מודלים שונים במערך הנתונים של Dolly ו-Dialogsum, עיין ב- השוואת ביצועים סעיף בנספח בסוף פוסט זה.

טכניקת כוונון עדין

דגמי שפה כגון Llama הם בגודל של יותר מ-10 GB או אפילו 100 GB. כוונון עדין של דגמים גדולים כל כך דורש מופעים עם זיכרון CUDA גבוה באופן משמעותי. יתר על כן, אימון דגמים אלו יכול להיות איטי מאוד בשל גודל הדגם. לכן, לכוונון עדין יעיל, אנו משתמשים באופטימיזציות הבאות:

• התאמת דירוג נמוך (LoRA) – זהו סוג של כוונון יעיל של פרמטרים (PEFT) לכוונון עדין יעיל של דגמים גדולים. בכך, אנו מקפיאים את כל הדגם ומוסיפים רק סט קטן של פרמטרים או שכבות ניתנים להתאמה למודל. לדוגמה, במקום לאמן את כל 7 מיליארד הפרמטרים עבור Llama 2 7B, נוכל לכוונן פחות מ-1% מהפרמטרים. זה עוזר בהפחתה משמעותית של דרישת הזיכרון מכיוון שאנו צריכים לאחסן שיפועים, מצבי אופטימיזציה ומידע אחר הקשור לאימון רק עבור 1% מהפרמטרים. יתר על כן, זה עוזר להפחית את זמן האימון כמו גם את העלות. לפרטים נוספים על שיטה זו, עיין ב LoRA: התאמה בדרגה נמוכה של מודלים של שפה גדולה.
• קוונטיזציה של Int8 - אפילו עם אופטימיזציות כגון LoRA, דגמים כגון Llama 70B עדיין גדולים מכדי לאמן. כדי להקטין את טביעת הרגל של הזיכרון במהלך האימון, אנו יכולים להשתמש בכימות Int8 במהלך האימון. קוונטיזציה מפחיתה בדרך כלל את הדיוק של סוגי הנתונים בנקודה צפה. למרות שזה מקטין את הזיכרון הנדרש לאחסון משקלי דגם, זה פוגע בביצועים עקב אובדן מידע. קוונטיזציה של Int8 משתמשת רק ברבע דיוק, אך אינה גורמת לירידה בביצועים מכיוון שהיא לא פשוט מפילה את הביטים. זה מעגל את הנתונים מסוג אחד לאחר. כדי ללמוד על קוונטיזציה של Int8, עיין ב LLM.int8(): כפל מטריצה ​​של 8 סיביות עבור רובוטריקים בקנה מידה.
• נתונים מקבילים לחלוטין (FSDP) – זהו סוג של אלגוריתם אימון מקביל לנתונים שמרסק את הפרמטרים של המודל על פני עובדים מקבילים לנתונים ויכול לחלופין להוריד חלק מחישוב האימון למעבדים. למרות שהפרמטרים מחולקים על פני GPUs שונים, החישוב של כל microbatch הוא מקומי לעובד GPU. הוא מחלק פרמטרים בצורה אחידה יותר ומשיג ביצועים מיטביים באמצעות תקשורת וחפיפה מחשובית במהלך האימון.

הטבלה הבאה משווה בין שיטות שונות לשלושת דגמי ה-Llama 2.

שים לב שכוונון עדין של דגמי הלאמה מבוסס על סקריפטים המסופקים על ידי הדברים הבאים GitHub ריפו.

פורמט מערכי נתונים להדרכה

SageMaker JumpStart תומך כיום במערכי נתונים הן בפורמט התאמת תחום והן בפורמט כוונון הוראות. בסעיף זה, אנו מציינים מערך נתונים לדוגמה בשני הפורמטים. לפרטים נוספים, עיין ב עיצוב מערך נתונים סעיף בנספח.

פורמט התאמת דומיין

ניתן לכוונן את מודל יצירת הטקסט של Lama 2 בכל מערך נתונים ספציפי לתחום. לאחר כוונון עדין במערך הנתונים הספציפי לתחום, המודל צפוי ליצור טקסט ספציפי לתחום ולפתור משימות NLP שונות בתחום הספציפי הזה עם הנחיה של מספר יריות. עם מערך נתונים זה, הקלט מורכב מקובץ CSV, JSON או TXT. לדוגמה, נתוני קלט עשויים להיות קבצי SEC של אמזון כקובץ טקסט:

This report includes estimates, projections, statements relating to our
business plans, objectives, and expected operating results that are “forward-
looking statements” within the meaning of the Private Securities Litigation
Reform Act of 1995, Section 27A of the Securities Act of 1933, and Section 21E
of the Securities Exchange Act of 1934. Forward-looking statements may appear
throughout this report, including the following sections: “Business” (Part I,
Item 1 of this Form 10-K), “Risk Factors” (Part I, Item 1A of this Form 10-K),
and “Management’s Discussion and Analysis of Financial Condition and Results
of Operations” (Part II, Item 7 of this Form 10-K). These forward-looking
statements generally are identified by the words “believe,” “project,”
“expect,” “anticipate,” “estimate,” “intend,” “strategy,” “future,”
“opportunity,” “plan,” “may,” “should,” “will,” “would,” “will be,” “will
continue,” “will likely result,” and similar expressions.

פורמט כוונון הוראות

בכוונון עדין של הוראות, המודל מכוון לסדרה של משימות עיבוד שפה טבעית (NLP) המתוארות באמצעות הוראות. זה עוזר לשפר את ביצועי המודל עבור משימות בלתי נראות עם הנחיות אפס-shot. בפורמט מערך נתונים של כוונון הוראות, אתה מציין את template.json קובץ המתאר את הקלט ואת פורמטי הפלט. לדוגמה, כל שורה בקובץ train.jsonl נראה כך:

{"instruction": "What is a dispersive prism?", "context": "In optics, a dispersive prism is an optical prism that is used to disperse light, that is, to separate light into its spectral components (the colors of the rainbow). Different wavelengths (colors) of light will be deflected by the prism at different angles. This is a result of the prism material's index of refraction varying with wavelength (dispersion). Generally, longer wavelengths (red) undergo a smaller deviation than shorter wavelengths (blue). The dispersion of white light into colors by a prism led Sir Isaac Newton to conclude that white light consisted of a mixture of different colors.", "response": "A dispersive prism is an optical prism that disperses the light's different wavelengths at different angles. When white light is shined through a dispersive prism it will separate into the different colors of the rainbow."}

הקובץ הנוסף template.json נראה כך:

{ "prompt": "Below is an instruction that describes a task, paired with an input that provides further context. " "Write a response that appropriately completes the request.nn" "### Instruction:n{instruction}nn### Input:n{context}nn", "completion": " {response}",
}

היפרפרמטרים נתמכים לאימון

כוונון עדין של Llama 2 תומך במספר היפרפרמטרים, שכל אחד מהם יכול להשפיע על דרישת הזיכרון, מהירות האימון והביצועים של הדגם המכוונן:

• תקופה – מספר המעברים שאלגוריתם הכוונון העדין לוקח דרך מערך האימון. חייב להיות מספר שלם הגדול מ-1. ברירת המחדל היא 5.
• שיעור_למידה – קצב עדכון משקלי הדגם לאחר עבודה על כל אצווה של דוגמאות אימון. חייב להיות ציפה חיובית גדולה מ-0. ברירת המחדל היא 1e-4.
• instruction_tuned – האם להדריך-להכשיר את הדגם או לא. חייב להיות 'True'או'False'. ברירת המחדל היא 'False'.
• per_device_train_batch_size – גודל האצווה לכל ליבת GPU/CPU לאימון. חייב להיות מספר שלם חיובי. ברירת המחדל היא 4.
• per_device_eval_batch_size – גודל האצווה לכל ליבת GPU/CPU להערכה. חייב להיות מספר שלם חיובי. ברירת המחדל היא 1.
• max_train_samples – למטרות ניפוי באגים או אימון מהיר יותר, קצץ את מספר דוגמאות ההדרכה לערך זה. ערך -1 פירושו שימוש בכל דגימות האימון. חייב להיות מספר שלם חיובי או -1. ברירת המחדל היא -1.
• max_val_samples – למטרות ניפוי באגים או אימון מהיר יותר, קצץ את מספר דוגמאות האימות לערך זה. ערך -1 פירושו שימוש בכל דגימות האימות. חייב להיות מספר שלם חיובי או -1. ברירת המחדל היא -1.
• max_input_length - אורך רצף קלט מקסימלי לאחר אסימון. רצפים ארוכים מזה יקוצצו. אם -1, max_input_length מוגדר למינימום של 1024 ואורך הדגם המקסימלי שהוגדר על ידי הטוקנייזר. אם מוגדר לערך חיובי, max_input_length מוגדר למינימום של הערך שסופק וה- model_max_length מוגדר על ידי הטוקנייזר. חייב להיות מספר שלם חיובי או -1. ברירת המחדל היא -1.
• יחס_פיצול_validation – אם ערוץ אימות הוא none, היחס בין פיצול אימות הרכבת מנתוני הרכבת חייב להיות בין 0-1. ברירת המחדל היא 0.2.
• train_data_split_seed – אם אין נתוני אימות, הדבר מתקן את הפיצול האקראי של נתוני האימון הקלט לנתוני הדרכה ואימות המשמשים את האלגוריתם. חייב להיות מספר שלם. ברירת המחדל היא 0.
• preprocessing_num_workers – מספר התהליכים לשימוש עבור עיבוד מקדים. אם None, התהליך העיקרי משמש לעיבוד מקדים. ברירת המחדל היא None.
• לורה_ר – לורה ר חייב להיות מספר שלם חיובי. ברירת המחדל היא 8.
• לורה_אלפא – לורה אלפא. חייב להיות מספר שלם חיובי. ברירת המחדל היא 32
• לורה_נשירה – לורה נשירה. חייב להיות ציפה חיובית בין 0 ל-1. ברירת המחדל היא 0.05.
• int8_quantization - אם True, הדגם טעון עם דיוק של 8 סיביות לאימון. ברירת המחדל עבור 7B ו-13B היא False. ברירת המחדל עבור 70B היא True.
• enable_fsdp - אם True, אימון משתמש ב-FSDP. ברירת המחדל עבור 7B ו-13B היא True. ברירת המחדל עבור 70B היא False. שים לב ש int8_quantization אינו נתמך עם FSDP.

סוגי מופעים והיפרפרמטרים תואמים

דרישת הזיכרון במהלך כוונון עדין עשויה להשתנות בהתאם למספר גורמים:

• סוג דגם – לדגם 7B יש את דרישת הזיכרון הגרפי הנמוכה ביותר ול-70B יש את דרישת הזיכרון הגדולה ביותר
• אורך קלט מקסימלי - ערך גבוה יותר של אורך קלט מוביל לעיבוד יותר אסימונים בכל פעם וככזה דורש יותר זיכרון CUDA
• גודל אצווה – גודל אצווה גדול יותר דורש זיכרון CUDA גדול יותר ולכן דורש סוגי מופעים גדולים יותר
• קוונטיזציה של Int8 - אם משתמשים בכימות Int8, המודל נטען לדיוק נמוך ולכן דורש פחות זיכרון CUDA

כדי לעזור לך להתחיל, אנו מספקים קבוצה של שילובים של סוגי מופעים שונים, היפרפרמטרים וסוגי מודלים שניתן לכוונן בהצלחה. אתה יכול לבחור תצורה לפי הדרישות שלך וזמינות סוגי המופעים. אנו מכווננים את כל שלושת הדגמים במגוון הגדרות עם שלוש תקופות בתת-קבוצה של מערך הנתונים של דולי עם דוגמאות סיכום.

דגם 7B

הטבלה הבאה מסכמת את אפשרויות הכוונון העדין בדגם 7B.

13B

הטבלה הבאה מסכמת את אפשרויות הכוונון העדין בדגם 13B.

70B

הטבלה הבאה מסכמת את אפשרויות הכוונון העדין בדגם 70B.

המלצות על סוגי מופעים והיפרפרמטרים

בעת כוונון עדין של דיוק הדגם, זכור את הדברים הבאים:

• דגמים גדולים יותר כגון 70B מספקים ביצועים טובים יותר מ-7B
• ביצועים ללא קוונטיזציה של Int8 טובים יותר מביצועים עם קוונטיזציה של INT8

שימו לב לדרישות זמן האימון וזיכרון ה-CUDA הבאות:

• הגדרת int8_quantization=True מקטין את דרישת הזיכרון ומוביל לאימון מהיר יותר.
• פוחתת per_device_train_batch_size ו max_input_length מפחית את דרישת הזיכרון ולכן ניתן להפעיל אותו במופעים קטנים יותר. עם זאת, הגדרת ערכים נמוכים מאוד עלולה להאריך את זמן האימון.
• אם אינך משתמש בכימות Int8 (int8_quantization=False), השתמש ב-FSDP (enable_fsdp=True) לאימון מהיר ויעיל יותר.

בעת בחירת סוג המופע, שקול את הדברים הבאים:

• מופעי G5 מספקים את ההדרכה היעילה ביותר מבין סוגי המופעים הנתמכים. לכן, אם יש לך מופעי G5 זמינים, עליך להשתמש בהם.
• זמן האימון תלוי במידה רבה בכמות ה-GPUs וזיכרון ה-CUDA הזמין. לכן, ההדרכה על מופעים עם אותו מספר של GPUs (לדוגמה, ml.g5.2xlarge ו-ml.g5.4xlarge) זהה בערך. לכן, אתה יכול להשתמש במופע הזול יותר לאימון (ml.g5.2xlarge).
• בעת שימוש במופעי p3, האימון ייעשה בדיוק של 32 סיביות מכיוון ש-bfloat16 אינו נתמך במופעים אלו. לכן, עבודת האימון תצרוך כמות כפולה של זיכרון CUDA בעת אימון במופעי p3 בהשוואה למופעי g5.

כדי ללמוד על עלות ההדרכה לכל מופע, עיין ב מופעי אמזון EC2 G5.

אם מערך הנתונים הוא בפורמט של כוונון הוראות ורצפי קלט+השלמה קטנים (כגון 50-100 מילים), אז ערך גבוה של max_input_length מוביל לביצועים גרועים מאוד. ערך ברירת המחדל של פרמטר זה הוא -1, המתאים ל- max_input_length של 2048 עבור דגמי הלאמה. לכן, אנו ממליצים שאם מערך הנתונים שלך מכיל דוגמאות קטנות, השתמש בערך קטן עבור max_input_length (כגון 200-400).

לבסוף, עקב ביקוש גבוה של מופעי G5, ייתכן שתחווה חוסר זמינות של מופעים אלו באזור שלך עם השגיאה “CapacityError: Unable to provision requested ML compute capacity. Please retry using a different ML instance type.” אם אתה נתקל בשגיאה זו, נסה שוב את עבודת ההדרכה או נסה אזור אחר.

בעיות בעת כוונון עדין של דגמים גדולים מאוד

בחלק זה, אנו דנים בשני נושאים בעת כוונון עדין של דגמים גדולים מאוד.

השבת את דחיסת הפלט

כברירת מחדל, הפלט של עבודת הדרכה הוא מודל מאומן שנדחס בפורמט .tar.gz לפני העלאתו לאמזון S3. עם זאת, בשל הגודל הגדול של הדגם, שלב זה יכול לקחת זמן רב. לדוגמה, דחיסה והעלאה של דגם ה-70B יכולים לקחת יותר מ-4 שעות. כדי להימנע מבעיה זו, אתה יכול להשתמש בתכונת השבתת דחיסת הפלט הנתמכת על ידי פלטפורמת ההדרכה של SageMaker. במקרה זה, המודל מועלה ללא כל דחיסה, המשמשת בהמשך לפריסה:

estimator = JumpStartEstimator(
model_id=model_id, environment={"accept_eula": "true"}, disable_output_compression=True
)

בעיית זמן קצוב של הליבה של SageMaker Studio

בשל גודלו של דגם ה-Llama 70B, עבודת האימון עשויה להימשך מספר שעות והגרעין של SageMaker Studio עשוי למות במהלך שלב האימון. עם זאת, במהלך תקופה זו, האימונים עדיין פועלים ב- SageMaker. אם זה קורה, אתה עדיין יכול לפרוס את נקודת הקצה באמצעות שם עבודת ההדרכה עם הקוד הבא:

from sagemaker.jumpstart.estimator import JumpStartEstimator
training_job_name = <<<INSERT_TRAINING_JOB_NAME>>> attached_estimator = JumpStartEstimator.attach(training_job_name, model_id)
attached_estimator.logs()
attached_estimator.deploy()

כדי למצוא את שם עבודת ההדרכה, נווט אל מסוף SageMaker ומטה הדרכה בחלונית הניווט, בחר משרות הדרכה. זהה את שם עבודת ההדרכה והחלף אותו בקוד הקודם.

סיכום

בפוסט זה, דנו בכוונון עדין של דגמי Llama 2 של Meta באמצעות SageMaker JumpStart. הראינו שאתה יכול להשתמש בקונסולת SageMaker JumpStart ב- SageMaker Studio או ב- SageMaker Python SDK כדי לכוונן ולפרוס את הדגמים הללו. דנו גם בטכניקת הכוונון העדין, סוגי מופעים והיפרפרמטרים נתמכים. בנוסף, פירטנו המלצות לאימון אופטימלי על סמך בדיקות שונות שביצענו. התוצאות לכוונון עדין של שלושת המודלים על פני שני מערכי נתונים מוצגים בנספח בסוף פוסט זה. כפי שאנו יכולים לראות מתוצאות אלו, כוונון עדין משפר את הסיכום בהשוואה למודלים שאינם מכוונים. כשלב הבא, אתה יכול לנסות לכוונן את המודלים האלה במערך הנתונים שלך באמצעות הקוד המסופק במאגר GitHub כדי לבדוק ולהשוות את התוצאות עבור מקרי השימוש שלך.

המחברים רוצים להכיר בתרומותיהם הטכניות של כריסטופר וויטן, שין הואנג, קייל אולריך, סיפיי לי, איימי יו, אדם קוזדרוביץ', אוון קרביץ, בנג'מין קראבטרי, האוטיאן אן, מנאן שאה, טוני קרוז, ארנב שארמה, ג'ונתן גוויני וג'ון. זכית.

על הכותבים

ד"ר Vivek Madan הוא מדען יישומי בצוות אמזון SageMaker JumpStart. הוא קיבל את הדוקטורט שלו מאוניברסיטת אילינוי באורבנה-שמפיין והיה חוקר פוסט דוקטורט בג'ורג'יה טק. הוא חוקר פעיל בלמידת מכונה ועיצוב אלגוריתמים ופרסם מאמרים בכנסים של EMNLP, ICLR, COLT, FOCS ו-SODA.

ד"ר פארוק סאביר הוא ארכיטקט פתרונות בכיר בבינה מלאכותית ולמידת מכונה ב-AWS. הוא בעל תואר דוקטור ותואר שני בהנדסת חשמל מאוניברסיטת טקסס באוסטין ותואר שני במדעי המחשב מהמכון הטכנולוגי של ג'ורג'יה. יש לו למעלה מ-15 שנות ניסיון בעבודה וגם אוהב ללמד ולהדריך סטודנטים. ב-AWS הוא עוזר ללקוחות לגבש ולפתור את הבעיות העסקיות שלהם במדעי הנתונים, למידת מכונה, ראייה ממוחשבת, בינה מלאכותית, אופטימיזציה מספרית ותחומים קשורים. ממוקם בדאלאס, טקסס, הוא ומשפחתו אוהבים לטייל ולצאת לנסיעות ארוכות.

ד"ר אשיש חתן הוא מדען יישומי בכיר עם Amazon SageMaker JumpStart ומסייע בפיתוח אלגוריתמים של למידת מכונה. הוא קיבל את הדוקטורט שלו מאוניברסיטת אילינוי אורבנה-שמפיין. הוא חוקר פעיל בלמידת מכונה והסקה סטטיסטית, ופרסם מאמרים רבים בכנסים NeurIPS, ICML, ICLR, JMLR, ACL ו-EMNLP.

נספח

נספח זה מספק מידע נוסף על מידוד ביצועים ועיצוב מערך נתונים.

השוואת ביצועים

בחלק זה, אנו מספקים תוצאות לכוונון עדין של שלושת המודלים של Llama 2 (7B, 13B ו-70B) על שני מערכי נתונים שונים: מַבחֵשׁ ו Dialogsum. עבור מערך הנתונים של דולי, המשימה שלנו היא לסכם פסקה של טקסט, ואילו עבור Dialogsum, אנו מכווננים את המודל כדי לסכם דיון בין שני אנשים. בטבלאות הבאות, אנו מציגים את הקלט לדגם (הנחיה והוראות), אמת יסוד (סיכום), תגובה מדגם ה-Llama 2 המאומן מראש, והתגובה מדגם ה-Llama 2 המכוונן עדין עבור כל אחד משלושת ה-Llama 2 דגמים. אנו מציגים תוצאות מסקנות עבור חמש נקודות נתונים. ניתן להבחין מהטבלאות הבאות שהסיכומים משתפרים עבור שני מערכי הנתונים כאשר אנו מכווננים את המודלים.

• תוצאות לכוונון עדין של מודל יצירת הטקסט של Llama 2 7B במערך הנתונים של דולי:

• תוצאות לכוונון עדין של מודל יצירת הטקסט של Llama 2 13B במערך הנתונים של דולי:

• תוצאות לכוונון עדין של מודל יצירת הטקסט של Llama 2 70B במערך הנתונים של דולי:

• תוצאות לכוונון עדין של מודל יצירת הטקסט של Llama 2 7B במערך הנתונים של Dialogsum:

• תוצאות לכוונון עדין של מודל Llama-2 13B במערך הנתונים של Dialogsum:

• תוצאות לכוונון עדין של מודל Llama 2 70B במערך הנתונים של Dialogsum:

עיצוב מערך נתונים

כיום אנו מציעים שני סוגים של כוונון עדין: כוונון עדין של הוראות וכוונון עדין של התאמת תחום. ניתן לעבור בקלות לאחת משיטות האימון על ידי ציון הפרמטר instruction_tuned כפי ש 'True'או'False'.

פורמט התאמת דומיין

ניתן לכוונן את מודל יצירת הטקסט גם בכל מערך נתונים ספציפי לתחום. לאחר כוונון עדין במערך הנתונים הספציפי לתחום, המודל צפוי ליצור טקסט ספציפי לתחום ולפתור משימות NLP שונות בתחום הספציפי הזה עם הנחיה של מספר יריות.

לקלט למודל, השתמש בספריית הדרכה ואימות אופציונלי. כל ספרייה מכילה קובץ CSV, JSON או TXT. עבור קובצי CSV ו-JSON, נעשה שימוש בנתוני הרכבת או האימות מהעמודה שנקראת טקסט או מהעמודה הראשונה אם אין עמודה שנקראת text נמצא. מספר הקבצים תחת רכבת ואימות (אם מסופק) צריך להיות שווה ל-1, בהתאמה.

הפלט הוא מודל מאומן שניתן לפרוס להסקת מסקנות.

להלן דוגמה לקובץ TXT לכוונון עדין של מודל יצירת הטקסט. קובץ ה-TXT הוא קבצי SEC של אמזון בין השנים 2021-2022:

This report includes estimates, projections, statements relating to our
business plans, objectives, and expected operating results that are “forward-
looking statements” within the meaning of the Private Securities Litigation
Reform Act of 1995, Section 27A of the Securities Act of 1933, and Section 21E
of the Securities Exchange Act of 1934. Forward-looking statements may appear
throughout this report, including the following sections: “Business” (Part I,
Item 1 of this Form 10-K), “Risk Factors” (Part I, Item 1A of this Form 10-K),
and “Management’s Discussion and Analysis of Financial Condition and Results
of Operations” (Part II, Item 7 of this Form 10-K). These forward-looking
statements generally are identified by the words “believe,” “project,”
“expect,” “anticipate,” “estimate,” “intend,” “strategy,” “future,”
“opportunity,” “plan,” “may,” “should,” “will,” “would,” “will be,” “will
continue,” “will likely result,” and similar expressions. Forward-looking
statements are based on current expectations and assumptions that are subject
to risks and uncertainties that may cause actual results to differ materially.
We describe risks and uncertainties that could cause actual results and events
to differ materially in “Risk Factors,” “Management’s Discussion and Analysis
of Financial Condition and Results of Operations,” and “Quantitative and
Qualitative Disclosures about Market Risk” (Part II, Item 7A of this Form
10-K). Readers are cautioned not to place undue reliance on forward-looking
statements, which speak only as of the date they are made. We undertake no
obligation to update or revise publicly any forward-looking statements,
whether because of new information, future events, or otherwise. GENERAL Embracing Our Future ...

כוונון עדין של הוראות

ניתן לכוון את מודל יצירת הטקסט על כל נתוני טקסט בתנאי שהנתונים הם בפורמט הצפוי. ניתן לפרוס את המודל המכוון להוראות לצורך הסקת מסקנות.

לקלט, השתמש בספריית הדרכה ואימות אופציונלי. ספריות הרכבת והאימות צריכות להכיל קבצים בפורמט של שורת JSON אחת או מרובות (.jsonl). בפרט, ספריית הרכבת יכולה להכיל גם קובץ *.json אופציונלי המתאר את פורמטי הקלט והפלט.

המודל הטוב ביותר נבחר על פי אובדן האימות, המחושב בסוף כל תקופה. אם לא ניתן ערכת אימות, אחוז (ניתן להתאמה) מנתוני האימון מפוצל אוטומטית ומשמש לאימות.

יש לעצב את נתוני האימון בפורמט של שורות JSON (.jsonl), כאשר כל שורה היא מילון המייצג מדגם נתונים בודד. כל נתוני ההדרכה חייבים להיות בתיקייה אחת; עם זאת, ניתן לשמור אותו במספר קובצי jsonl. סיומת הקובץ .jsonl היא חובה. תיקיית ההדרכה יכולה להכיל גם א template.json קובץ המתאר את פורמטי הקלט והפלט. אם לא יינתן קובץ תבנית, תשתמש בתבנית הבאה:

{ "prompt": "Below is an instruction that describes a task, paired with an input that provides further context. Write a response that appropriately completes the request.nn### Instruction:n{instruction}nn### Input:n{context}`, "completion": "{response}",
}

במקרה זה, הנתונים בערכים של שורות JSON חייבים לכלול prompt ו completion שדות. אם מסופקת תבנית מותאמת אישית, עליה להשתמש גם prompt ו completion מקשים להגדרת תבניות הקלט והפלט. להלן תבנית מותאמת אישית לדוגמה:

{ "prompt": "question: {question} context: {context}", "completion": "{answer}"
}

כאן, הנתונים בערכים של שורות JSON חייבים לכלול את question, context, ו answer שדות.

הפלט הוא מודל מאומן שניתן לפרוס להסקת מסקנות.

אנו מספקים תת-קבוצה של נתוני הגשת SEC של אמזון. זה מוריד מזמין לציבור EDGAR. להנחיות לגבי גישה לנתונים, עיין ב גישה לנתוני EDGAR.

רישיון: רישיון Creative Commons ייחוס-שיתוף זהה (CC BY-SA 4.0)

• הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
• PlatoData.Network Vertical Generative Ai. העצים את עצמך. גישה כאן.
• PlatoAiStream. Web3 Intelligence. הידע מוגבר. גישה כאן.
• PlatoESG. רכב / רכבים חשמליים, פחמן, קלינטק, אנרגיה, סביבה, שמש, ניהול פסולת. גישה כאן.
• PlatoHealth. מודיעין ביוטכנולוגיה וניסויים קליניים. גישה כאן.
• ChartPrime. הרם את משחק המסחר שלך עם ChartPrime. גישה כאן.
• BlockOffsets. מודרניזציה של בעלות על קיזוז סביבתי. גישה כאן.
• מקור: https://aws.amazon.com/blogs/machine-learning/fine-tune-llama-2-for-text-generation-on-amazon-sagemaker-jumpstart/