דגם הבסיס AI21 Jurassic-1 זמין כעת באמזון SageMaker

היום אנו נרגשים להכריז כי דגמי בסיס AI21 Jurassic-1 (J1) זמינים עבור לקוחות המשתמשים אמזון SageMaker. מודלים Jurassic-1 הם מגוונים ביותר, מסוגלים ליצור טקסט דמוי אדם, כמו גם לפתור משימות מורכבות כמו מענה לשאלות, סיווג טקסט ועוד רבים אחרים. אתה יכול בקלות לנסות את הדגם הזה ולהשתמש בו אמזון SageMaker JumpStart. JumpStart הוא מרכז למידת המכונה (ML) של SageMaker המספק גישה למודלים בסיסיים בנוסף לאלגוריתמים מובנים ותבניות פתרונות מקצה לקצה כדי לעזור לך להתחיל במהירות עם ML.

בפוסט זה, אנו עוברים על אופן השימוש בדגם Jurassic-1 Grande ב- SageMaker.

דגמי יסוד ב- SageMaker

JumpStart מספקת גישה למגוון דגמים ממרכזי דגמים פופולריים, כולל Hugging Face, PyTorch Hub ו- TensorFlow Hub, שבהם תוכל להשתמש בזרימת העבודה שלך לפיתוח ML ב- SageMaker. ההתקדמות האחרונה ב-ML הובילה לסוג חדש של דגמים המכונה דגמי יסוד, אשר בדרך כלל מאומנים על מיליארדי פרמטרים וניתנים להתאמה לקטגוריה רחבה של מקרי שימוש, כגון סיכום טקסט, יצירת אמנות דיגיטלית ותרגום שפה. מכיוון שדגמים אלו יקרים לאימון, לקוחות רוצים להשתמש במודלים קיימים של יסודות שהוכשרו מראש ולכוונן אותם לפי הצורך, במקום לאמן את הדגמים הללו בעצמם. SageMaker מספק רשימה אוצרת של דגמים שתוכלו לבחור מהם בקונסולת SageMaker.

כעת תוכל למצוא דגמי יסוד מספקי דגמים שונים בתוך JumpStart, מה שמאפשר לך להתחיל עם דגמי יסוד במהירות. אתה יכול למצוא מודלים של בסיס המבוססים על משימות או ספקי מודל שונים, ולסקור בקלות את מאפייני המודל ומונחי השימוש. אתה יכול גם לנסות את הדגמים האלה באמצעות ווידג'ט למבחן ממשק משתמש. כאשר אתה רוצה להשתמש במודל יסוד בקנה מידה, אתה יכול לעשות זאת בקלות מבלי לעזוב את SageMaker על ידי שימוש במחברות מובנות מראש מספקי דגמים. מכיוון שהמודלים מתארחים ונפרסים ב-AWS, אתה יכול להיות סמוך ובטוח שהנתונים שלך, בין אם הם משמשים להערכת המודל או לשימוש בקנה מידה, לעולם אינם משותפים עם צדדים שלישיים.

מודל בסיס Jurassic-1

Jurassic-1 הוא הדור הראשון בסדרה של דגמי שפה גדולים שהוכשרו ונגישו באופן נרחב על ידי מעבדות AI21. לתיאור מלא של Jurassic-1, כולל אמות מידה והשוואות כמותיות עם מודלים אחרים, עיין בסעיף הבא נייר טכני. כל דגמי ה-J1 אומנו על קורפוס עצום של טקסט אנגלי, מה שהפך אותם למחוללי טקסט לשימוש כללי רב-תכליתי, המסוגלים לחבר טקסט דמוי אדם ולפתור משימות מורכבות כמו מענה לשאלות, סיווג טקסט ועוד רבים אחרים. ניתן להחיל את J1 כמעט על כל משימת שפה על ידי יצירת הנחיה מתאימה המכילה תיאור של המשימה וכמה דוגמאות, תהליך המכונה בדרך כלל הנדסה מהירה. מקרי שימוש פופולריים כוללים יצירת עותק שיווקי, הפעלת צ'אטבוטים וסיוע בכתיבה יצירתית.

"אנחנו בונים מודלים ברמה עולמית לטקסט ורוצים לעזור ללקוחות שלנו לחדש עם דגמי Jurassic-1 העדכניים ביותר. Amazon SageMaker מציעה את הסט העמוק והרחב ביותר של שירותי ML, ואנו נרגשים לשתף פעולה עם Amazon SageMaker כך שלקוחות יוכלו להשתמש במודלים הבסיסיים הללו ב- SageMaker בתוך סביבת הפיתוח שלהם. כעת לקוחות יכולים לחדש במהירות, להפחית את זמן-הערך ולהניע יעילות בעסקים שלהם."

-אורי גושן, מנכ"ל משותף של AI21 Labs.

Walkthrough

בואו ניקח אתכם לסיור כדי לבדוק את דגם J1-Grande ב- SageMaker. אתה יכול לנסות את החוויה בשלושה שלבים פשוטים:

1. בחר את דגם Jurassic-1 בקונסולת SageMaker.
2. הערך את המודל באמצעות ווידג'ט לבדיקה.
3. השתמש במחברת המשויכת למודל הבסיס כדי לפרוס אותו בסביבה שלך.

בואו נרחיב כל שלב בפירוט.

בחר את דגם Jurassic-1 בקונסולת SageMaker

הצעד הראשון הוא כניסה ל- קונסולת הניהול של AWS עבור Amazon SageMaker ובקש גישה לרשימת דגמי היסודות מקטגוריית מודל היסודות תחת קפיצת פתיחה כאן:

לאחר שהחשבון שלך יופיע ברשימה 'אישור', תוכל לראות רשימה של דגמים בדף זה. אתה יכול לחפש במהירות את דגם Jurassic-1 Grande מאותו תצוגה.

הערך את מודל Jurassic-1 Grande עם ווידג'ט לבדיקה

ברשימת Jurassic-1 Grande, בחר צפה בדגם. תראה תיאור של המודל והמשימות שאתה יכול לבצע. קרא את ה-EULA עבור הדגם לפני שתמשיך.

תחילה ננסה את המודל לסיכום טקסט. בחר נסה את הדגם.

אתה מועבר לדף בלשונית דפדפן נפרדת שבה אתה יכול לתת הנחיות לדוגמה לדגם J1-Grande ולהציג את הפלט.

הדוגמה הבאה מייצרת סיכום על מסעדה על סמך ביקורות.

שים לב שדגמי היסוד והתפוקה שלהם הם מספק המודל, ו-AWS אינה אחראית לתוכן או לדיוק בהם.

פלט הדגם עשוי להשתנות בהתאם להגדרות ולהנחיה. אתה יכול ליצור טקסט מהמודל באמצעות הוראות פשוטות, אבל על ידי מתן דוגמאות נוספות למודל בהנחיה, בדיוק כפי שאדם היה עושה, הוא יכול לייצר השלמות שמתואמות יותר עם הכוונות שלך. הדרך הטובה ביותר להנחות את המודל היא לספק מספר דוגמאות של צמדי קלט/פלט בהנחיה. זה קובע דפוס לחיקוי של המודל. לאחר מכן הוסף את הקלט עבור דוגמה לשאילתה ותן למודל להשלים אותו עם דור מתאים.

לאחר ששיחקת עם הדגם, הגיע הזמן להשתמש במחברת ולפרוס אותה כנקודת קצה בסביבה שלך.

פרוס את מודל הבסיס ממחברת

חזור לרשימת הדגמים שהוצגה קודם ובחר צפה במחברת. אתה צריך לראות את המחברת Jurassic-1 Grande Jupyter עם ההדרכה לפריסת הדגם.

בואו נשתמש במחברת הזו מ סטודיו SageMaker של אמזון. פתח את Studio ומשוך את המחברת באמצעות כתובת האתר של Git repo https://github.com/AI21Labs/SageMaker.git.

דוגמה של המחברת משתמשת הן ב-Boto3 SDK והן ב-AI21 SDK כדי לפרוס ולקיים אינטראקציה עם נקודת הקצה.

שים לב שדוגמה זו משתמשת במופע ml.g5.12xlarge. אם מגבלת ברירת המחדל שלך עבור חשבון AWS שלך היא 0, עליך לבקש הגדלת מגבלה עבור מופע GPU זה.

בואו ניצור את נקודת הקצה באמצעות מסקנות של SageMaker. ראשית אנו מגדירים את המשתנים הדרושים, ואז אנו פורסים את המודל מחבילת המודל:

model_name = "j1-grande"

content_type = "application/json"

real_time_inference_instance_type = (
    "ml.g5.12xlarge"
)

# create a deployable model from the model package.
model = ModelPackage(
    role=role, model_package_arn=model_package_arn, sagemaker_session=sagemaker_session
)

# Deploy the model
predictor = model.deploy(1, real_time_inference_instance_type, endpoint_name=model_name, 
                         model_data_download_timeout=3600,
                         container_startup_health_check_timeout=600,
                        )

לאחר פריסת נקודת הקצה, תוכל להריץ שאילתות מסקנות כנגד המודל.

אתה יכול לחשוב על Jurassic-1 Grande כאלגוריתם חכם להשלמה אוטומטית: הוא טוב מאוד בהיצמדות לרמזים ודפוסים המובעים באנגלית פשוטה, ויצירת טקסט העוקב אחר אותם דפוסים. לאחר פריסת המודל, תוכל ליצור אינטראקציה עם נקודת הקצה שנפרסה באמצעות קטע הקוד הבא:

response = ai21.Completion.execute(sm_endpoint="j1-grande",
                                   prompt="To be or",
                                   maxTokens=4,
                                   temperature=0,
                                   numResults=1)

print(response['completions'][0]['data']['text'])

המחברת מכילה גם הדרכה כיצד ניתן להריץ שאילתות הסקה עם ה-AI21 SDK.

הסרטון הבא עובר על תהליך העבודה.

לנקות את

לאחר שבדקת את נקודת הקצה, ודא שאתה מוחק את נקודת הקצה של SageMaker ומחק את המודל כדי להימנע מחיובים.

סיכום

בפוסט זה הראינו לכם כיצד תוכלו לבדוק ולהשתמש בדגם Jurassic Grande של AI21 באמצעות Amazon SageMaker. לבקש גישה, נסה את מודל הבסיס ב- SageMaker היום וספר לנו את המשוב שלך!

על המחברים

קרתיק בהראתי הוא מוביל המוצר של צוות אמזון SageMaker עם למעלה מעשור של ניהול מוצר, אסטרטגיית מוצר, ביצוע והשקה.

תומר אסידה הוא ראש צוות אלגו במעבדות AI21. כמוביל צוות אלגו, תומר עומד בראש מאמצי פיתוח האלגוריתמים של פלטפורמת המפתחים שלנו Ai21 Studio כולל דגמי Jurassic-1 וממשקי API משויכים.