הושק ב2021, אמזון SageMaker Canvas הוא שירות חזותי, הצבע והקליק לבנייה ופריסה של מודלים של למידת מכונה (ML) ללא צורך בכתיבת קוד כלשהו. מודלים מוכנים לשימוש של יסודות (FM) הזמינים ב- SageMaker Canvas מאפשרים ללקוחות להשתמש ב-AI גנרטיבי למשימות כמו יצירת תוכן וסיכום.
אנו שמחים להכריז על העדכונים האחרונים לאמזון SageMaker Canvas, אשר מביאים לפלטפורמה יכולות בינה מלאכותית מלהיבות חדשות ומרגשות. עם תמיכה בדגמי Meta Llama 2 ו- Mistral.AI והשקת תגובות סטרימינג, SageMaker Canvas ממשיכה להעצים את כל מי שרוצה להתחיל עם AI גנרטיבי מבלי לכתוב שורת קוד אחת. בפוסט זה, אנו דנים בעדכונים אלו וביתרונותיהם.
הכירו את דגמי Meta Llama 2 ומיסטראל
Llama 2 הוא מודל בסיס חדשני של Meta המציע מדרגיות ורבגוניות משופרים עבור מגוון רחב של משימות בינה מלאכותית. משתמשים דיווחו כי Llama 2 מסוגל לעסוק בשיחות משמעותיות וקוהרנטיות, לייצר תוכן חדש ולחלץ תשובות מהערות קיימות. Llama 2 הוא בין המודלים החדישים ביותר של שפה גדולה (LLMs) הזמינים היום עבור קהילת הקוד הפתוח כדי לבנות יישומים משלהם המונעים בינה מלאכותית.
Mistral.AI, סטארט-אפ צרפתי מוביל בינה מלאכותית, פיתחה את Mistral 7B, מודל שפה רב עוצמה עם 7.3 מיליארד פרמטרים. מודלים של מיסטרל התקבלו היטב על ידי קהילת הקוד הפתוח הודות לשימוש בקשב שאילתות קבוצתיות (GQA) להסקת מסקנות מהירה יותר, מה שהופך אותו ליעיל ביותר ולביצועים בהשוואה למודל עם פי שניים או שלושה ממספר הפרמטרים.
היום, אנו נרגשים להכריז כי SageMaker Canvas תומך כעת בשלוש גרסאות של דגם Llama 2 ושתי גרסאות של Mistral 7B:
כדי לבדוק את הדגמים האלה, נווט אל SageMaker Canvas דגמים מוכנים לשימוש עמוד ולאחר מכן בחר צור, חילץ וסכם תוכן. זה המקום שבו תמצאו את חווית הצ'אט של SageMaker Canvas GenAI. כאן, אתה יכול להשתמש בכל דגם מאמזון Bedrock או SageMaker JumpStart על ידי בחירתם בתפריט הנפתח של הדגם.
במקרה שלנו, אנו בוחרים באחד מדגמי ה-Llama 2. עכשיו אתה יכול לספק את הקלט או השאילתה שלך. בזמן שליחת הקלט, SageMaker Canvas מעביר את הקלט שלך לדגם.
הבחירה באיזה אחד מהדגמים הזמינים ב- SageMaker Canvas מתאים ביותר למקרה השימוש שלך מחייבת אותך לקחת בחשבון מידע על הדגמים עצמם: דגם ה-Llama-2-70B-chat הוא דגם גדול יותר (70 מיליארד פרמטרים, לעומת 13 מיליארד עם Llama-2-13B-chat ), מה שאומר שהביצועים שלו בדרך כלל גבוהים יותר מהקטן יותר, במחיר של חביון מעט גבוה יותר ועלות מוגברת לכל אסימון. ל-Mistral-7B ביצועים דומים ל-Llama-2-7B או ל-Llama-2-13B, אולם הוא מתארח באמזון SageMaker. המשמעות היא שמודל התמחור שונה, עובר ממודל תמחור של דולר לטוקן, למודל של דולר לשעה. זה יכול להיות חסכוני יותר עם כמות משמעותית של בקשות לשעה ושימוש עקבי בקנה מידה. כל הדגמים שלמעלה יכולים לתפקד היטב במגוון מקרי שימוש, ולכן ההצעה שלנו היא להעריך איזה דגם פותר את הבעיה בצורה הטובה ביותר, תוך התחשבות בפשרות התפוקה, התפוקה והעלות.
אם אתם מחפשים דרך פשוטה להשוות איך דגמים מתנהגים, SageMaker Canvas מספקת את היכולת הזו בצורה של השוואת דגמים. אתה יכול לבחור עד שלושה דגמים שונים ולשלוח את אותה שאילתה לכולם בבת אחת. לאחר מכן, SageMaker Canvas תקבל את התגובות מכל אחד מהדגמים ויציג אותן בממשק צ'אט זה לצד זה. כדי לעשות זאת, בחר לְהַשְׁווֹת ובחר דגמים אחרים להשוואה מולם, כפי שמוצג להלן:
הצגת הזרמת תגובה: אינטראקציות בזמן אמת וביצועים משופרים
אחד ההתקדמות המרכזיות במהדורה זו היא הצגת תגובות זורמות. הזרמת התגובות מספקת חוויה עשירה יותר למשתמש ומשקפת טוב יותר חווית צ'אט. עם תגובות סטרימינג, משתמשים יכולים לקבל משוב מיידי ושילוב חלק באפליקציות הצ'טבוט שלהם. זה מאפשר חוויה אינטראקטיבית ומגיבה יותר, מה שמשפר את הביצועים הכוללים ואת שביעות הרצון של המשתמש של הצ'אטבוט. היכולת לקבל תגובות מיידיות בצורה דמוית צ'אט יוצרת זרימת שיחה טבעית יותר ומשפרת את חווית המשתמש.
עם תכונה זו, כעת תוכל ליצור אינטראקציה עם דגמי הבינה המלאכותית שלך בזמן אמת, לקבל תגובות מיידיות ולאפשר אינטגרציה חלקה במגוון יישומים וזרימות עבודה. כל הדגמים שניתן לבצע שאילתות ב- SageMaker Canvas - מ- Amazon Bedrock ו- SageMaker JumpStart - יכולים להזרים תגובות למשתמש.
להתחיל היום
בין אם אתה בונה צ'אטבוט, מערכת המלצות או עוזר וירטואלי, המודלים של Llama 2 ו-Mistral בשילוב עם תגובות זורמות מביאים לביצועים ואינטראקטיביות משופרים לפרויקטים שלך.
כדי להשתמש בתכונות העדכניות ביותר של SageMaker Canvas, הקפד למחוק וליצור מחדש את האפליקציה. כדי לעשות זאת, צא מהאפליקציה על ידי בחירה יציאה, ואז פתח שוב את SageMaker Canvas. אתה צריך לראות את הדגמים החדשים וליהנות מהמהדורות האחרונות. יציאה מאפליקציית SageMaker Canvas תשחרר את כל המשאבים המשמשים את המופע של סביבת העבודה, ולכן תמנע ביצוע חיובים לא מכוונים נוספים.
סיכום
כדי להתחיל עם התגובות החדשות המוזרמות עבור דגמי Llama 2 ו-Mistral ב- SageMaker Canvas, בקר ב- קונסולת SageMaker ולחקור את הממשק האינטואיטיבי. למידע נוסף על האופן שבו SageMaker Canvas ובינה מלאכותית יצירתית יכולים לעזור לך להשיג את היעדים העסקיים שלך, עיין ב העצים את המשתמשים העסקיים שלך לחלץ תובנות ממסמכי החברה באמצעות Amazon SageMaker Canvas ו- Generative AI ו התגברות על אתגרי מרכז הקשר הנפוצים עם בינה מלאכותית ו-Amazon SageMaker Canvas.
אם אתה רוצה ללמוד עוד על תכונות SageMaker Canvas וצלילה עמוקה על מקרי שימוש אחרים ב-ML, בדוק את הפוסטים האחרים הזמינים ב- קטגוריית SageMaker Canvas של הבלוג AWS ML. אנחנו לא יכולים לחכות לראות את יישומי הבינה המלאכותית המדהימים שתיצור עם היכולות החדשות האלה!
על המחברים
דויד גליטלי הוא ארכיטקט פתרונות מומחה בכיר עבור AI/ML. הוא מבוסס בבריסל ועובד בשיתוף פעולה הדוק עם לקוחות בכל רחבי העולם שמחפשים לאמץ טכנולוגיות למידת מכונה בקוד נמוך/ללא קוד ובינה מלאכותית. הוא מפתח מאז שהיה צעיר מאוד, התחיל לקוד בגיל 7. הוא התחיל ללמוד AI/ML באוניברסיטה, ומאז התאהב בזה.
דן סינרייך הוא מנהל מוצר בכיר ב-AWS, שעוזר לדמוקרטיזציה של למידת מכונה בקוד נמוך/ללא קוד. לפני AWS, דן בנתה ומסחרה פלטפורמות SaaS ארגוניות ומודלים של סדרות זמן ששימשו משקיעים מוסדיים לניהול סיכונים ובניית תיקים אופטימליים. מחוץ לעבודה, ניתן למצוא אותו משחק הוקי, צלילה וקורא מדע בדיוני.
- הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
- PlatoData.Network Vertical Generative Ai. העצים את עצמך. גישה כאן.
- PlatoAiStream. Web3 Intelligence. הידע מוגבר. גישה כאן.
- PlatoESG. פחמן, קלינטק, אנרגיה, סביבה, שמש, ניהול פסולת. גישה כאן.
- PlatoHealth. מודיעין ביוטכנולוגיה וניסויים קליניים. גישה כאן.
- מקור: https://aws.amazon.com/blogs/machine-learning/announcing-support-for-llama-2-models-and-streaming-responses-in-amazon-sagemaker-canvas/
- :יש ל
- :הוא
- :איפה
- $ למעלה
- 100
- 13
- 2021
- 7
- 70
- a
- יכולת
- אודות
- מֵעַל
- חֶשְׁבּוֹן
- להשיג
- נוסף
- לְאַמֵץ
- התקדמות
- שוב
- נגד
- גיל
- AI
- דגמי AI
- מונע AI
- AI / ML
- תעשיות
- מאפשר
- מדהים
- אמזון בעברית
- אמזון SageMaker
- אמזון SageMaker Canvas
- אמזון שירותי אינטרנט
- בין
- כמות
- an
- ו
- להכריז
- מכריז
- תשובות
- כל
- האפליקציה
- בקשה
- יישומים
- ARE
- סביב
- AS
- עוזר
- At
- תשומת לב
- זמין
- הימנעות
- AWS
- מבוסס
- BE
- היה
- להלן
- הטבות
- הטוב ביותר
- מוטב
- גדול
- B
- בלוג
- להביא
- בריסל
- לִבנוֹת
- בִּניָן
- נבנה
- עסקים
- by
- CAN
- בד
- יכולות
- יכולת
- מסוגל
- מקרה
- מקרים
- מרכז
- האתגרים
- חיובים
- צ'אט
- chatbot
- לבדוק
- בחרו
- בחירה
- מקרוב
- קוד
- קוהרנטי
- משולב
- Common
- קהילה
- חברה
- השוואה
- לְהַשְׁווֹת
- לעומת
- השוואות
- בהתחשב
- עִקבִי
- לבנות
- צור קשר
- מוקדי שירות
- תוכן
- יצירת תוכן
- ממשיך
- שיחה
- שיחות
- עלות
- לִיצוֹר
- יוצר
- לקוחות
- שיא הטכנולוגיה
- עמוק
- צלילה לעומק
- דמוקרטיזציה
- פריסה
- מפותח
- מפתח
- אחר
- לדון
- צלילה
- צלילה
- do
- מסמכים
- כל אחד
- אפקטיבי
- יעיל
- להסמיך
- לאפשר
- מה שמאפשר
- מרתק
- משופר
- שיפור
- להנות
- מִפְעָל
- להעריך
- כולם
- נרגש
- מרגש
- קיימים
- ניסיון
- לחקור
- תמצית
- נָפוּל
- מהר יותר
- מאפיין
- תכונות
- מָשׁוֹב
- פיקציה
- fits
- תזרים
- בעד
- טופס
- מצא
- קרן
- צרפתית
- החל מ-
- גנאי
- בדרך כלל
- יצירת
- דור
- גנרטטיבית
- AI Generative
- לקבל
- כדור הארץ
- שערים
- יש
- he
- לעזור
- עזרה
- כאן
- גבוה יותר
- מאוד
- אירח
- שעה
- איך
- אולם
- HTTPS
- מיידי
- משופר
- משפר
- in
- גדל
- מידע
- קלט
- תובנות
- למשל
- מיידי
- מוסדי
- משקיעים מוסדיים
- השתלבות
- אינטראקציה
- יחסי גומלין
- אינטראקטיבי
- אינטראקטיביות
- מִמְשָׁק
- אל תוך
- מבוא
- אינטואיטיבי
- משקיעים
- IT
- שֶׁלָה
- jpg
- מפתח
- שפה
- גָדוֹל
- חֶבִיוֹן
- האחרון
- העדכונים האחרונים
- לשגר
- מוביל
- לִלמוֹד
- למידה
- קו
- לאמה
- היכנס
- רישום
- הסתכלות
- אהבה
- מכונה
- למידת מכונה
- לעשות
- עשייה
- לנהל
- מנהל
- דרך
- משמעותי
- אומר
- תפריט
- meta
- ML
- מודל
- מודלים
- יותר
- נע
- במקור
- טבעי
- נווט
- צורך
- חדש
- הערות
- עַכשָׁיו
- מספר
- of
- המיוחדות שלנו
- on
- פעם
- ONE
- לפתוח
- קוד פתוח
- אופטימלי
- or
- אחר
- שלנו
- הַחוּצָה
- תפוקה
- בחוץ
- מקיף
- שֶׁלוֹ
- עמוד
- פרמטרים
- עבור
- לְבַצֵעַ
- ביצועים
- הופעות
- ביצוע
- תמונה
- פלטפורמה
- פלטפורמות
- אפלטון
- מודיעין אפלטון
- אפלטון נתונים
- משחק
- תיקים
- הודעה
- הודעות
- חזק
- קודם
- תמחור
- מודל תמחור
- בעיה
- המוצר
- מנהל מוצר
- פרויקטים
- לספק
- מספק
- שאלה
- רכס
- קריאה
- ממשי
- זמן אמת
- לקבל
- קיבלו
- קבלה
- המלצה
- להתייחס
- משקף
- לשחרר
- עיתונות
- דווח
- בקשות
- דורש
- משאבים
- תגובה
- תגובות
- תגובה
- עשיר יותר
- הסיכון
- SaaS
- בעל חכמים
- אותו
- שביעות רצון
- בקרת מערכות ותקשורת
- סולם
- מדע
- מדע בדיוני
- בצורה חלקה
- לִרְאוֹת
- בחר
- בחירה
- לשלוח
- לחצני מצוקה לפנסיונרים
- שרות
- שירותים
- צריך
- לְהַצִיג
- הראה
- משמעותי
- since
- יחיד
- קטן יותר
- So
- פתרונות
- פותר
- מָקוֹר
- מומחה
- Start-up
- החל
- החל
- מדינה-of-the-art
- פשוט
- זרם
- מוזרם
- נהירה
- כזה
- לסכם
- תמיכה
- תומך
- בטוח
- מערכת
- לקחת
- משימות
- טכנולוגיות
- מבחן
- תודה
- זֶה
- השמיים
- שֶׁלָהֶם
- אותם
- עצמם
- אז
- לכן
- אלה
- זֶה
- שְׁלוֹשָׁה
- נפעם
- תפוקה
- זמן
- פִּי
- ל
- היום
- אסימון
- פעמים
- שתיים
- ui
- אוניברסיטה
- עדכונים
- נוֹהָג
- להשתמש
- במקרה להשתמש
- מְשׁוּמָשׁ
- משתמש
- חוויית משתמש
- משתמשים
- באמצעות
- מגוון
- צדדיות
- מאוד
- וירטואלי
- עוזר וירטואלי
- לְבַקֵר
- חזותי
- לחכות
- רוצה
- רוצה
- היה
- דֶרֶך..
- we
- אינטרנט
- שירותי אינטרנט
- טוֹב
- אשר
- רָחָב
- טווח רחב
- יצטרך
- עם
- לְלֹא
- תיק עבודות
- זרימות עבודה
- עובד
- לכתוב
- כתיבה
- אתה
- צעיר
- זפירנט