העצים את המשתמשים העסקיים שלך לחלץ תובנות ממסמכי החברה באמצעות Amazon SageMaker Canvas ו- Generative AI | שירותי האינטרנט של אמזון

ארגונים שואפים לרתום את הפוטנציאל של Machine Learning (ML) כדי לפתור בעיות מורכבות ולשפר תוצאות. עד לאחרונה, בנייה ופריסה של מודלים של ML דרשו רמות עמוקות של מיומנויות טכניות וקידוד, כולל כוונון מודלים של ML ותחזוקת צינורות תפעוליים. מאז הצגתו בשנת 2021, אמזון SageMaker Canvas אפשרה לאנליסטים עסקיים לבנות, לפרוס ולהשתמש במגוון מודלים של ML - כולל טבלאות, ראייה ממוחשבת ועיבוד שפה טבעית - מבלי לכתוב שורת קוד. זה האיץ את היכולת של ארגונים ליישם ML כדי להשתמש במקרים כגון חיזוי סדרות זמן, חיזוי נטישה של לקוחות, ניתוח סנטימנטים, זיהוי פגמים תעשייתיים ועוד רבים אחרים.

כפי שהוכרז בתאריך אוקטובר 5, 2023, SageMaker Canvas הרחיבה את תמיכתה במודלים למודלים בסיסיים (FMs) - מודלים של שפות גדולות המשמשות להפקה ולסיכום של תוכן. עם ה שחרור 12 באוקטובר 2023, SageMaker Canvas מאפשר למשתמשים לשאול שאלות ולקבל תגובות המבוססות על הנתונים הארגוניים שלהם. זה מבטיח שהתוצאות יהיו ספציפיות להקשר, מה שפותח מקרי שימוש נוספים שבהם ניתן ליישם ML ללא קוד כדי לפתור בעיות עסקיות. לדוגמה, צוותים עסקיים יכולים כעת לגבש תגובות בהתאם לאוצר המילים והעקרונות הספציפיים של הארגון, ויכולים לבצע שאילתות מהיר יותר במסמכים ארוכים כדי לקבל תגובות ספציפיות ומבוססות על התוכן של מסמכים אלה. כל התוכן הזה מבוצע בצורה פרטית ומאובטחת, מה שמבטיח שהגישה לכל הנתונים הרגישים מתבצעת תוך ניהול ואמצעי הגנה נאותים.

כדי להתחיל, מנהל ענן מגדיר ומכלס אמזון קנדרה אינדקסים עם נתונים ארגוניים כמקורות נתונים עבור SageMaker Canvas. משתמשי Canvas בוחרים את האינדקס שבו נמצאים המסמכים שלהם, ויכולים לחשוב, לחקור ולחקור בידיעה שהפלט תמיד יהיה מגובה במקורות האמת שלהם. SageMaker Canvas משתמש במכשירי FM חדישים מ סלע אמזון ו אמזון SageMaker JumpStart. ניתן להתחיל שיחות עם מספר FM זה לצד זה, להשוות את התפוקות ולהפוך את ה-AI הגנרטיבי לנגיש לכולם.

בפוסט זה, נסקור את התכונה שפורסמה לאחרונה, נדון בארכיטקטורה ונציג מדריך שלב אחר שלב שיאפשר ל-SageMaker Canvas לבצע שאילתות במסמכים ממאגר הידע שלך, כפי שמוצג בצילום המסך הבא.

סקירת פתרונות

מודלים של בסיס יכולים לייצר הזיות - תגובות שהן כלליות, מעורפלות, לא קשורות או לא נכונות עובדתית. Generation Augmented של אחזור (RAG) היא גישה נפוצה להפחתת הזיות. ארכיטקטורות RAG משמשות לאחזור נתונים מחוץ ל-FM, אשר משמשים לאחר מכן לביצוע למידה בתוך הקשר כדי לענות על שאילתת המשתמש. זה מבטיח שה-FM יכול להשתמש בנתונים מבסיס ידע מהימן ולהשתמש בידע זה כדי לענות על שאלות המשתמשים, ולהפחית את הסיכון להזיה.

עם RAG, הנתונים החיצוניים ל-FM ומשמשים להגדלת הנחיות המשתמש יכולים להגיע ממספר מקורות נתונים שונים, כגון מאגרי מסמכים, מסדי נתונים או ממשקי API. הצעד הראשון הוא להמיר את המסמכים שלך וכל שאילתות משתמש לפורמט תואם כדי לבצע חיפוש סמנטי רלוונטי. כדי להפוך את הפורמטים לתואמים, אוסף מסמכים, או ספריית ידע, ושאילתות שנשלחו על ידי המשתמש מומרים לייצוגים מספריים באמצעות מודלים של הטבעה.

עם מהדורה זו, פונקציונליות RAG מסופקת ללא קוד וללא תפרים. ארגונים יכולים להעשיר את חווית הצ'אט ב-Canvas עם אמזון קנדרה כמערכת ניהול הידע הבסיסית. התרשים הבא ממחיש את ארכיטקטורת הפתרון.

חיבור SageMaker Canvas לאמזון קנדרה דורש הגדרה חד פעמית. אנו מתארים את תהליך ההגדרה בפירוט בהגדרת Canvas לשאילתת מסמכים. אם עדיין לא הגדרת את תחום SageMaker שלך, עיין ב נכלל ב-Amazon SageMaker Domain.

כחלק מתצורת הדומיין, מנהל ענן יכול לבחור מדדי קנדרה אחד או יותר שהאנליסט העסקי יכול לשאול בעת אינטראקציה עם ה-FM דרך SageMaker Canvas.

לאחר שהמדדים של קנדרה עוברים לחות ומוגדרים, אנליסטים עסקיים משתמשים בהם עם SageMaker Canvas על ידי פתיחת צ'אט חדש ובחירה בלחצן "שאילתת מסמכים". לאחר מכן, SageMaker Canvas ינהל את התקשורת הבסיסית בין אמזון קנדרה ל-FM המועדף על מנת לבצע את הפעולות הבאות:

1. שאל את מדדי קנדרה עם השאלה שמגיעה מהמשתמש.
2. אחזר את הקטעים (ואת המקורות) מדדי קנדרה.
3. הנדס את ההנחיה עם הקטעים עם השאילתה המקורית כך שמודל הבסיס יוכל ליצור תשובה מהמסמכים שאוחזרו.
4. ספק את התשובה שנוצרה למשתמש בצירוף הפניות לדפים/מסמכים ששימשו לניסוח התגובה.

הגדרת Canvas לשאילתות במסמכים

בחלק זה, נדריך אותך לאורך השלבים להגדרת Canvas לשאילתות על מסמכים המוגשים באמצעות אינדקסים של קנדרה. אתה צריך להיות בעל הדרישות המוקדמות הבאות:

• הגדרת דומיין SageMaker - נכלל ב-Amazon SageMaker Domain
• צור מדד קנדרה (או יותר מאחד)
• הגדר את מחבר Kendra Amazon S3 - עקוב אחר ההוראות מחבר אמזון S3 - והעלה קבצי PDF ומסמכים אחרים לדלי של Amazon S3 המשויך לאינדקס קנדרה
• הגדר את IAM כך של-Canvas יהיו ההרשאות המתאימות, כולל אלה הנדרשות לקריאה לנקודות קצה של Amazon Bedrock ו/או SageMaker - עקוב אחר הגדרת Canvas Chat תיעוד

כעת תוכל לעדכן את הדומיין כך שיוכל לגשת למדדים הרצויים. במסוף SageMaker, עבור הדומיין הנתון, בחר ערוך בכרטיסייה הגדרות דומיין. אפשר את הלחצן "הפעל מסמכי שאילתה עם אמזון קנדרה" שניתן למצוא בשלב הגדרות קנבס. לאחר ההפעלה, בחר אינדקס קנדרה אחד או יותר שבו תרצה להשתמש עם Canvas.

זה כל מה שצריך כדי להגדיר את תכונת מסמכי השאילתה של Canvas. משתמשים יכולים כעת לקפוץ לצ'אט בתוך Canvas ולהתחיל להשתמש בבסיסי הידע שצורפו לדומיין דרך אינדקסי קנדרה. מנהלי מאגר הידע יכולים להמשיך ולעדכן את מקור האמת ועם יכולת הסנכרון בקנדרה, משתמשי הצ'אט יוכלו אוטומטית להשתמש במידע המעודכן בצורה חלקה.

שימוש בתכונת מסמכי שאילתה לצ'אט

כמשתמש SageMaker Canvas, ניתן לגשת לתכונת השאילתה במסמכים מתוך צ'אט. כדי להתחיל את סשן הצ'אט, לחץ או חפש את הלחצן "צור, חילץ וסכם תוכן" מהכרטיסייה מוכנים לשימוש ב-SageMaker Canvas.

כששם, אתה יכול להפעיל ולכבות את מסמכי שאילתה באמצעות המתג בחלק העליון של המסך. עיין בבקשת המידע כדי ללמוד עוד על התכונה.

כאשר Query Documents מופעלת, אתה יכול לבחור מבין רשימה של מדדי Kendra שהופעלו על ידי מנהל הענן.

אתה יכול לבחור אינדקס בעת פתיחת צ'אט חדש. לאחר מכן תוכל לשאול שאלה ב-UX כאשר הידע נלקח אוטומטית מהאינדקס שנבחר. שימו לב שלאחר שהחלה שיחה מול אינדקס מסוים, לא ניתן לעבור לאינדקס אחר.

עבור השאלות שנשאלו, הצ'אט יציג את התשובה שנוצרה על ידי ה-FM יחד עם מסמכי המקור שתרמו להפקת התשובה. בעת לחיצה על כל אחד ממסמכי המקור, Canvas פותח תצוגה מקדימה של המסמך, ומדגיש את הקטע המשמש את ה-FM.

סיכום

ל-Conversational AI יש פוטנציאל עצום לשנות את חווית הלקוח והעובד על ידי אספקת עוזר דמוי אדם עם אינטראקציות טבעיות ואינטואיטיביות כגון:

• ביצוע מחקר בנושא או חיפוש ודפדוף במאגר הידע של הארגון
• סיכום נפחי תוכן לאיסוף מהיר של תובנות
• חיפוש אחר ישויות, סנטימנטים, PII ונתונים שימושיים אחרים, והגדלת הערך העסקי של תוכן לא מובנה
• הפקת טיוטות למסמכים והתכתבויות עסקיות
• יצירת מאמרי ידע ממקורות פנימיים שונים (תקריות, יומני צ'אט, ויקי)

השילוב החדשני של ממשקי צ'אט, אחזור ידע ו-FMs מאפשר לארגונים לספק תשובות מדויקות ורלוונטיות לשאלות משתמשים על ידי שימוש בידע בתחום ובמקורות האמת שלהם.

על ידי חיבור SageMaker Canvas לבסיסי ידע באמזון קנדרה, ארגונים יכולים לשמור את הנתונים הקנייניים שלהם בתוך הסביבה שלהם, תוך שהם עדיין נהנים מיכולות השפה הטבעית המתקדמות ביותר של FMs. עם השקת תכונת השאילתה של SageMaker Canvas, אנו מקלים על כל ארגון להשתמש ב-LLMs ובידע הארגוני שלהם כמקור אמת כדי להפעיל חווית צ'אט מאובטחת. כל הפונקציונליות הזו זמינה בפורמט ללא קוד, מה שמאפשר לעסקים להימנע מטיפול במשימות החוזרות ונשנות והלא מתמחות.

כדי ללמוד עוד על SageMaker Canvas וכיצד זה עוזר להקל על כולם להתחיל עם Machine Learning, בדוק את הכרזת SageMaker Canvas. למד עוד על האופן שבו SageMaker Canvas עוזר לטפח שיתוף פעולה בין מדעני נתונים ואנליסטים עסקיים על ידי קריאת בנה, שתף ופריסה פוסט. לבסוף, כדי ללמוד כיצד ליצור זרימת עבודה משלך ל-Retrieval Augmented Generation, עיין ב SageMaker JumpStart RAG.

הפניות

Lewis, P., Perez, E., Piktus, A., Petroni, F., Karpukhin, V., Goyal, N., Küttler, H., Lewis, M., Yih, W., Rocktäschel, T., Riedel, S., Kiela, D. (2020). דור מוגבר של אחזור למשימות NLP עתירות ידע. התקדמות במערכות עיבוד מידע עצבי, 33, 9459-9474.

---

על הכותבים

דויד גליטלי הוא ארכיטקט פתרונות מומחה בכיר עבור AI/ML. הוא מבוסס בבריסל ועובד בשיתוף פעולה הדוק עם לקוחות בכל רחבי העולם שמחפשים לאמץ טכנולוגיות למידת מכונה בקוד נמוך/ללא קוד ובינה מלאכותית. הוא מפתח מאז שהיה צעיר מאוד, התחיל לקוד בגיל 7. הוא התחיל ללמוד AI/ML באוניברסיטה, ומאז התאהב בזה.

בילאל עלם הוא ארכיטקט פתרונות ארגוניים ב-AWS עם התמקדות בתעשיית השירותים הפיננסיים. ברוב הימים בילאל עוזרת ללקוחות בבנייה, חיזוק ואבטחת סביבת ה-AWS שלהם כדי לפרוס את עומסי העבודה הקריטיים ביותר שלהם. יש לו ניסיון רב ב-Telco, נטוורקינג ופיתוח תוכנה. לאחרונה, הוא בחן שימוש ב-AI/ML כדי לפתור בעיות עסקיות.

פשמין מיסטרי הוא מנהל מוצר בכיר ב-AWS. מחוץ לעבודה, פשמין נהנה מטיולים הרפתקנים, צילום ובילוי עם משפחתו.

דן סינרייך הוא מנהל מוצר בכיר ב-AWS, שעוזר לדמוקרטיזציה של למידת מכונה בקוד נמוך/ללא קוד. לפני AWS, דן בנתה ומסחרה פלטפורמות SaaS ארגוניות ומודלים של סדרות זמן ששימשו משקיעים מוסדיים לניהול סיכונים ובניית תיקים אופטימליים. מחוץ לעבודה, ניתן למצוא אותו משחק הוקי, צלילה וקורא מדע בדיוני.

• הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
• PlatoData.Network Vertical Generative Ai. העצים את עצמך. גישה כאן.
• PlatoAiStream. Web3 Intelligence. הידע מוגבר. גישה כאן.
• PlatoESG. פחמן, קלינטק, אנרגיה, סביבה, שמש, ניהול פסולת. גישה כאן.
• PlatoHealth. מודיעין ביוטכנולוגיה וניסויים קליניים. גישה כאן.
• מקור: https://aws.amazon.com/blogs/machine-learning/empower-your-business-users-to-extract-insights-from-company-documents-using-amazon-sagemaker-canvas-generative-ai/