בית מרקחת אמזון הוא בית מרקחת בשירות מלא על Amazon.com שמציע תמחור שקוף, תמיכה קלינית ותמיכת לקוחות ומשלוח חינם עד הדלת שלך. סוכני שירות לקוחות ממלאים תפקיד מכריע באחזור מהיר ומדויק של מידע הקשור למידע על בית מרקחת, לרבות הבהרות מרשם וסטטוס העברה, פרטי הזמנה וניפוק ומידע על פרופיל המטופל, בזמן אמת. אמזון מרקחת מספקת ממשק צ'אט שבו לקוחות (מטופלים ורופאים) יכולים לדבר באינטרנט עם נציגי שירות לקוחות (סוכנים). אחד האתגרים שעומדים בפני סוכנים הוא למצוא את המידע המדויק בעת מענה לשאלות הלקוחות, מכיוון שהגיוון, הנפח והמורכבות של תהליכי שירותי הבריאות (כגון הסבר על אישורים מוקדמים) יכולים להיות מרתיע. למצוא את המידע הנכון, לסכם אותו ולהסביר אותו לוקח זמן, להאט את המהירות לשרת את המטופלים.
כדי להתמודד עם האתגר הזה, אמזון מרקחת בנתה עוזרת צ'טבוט של AI ותשובות (שאלות ותשובות) כדי להעצים סוכנים לאחזר מידע עם חיפושי שפה טבעית בזמן אמת, תוך שמירה על האינטראקציה האנושית עם הלקוחות. הפתרון תואם HIPAA, מבטיח פרטיות הלקוח. בנוסף, סוכנים מגישים את המשוב שלהם הקשור לתשובות שנוצרו על ידי מכונה בחזרה לצוות הפיתוח של Amazon Pharmacy, כך שניתן יהיה להשתמש בו לשיפורי מודל עתידיים.
בפוסט זה, אנו מתארים כיצד אמזון מרקחת הטמיעה את פתרון הצ'טבוט של עוזר סוכן שירות הלקוחות שלה באמצעות מוצרי AWS AI, כולל מודלים בסיסיים ב- אמזון SageMaker JumpStart כדי להאיץ את התפתחותו. אנו מתחילים בהדגשת החוויה הכוללת של סוכן שירות הלקוחות עם תוספת של צ'אטבוט מבוסס מודל שפה גדול (LLM). לאחר מכן נסביר כיצד הפתרון משתמש בדפוס Retrieval Augmented Generation (RAG) לצורך הטמעתו. לבסוף, אנו מתארים את ארכיטקטורת המוצר. פוסט זה מדגים כיצד בינה מלאכותית גנרטיבית משולבת באפליקציה שכבר פועלת בעסק מורכב ומוסדר מאוד, ומשפרת את חווית הטיפול בלקוחות בחולי בית מרקחת.
צ'אטבוט שאלות ותשובות מבוסס LLM
האיור הבא מציג את זרימת התהליך של מטופל היוצר קשר עם שירות הלקוחות של Amazon Pharmacy באמצעות צ'אט (שלב 1). סוכנים משתמשים בממשק משתמש פנימי נפרד לטיפול בלקוחות כדי לשאול שאלות לצ'אטבוט של שאלות ותשובות מבוסס LLM (שלב 2). לאחר מכן, ממשק המשתמש של שירות הלקוחות שולח את הבקשה לקצה אחורי של השירות שמתארח בו AWS פרגייט (שלב 3), שבו השאילתות מתוזמנות באמצעות שילוב של מודלים ותהליכי אחזור נתונים, המכונה ביחד תהליך RAG. תהליך זה הוא לב ליבו של פתרון הצ'אטבוט מבוסס LLM ופרטיו מוסברים בסעיף הבא. בסופו של תהליך זה, התגובה שנוצרה על ידי מכונה מוחזרת לסוכן, אשר יכול לבדוק את התשובה לפני מתן אותה בחזרה ללקוח הקצה (שלב 4). יש לציין שסוכנים מאומנים להפעיל שיקול דעת ולהשתמש בפתרון הצ'אטבוט מבוסס LLM ככלי שמגדיל את עבודתם, כך שיוכלו להקדיש את זמנם לאינטראקציות אישיות עם הלקוח. סוכנים גם מתייגים את התגובה שנוצרה על ידי המכונה במשוב שלהם (לדוגמה, חיובי או שלילי). משוב זה משמש אז את צוות הפיתוח של Amazon Pharmacy כדי לשפר את הפתרון (באמצעות כוונון עדין או שיפורי נתונים), ויוצרים מחזור מתמשך של פיתוח מוצר עם המשתמש (שלב 5).
האיור הבא מציג דוגמה מצ'אטבוט של שאלות ותשובות ואינטראקציה עם סוכן. כאן, הסוכן שאל לגבי קוד דחיית תביעה. צ'אטבוט השאלות והתשובות (עוזר AI סוכן) עונה על השאלה עם תיאור ברור של קוד הדחייה. זה גם מספק את הקישור לתיעוד המקורי כדי שהסוכנים יוכלו לעקוב אחריהם, במידת הצורך.
האצת פיתוח מודל ML
באיור הקודם המתאר את זרימת העבודה של הצ'אטבוט, דילגנו על הפרטים כיצד לאמן את הגרסה הראשונית של דגמי הצ'אטבוטים של שאלות ותשובות. לשם כך, צוות הפיתוח של Amazon Pharmacy נהנה מהשימוש ב- SageMaker JumpStart. SageMaker JumpStart אפשרה לצוות להתנסות במהירות עם דגמים שונים, להריץ אמות מידה ומבחנים שונים, להיכשל במהירות לפי הצורך. נכשל מהר הוא תפיסה שמתרגלת על ידי המדען והמפתחים כדי לבנות במהירות פתרונות מציאותיים ככל האפשר וללמוד מהמאמצים שלהם לשפר אותו באיטרציה הבאה. לאחר שהצוות החליט על הדגם וביצע כל כוונון עדין והתאמה אישית נדרשים, הם השתמשו אירוח SageMaker לפרוס את הפתרון. השימוש החוזר בדגמי היסוד ב- SageMaker JumpStart אפשר לצוות הפיתוח לקצץ חודשים של עבודה שאחרת הייתה נחוצה כדי להכשיר דגמים מאפס.
תבנית העיצוב RAG
חלק מרכזי אחד בפתרון הוא השימוש ב- אחזור דור מוגבר (RAG) דפוס עיצוב להטמעת פתרונות שאלות ותשובות. הצעד הראשון בדפוס זה הוא זיהוי קבוצה של צמדי שאלות ותשובות ידועים, המהווה את האמת הבסיסית לפתרון. השלב הבא הוא להמיר את השאלות לייצוג טוב יותר לצורך דמיון וחיפוש, מה שנקרא הטבעה (אנחנו מטמיעים אובייקט בעל מימד גבוה יותר לתוך מישור עם פחות ממדים). זה נעשה באמצעות מודל בסיס ספציפי להטמעה. הטמעות אלו משמשות אינדקסים לתשובות, בדומה לאופן שבו אינדקס מסד נתונים ממפה מפתח ראשי לשורה. כעת אנו מוכנים לתמוך בשאילתות חדשות המגיעות מהלקוח. כפי שהוסבר קודם, החוויה היא שלקוחות שולחים את השאילתות שלהם לסוכנים, שלאחר מכן מתממשקים עם הצ'אטבוט מבוסס LLM. בתוך הצ'אטבוט של שאלות ותשובות, השאילתה מומרת להטמעה ולאחר מכן משמשת כמפתח חיפוש לאינדקס תואם (מהשלב הקודם). קריטריוני ההתאמה מבוססים על מודל דמיון, כגון FAISS or שירות חיפוש פתוח של אמזון (לפרטים נוספים, עיין ב הסבירו יכולות מסד הנתונים הווקטוריות של Amazon OpenSearch Service). כאשר יש התאמות, התשובות המובילות מאוחזרות ומשמשות כהקשר הנחיה למודל הגנרטיבי. זה מתאים לשלב השני בדפוס ה-RAG - השלב המחולל. בשלב זה, ההנחיה נשלחת ל-LLM (גנרטור בסיס מודאל), אשר מרכיב את התגובה הסופית שנוצרה על ידי מכונה לשאלה המקורית. תגובה זו ניתנת בחזרה דרך ממשק המשתמש של שירות הלקוחות לסוכן, אשר מאמת את התשובה, עורך אותה במידת הצורך ושולח אותה בחזרה למטופל. התרשים הבא ממחיש תהליך זה.
ניהול בסיס הידע
כפי שלמדנו עם דפוס ה-RAG, השלב הראשון בביצוע שאלות ותשובות מורכב מאחזור הנתונים (צמדי השאלות והתשובות) שישמשו כהקשר להנחיית ה-LLM. נתונים אלה מכונה של הצ'אטבוט בסיס ידע. דוגמאות לנתונים אלה הם נהלי הפעלה סטנדרטיים פנימיים של Amazon Pharmacy (SOPs) ומידע זמין ב מרכז העזרה של אמזון בית מרקחת. כדי להקל על האינדקס ועל תהליך האחזור (כפי שתואר קודם לכן), לעתים קרובות כדאי לאסוף את כל המידע הזה, שעשוי להתארח על פני פתרונות שונים כגון בוויקי, קבצים ומסדי נתונים, במאגר יחיד. במקרה הספציפי של הצ'אטבוט של Amazon Pharmacy, אנו משתמשים שירות אחסון פשוט של אמזון (Amazon S3) למטרה זו בגלל הפשטות והגמישות שלו.
סקירת פתרונות
האיור הבא מציג את ארכיטקטורת הפתרון. האפליקציה לטיפול בלקוחות וצ'אטבוט השאלות והתשובות מבוסס LLM פרוסים ב-VPC משלהם לבידוד רשת. הקשר בין ה נקודות קצה של VPC מתממש באמצעות AWS PrivateLink, הבטחת פרטיותם. לצ'אטבוט של שאלות ותשובות יש גם חשבון AWS משלו להפרדת תפקידים, בידוד וקלות ניטור למטרות אבטחה, עלות ותאימות. היגיון התזמור של הצ'אטבוטים של שאלות ותשובות מתארח ב-Fargate עם שירות מיכלים אלסטי של אמזון (אמזון ECS). כדי להגדיר PrivateLink, א איזון עומסי רשת מיישר את הבקשות לא איזון עומס יישומים, שעוצר את חיבור ה-TLS של לקוח הקצה ומעביר בקשות ל-Fargate. שירות האחסון העיקרי הוא Amazon S3. כפי שהוזכר קודם לכן, נתוני הקלט הקשורים מיובאים לפורמט הרצוי בתוך חשבון הצ'אטבוט של שאלות ותשובות ונמשכים בדליים של S3.
כשמדובר בתשתית למידת מכונה (ML), אמזון SageMaker הוא במרכז האדריכלות. כפי שהוסבר בסעיפים הקודמים, נעשה שימוש בשני דגמים, מודל ההטמעה ומודל LLM, ואלה מתארחים בשתי נקודות קצה נפרדות של SageMaker. באמצעות SageMaker לכידת נתונים תכונה, נוכל לרשום את כל הבקשות והתגובות להסיק למטרות פתרון בעיות, עם אילוצי הפרטיות והאבטחה הדרושים במקום. לאחר מכן, המשוב שנלקח מהסוכנים מאוחסן בדלי S3 נפרד.
צ'טבוט השאלות והתשובות נועד להיות פתרון מרובה דיירים ולתמוך במוצרי בריאות נוספים משירותי הבריאות של אמזון, כמו Amazon Clinic. לדוגמה, הפתרון נפרס עם AWS CloudFormation תבניות לתשתית כקוד (IaC), המאפשרות שימוש בבסיסי ידע שונים.
סיכום
פוסט זה הציג את הפתרון הטכני לשיפורי טיפול בלקוחות בינה מלאכותית של Amazon Pharmacy. הפתרון מורכב מצ'אט בוט המענה על שאלה המטמיע את דפוס העיצוב RAG ב- SageMaker ומודלים של בסיס ב- SageMaker JumpStart. עם פתרון זה, סוכני שירות לקוחות יכולים לסייע למטופלים במהירות רבה יותר, תוך מתן תשובות מדויקות, אינפורמטיביות ותמציתיות.
הארכיטקטורה משתמשת במיקרו-שירותים מודולריים עם רכיבים נפרדים להכנה וטעינה של בסיס ידע, לוגיקה של צ'אטבוט (הוראות), הטמעת אינדקס ואחזור, יצירת תוכן LLM ופיקוח משוב. האחרון חשוב במיוחד עבור שיפורים מתמשכים במודל. מודלים הבסיסיים ב- SageMaker JumpStart משמשים לניסויים מהירים עם הגשת מודלים שנעשית עם נקודות קצה של SageMaker. לבסוף, שרת הצ'אטבוט התואם HIPAA מתארח ב-Fargate.
לסיכום, ראינו כיצד אמזון רוקחות משתמשת בבינה מלאכותית וב-AWS כדי לשפר את הטיפול בלקוחות תוך מתן עדיפות לעקרונות ונהלי AI אחראיים.
אתה יכול התחל להתנסות במודלים של בסיס ב- SageMaker JumpStart היום כדי למצוא את דגמי הבסיס הנכונים למקרה השימוש שלך ולהתחיל לבנות את אפליקציית הבינה המלאכותית הגנרטיבית שלך ב- SageMaker.
על הסופר
בורק גוזלוקלו הוא ארכיטקט פתרונות מומחה AI/ML ראשי הממוקם בבוסטון, MA. הוא עוזר ללקוחות גלובליים לאמץ טכנולוגיות AWS ובמיוחד פתרונות AI/ML כדי להשיג את היעדים העסקיים שלהם. לבוראק יש דוקטורט בהנדסת אווירונאוטיקה וחלל מ- METU, תואר שני בהנדסת מערכות ופוסט-דוקטורט בדינמיקה של מערכת מ-MIT בקיימברידג', MA. בורק נלהב מיוגה ומדיטציה.
ג'אנגוון קים הוא Sr. Applied Scientist ב- Amazon Health Store & Tech. יש לו מומחיות ב-LLM, NLP, דיבור AI וחיפוש. לפני שהצטרף לאמזון בריאות, ג'אנגוון היה מדען יישומי ב- Amazon Alexa Speech. הוא מבוסס מלוס אנג'לס.
אלכסנדר אלבס הוא מהנדס ראשי Sr. ב- Amazon Health Services, המתמחה ב-ML, אופטימיזציה ומערכות מבוזרות. הוא עוזר לספק חוויות בריאות קדימה.
נירוואי קומאר הוא מהנדס תוכנה Sr. ב- Amazon Health Services, ארכיטקטורה מובילה בתפעול בתי מרקחת לאחר שנים רבות בטכנולוגיות הגשמה. עם מומחיות במערכות מבוזרות, הוא טיפח תשוקה הולכת וגוברת לפוטנציאל של AI. נירוואי מתעל את כישרונותיו למערכות הנדסיות הפותרות צרכי לקוחות אמיתיים ביצירתיות, טיפול, ביטחון וחזון לטווח ארוך. כשהוא לא מטייל בהרי וושינגטון, הוא מתמקד בעיצוב מתחשב שצופה את הבלתי צפוי. Nirvay שואפת לבנות מערכות שעומדות במבחן הזמן ומשרתות את הצרכים המתפתחים של הלקוחות.
- הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
- PlatoData.Network Vertical Generative Ai. העצים את עצמך. גישה כאן.
- PlatoAiStream. Web3 Intelligence. הידע מוגבר. גישה כאן.
- PlatoESG. פחמן, קלינטק, אנרגיה, סביבה, שמש, ניהול פסולת. גישה כאן.
- PlatoHealth. מודיעין ביוטכנולוגיה וניסויים קליניים. גישה כאן.
- מקור: https://aws.amazon.com/blogs/machine-learning/learn-how-amazon-pharmacy-created-their-llm-based-chat-bot-using-amazon-sagemaker/
- :יש ל
- :הוא
- :לֹא
- :איפה
- $ למעלה
- 1
- 100
- 7
- a
- אודות
- להאיץ
- חֶשְׁבּוֹן
- במדויק
- להשיג
- לרוחב
- תוספת
- נוסף
- לְאַמֵץ
- אווירי
- לאחר
- סוֹכֵן
- סוכנים
- AI
- עוזר בינה מלאכותית
- AI / ML
- מטרות
- Alexa
- תעשיות
- מותר
- מאפשר
- כְּבָר
- גם
- אמזון בעברית
- אמזון SageMaker
- אמזון שירותי אינטרנט
- an
- ו
- אנג'לס
- לענות
- תשובות
- צופה
- כל
- בקשה
- יישומית
- ארכיטקטורה
- ARE
- AS
- לשאול
- לשאול
- לעזור
- עוזר
- At
- מוגבר
- זמין
- AWS
- בחזרה
- קצה אחורי
- בסיס
- מבוסס
- BE
- כי
- היה
- לפני
- להיות
- מבחני ביצועים
- מוטב
- בֵּין
- בוסטון
- לִבנוֹת
- בִּניָן
- נבנה
- עסקים
- by
- נקרא
- קיימברידג'
- CAN
- יכולות
- אשר
- מקרה
- מרכז
- לאתגר
- ערוצים
- chatbot
- לטעון
- ברור
- מרפאה
- קליני
- קוד
- יַחַד
- COM
- שילוב
- מגיע
- מגיע
- מורכב
- מורכבות
- הענות
- תואם
- רכיבים
- מושג
- תמציתית
- הקשר
- מורכב
- אילוצים
- מכולה
- תוכן
- יצירת תוכן
- הקשר
- רציף
- להמיר
- הומר
- ליבה
- מתכתב
- עלות
- נוצר
- יצירתיות
- הקריטריונים
- מכריע
- לקוח
- שירות לקוחות
- לקוחות
- התאמה אישית
- חותך
- מחזור
- נתונים
- מסד נתונים
- מאגרי מידע
- החליט
- ייעודי
- למסור
- מסירה
- מדגים
- מתאר
- לפרוס
- פרס
- לתאר
- מְתוּאָר
- תיאור
- עיצוב
- מעוצב
- רצוי
- פרטים
- dev
- מפתחים
- צעצועי התפתחות
- צוות הפיתוח
- אחר
- ממדים
- מופץ
- מערכות מבוזרות
- גיוון
- do
- רופאים
- תיעוד
- עשה
- דֶלֶת
- מטה
- דינמיקה
- להקל
- מַאֲמָצִים
- שבץ
- הטבעה
- להסמיך
- סוף
- מהנדס
- הנדסה
- הבטחתי
- במיוחד
- מתפתח
- דוגמה
- דוגמאות
- תרגיל
- ניסיון
- חוויות
- לְנַסוֹת
- מומחיות
- להסביר
- מוסבר
- המסביר
- פָּנִים
- לְהַקֵל
- אי
- מהר
- מאפיין
- מָשׁוֹב
- תרשים
- קבצים
- סופי
- בסופו של דבר
- מציאת
- ראשון
- גמישות
- תזרים
- מתמקד
- לעקוב
- הבא
- בעד
- פוּרמָט
- קרן
- חופשי
- החל מ-
- שירות מלא
- עתיד
- ללקט
- דור
- גנרטטיבית
- AI Generative
- גנרטור
- גלוֹבָּלִי
- קרקע
- גדל
- ידיים
- יש
- he
- בְּרִיאוּת
- לֵב
- לעזור
- עוזר
- כאן
- גָבוֹהַ
- הדגשה
- מאוד
- שֶׁלוֹ
- אירח
- איך
- איך
- HTML
- http
- HTTPS
- בן אנוש
- לזהות
- if
- מדגים
- הפעלה
- יושם
- יישום
- חשוב
- לשפר
- שיפורים
- שיפור
- in
- כולל
- מדד
- אינדקסים
- מידע
- אִינפוֹרמָטִיבִי
- תשתית
- בתחילה
- קלט
- בתוך
- משולב
- אינטראקציה
- יחסי גומלין
- מִמְשָׁק
- פנימי
- אל תוך
- בדידות
- IT
- איטרציה
- שֶׁלָה
- הצטרפות
- jpg
- מפתח
- ידע
- ידוע
- תווית
- שפה
- גָדוֹל
- מוביל
- לִלמוֹד
- למד
- למידה
- פחות
- רמה
- כמו
- קשר
- LLM
- לִטעוֹן
- טוען
- ממוקם
- היכנס
- הגיון
- לטווח ארוך
- ה
- לוס אנג'לס
- מכונה
- למידת מכונה
- לעשות
- רב
- מפות
- גפרורים
- תואם
- מאי..
- מוּזְכָּר
- meta
- מיקרו
- MIT
- ML
- מודל
- מודלים
- מודולרי
- ניטור
- חודשים
- יותר
- MS
- הרבה
- טבעי
- הכרחי
- נחוץ
- צרכי
- שלילי
- רשת
- חדש
- הבא
- NLP
- ציין
- עַכשָׁיו
- אובייקט
- יעדים
- of
- כבוי
- המיוחדות שלנו
- לעתים קרובות
- on
- ONE
- מתמשך
- באינטרנט
- לפתוח
- פועל
- תפעול
- אופטימיזציה
- or
- מתוזמר
- תזמור
- להזמין
- מְקוֹרִי
- אַחֶרֶת
- הַחוּצָה
- מקיף
- שֶׁלוֹ
- זוגות
- חלק
- מסוים
- תשוקה
- לוהט
- חולה
- חולים
- תבנית
- ביצעתי
- ביצוע
- אישי
- דוקטורט
- מקום
- אפלטון
- מודיעין אפלטון
- אפלטון נתונים
- לְשַׂחֵק
- חיובי
- אפשרי
- הודעה
- פוטנציאל
- פרקטיקות
- צורך
- הכנה
- מרשם
- מוצג
- מִשׁמֶרֶת
- קודם
- קוֹדֶם
- תמחור
- יְסוֹדִי
- מנהל
- עקרונות
- קודם
- סדר עדיפויות
- פְּרָטִיוּת
- פרטיות ואבטחה
- נהלים
- תהליך
- תהליכים
- המוצר
- פיתוח מוצר
- מוצרים
- פּרוֹפִיל
- ובלבד
- מספק
- מתן
- מטרה
- למטרות
- שאלות ותשובות
- שאילתות
- שאלה
- שאלות
- מהירות
- מוכן
- ממשי
- זמן אמת
- מציאותי
- הבין
- להתייחס
- מכונה
- מוסדר
- קָשׁוּר
- מאגר
- נציגות
- נציגים
- לבקש
- בקשות
- תגובה
- תגובות
- אחראי
- שימוש חוזר
- סקירה
- תקין
- תפקיד
- שׁוּרָה
- ריצה
- בעל חכמים
- ראה
- מַדְעָן
- לגרד
- חיפוש
- חיפושים
- חיפוש
- שְׁנִיָה
- סעיף
- סעיפים
- אבטחה
- לשלוח
- שולח
- נשלח
- נפרד
- לשרת
- שרת
- שרות
- שירותים
- הגשה
- סט
- צריך
- הופעות
- פָּשׁוּט
- פשטות
- יחיד
- מאט
- So
- תוכנה
- פִּתָרוֹן
- פתרונות
- לפתור
- מומחה
- מתמחה
- במיוחד
- נאום
- מְהִירוּת
- תֶקֶן
- התחלה
- מצב
- שלב
- עוצר
- אחסון
- חנות
- מאוחסן
- להגיש
- כזה
- סיכום
- פיקוח עליון
- תמיכה
- מערכת
- מערכות
- לְהִתְמוֹדֵד
- משימות
- לוקח
- כשרונות
- לדבר
- נבחרת
- טק
- טכני
- טכנולוגיות
- תבניות
- מבחן
- בדיקות
- זֶה
- השמיים
- שֶׁלָהֶם
- אז
- שם.
- אלה
- הֵם
- זֶה
- דרך
- זמן
- ל
- היום
- כלי
- חלק עליון
- רכבת
- מְאוּמָן
- להעביר
- שָׁקוּף
- אמת
- שתיים
- ui
- לא צפוי
- להשתמש
- במקרה להשתמש
- מְשׁוּמָשׁ
- משתמש
- שימושים
- באמצעות
- גרסה
- באמצעות
- חזון
- כֶּרֶך
- היה
- וושינגטון
- we
- אינטרנט
- שירותי אינטרנט
- מתי
- אשר
- בזמן
- מי
- עם
- בתוך
- תיק עבודות
- זרימת עבודה
- עובד
- היה
- שנים
- יוגה
- זפירנט