ساخت یک ربات خدمات مشتری مبتنی بر مدل پایه (FM) با نمایندگان برای Amazon Bedrock | خدمات وب آمازون

از افزایش تجربه مکالمه تا کمک نماینده، راه‌های زیادی وجود دارد که هوش مصنوعی مولد (AI) و مدل‌های پایه (FM) می‌توانند به ارائه پشتیبانی سریع‌تر و بهتر کمک کنند. با افزایش در دسترس بودن و تنوع FM ها، آزمایش و به روز نگه داشتن آخرین نسخه های مدل دشوار است. بستر آمازون یک سرویس کاملاً مدیریت شده است که انتخابی از FM های با کارایی بالا را از شرکت های برجسته هوش مصنوعی مانند AI21 Labs، Anthropic، Cohere، Meta، Stability AI و Amazon ارائه می دهد. با قابلیت های جامع Amazon Bedrock، می توانید به راحتی با انواع FM های برتر آزمایش کنید، آنها را به صورت خصوصی با داده های خود با استفاده از تکنیک هایی مانند تنظیم دقیق و بازیابی نسل افزوده (RAG) سفارشی کنید.

نمایندگان آمازون بستر

در ماه ژوئیه، AWS پیش نمایشی را اعلام کرد نمایندگان Amazon Bedrock، یک قابلیت جدید برای توسعه دهندگان برای ایجاد عوامل کاملاً مدیریت شده با چند کلیک. نمایندگان FM ها را برای اجرای وظایف تجاری پیچیده - از رزرو مسافرتی و رسیدگی به ادعاهای بیمه گرفته تا ایجاد کمپین های تبلیغاتی و مدیریت موجودی - همه بدون نوشتن هیچ کدی گسترش می دهند. با عوامل کاملاً مدیریت شده، لازم نیست نگران تهیه یا مدیریت زیرساخت باشید.

در این پست راهنمای گام به گام با بلوک های ساختمانی برای ایجاد ربات خدمات مشتری ارائه می دهیم. ما از یک مدل تولید متن استفاده می کنیم (آنتروپیک کلود V2) و عواملی برای Amazon Bedrock برای این راه حل. ما ارائه می دهیم AWS CloudFormation الگویی برای تهیه منابع مورد نیاز برای ساخت این راه حل. سپس شما را با مراحل ایجاد یک عامل برای Amazon Bedrock آشنا می کنیم.

ReAct Prompting

FM ها نحوه حل وظایف درخواستی کاربر را با تکنیکی به نام تعیین می کنند واکنش نشان دادن. این یک پارادایم کلی است که استدلال و عمل را با FM ترکیب می کند. ReAct از FM ها می خواهد که ردپای استدلال کلامی و اقداماتی را برای یک کار ایجاد کنند. این به سیستم اجازه می‌دهد تا استدلال پویا را برای ایجاد، حفظ و تنظیم برنامه‌هایی برای اقدام و در عین حال گنجاندن اطلاعات اضافی در استدلال انجام دهد. اعلان های ساختاریافته شامل دنباله ای از نمونه های سوال-فکر-عمل-مشاهده است.

• سوال، کار یا مشکل درخواستی کاربر برای حل است.
• فکر یک مرحله استدلالی است که به FM کمک می کند تا نشان دهد چگونه با مشکل مقابله کند و اقدامی را که باید انجام دهد شناسایی کند.
• اکشن یک API است که مدل می تواند از مجموعه مجاز API ها فراخوانی کند.
• مشاهده نتیجه انجام عمل است.

اجزای موجود در عوامل برای Amazon Bedrock

در پشت صحنه، عوامل Amazon Bedrock مهندسی و هماهنگی سریع وظایف درخواستی کاربر را خودکار می کنند. آنها می توانند به طور ایمن درخواست ها را با اطلاعات خاص شرکت تقویت کنند تا پاسخ هایی را به کاربر به زبان طبیعی ارائه دهند. عامل وظیفه درخواستی کاربر را به چند مرحله تقسیم می کند و وظایف فرعی را با کمک FM ها هماهنگ می کند. گروه های اقدام وظایفی هستند که عامل می تواند به طور مستقل انجام دهد. گروه های اقدام به یک نگاشت می شوند AWS لامبدا تابع و طرحواره API مربوطه برای انجام فراخوانی های API. نمودار زیر ساختار عامل را نشان می دهد.

بررسی اجمالی راه حل

برای ساخت ربات خدمات مشتری از یک کیف استفاده از خرده فروش کفش استفاده می کنیم. این ربات با ارائه گزینه هایی در گفتگوی انسانی به مشتریان کمک می کند کفش بخرند. مشتریان با ربات به زبان طبیعی با چندین مرحله با فراخوانی API های خارجی برای انجام وظایف فرعی صحبت می کنند. نمودار زیر جریان فرآیند نمونه را نشان می دهد.

نمودار زیر معماری سطح بالایی از این راه حل را نشان می دهد.

1. می توانید با FM های پشتیبانی شده توسط Amazon Bedrock مانند Anthropic Claude V2 یک نماینده ایجاد کنید.
2. طرحواره API مستقر در an را پیوست کنید سرویس ذخیره سازی ساده آمازون (Amazon S3) سطل و یک تابع لامبدا حاوی منطق تجاری برای عامل است. (توجه: این یک مرحله راه اندازی یک بار است.)
3. عامل از درخواست های مشتری برای ایجاد یک درخواست با استفاده از چارچوب ReAct استفاده می کند. سپس از طرحواره API برای فراخوانی کد مربوطه در تابع Lambda استفاده می کند.
4. شما می توانید وظایف مختلفی را انجام دهید، از جمله ارسال اعلان های ایمیل، نوشتن در پایگاه داده، و فعال کردن API های برنامه در توابع Lambda.

در این پست، ما از تابع Lambda برای بازیابی اطلاعات مشتری، لیست کفش های مطابق با فعالیت های مورد علاقه مشتری و در نهایت، سفارش دادن استفاده می کنیم. کد ما توسط یک پایگاه داده SQLite در حافظه پشتیبانی می شود. می توانید از ساختارهای مشابه برای نوشتن در یک ذخیره داده دائمی استفاده کنید.

پیش نیازها

برای پیاده سازی راه حل ارائه شده در این پست، باید یک حساب AWS و دسترسی به Amazon Bedrock با عوامل فعال (در حال حاضر در پیش نمایش). از الگوی AWS CloudFormation برای ایجاد پشته منابع مورد نیاز برای راه حل استفاده کنید.

us-east-1

الگوی CloudFormation دو نقش IAM ایجاد می کند. این نقش‌ها را به‌روزرسانی کنید تا مجوزهای کمترین امتیاز را همانطور که در مورد بحث شد اعمال کنید بهترین شیوه های امنیتیاست. کلیک کنید اینجا کلیک نمایید برای یادگیری ویژگی های IAM برای استفاده با نمایندگان Amazon Bedrock.

1. LambdaBasicExecutionRole با دسترسی کامل Amazon S3 و دسترسی CloudWatch برای ورود به سیستم.
2. AmazonBedrockExecutionRoleForAgents با دسترسی کامل آمازون S3 و دسترسی کامل لامبدا.

مهم: نمایندگان Amazon Bedrock باید پیشوند نام نقش را داشته باشند AmazonBedrockExecutionRoleForAgents_*

راه اندازی عوامل بستر

در دو بخش بعدی، شما را با ایجاد و آزمایش یک عامل راهنمایی خواهیم کرد.

یک عامل برای Amazon Bedrock ایجاد کنید

برای ایجاد یک عامل، آن را باز کنید کنسول بستر آمازون و انتخاب کنید عوامل در صفحه ناوبری سمت چپ. سپس انتخاب کنید ایجاد عامل.

این کار گردش کار ایجاد عامل را شروع می کند.

1. جزئیات نماینده را ارائه دهید: به نماینده یک نام و توضیحات (اختیاری) بدهید. نقش سرویس ایجاد شده توسط پشته CloudFormation را انتخاب کرده و انتخاب کنید بعدی.

2. یک مدل فونداسیون انتخاب کنید: در مدل را انتخاب کنید صفحه نمایش، شما یک مدل را انتخاب می کنید. دستورالعمل های واضح و دقیقی را در مورد اینکه چه وظایفی باید انجام دهد و چگونه با کاربران تعامل داشته باشد به نماینده ارائه دهید.

3. گروه های اقدام را اضافه کنید: Action وظیفه ای است که عامل می تواند با برقراری تماس های API انجام دهد. مجموعه ای از اقدامات شامل یک گروه عمل می شود. شما یک طرح API ارائه می دهید که همه API های گروه اقدام را تعریف می کند. شما باید یک طرح API در طرحواره OpenAPI فرمت JSON تابع Lambda حاوی منطق تجاری مورد نیاز برای انجام تماس های API است. شما باید یک تابع Lambda را به هر گروه اقدام مرتبط کنید.

به گروه عمل یک نام و توضیحی برای عمل بدهید. تابع Lambda را انتخاب کنید، یک فایل طرحواره API تهیه کنید و انتخاب کنید بعدی.

4. در مرحله آخر پیکربندی عامل را بررسی کرده و انتخاب کنید ایجاد عامل.

آزمایش و استقرار عوامل برای Amazon Bedrock

1. عامل را تست کنید: پس از ایجاد عامل، یک کادر محاوره ای نمای کلی نماینده را به همراه پیش نویس کاری نشان می دهد. کنسول Amazon Bedrock یک رابط کاربری برای آزمایش نماینده شما ارائه می دهد.

2. گسترش: پس از آزمایش موفقیت آمیز، می توانید عامل خود را مستقر کنید. برای استقرار یک عامل در برنامه خود، باید یک نام مستعار ایجاد کنید. سپس Amazon Bedrock به طور خودکار نسخه ای برای آن نام مستعار ایجاد می کند.

اقدامات زیر با تنظیم عامل قبلی و کد Lambda ارائه شده با این پست انجام می شود:

1. نماینده یک درخواست از دستورالعمل‌های ارائه‌شده توسط توسعه‌دهنده ایجاد می‌کند (مانند «شما نماینده‌ای هستید که به مشتریان در خرید کفش کمک می‌کند.»)، طرح‌های API مورد نیاز برای تکمیل وظایف، و جزئیات منبع داده‌ها. ایجاد اعلان خودکار باعث صرفه جویی در هفته ها آزمایش با اعلانات برای FM های مختلف می شود.
2. نماینده، کار درخواستی کاربر، مانند "من به دنبال کفش هستم" را با تقسیم آن به وظایف فرعی کوچکتر مانند دریافت جزئیات مشتری، تطبیق فعالیت ترجیحی مشتری با فعالیت کفش، و سفارش کفش، هماهنگ می کند. عامل توالی درست کارها را تعیین می کند و سناریوهای خطا را در طول مسیر مدیریت می کند.

تصویر زیر نمونه‌ای از پاسخ‌های نماینده را نشان می‌دهد.

با انتخاب نشان دادن ردیابی برای هر پاسخ، یک کادر محاوره ای تکنیک استدلال استفاده شده توسط عامل و پاسخ نهایی تولید شده توسط FM را نشان می دهد.

پاک کردن

برای جلوگیری از تحمیل هزینه در آینده، منابع را حذف کنید. می توانید این کار را با حذف پشته از کنسول CloudFormation انجام دهید.

کد مورد استفاده در این پست را از گیت هاب دانلود و تست کنید عوامل مخزن آمازون بستر. شما همچنین می توانید عوامل برای Amazon Bedrock را به صورت برنامه ریزی شده فراخوانی کنید. یک به عنوان مثال نوت بوک Jupyter در مخزن ارائه شده است.

نتیجه

Agents for Amazon Bedrock می‌تواند به شما در افزایش بهره‌وری، بهبود تجربه خدمات مشتری یا خودکارسازی وظایف DevOps کمک کند. در این پست، ما به شما نشان دادیم که چگونه می‌توانید برای Amazon Bedrock یک ربات خدمات مشتری ایجاد کنید.

ما شما را تشویق می کنیم که با بررسی بیشتر بیاموزید ویژگی های اضافی آمازون بستر. می توانید از کد مثال ارائه شده در این پست برای ایجاد پیاده سازی خود استفاده کنید. ما را امتحان کنید کارگاه برای کسب تجربه عملی با Amazon Bedrock.

---

درباره نویسنده

آمیت آرورا یک معمار متخصص هوش مصنوعی و ML در خدمات وب آمازون است که به مشتریان سازمانی کمک می کند تا از خدمات یادگیری ماشینی مبتنی بر ابر استفاده کنند تا نوآوری های خود را به سرعت گسترش دهند. او همچنین یک مدرس کمکی در برنامه علوم داده و تجزیه و تحلیل MS در دانشگاه جورج تاون در واشنگتن دی سی است.

مانجو پراساد یک معمار ارشد راه حل در حساب های استراتژیک در خدمات وب آمازون است. او بر ارائه راهنمایی‌های فنی در حوزه‌های مختلف، از جمله AI/ML برای یک مشتری M&E متمرکز است. قبل از پیوستن به AWS، او برای شرکت‌هایی در بخش خدمات مالی و همچنین یک استارتاپ کار کرده است.

آرچانا ایناپودی یک معمار ارشد راه حل در AWS است که از مشتریان استراتژیک پشتیبانی می کند. او بیش از یک دهه تجربه در کمک به مشتریان در طراحی و ساخت تجزیه و تحلیل داده ها و راه حل های پایگاه داده دارد. او مشتاق استفاده از فناوری برای ارائه ارزش به مشتریان و دستیابی به نتایج تجاری است.

• محتوای مبتنی بر SEO و توزیع روابط عمومی. امروز تقویت شوید.
• PlatoData.Network Vertical Generative Ai. به خودت قدرت بده دسترسی به اینجا.
• PlatoAiStream. هوش وب 3 دانش تقویت شده دسترسی به اینجا.
• PlatoESG. کربن ، CleanTech، انرژی، محیط، خورشیدی، مدیریت پسماند دسترسی به اینجا.
• PlatoHealth. هوش بیوتکنولوژی و آزمایشات بالینی. دسترسی به اینجا.
• منبع: https://aws.amazon.com/blogs/machine-learning/build-a-foundation-model-fm-powered-customer-service-bot-with-agents-for-amazon-bedrock/