Xây dựng bot dịch vụ khách hàng dựa trên mô hình nền tảng (FM) với các đại lý cho Amazon Bedrock | Dịch vụ web của Amazon

Từ việc nâng cao trải nghiệm đàm thoại đến hỗ trợ tổng đài viên, có rất nhiều cách mà trí tuệ nhân tạo tổng hợp (AI) và các mô hình nền tảng (FM) có thể giúp cung cấp hỗ trợ nhanh hơn, tốt hơn. Với tính sẵn có và đa dạng ngày càng tăng của FM, thật khó để thử nghiệm và cập nhật các phiên bản mẫu mới nhất. nền tảng Amazon là dịch vụ được quản lý hoàn toàn cung cấp nhiều lựa chọn FM hiệu suất cao từ các công ty AI hàng đầu như AI21 Labs, Anthropic, Cohere, Meta, Stability AI và Amazon. Với khả năng toàn diện của Amazon Bedrock, bạn có thể dễ dàng thử nghiệm nhiều loại FM hàng đầu, tùy chỉnh chúng một cách riêng tư với dữ liệu của mình bằng các kỹ thuật như tinh chỉnh và Tạo tăng cường truy xuất (RAG).

Đại lý cho Amazon Bedrock

Vào tháng XNUMX, AWS đã công bố bản xem trước của đại lý cho Amazon Bedrock, một khả năng mới dành cho các nhà phát triển để tạo các tác nhân được quản lý hoàn toàn chỉ bằng vài cú nhấp chuột. Đại lý mở rộng FM để thực hiện các nhiệm vụ kinh doanh phức tạp—từ đặt chỗ du lịch và xử lý yêu cầu bảo hiểm đến tạo chiến dịch quảng cáo và quản lý khoảng không quảng cáo—tất cả đều không cần viết bất kỳ mã nào. Với các đại lý được quản lý hoàn toàn, bạn không phải lo lắng về việc cung cấp hoặc quản lý cơ sở hạ tầng.

Trong bài đăng này, chúng tôi cung cấp hướng dẫn từng bước về các khối xây dựng để tạo bot dịch vụ khách hàng. Chúng tôi sử dụng mô hình tạo văn bản (Nhân chủng học Claude V2) và các đại lý cho Amazon Bedrock cho giải pháp này. Chúng tôi cung cấp một Hình thành đám mây AWS mẫu để cung cấp các tài nguyên cần thiết để xây dựng giải pháp này. Sau đó, chúng tôi sẽ hướng dẫn bạn các bước để tạo đại lý cho Amazon Bedrock.

Nhắc lại hành động

FM xác định cách giải quyết các tác vụ do người dùng yêu cầu bằng một kỹ thuật gọi là Phản ứng. Đó là một mô hình chung kết hợp lý luận và hành động với FM. ReAct nhắc FM tạo ra các dấu vết lý luận bằng lời nói và hành động cho một nhiệm vụ. Điều này cho phép hệ thống thực hiện lập luận động để tạo, duy trì và điều chỉnh các kế hoạch hành động đồng thời kết hợp thông tin bổ sung vào lập luận. Những gợi ý có cấu trúc bao gồm một chuỗi các ví dụ về câu hỏi-suy nghĩ-hành động-quan sát.

• Câu hỏi là nhiệm vụ hoặc vấn đề do người dùng yêu cầu cần giải quyết.
• Suy nghĩ này là một bước lý luận giúp chứng minh cho FM cách giải quyết vấn đề và xác định hành động cần thực hiện.
• Hành động này là một API mà mô hình có thể gọi từ một nhóm API được phép.
• Việc quan sát là kết quả của việc thực hiện hành động.

Các thành phần trong đại lý của Amazon Bedrock

Phía sau, các nhân viên của Amazon Bedrock tự động hóa quy trình kỹ thuật nhanh chóng và điều phối các tác vụ do người dùng yêu cầu. Họ có thể tăng cường các lời nhắc một cách an toàn bằng thông tin cụ thể của công ty để cung cấp phản hồi cho người dùng bằng ngôn ngữ tự nhiên. Tác nhân chia nhiệm vụ do người dùng yêu cầu thành nhiều bước và sắp xếp các nhiệm vụ phụ với sự trợ giúp của FM. Nhóm hành động là các nhiệm vụ mà tác nhân có thể thực hiện một cách tự chủ. Các nhóm hành động được ánh xạ tới một AWS Lambda chức năng và lược đồ API liên quan để thực hiện lệnh gọi API. Sơ đồ sau đây mô tả cấu trúc tác nhân.

Tổng quan về giải pháp

Chúng tôi sử dụng trường hợp sử dụng của nhà bán lẻ giày để xây dựng bot dịch vụ khách hàng. Bot giúp khách hàng mua giày bằng cách cung cấp các lựa chọn trong cuộc trò chuyện giống con người. Khách hàng trò chuyện với bot bằng ngôn ngữ tự nhiên bằng nhiều bước gọi API bên ngoài để hoàn thành các nhiệm vụ phụ. Sơ đồ sau đây minh họa quy trình mẫu.

Sơ đồ sau đây mô tả kiến ​​trúc cấp cao của giải pháp này.

1. Bạn có thể tạo một tác nhân bằng các FM được Amazon Bedrock hỗ trợ chẳng hạn như Anthropic Claude V2.
2. Đính kèm lược đồ API, nằm trong một Dịch vụ lưu trữ đơn giản của Amazon (Amazon S3) xô và hàm Lambda chứa logic nghiệp vụ cho tác nhân. (Lưu ý: Đây là bước thiết lập một lần.)
3. Tác nhân sử dụng yêu cầu của khách hàng để tạo lời nhắc bằng khung ReAct. Sau đó, nó sử dụng lược đồ API để gọi mã tương ứng trong hàm Lambda.
4. Bạn có thể thực hiện nhiều tác vụ khác nhau, bao gồm gửi thông báo qua email, ghi vào cơ sở dữ liệu và kích hoạt API ứng dụng trong hàm Lambda.

Trong bài đăng này, chúng tôi sử dụng hàm Lambda để truy xuất thông tin chi tiết về khách hàng, liệt kê những đôi giày phù hợp với hoạt động mà khách hàng ưa thích và cuối cùng là đặt hàng. Mã của chúng tôi được hỗ trợ bởi cơ sở dữ liệu SQLite trong bộ nhớ. Bạn có thể sử dụng các cấu trúc tương tự để ghi vào kho dữ liệu liên tục.

Điều kiện tiên quyết

Để thực hiện giải pháp được cung cấp trong bài đăng này, bạn nên có một Tài khoản AWS và quyền truy cập vào Amazon Bedrock khi đã bật tác nhân (hiện đang ở chế độ xem trước). Sử dụng mẫu AWS CloudFormation để tạo ngăn xếp tài nguyên cần thiết cho giải pháp.

us-east-1

Mẫu CloudFormation tạo hai vai trò IAM. Cập nhật các vai trò này để áp dụng các quyền có đặc quyền tối thiểu như đã thảo luận trong Các phương pháp hay nhất về bảo mật. Nhấp chuột tại đây để tìm hiểu những tính năng IAM nào có sẵn để sử dụng với tổng đài viên của Amazon Bedrock.

1. LambdaBasicExecutionRole với quyền truy cập đầy đủ vào Amazon S3 và quyền truy cập CloudWatch để ghi nhật ký.
2. AmazonBedrockExecutionRoleForAgents với toàn quyền truy cập Amazon S3 và toàn quyền truy cập Lambda.

Quan trọng: Đại lý của Amazon Bedrock phải có tên vai trò bắt đầu bằng AmazonBedrockExecutionRoleForAgents_*

Thiết lập đại lý Bedrock

Trong hai phần tiếp theo, chúng tôi sẽ hướng dẫn bạn cách tạo và thử nghiệm một tác nhân.

Tạo đại lý cho Amazon Bedrock

Để tạo một đại lý, hãy mở Bảng điều khiển Amazon Bedrock Và chọn Đại lý trong ngăn điều hướng bên trái. Sau đó chọn Tạo đại lý.

Điều này bắt đầu quy trình tạo tác nhân.

1. Cung cấp chi tiết đại lý: Đặt tên và mô tả cho tác nhân (tùy chọn). Chọn vai trò dịch vụ được tạo bởi ngăn xếp CloudFormation và chọn Sau.

2. Lựa chọn mô hình nền tảng: Trong tạp chí Chọn mô hình màn hình, bạn chọn một mô hình. Cung cấp hướng dẫn rõ ràng và chính xác cho tổng đài viên về những nhiệm vụ cần thực hiện và cách tương tác với người dùng.

3. Thêm nhóm hành động: Hành động là một nhiệm vụ mà tác nhân có thể thực hiện bằng cách thực hiện lệnh gọi API. Một tập hợp các hành động bao gồm một nhóm hành động. Bạn cung cấp lược đồ API xác định tất cả các API trong nhóm hành động. Bạn phải cung cấp lược đồ API trong Lược đồ OpenAPI định dạng JSON. Hàm Lambda chứa logic nghiệp vụ cần thiết để thực hiện lệnh gọi API. Bạn phải liên kết hàm Lambda với từng nhóm hành động.

Đặt tên cho nhóm hành động và mô tả hành động. Chọn hàm Lambda, cung cấp tệp lược đồ API và chọn Sau.

4. Ở bước cuối cùng, xem lại cấu hình tác nhân và chọn Tạo đại lý.

Kiểm tra và triển khai đại lý cho Amazon Bedrock

1. Kiểm tra đại lý: Sau khi tác nhân được tạo, một hộp thoại hiển thị tổng quan về tác nhân cùng với bản nháp đang hoạt động. Bảng điều khiển Amazon Bedrock cung cấp giao diện người dùng để kiểm tra tác nhân của bạn.

2. Triển khai: Sau khi thử nghiệm thành công, bạn có thể triển khai đại lý của mình. Để triển khai một tác nhân trong ứng dụng của mình, bạn phải tạo bí danh. Sau đó, Amazon Bedrock sẽ tự động tạo phiên bản cho bí danh đó.

Các hành động sau đây xảy ra với quá trình thiết lập tác nhân trước đó và mã Lambda được cung cấp kèm theo bài đăng này:

1. Nhân viên hỗ trợ tạo lời nhắc từ các hướng dẫn do nhà phát triển cung cấp (chẳng hạn như “Bạn là nhân viên hỗ trợ khách hàng mua giày.”), các lược đồ API cần thiết để hoàn thành nhiệm vụ và chi tiết nguồn dữ liệu. Việc tạo lời nhắc tự động giúp tiết kiệm nhiều tuần thử nghiệm lời nhắc cho các đài FM khác nhau.
2. Nhân viên hỗ trợ sắp xếp nhiệm vụ do người dùng yêu cầu, chẳng hạn như “Tôi đang tìm giày”, bằng cách chia nhiệm vụ đó thành các nhiệm vụ phụ nhỏ hơn như lấy thông tin chi tiết về khách hàng, khớp hoạt động mà khách hàng ưa thích với hoạt động về giày và đặt hàng giày. Tác nhân xác định trình tự nhiệm vụ phù hợp và xử lý các tình huống lỗi trong quá trình thực hiện.

Ảnh chụp màn hình sau đây hiển thị một số câu trả lời mẫu từ tổng đài viên.

Bằng việc lựa chọn Hiển thị dấu vết đối với mỗi phản hồi, một hộp thoại hiển thị kỹ thuật lý luận được tác nhân sử dụng và phản hồi cuối cùng do FM tạo ra.

Dọn dẹp

Để tránh phát sinh phí trong tương lai, hãy xóa tài nguyên. Bạn có thể thực hiện việc này bằng cách xóa ngăn xếp khỏi bảng điều khiển CloudFormation.

Vui lòng tải xuống và kiểm tra mã được sử dụng trong bài đăng này từ GitHub đại lý cho kho lưu trữ Amazon Bedrock. Bạn cũng có thể gọi các tác nhân cho Amazon Bedrock theo chương trình; MỘT ví dụ Notebook Jupyter được cung cấp trong kho lưu trữ.

Kết luận

Đại lý của Amazon Bedrock có thể giúp bạn tăng năng suất, cải thiện trải nghiệm dịch vụ khách hàng hoặc tự động hóa các tác vụ DevOps. Trong bài đăng này, chúng tôi đã hướng dẫn bạn cách thiết lập đại lý cho Amazon Bedrock để tạo bot dịch vụ khách hàng.

Chúng tôi khuyến khích bạn tìm hiểu thêm bằng cách xem xét Tính năng bổ sung của Amazon Bedrock. Bạn có thể sử dụng mã ví dụ được cung cấp trong bài đăng này để tạo triển khai của mình. Cố gắng của chúng tôi hội thảo để có được trải nghiệm thực tế với Amazon Bedrock.

---

Về các tác giả

Amit Arora là Kiến trúc sư chuyên gia về AI và ML tại Amazon Web Services, giúp khách hàng doanh nghiệp sử dụng các dịch vụ máy học dựa trên đám mây để nhanh chóng mở rộng quy mô đổi mới của họ. Ông cũng là giảng viên phụ trợ trong chương trình phân tích và khoa học dữ liệu MS tại Đại học Georgetown ở Washington DC

Manju Prasad là Kiến trúc sư giải pháp cấp cao phụ trách Tài khoản chiến lược tại Amazon Web Services. Cô tập trung vào việc cung cấp hướng dẫn kỹ thuật trong nhiều lĩnh vực khác nhau, bao gồm cả AI/ML cho khách hàng M&E nổi tiếng. Trước khi gia nhập AWS, cô đã từng làm việc cho các công ty trong lĩnh vực Dịch vụ tài chính và cũng là một công ty khởi nghiệp.

Archana Inapudi là Kiến trúc sư giải pháp cấp cao tại AWS hỗ trợ Khách hàng chiến lược. Cô có hơn một thập kỷ kinh nghiệm giúp khách hàng thiết kế và xây dựng các giải pháp phân tích dữ liệu và cơ sở dữ liệu. Cô đam mê sử dụng công nghệ để mang lại giá trị cho khách hàng và đạt được kết quả kinh doanh.

• Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
• PlatoData.Network Vertical Generative Ai. Trao quyền cho chính mình. Truy cập Tại đây.
• PlatoAiStream. Thông minh Web3. Kiến thức khuếch đại. Truy cập Tại đây.
• Trung tâmESG. Than đá, công nghệ sạch, Năng lượng, Môi trường Hệ mặt trời, Quản lý chất thải. Truy cập Tại đây.
• PlatoSức khỏe. Tình báo thử nghiệm lâm sàng và công nghệ sinh học. Truy cập Tại đây.
• nguồn: https://aws.amazon.com/blogs/machine-learning/build-a-foundation-model-fm-powered-customer-service-bot-with-agents-for-amazon-bedrock/