Thúc đẩy hiệu quả với các phương pháp hay nhất về CI / CD trên Amazon Lex

Giả sử bạn đã xác định được một trường hợp sử dụng trong tổ chức của mình mà bạn muốn xử lý thông qua một chatbot. Bạn đã tự làm quen với Amazon, đã xây dựng một mẫu thử nghiệm và thực hiện một vài tương tác thử nghiệm với bot. Bạn thích trải nghiệm tổng thể và bây giờ muốn triển khai bot trong môi trường sản xuất của mình, nhưng không chắc chắn về các phương pháp hay nhất cho Amazon Lex. Trong bài đăng này, chúng tôi xem xét các phương pháp hay nhất để phát triển và triển khai bot Amazon Lex, cho phép bạn hợp lý hóa vòng đời của bot từ đầu đến cuối và tối ưu hóa hoạt động của mình.

Chúng tôi đã đề cập đến các giai đoạn lập kế hoạch, thiết kế và cấu hình trong bài đăng trên blog. Chúng tôi khuyên bạn nên xem lại các bài đăng này để giúp bạn xây dựng các cuộc trò chuyện hấp dẫn với bot của mình trước khi tiếp tục. Sau khi bạn đã định cấu hình bot ban đầu, bạn nên kiểm tra nó trong nội bộ và lặp lại định nghĩa bot. Bây giờ bạn đã sẵn sàng triển khai nó trong môi trường sản xuất của mình (chẳng hạn như trung tâm cuộc gọi), nơi bot sẽ xử lý các cuộc trò chuyện trực tiếp. Khi đi vào sản xuất, bạn nên theo dõi nó liên tục để đảm bảo rằng nó đáp ứng các mục tiêu kinh doanh mong muốn của bạn. Chu kỳ này lặp lại khi bạn thêm các trường hợp sử dụng và cải tiến mới.

Hãy cùng xem lại các phương pháp hay nhất để phát triển, thử nghiệm, triển khai và giám sát bot.

Phát triển

Hãy xem xét các phương pháp hay nhất sau đây khi phát triển bot của bạn:

• Quản lý lược đồ bot thông qua mã - Bảng điều khiển Amazon Lex cung cấp giao diện dễ sử dụng khi bạn thiết kế và định cấu hình bot, nhưng dựa vào các thao tác thủ công để tái tạo thiết lập. Chúng tôi khuyên bạn nên chuyển đổi lược đồ bot thành mã sau khi hoàn thành thiết kế để đơn giản hóa bước này. Bạn có thể dùng API or Hình thành đám mây AWS (xem Tạo tài nguyên Amazon Lex V2 với AWS CloudFormation) để quản lý bot theo chương trình.
• Lược đồ bot điểm kiểm tra với lập phiên bản bot - Checkpointing là một cách tiếp cận phổ biến thường được sử dụng để hoàn nguyên một ứng dụng về trạng thái ổn định được biết đến gần đây nhất. Amazon Lex cung cấp chức năng này thông qua phiên bản bot. Chúng tôi khuyên bạn nên sử dụng phiên bản mới ở mỗi cột mốc trong quá trình phát triển của mình. Điều này cho phép bạn thực hiện các thay đổi gia tăng đối với định nghĩa bot của mình, với một cách dễ dàng để hoàn nguyên chúng trong trường hợp chúng không hoạt động như mong đợi.
• Xác định các yêu cầu xử lý dữ liệu và định cấu hình các điều khiển thích hợp - Amazon Lex theo sau AWS mô hình trách nhiệm chung, bao gồm các nguyên tắc bảo vệ dữ liệu để tuân thủ các quy định của ngành và với các tiêu chuẩn về quyền riêng tư dữ liệu của riêng công ty bạn. Ngoài ra, Amazon Lex tuân thủ chương trình tuân thủ chẳng hạn như SOC, PCI và FedRAMP. Amazon Lex cung cấp khả năng làm mờ các vị trí được coi là nhạy cảm. Bạn nên xác định các yêu cầu về quyền riêng tư dữ liệu của mình và định cấu hình các điều khiển thích hợp trong bot của bạn.

Kiểm tra

Sau khi bạn có định nghĩa về bot, bạn nên kiểm tra bot để đảm bảo rằng nó hoạt động như dự định và được định cấu hình chính xác. Ví dụ: nó phải có quyền để kích hoạt các dịch vụ khác, chẳng hạn như AWS Lambda chức năng. Ngoài ra, bạn cũng nên kiểm tra bot để xác nhận rằng nó có thể giải thích các loại yêu cầu khác nhau của người dùng. Hãy xem xét các phương pháp hay nhất sau đây để kiểm tra:

• Xác định dữ liệu thử nghiệm - Bạn nên thu thập dữ liệu thử nghiệm có liên quan để kiểm tra hiệu suất của bot. Dữ liệu thử nghiệm phải bao gồm bản trình bày toàn diện về các cuộc trò chuyện của người dùng được mong đợi với bot, đặc biệt là đối với các trường hợp sử dụng IVR trong đó bot sẽ cần hiểu đầu vào bằng giọng nói. Dữ liệu kiểm tra phải bao gồm các phong cách nói và trọng âm khác nhau. Dữ liệu thử nghiệm như vậy có thể cung cấp xác thực trải nghiệm cho cơ sở khách hàng mục tiêu của bạn.
• Xác định các chỉ số trải nghiệm người dùng - Việc xác định trải nghiệm trò chuyện có thể khó khăn. Bạn phải dự đoán và lập kế hoạch cho tất cả các cách khác nhau mà người dùng có thể tương tác với bot. Làm thế nào để bạn hướng dẫn người gọi mà không có vẻ quá quy định? Làm thế nào để bạn khôi phục nếu người gọi cung cấp thông tin không chính xác hoặc không đầy đủ? Để quản lý hộp thoại thông qua nhiều tình huống khác nhau, bạn nên đặt mục tiêu rõ ràng bao gồm các phong cách nói, điều kiện âm thanh và phương thức khác nhau, đồng thời xác định các số liệu khách quan mà bạn có thể theo dõi. Ví dụ: một chỉ báo khách quan sẽ là "90% cuộc hội thoại nên có ít hơn hai lời nhắc lại được phát cho người dùng", so với một chỉ báo chủ quan như "phần lớn các cuộc hội thoại không nên yêu cầu người dùng lặp lại thông tin đầu vào của họ."
• Đánh giá trải nghiệm người dùng trong suốt quá trình - Trong một số trường hợp, những thay đổi tưởng như nhỏ lại có thể tác động lớn đến trải nghiệm người dùng. Ví dụ: hãy xem xét một tình huống mà bạn vô tình mắc lỗi đánh máy trong biểu thức chính quy được sử dụng cho loại vị trí ID tài khoản, điều này dẫn đến việc bot sẽ nhắc người dùng cung cấp lại thông tin đầu vào. Bạn nên đánh giá trải nghiệm người dùng và đầu tư vào thử nghiệm tự động để tạo ra các chỉ số chính. Bạn có thể tham khảo Đánh giá dịch vụ nhận dạng giọng nói tự động và Kiểm tra độ chính xác và hồi quy với Amazon Connect và Amazon Lex để biết ví dụ về cách kiểm tra và tạo các chỉ số chính.

Triển khai

Khi bạn đã hài lòng với hiệu suất của bot, bạn sẽ muốn triển khai bot để bắt đầu phục vụ lưu lượng sản xuất của mình. Khi bạn lặp lại bot trong suốt vòng đời của nó, bạn sẽ lặp lại các lần triển khai, khiến nó trở thành một quá trình liên tục, vì vậy điều quan trọng là phải có một triển khai tự động, được sắp xếp hợp lý để giảm nguy cơ xảy ra lỗi. Xem xét các phương pháp triển khai tốt nhất sau:

• Sử dụng môi trường nhiều tài khoản - Bạn nên tuân theo AWS được khuyến nghị thiết lập môi trường nhiều tài khoản trong tổ chức của bạn và sử dụng các tài khoản AWS riêng biệt cho giai đoạn phát triển và giai đoạn sản xuất của bạn. Nếu bạn có sự hiện diện ở nhiều Khu vực, thì bạn cũng nên sử dụng tài khoản AWS riêng cho mỗi Khu vực để sản xuất. Việc sử dụng các tài khoản AWS riêng biệt cho mỗi giai đoạn cung cấp cho bạn giới hạn bảo mật, quyền truy cập và thanh toán cho các tài nguyên AWS của bạn.
• Tự động hóa việc thúc đẩy bot từ phát triển đến sản xuất - Khi sao chép thiết lập bot trong giai đoạn phát triển sang giai đoạn sản xuất, bạn nên sử dụng các giải pháp tự động và giảm thiểu các điểm chạm thủ công. Bạn nên sử dụng các mẫu CloudFormation để tạo bot của mình. Ngoài ra, bạn có thể sử dụng API xuất và nhập của Amazon Lex để cung cấp một phương tiện tự động để sao chép một lược đồ bot trên các tài khoản.
• Triển khai các thay đổi theo từng giai đoạn - Bạn nên triển khai các thay đổi đối với môi trường sản xuất của mình theo từng giai đoạn, để các thay đổi được phát hành cho một tập hợp con của lưu lượng truy cập sản xuất của bạn trước khi được phát hành cho tất cả người dùng. Cách tiếp cận như vậy cho bạn cơ hội giới hạn bán kính vụ nổ trong trường hợp có bất kỳ vấn đề nào xảy ra với sự thay đổi. Một cách bạn có thể đạt được điều này là sử dụng phương pháp triển khai hai giai đoạn: bạn tạo hai bí danh cho bot (ví dụ: prod-05 và prod-95). Trước tiên, bạn liên kết phiên bản bot mới với một bí danh (trong ví dụ này là prod-05). Sau khi xác thực các chỉ số chính đáp ứng tiêu chí thành công, bạn liên kết bí danh thứ hai (prod-95) với phiên bản bot mới.

Lưu ý rằng bạn cần kiểm soát việc phân phối lưu lượng truy cập trên ứng dụng khách được sử dụng để tích hợp với các bot Amazon Lex. Ví dụ: nếu bạn đang sử dụng Kết nối Amazon để tích hợp với bot của bạn, bạn có thể sử dụng Phân phối theo phần trăm khối liên hệ kết hợp với hai hoặc nhiều Nhận ý kiến ​​khách hàng khối.

Điều quan trọng cần lưu ý là Amazon Lex cung cấp bí danh thử nghiệm ngay khi xuất xưởng. Bí danh thử nghiệm chỉ được sử dụng cho thử nghiệm thủ công đặc biệt thông qua bảng điều khiển Amazon Lex và không có nghĩa là để xử lý tải ở quy mô sản xuất. Chúng tôi khuyên bạn nên sử dụng bí danh dành riêng cho lưu lượng truy cập sản xuất của mình.

Giám sát

Giám sát là quan trọng để duy trì độ tin cậy, tính khả dụng và trải nghiệm người dùng cuối hiệu quả. Bạn nên phân tích các chỉ số của bot của mình và sử dụng những điều đã học làm cơ chế phản hồi để cải thiện lược đồ bot cũng như các phương pháp phát triển, thử nghiệm và triển khai của bạn. Amazon Lex hỗ trợ nhiều cơ chế để giám sát bot. Hãy xem xét các phương pháp hay nhất sau đây để theo dõi các bot Lex của bạn:

• Giám sát liên tục và lặp lại - Amazon Lex tích hợp với amazoncloudwatch để cung cấp các chỉ số gần thời gian thực có thể cung cấp cho bạn thông tin chi tiết chính về tương tác của người dùng với bot. Những thông tin chi tiết này có thể giúp bạn có quan điểm về trải nghiệm người dùng cuối. Để tìm hiểu thêm về các loại chỉ số khác nhau mà Amazon Lex tạo ra, hãy xem Giám sát Amazon Lex V2 với Amazon CloudWatch. Chúng tôi khuyên bạn nên thiết lập các ngưỡng để kích hoạt cảnh báo. Tương tự, Amazon Lex cung cấp cho bạn khả năng hiển thị các câu nhập liệu thô từ các tương tác của người dùng với bot. Bạn nên sử dụng thống kê phát âm or nhật ký hội thoại để có được thông tin chi tiết nhằm xác định các kiểu giao tiếp và thực hiện các thay đổi thích hợp đối với bot của bạn nếu cần. Để tìm hiểu cách tạo trang tổng quan phân tích được cá nhân hóa cho bot của bạn, hãy tham khảo Theo dõi các chỉ số hoạt động cho chatbot Amazon Lex của bạn.

Các phương pháp hay nhất được thảo luận trong bài đăng này chủ yếu tập trung vào các trường hợp sử dụng cụ thể của Amazon Lex. Ngoài những điều này, bạn nên xem xét và tuân thủ các phương pháp hay nhất khi quản lý cơ sở hạ tầng đám mây của mình trong AWS. Đảm bảo rằng cơ sở hạ tầng đám mây của bạn được bảo mật và chỉ những người dùng được ủy quyền mới có thể truy cập được. Bạn cũng nên xem xét và áp dụng Các phương pháp hay nhất về bảo mật AWS trong tổ chức của bạn. Cuối cùng, bạn nên chủ động xem xét Hạn ngạch AWS cho các dịch vụ AWS riêng lẻ (bao gồm hạn ngạch Amazon Lex) và yêu cầu các thay đổi thích hợp nếu cần.

Kết luận

Bạn có thể sử dụng Amazon Lex để kích hoạt các cuộc trò chuyện bằng ngôn ngữ tự nhiên phức tạp và nâng cao hiệu quả dịch vụ khách hàng. Trong bài đăng này, chúng tôi đã xem xét các phương pháp hay nhất cho các giai đoạn phát triển, thử nghiệm, triển khai và giám sát của vòng đời bot. Với những nguyên tắc này, bạn có thể cải thiện trải nghiệm người dùng cuối và đạt được mức độ tương tác của khách hàng tốt hơn. Bắt đầu xây dựng trải nghiệm trò chuyện trên Amazon Lex của bạn ngay hôm nay!

Lưu ý

Swapandeep Singh là một kỹ sư của nhóm Amazon Lex. Anh ấy làm việc để làm cho các tương tác với bot mượt mà hơn và giống con người hơn. Ngoài công việc, anh ấy thích đi du lịch và tìm hiểu các nền văn hóa khác nhau.