Zwiększ wydajność dzięki najlepszym praktykom CI/CD w Amazon Lex

Załóżmy, że zidentyfikowałeś przypadek użycia w swojej organizacji, który chciałbyś obsłużyć za pomocą chatbota. Zapoznałeś się z Amazonka Lex, zbudował prototyp i wykonał kilka próbnych interakcji z botem. Podobało Ci się ogólne wrażenia i chcesz teraz wdrożyć bota w swoim środowisku produkcyjnym, ale nie masz pewności co do najlepszych praktyk dla Amazon Lex. W tym poście dokonujemy przeglądu najlepszych praktyk dotyczących opracowywania i wdrażania botów Amazon Lex, co umożliwia usprawnienie całego cyklu życia botów i optymalizację operacji.

W poprzednich omówiliśmy fazy planowania, projektowania i konfiguracji blogach. Sugerujemy przejrzenie tych postów, aby pomóc Ci nawiązać angażujące rozmowy z botem, zanim przejdziesz dalej. Po wstępnym skonfigurowaniu bota należy przetestować go wewnętrznie i wykonać iterację definicji bota. Jesteś teraz gotowy do wdrożenia go w swoim środowisku produkcyjnym (takim jak call center), gdzie bot będzie przetwarzał rozmowy na żywo. Po uruchomieniu produkcji należy go stale monitorować, aby upewnić się, że spełnia pożądane cele biznesowe. Ten cykl powtarza się w miarę dodawania nowych przypadków użycia i ulepszeń.

Przyjrzyjmy się najlepszym rozwiązaniom dotyczącym programowania, testowania, wdrażania i monitorowania botów.

oprogramowania

Rozważ następujące najlepsze praktyki podczas tworzenia bota:

• Zarządzaj schematem bota za pomocą kodu – Konsola Amazon Lex zapewnia łatwy w użyciu interfejs podczas projektowania i konfigurowania bota, ale opiera się na ręcznych działaniach w celu zreplikowania konfiguracji. Zalecamy przekonwertowanie schematu bota na kod po zakończeniu projektowania, aby uprościć ten krok. Możesz użyć Pszczoła or Tworzenie chmury AWS (Patrz Tworzenie zasobów Amazon Lex V2 za pomocą AWS CloudFormation), aby programowo zarządzać botem.
• Schemat bota Checkpoint z wersjonowaniem bota – Tworzenie punktów kontrolnych jest typowym podejściem często używanym do przywracania aplikacji do ostatniego znanego stabilnego stanu. Amazon Lex oferuje tę funkcjonalność za pośrednictwem wersjonowanie botów. Zalecamy używanie nowej wersji na każdym etapie rozwoju. Pozwala to na wprowadzanie stopniowych zmian w definicji bota z łatwym sposobem na ich cofnięcie na wypadek, gdyby nie działały zgodnie z oczekiwaniami.
• Zidentyfikuj wymagania dotyczące przetwarzania danych i skonfiguruj odpowiednie kontrole – Amazon Lex podąża za AWS model współodpowiedzialności, która zawiera wytyczne dotyczące ochrony danych w celu zapewnienia zgodności z przepisami branżowymi i własnymi standardami prywatności danych Twojej firmy. Dodatkowo Amazon Lex przestrzega programy zgodności takich jak SOC, PCI i FedRAMP. Amazon Lex zapewnia możliwość zaciemniania slotów, które są uważane za wrażliwe. Powinieneś określić swoje wymagania dotyczące prywatności danych i skonfigurować odpowiednie kontrole w swoim bocie.

Testowanie

Po zdefiniowaniu bota należy go przetestować, aby upewnić się, że działa zgodnie z przeznaczeniem i jest poprawnie skonfigurowany. Na przykład powinien mieć uprawnienia do uruchamiania innych usług, takich jak AWS Lambda Funkcje. Ponadto powinieneś również przetestować bota, aby potwierdzić, że jest on w stanie interpretować różne typy żądań użytkowników. Rozważ następujące najlepsze praktyki testowania:

• Zidentyfikuj dane testowe – Powinieneś zebrać odpowiednie dane testowe, aby przetestować wydajność bota. Dane testowe powinny zawierać obszerną reprezentację oczekiwanych rozmów użytkownika z botem, szczególnie w przypadkach użycia IVR, w których bot będzie musiał rozumieć wprowadzanie głosowe. Dane egzaminacyjne powinny obejmować różne style mówienia i akcenty. Takie dane testowe mogą zapewnić weryfikację doświadczenia dla docelowej bazy klientów.
• Zidentyfikuj wskaźniki doświadczenia użytkownika – Zdefiniowanie doświadczenia konwersacyjnego może być trudne. Musisz przewidzieć i zaplanować wszystkie różne sposoby, w jakie użytkownicy mogą wchodzić w interakcje z botem. Jak poprowadzić rozmówcę bez brzmienia zbyt nakazowego? Jak odzyskać sprawność, jeśli dzwoniący poda nieprawidłowe lub niepełne informacje? Aby zarządzać dialogiem w wielu różnych scenariuszach, należy wyznaczyć jasny cel obejmujący różne style mówienia, warunki akustyczne i modalność oraz określić obiektywne metryki, które można śledzić. Na przykład obiektywnym wskaźnikiem byłoby „90% rozmów powinno mieć mniej niż dwie powtórki odtworzone użytkownikowi”, w przeciwieństwie do wskaźnika subiektywnego, takiego jak „większość rozmów nie powinna prosić użytkowników o powtórzenie ich wkładu”.
• Po drodze oceniaj wrażenia użytkownika – W niektórych przypadkach pozornie drobne zmiany mogą mieć duży wpływ na wrażenia użytkownika. Rozważmy na przykład sytuację, w której nieumyślnie wprowadzisz literówkę w wyrażeniu regularnym używanym dla typu slotu identyfikatora konta, co prowadzi do ponownego monitowania użytkownika o ponowne wprowadzenie danych przez bota. Powinieneś ocenić wrażenia użytkownika i zainwestować w automatyczne testy, aby wygenerować kluczowe wskaźniki. Możesz odnieść się do Ocena usługi automatycznego rozpoznawania mowy i Testowanie dokładności i regresji za pomocą Amazon Connect i Amazon Lex po przykłady, jak testować i generować kluczowe metryki.

Rozlokowanie

Gdy będziesz zadowolony z wydajności bota, zechcesz go wdrożyć, aby rozpocząć obsługę ruchu produkcyjnego. Podczas iteracji bota w trakcie jego cyklu życia powtarzasz wdrożenia, dzięki czemu jest to proces ciągły, dlatego niezwykle ważne jest sprawne, zautomatyzowane wdrażanie, aby zmniejszyć ryzyko błędów. Rozważ następujące najlepsze praktyki wdrażania:

• Użyj środowiska z wieloma kontami – Należy postępować zgodnie z zaleceniami AWS konfiguracja środowiska wielu kont w swojej organizacji i korzystaj z oddzielnych kont AWS dla etapu rozwoju i etapu produkcji. Jeśli masz obecność w wielu regionach, powinieneś również użyć oddzielnego konta AWS dla każdego regionu do produkcji. Korzystanie z oddzielnych kont AWS na każdym etapie zapewnia bezpieczeństwo, dostęp i granice rozliczeń dla Twoich zasobów AWS.
• Zautomatyzuj promocję bota od etapu rozwoju do produkcji – Replikując konfigurację bota z etapu rozwoju na etap produkcji, należy używać zautomatyzowanych rozwiązań i minimalizować ręczne punkty styku. Do tworzenia botów powinieneś używać szablonów CloudFormation. Alternatywnie możesz użyć Interfejsy API eksportu i importu Amazon Lex aby zapewnić automatyczne sposoby kopiowania schematu bota na różne konta.
• Wprowadzaj zmiany stopniowo – Należy wdrażać zmiany w środowisku produkcyjnym etapami, tak aby zmiany były wydawane w podzbiorze ruchu produkcyjnego przed udostępnieniem wszystkim użytkownikom. Takie podejście daje szansę na ograniczenie promienia wybuchu w przypadku jakichkolwiek problemów ze zmianą. Jednym ze sposobów osiągnięcia tego jest dwuetapowe podejście do wdrażania: tworzysz dwa aliasy dla bota (na przykład prod-05 i prod-95). Najpierw kojarzysz nową wersję bota z jednym aliasem (w tym przykładzie prod-05). Po sprawdzeniu, czy kluczowe metryki spełniają kryteria sukcesu, kojarzysz drugi alias (prod-95) z nową wersją bota.

Pamiętaj, że musisz kontrolować rozkład ruchu w aplikacji klienckiej używanej do integracji z botami Amazon Lex. Na przykład, jeśli używasz Amazon Połącz do integracji z botami możesz użyć a Rozłóż procentowo blok styków w połączeniu z dwoma lub więcej Uzyskaj informacje od klientów Bloki.

Należy zauważyć, że Amazon Lex zapewnia alias testowy po wyjęciu z pudełka. Alias ​​testowy ma być używany tylko do ręcznego testowania ad hoc za pośrednictwem konsoli Amazon Lex i nie jest przeznaczony do obsługi obciążeń na skalę produkcyjną. Zalecamy używanie dedykowanego aliasu dla ruchu produkcyjnego.

Monitorowanie

Monitorowanie jest ważne dla utrzymania niezawodności, dostępności i efektywnego doświadczenia użytkownika końcowego. Powinieneś przeanalizować metryki swojego bota i wykorzystać zdobyte informacje jako mechanizm informacji zwrotnej, aby ulepszyć schemat bota, a także praktyki programowania, testowania i wdrażania. Amazon Lex obsługuje wiele mechanizmów do monitoruj boty. Rozważ następujące najlepsze praktyki monitorowania botów Lex:

• Monitoruj stale i iteruj – Amazon Lex integruje się z Amazon Cloud Watch aby zapewnić metryki w czasie zbliżonym do rzeczywistego, które mogą dostarczyć kluczowych informacji na temat interakcji użytkowników z botem. Te spostrzeżenia mogą pomóc Ci uzyskać perspektywę na wrażenia użytkownika końcowego. Aby dowiedzieć się więcej o różnych rodzajach metryk emitowanych przez Amazon Lex, zobacz Monitorowanie Amazon Lex V2 za pomocą Amazon CloudWatch. Zalecamy ustawienie progów wyzwalania alarmów. Podobnie Amazon Lex zapewnia wgląd w surowe wypowiedzi wejściowe z interakcji użytkowników z botem. Powinieneś użyć statystyki wypowiedzi or dzienniki rozmów aby uzyskać wgląd w identyfikację wzorców komunikacji i w razie potrzeby wprowadzić odpowiednie zmiany w swoim bocie. Aby dowiedzieć się, jak stworzyć spersonalizowany pulpit analityczny dla swoich botów, zapoznaj się z Monitoruj wskaźniki operacyjne dla swojego chatbota Amazon Lex.

Najlepsze praktyki omówione w tym poście skupiają się przede wszystkim na przypadkach użycia specyficznych dla Amazon Lex. Oprócz tego powinieneś przejrzeć i stosować się do najlepszych praktyk podczas zarządzania infrastrukturą chmurową w AWS. Upewnij się, że Twoja infrastruktura chmury jest bezpieczna i dostępna tylko dla autoryzowanych użytkowników. Powinieneś również przejrzeć i przyjąć odpowiednie Najlepsze praktyki bezpieczeństwa AWS w Twojej organizacji. Na koniec powinieneś proaktywnie przejrzeć Limity AWS dla poszczególnych usług AWS (w tym limitów Amazon Lex) i w razie potrzeby zażądaj odpowiednich zmian.

Wnioski

Możesz użyć Amazon Lex, aby umożliwić zaawansowane konwersacje w języku naturalnym i zwiększyć wydajność obsługi klienta. W tym poście dokonaliśmy przeglądu najlepszych praktyk dotyczących faz rozwoju, testowania, wdrażania i monitorowania cyklu życia bota. Dzięki tym wskazówkom możesz poprawić wrażenia użytkownika końcowego i osiągnąć lepsze zaangażowanie klientów. Zacznij budować swoje doświadczenie konwersacyjne w Amazon Lex już dziś!

O autorze

Swapandeep Singh jest inżynierem w zespole Amazon Lex. Pracuje nad tym, aby interakcje z botami były płynniejsze i bardziej ludzkie. Poza pracą lubi podróżować i poznawać różne kultury.