Accenture tworzy rozwiązanie Knowledge Assist, korzystając z generatywnych usług AI w AWS | Usługi internetowe Amazona

Ten post został napisany wspólnie z Ilanem Gellerem i Shuyu Yangiem z Accenture.

Przedsiębiorstwa stoją dziś przed poważnymi wyzwaniami, jeśli chodzi o wykorzystanie swoich informacji i baz wiedzy zarówno w wewnętrznych, jak i zewnętrznych operacjach biznesowych. Przy stale zmieniających się operacjach, procesach, zasadach i wymaganiach dotyczących zgodności, pracownikom i klientom może być niezwykle trudno być na bieżąco. Jednocześnie nieuporządkowany charakter większości tych treści sprawia, że ​​znajdowanie odpowiedzi za pomocą tradycyjnego wyszukiwania jest czasochłonne.

Wewnętrznie pracownicy często spędzają niezliczone godziny na wyszukiwaniu informacji potrzebnych do wykonywania swojej pracy, co prowadzi do frustracji i zmniejszenia produktywności. A kiedy nie mogą znaleźć odpowiedzi, muszą eskalować problemy lub podejmować decyzje bez pełnego kontekstu, co może stwarzać ryzyko.

Klienci zewnętrzni również mogą odczuwać frustrację w znajdowaniu informacji, których szukają. Chociaż bazy wiedzy przedsiębiorstw z biegiem czasu poprawiły jakość obsługi klientów, nadal mogą być kłopotliwe i trudne w użyciu. Niezależnie od tego, czy szukasz odpowiedzi na pytanie związane z produktem, czy potrzebujesz informacji o godzinach pracy i lokalizacjach, złe doświadczenia mogą prowadzić do frustracji lub, co gorsza, rezygnacji klienta.

W obu przypadkach, w miarę jak zarządzanie wiedzą staje się coraz bardziej złożone, generatywna sztuczna inteligencja stanowi dla przedsiębiorstw rewolucyjną szansę na umożliwienie ludziom dostępu do informacji potrzebnych do działania i wprowadzania innowacji. Przy odpowiedniej strategii te inteligentne rozwiązania mogą zmienić sposób gromadzenia, organizowania i wykorzystywania wiedzy w całej organizacji.

Aby pomóc stawić czoła temu wyzwaniu, Accenture nawiązało współpracę z AWS w celu zbudowania innowacyjnego rozwiązania generatywnej sztucznej inteligencji o nazwie Knowledge Assist. Korzystając z usług generatywnej sztucznej inteligencji AWS, zespół opracował system, który może przyjmować i analizować ogromne ilości nieustrukturyzowanej treści korporacyjnej.

Zamiast tradycyjnego wyszukiwania słów kluczowych, użytkownicy mogą teraz zadawać pytania i uzyskiwać dokładne odpowiedzi w prostym, konwersacyjnym interfejsie. Generatywna sztuczna inteligencja rozumie kontekst i relacje w bazie wiedzy, aby dostarczać spersonalizowane i dokładne odpowiedzi. W miarę wysyłania większej liczby zapytań system stale ulepsza przetwarzanie języka za pomocą algorytmów uczenia maszynowego (ML).

Od czasu uruchomienia ram pomocy AI firmy zaobserwowały radykalną poprawę w zakresie zatrzymywania wiedzy pracowników i produktywności. Zapewniając szybki i precyzyjny dostęp do informacji oraz umożliwiając pracownikom samoobsługę, rozwiązanie to skraca czas szkoleń nowych pracowników o ponad 50% i ogranicza eskalację nawet o 40%.

Dzięki mocy generatywnej sztucznej inteligencji przedsiębiorstwa mogą zmienić sposób gromadzenia, organizowania i udostępniania wiedzy w całej organizacji. Odblokowując istniejące bazy wiedzy, firmy mogą zwiększyć produktywność pracowników i satysfakcję klientów. Jak pokazuje współpraca Accenture z AWS, przyszłość zarządzania wiedzą w przedsiębiorstwie leży w systemach opartych na sztucznej inteligencji, które ewoluują w wyniku interakcji między ludźmi i maszynami.

Accenture współpracuje z AWS, aby pomóc klientom we wdrażaniu Amazońska skała macierzysta, wykorzystują najbardziej zaawansowane modele podstawowe, takie jak Amazon Tytani wdrażaj wiodące w branży technologie, takie jak Amazon SageMaker JumpStart i Wnioski Amazona wraz z innymi usługami AWS ML.

Ten post zawiera przegląd kompleksowego rozwiązania generatywnej sztucznej inteligencji opracowanego przez Accenture dla przypadku użycia produkcyjnego z wykorzystaniem Amazon Bedrock i innych usług AWS.

Omówienie rozwiązania

Duży klient z sektora zdrowia publicznego codziennie obsługuje miliony obywateli, którzy wymagają łatwego dostępu do aktualnych informacji w stale zmieniającym się krajobrazie zdrowotnym. Accenture zintegrowało tę generatywną funkcjonalność sztucznej inteligencji z istniejącym botem z często zadawanymi pytaniami, umożliwiając chatbotowi udzielanie odpowiedzi na szerszy zakres pytań użytkowników. Zwiększenie możliwości dostępu obywateli do istotnych informacji w sposób samoobsługowy oszczędza czas i pieniądze wydziału, zmniejszając potrzebę interakcji z agentem call center. Kluczowe cechy rozwiązania obejmują:

• Podejście z zamiarem hybrydowym – Wykorzystuje intencje generatywne i wstępnie wyszkolone
• Wsparcie wielojęzyczne – Rozmawia po angielsku i hiszpańsku
• Analiza konwersacji – Raporty dotyczące potrzeb, nastrojów i obaw użytkowników
• Naturalne rozmowy – Utrzymuje kontekst dzięki przetwarzaniu języka naturalnego na poziomie ludzkim (NLP)
• Przejrzyste cytaty – Prowadzi użytkowników do informacji źródłowych

Generacyjne rozwiązanie AI firmy Accenture zapewnia następujące zalety w porównaniu z istniejącymi lub tradycyjnymi platformami chatbotów:

• Szybko generuje dokładne, trafne i naturalnie brzmiące odpowiedzi na zapytania użytkowników
• Zapamiętuje kontekst i odpowiada na pytania uzupełniające
• Obsługuje zapytania i generuje odpowiedzi w wielu językach (takich jak angielski i hiszpański)
• Stale się uczy i ulepsza reakcje w oparciu o opinie użytkowników
• Można go łatwo zintegrować z istniejącą platformą internetową
• Pozyskuje ogromne repozytorium bazy wiedzy przedsiębiorstwa
• Odpowiada w sposób ludzki
• Ewolucja wiedzy jest stale dostępna przy minimalnym lub żadnym wysiłku
• Korzysta z modelu płatności zgodnie z rzeczywistym użyciem, bez kosztów początkowych

Ogólny przepływ pracy w tym rozwiązaniu obejmuje następujące kroki:

1. Użytkownicy tworzą prostą integrację z istniejącymi platformami internetowymi
2. Dane są pobierane na platformę jako przesyłanie zbiorcze w dniu 0, a następnie przesyłanie przyrostowe w dniu 1 lub nowszym.​
3. Zapytania użytkowników są przetwarzane w czasie rzeczywistym, a system jest skalowany zgodnie z wymaganiami użytkowników.
4. Rozmowy zapisywane są w bazach danych aplikacji (Amazon Dynamo DB) do obsługi rozmów wielorundowych
5. Podstawowy model Anthropic Claude jest wywoływany za pośrednictwem Amazon Bedrock, który służy do generowania odpowiedzi na zapytania w oparciu o najbardziej odpowiednią treść.
6. Podstawowy model Anthropic Claude służy do tłumaczenia zapytań i odpowiedzi z języka angielskiego na inne pożądane języki w celu obsługi rozmów wielojęzycznych.
7. Model fundamentu Amazon Titan jest wywoływany za pośrednictwem Amazon Bedrock w celu wygenerowania osadzania wektorów.
8. Trafność treści jest określana na podstawie podobieństwa osadzania surowej treści i osadzania zapytań użytkownika przy użyciu osadzania wektorowych baz danych Pinecone.​
9. Kontekst wraz z pytaniem użytkownika jest dołączany w celu utworzenia podpowiedzi, która stanowi dane wejściowe do modelu Anthropic Claude. Wygenerowana odpowiedź jest przekazywana użytkownikowi za pośrednictwem platformy internetowej.

Poniższy schemat ilustruje architekturę rozwiązania.

Przepływ architektury można rozumieć w dwóch częściach:

W kolejnych sekcjach bardziej szczegółowo omawiamy różne aspekty rozwiązania i jego rozwoju.

Wybór modelu

Proces wyboru modelu obejmował testy regresyjne różnych modeli dostępnych w Amazon Bedrock, w tym modele AI21 Labs, Cohere, Anthropic i Amazon Foundation. Sprawdziliśmy obsługiwane przypadki użycia, atrybuty modelu, maksymalne tokeny, koszt, dokładność, wydajność i języki. Na tej podstawie wybraliśmy Claude-2 jako najlepiej pasujący do tego przypadku użycia.

Źródło danych

Stworzyliśmy indeks Amazon Kendra i dodaliśmy źródło danych za pomocą łączników robotów sieciowych z głównym adresem URL i głębokością katalogów na dwóch poziomach. Kilka stron internetowych zostało włączonych do indeksu Amazon Kendra i wykorzystanych jako źródło danych.

Proces żądania i odpowiedzi chatbota GenAI

Etapy tego procesu obejmują kompleksową interakcję z żądaniem od Amazonka Lex oraz odpowiedź z dużego modelu językowego (LLM):

1. Użytkownik przesyła żądanie do konwersacyjnej aplikacji front-end hostowanej w pliku Usługa Amazon Simple Storage (Amazon S3) wiadro do przodu Amazon trasy 53 i Amazon CloudFront.
2. Amazon Lex rozumie intencję i kieruje żądanie do orkiestratora hostowanego w pliku AWS Lambda funkcja.
3. Funkcja Orchestrator Lambda wykonuje następujące kroki:
   1. Funkcja współdziała z bazą danych aplikacji, która jest hostowana w bazie danych zarządzanej przez DynamoDB. Baza danych przechowuje identyfikator sesji i identyfikator użytkownika na potrzeby historii rozmów.
   2. Kolejne żądanie jest wysyłane do indeksu Amazon Kendra w celu uzyskania pięciu najlepszych, trafnych wyników wyszukiwania w celu zbudowania odpowiedniego kontekstu. Korzystając z tego kontekstu, konstruuje się zmodyfikowany monit wymagany dla modelu LLM.
   3. Nawiązywane jest połączenie pomiędzy Amazon Bedrock a orkiestratorem. Do modelu Amazon Bedrock Claude-2 zostaje wysłane żądanie uzyskania odpowiedzi z wybranego modelu LLM.
4. Dane z odpowiedzi LLM są przetwarzane później i odpowiedź jest wysyłana do użytkownika.

Raportowanie online

Proces raportowania online składa się z następujących kroków:

1. Użytkownicy końcowi wchodzą w interakcję z chatbotem za pośrednictwem warstwy frontonu CloudFront CDN.
2. Każda interakcja żądanie/odpowiedź jest obsługiwana przez pakiet AWS SDK i wysyła ruch sieciowy do Amazon Lex (komponent NLP bota).
3. Rejestrowane są metadane dotyczące par żądanie/odpowiedź Amazon Cloud Watch.
4. Grupa dzienników CloudWatch jest skonfigurowana z filtrem subskrypcji, do którego wysyłane są dzienniki Usługa Amazon OpenSearch.
5. Po udostępnieniu w usłudze OpenSearch dzienniki można wykorzystać do generowania raportów i pulpitów nawigacyjnych za pomocą Kibany.

Wnioski

W tym poście pokazaliśmy, jak Accenture wykorzystuje usługi generatywnej sztucznej inteligencji AWS do wdrożenia kompleksowego podejścia do transformacji cyfrowej. Zidentyfikowaliśmy luki w tradycyjnych platformach odpowiadania na pytania i w ich ramach rozszerzyliśmy inteligencję generatywną, aby skrócić czas reakcji i stale ulepszać system, jednocześnie angażując użytkowników na całym świecie. Skontaktuj się z zespołem Accenture Center of Excellence, aby głębiej poznać rozwiązanie i wdrożyć je dla swoich klientów.

Tę platformę Knowledge Assist można zastosować w różnych branżach, w tym między innymi w naukach o zdrowiu, usługach finansowych, produkcji i nie tylko. Platforma ta zapewnia naturalne, ludzkie odpowiedzi na pytania, korzystając z zabezpieczonej wiedzy. Platforma ta zapewnia wydajność, produktywność i dokładniejsze działania, jakie mogą podejmować jej użytkownicy.

Wspólny wysiłek opiera się na 15-letnich strategicznych relacjach pomiędzy firmami i wykorzystuje te same sprawdzone mechanizmy i akceleratory zbudowane przez Grupa biznesowa Accenture AWS (AABG).

Połącz się z zespołem AABG pod adresem mazowieckie@amazon.com aby osiągać wyniki biznesowe poprzez transformację w inteligentne przedsiębiorstwo danych na platformie AWS.

Aby uzyskać więcej informacji na temat generatywnej sztucznej inteligencji w AWS przy użyciu Amazon Bedrock lub Amazon Sage Maker, polecamy następujące zasoby:

Możesz również zapisz się na biuletyn generatywnej AI AWS, która obejmuje zasoby edukacyjne, blogi i aktualizacje usług.

---

O autorach

Ilana Gellera jest dyrektorem zarządzającym w Accenture zajmującym się sztuczną inteligencją, pomagającym klientom w skalowaniu aplikacji sztucznej inteligencji oraz głównym partnerem Global GenAI COE dla AWS.

Shuyu Yang jest liderem generatywnej sztucznej inteligencji i dostarczania modeli wielkojęzykowych, a także kieruje zespołami CoE (Centrum Doskonałości) Accenture AI (specjaliści AWS DevOps).

Szikhara Kwatry jest architektem rozwiązań specjalistycznych AI/ML w Amazon Web Services, współpracującym z wiodącym globalnym integratorem systemów. Zdobył tytuł jednego z najmłodszych indyjskich mistrzów wynalazców dzięki ponad 500 patentom w obszarach AI/ML i IoT. Shikhar pomaga w projektowaniu, budowaniu i utrzymaniu ekonomicznych, skalowalnych środowisk chmurowych dla organizacji oraz wspiera partnera GSI w budowaniu strategicznych rozwiązań branżowych na platformie AWS.

Jay’a Pillai’a jest głównym architektem rozwiązań w Amazon Web Services. Na tym stanowisku pełni funkcję globalnego głównego architekta generującego sztuczną inteligencję, a także głównego architekta rozwiązań w zakresie łańcucha dostaw w AABG. Jako lider technologii informatycznych Jay specjalizuje się w obszarach sztucznej inteligencji, integracji danych, inteligencji biznesowej i interfejsów użytkownika. Posiada 23-letnie rozległe doświadczenie w pracy z kilkoma klientami z różnych obszarów łańcucha dostaw, technologii prawnych, nieruchomości, usług finansowych, ubezpieczeń, płatności i dziedzin biznesowych związanych z badaniami rynku.

Karthik Sonti kieruje globalnym zespołem architektów rozwiązań skupionym na konceptualizacji, budowaniu i wdrażaniu rozwiązań poziomych, funkcjonalnych i pionowych wraz z Accenture, aby pomóc naszym wspólnym klientom przekształcić ich działalność w zróżnicowany sposób w AWS.

• Dystrybucja treści i PR oparta na SEO. Uzyskaj wzmocnienie już dziś.
• PlatoData.Network Pionowe generatywne AI. Wzmocnij się. Dostęp tutaj.
• PlatoAiStream. Inteligencja Web3. Wiedza wzmocniona. Dostęp tutaj.
• PlatonESG. Węgiel Czysta technologia, Energia, Środowisko, Słoneczny, Gospodarowanie odpadami. Dostęp tutaj.
• Platon Zdrowie. Inteligencja w zakresie biotechnologii i badań klinicznych. Dostęp tutaj.
• Źródło: https://aws.amazon.com/blogs/machine-learning/accenture-creates-a-knowledge-assist-solution-using-generative-ai-services-on-aws/