Accenture creează o soluție Knowledge Assist folosind servicii AI generative pe AWS | Amazon Web Services

Această postare este scrisă împreună cu Ilan Geller și Shuyu Yang de la Accenture.

Întreprinderile de astăzi se confruntă cu provocări majore când vine vorba de utilizarea informațiilor și a bazelor de cunoștințe pentru operațiunile de afaceri interne și externe. Cu operațiunile, procesele, politicile și cerințele de conformitate în continuă evoluție, poate fi extrem de dificil pentru angajați și clienți să rămână la curent. În același timp, natura nestructurată a multor din acest conținut face ca găsirea răspunsurilor folosind căutarea tradițională să fie consumatoare de timp.

Pe plan intern, angajații pot petrece adesea nenumărate ore căutând informațiile de care au nevoie pentru a-și face treaba, ceea ce duce la frustrare și la scăderea productivității. Și când nu găsesc răspunsuri, trebuie să escaladeze problemele sau să ia decizii fără context complet, ceea ce poate crea riscuri.

În exterior, clienții pot găsi, de asemenea, frustrant să găsească informațiile pe care le caută. Deși bazele de cunoștințe ale întreprinderii au îmbunătățit, de-a lungul timpului, experiența clienților, acestea pot fi totuși greoaie și dificil de utilizat. Indiferent dacă căutați răspunsuri la o întrebare legată de produs sau aveți nevoie de informații despre orele de funcționare și locații, o experiență slabă poate duce la frustrare sau, mai rău, la dezertarea clienților.

În ambele cazuri, pe măsură ce managementul cunoștințelor devine mai complex, IA generativă prezintă o oportunitate de schimbare a jocului pentru întreprinderi de a conecta oamenii la informațiile de care au nevoie pentru a performa și a inova. Cu strategia potrivită, aceste soluții inteligente pot transforma modul în care cunoștințele sunt captate, organizate și utilizate în cadrul unei organizații.

Pentru a ajuta la abordarea acestei provocări, Accenture a colaborat cu AWS pentru a construi o soluție inovatoare generativă AI numită Knowledge Assist. Prin utilizarea serviciilor AI generative AWS, echipa a dezvoltat un sistem care poate ingera și înțelege cantități masive de conținut nestructurat al întreprinderii.

Mai degrabă decât căutările tradiționale de cuvinte cheie, utilizatorii pot acum să pună întrebări și să extragă răspunsuri precise într-o interfață simplă, conversațională. Inteligența artificială generativă înțelege contextul și relațiile din baza de cunoștințe pentru a oferi răspunsuri personalizate și precise. Pe măsură ce primește mai multe interogări, sistemul își îmbunătățește continuu procesarea limbajului prin algoritmi de învățare automată (ML).

De la lansarea acestui cadru de asistență AI, companiile au înregistrat îmbunătățiri dramatice în păstrarea cunoștințelor și productivitatea angajaților. Oferind acces rapid și precis la informații și permițând angajaților să se autoservire, această soluție reduce timpul de instruire pentru noii angajați cu peste 50% și reduce escaladarea cu până la 40%.

Cu puterea AI generativă, întreprinderile pot transforma modul în care cunoștințele sunt captate, organizate și împărtășite în cadrul organizației. Prin deblocarea bazelor lor de cunoștințe existente, companiile pot crește productivitatea angajaților și satisfacția clienților. După cum demonstrează colaborarea Accenture cu AWS, viitorul managementului cunoștințelor întreprinderii constă în sistemele bazate pe inteligență artificială care evoluează prin interacțiunile dintre oameni și mașini.

Accenture lucrează cu AWS pentru a ajuta clienții să implementeze Amazon Bedrock, utilizați cele mai avansate modele de bază, cum ar fi Amazon Titanși implementați tehnologii de vârf în industrie, cum ar fi Amazon SageMaker JumpStart și Inferentia Amazon alături de alte servicii AWS ML.

Această postare oferă o prezentare generală a unei soluții de inteligență artificială generativă end-to-end dezvoltată de Accenture pentru un caz de utilizare în producție folosind Amazon Bedrock și alte servicii AWS.

Prezentare generală a soluțiilor

Un client mare din sectorul sănătății publice deservește milioane de cetățeni în fiecare zi și solicită acces ușor la informații actualizate într-un peisaj sanitar în continuă schimbare. Accenture a integrat această funcționalitate AI generativă într-un bot de întrebări frecvente existent, permițând chatbot-ului să ofere răspunsuri la o gamă mai largă de întrebări ale utilizatorilor. Creșterea capacității cetățenilor de a accesa informații relevante într-o manieră de autoservire economisește timp și bani departamentului, diminuând nevoia de interacțiune cu agentul de call center. Caracteristicile cheie ale soluției includ:

• Abordare cu intenție hibridă – Folosește intenții generative și pre-antrenate
• Suport multilingv – Conversează în engleză și spaniolă
• Analiza conversațională – Rapoarte despre nevoile, sentimentele și preocupările utilizatorilor
• Conversații naturale - Menține contextul cu procesarea limbajului natural (NLP) asemănătoare omului
• Citate transparente – Ghidează utilizatorii către informațiile sursă

Soluția AI generativă de la Accenture oferă următoarele avantaje față de cadrele de chatbot existente sau tradiționale:

• Generează rapid răspunsuri precise, relevante și naturale la întrebările utilizatorilor
• Își amintește contextul și răspunde la întrebările ulterioare
• Gestionează interogări și generează răspunsuri în mai multe limbi (cum ar fi engleză și spaniolă)
• Învață și îmbunătățește continuu răspunsurile pe baza feedback-ului utilizatorilor
• Este ușor de integrat cu platforma dvs. web existentă
• Ingerează un depozit vast de baze de cunoștințe ale întreprinderii
• Răspunde într-un mod asemănător omului
• Evoluția cunoștințelor este disponibilă în mod continuu cu un efort minim sau deloc
• Utilizează un model cu plata pe măsură ce folosești, fără costuri inițiale

Fluxul de lucru la nivel înalt al acestei soluții implică următorii pași:

1. Utilizatorii creează o integrare simplă cu platformele web existente.​
2. Datele sunt ingerate în platformă ca încărcare în bloc în ziua 0 și apoi încărcări incrementale în ziua 1 și mai sus.​
3. Interogările utilizatorilor sunt procesate în timp real cu scalarea sistemului după cum este necesar pentru a satisface cererea utilizatorilor.
4. Conversațiile sunt salvate în bazele de date ale aplicației (Amazon Dynamo DB) pentru a sprijini conversațiile cu mai multe runde.​
5. Modelul fundației Anthropic Claude este invocat prin Amazon Bedrock, care este folosit pentru a genera răspunsuri la interogare bazate pe conținutul cel mai relevant.
6. Modelul fundației Anthropic Claude este folosit pentru a traduce interogări, precum și răspunsuri din engleză în alte limbi dorite, pentru a sprijini conversațiile în mai multe limbi.
7. Modelul de fundație Amazon Titan este invocat prin Amazon Bedrock pentru a genera înglobări vectoriale.
8. Relevanța conținutului este determinată prin similitudinea înglobărilor de conținut brut și încorporarea interogărilor utilizatorului prin utilizarea înglobărilor de baze de date vectoriale Pinecone.
9. Contextul împreună cu întrebarea utilizatorului este atașat pentru a crea un prompt, care este furnizat ca intrare pentru modelul Anthropic Claude. Răspunsul generat este furnizat înapoi utilizatorului prin intermediul platformei web.

Următoarea diagramă ilustrează arhitectura soluției.

Fluxul arhitecturii poate fi înțeles în două părți:

În secțiunile următoare, discutăm mai detaliat diferite aspecte ale soluției și dezvoltarea acesteia.

Selectarea modelului

Procesul de selecție a modelului a inclus testarea regresului a diferitelor modele disponibile în Amazon Bedrock, care au inclus modele AI21 Labs, Cohere, Anthropic și Amazon. Am verificat cazurile de utilizare acceptate, atributele modelului, simbolurile maxime, costul, acuratețea, performanța și limbile. Pe baza acestui fapt, am selectat Claude-2 ca fiind cel mai potrivit pentru acest caz de utilizare.

Sursă de date

Am creat un index Amazon Kendra și am adăugat o sursă de date folosind conectori de crawler web cu o adresă URL web rădăcină și adâncime de director de două niveluri. Mai multe pagini web au fost ingerate în indexul Amazon Kendra și utilizate ca sursă de date.

Procesul de solicitare și răspuns pentru chatbot GenAI

Pașii acestui proces constau într-o interacțiune end-to-end cu o solicitare de la Amazon Lex și un răspuns de la un model de limbă mare (LLM):

1. Utilizatorul trimite cererea către aplicația conversațională front-end găzduită într-un Serviciul Amazon de stocare simplă (Amazon S3) găleată prin Ruta Amazonului 53 și Amazon CloudFront.
2. Amazon Lex înțelege intenția și direcționează solicitarea către orchestrator găzduit într-un AWS Lambdas Funcția.
3. Funcția orchestrator Lambda efectuează următorii pași:
   1. Funcția interacționează cu baza de date a aplicației, care este găzduită într-o bază de date gestionată de DynamoDB. Baza de date stochează ID-ul sesiunii și ID-ul utilizatorului pentru istoricul conversațiilor.
   2. O altă solicitare este trimisă către indexul Amazon Kendra pentru a obține primele cinci rezultate relevante ale căutării pentru a construi contextul relevant. Folosind acest context, promptul modificat este construit necesar pentru modelul LLM.
   3. Conexiunea se stabilește între Amazon Bedrock și orchestrator. O solicitare este postată pe modelul Amazon Bedrock Claude-2 pentru a obține răspunsul de la modelul LLM selectat.
4. Datele sunt post-procesate din răspunsul LLM și un răspuns este trimis utilizatorului.

Raportare online

Procesul de raportare online constă din următorii pași:

1. Utilizatorii finali interacționează cu chatbot-ul prin intermediul unui strat front-end CloudFront CDN.
2. Fiecare interacțiune cerere/răspuns este facilitată de AWS SDK și trimite trafic de rețea către Amazon Lex (componenta NLP a botului).
3. Metadatele despre perechile cerere/răspuns sunt conectate la Amazon CloudWatch.
4. Grupul de jurnal CloudWatch este configurat cu un filtru de abonament care trimite loguri către Serviciul Amazon OpenSearch.
5. Odată disponibile în Serviciul OpenSearch, jurnalele pot fi folosite pentru a genera rapoarte și tablouri de bord folosind Kibana.

Concluzie

În această postare, am prezentat modul în care Accenture utilizează serviciile AI generative AWS pentru a implementa o abordare end-to-end a transformării digitale. Am identificat lacunele în platformele tradiționale de răspuns la întrebări și inteligența generativă augmentată în cadrul său pentru timpi de răspuns mai rapidi și îmbunătățirea continuă a sistemului, în timp ce interacționăm cu utilizatorii de pe tot globul. Luați legătura cu echipa Centrului de excelență Accenture pentru a explora mai profund soluția și pentru a implementa această soluție pentru clienții dvs.

Această platformă Knowledge Assist poate fi aplicată în diferite industrii, inclusiv, dar fără a se limita la, științele sănătății, servicii financiare, producție și multe altele. Această platformă oferă răspunsuri naturale, asemănătoare oamenilor, la întrebări folosind cunoștințe securizate. Această platformă permite eficiență, productivitate și acțiuni mai precise pe care utilizatorii săi le pot întreprinde.

Efortul comun se bazează pe relația strategică de 15 ani dintre companii și utilizează aceleași mecanisme și acceleratoare dovedite construite de către Accenture AWS Business Group (AABG).

Conectați-vă cu echipa AABG la accentureaws@amazon.com pentru a genera rezultatele afacerii prin transformarea într-o întreprindere inteligentă de date pe AWS.

Pentru informații suplimentare despre IA generativă pe AWS folosind Amazon Bedrock sau Amazon SageMaker, vă recomandăm următoarele resurse:

Puteţi, de asemenea, înscrieți-vă pentru buletinul informativ AWS generativ AI, care include resurse educaționale, bloguri și actualizări de servicii.

---

Despre Autori

Ilan Geller este Managing Director la Accenture, cu accent pe inteligența artificială, ajutând clienții să scaleze aplicațiile de inteligență artificială și liderul partenerului Global GenAI COE pentru AWS.

Shuyu Yang este AI generativă și lider de livrare a modelelor lingvistice mari și, de asemenea, conduce echipele CoE (Centrul de excelență) Accenture AI (profesioniști AWS DevOps).

Shikhar Kwatra este un arhitect specializat în soluții AI/ML la Amazon Web Services, lucrând cu un integrator global de sisteme de top. El a câștigat titlul de unul dintre cei mai tineri inventatori indieni, cu peste 500 de brevete în domeniile AI/ML și IoT. Shikhar ajută la arhitectura, construirea și menținerea unor medii cloud scalabile și rentabile pentru organizație și sprijină partenerul GSI în construirea de soluții strategice pentru industrie pe AWS.

Jay Pillai este arhitect principal de soluții la Amazon Web Services. În acest rol, el funcționează ca arhitect principal global generativ AI și, de asemenea, arhitect principal pentru soluții pentru lanțul de aprovizionare cu AABG. Ca lider în tehnologia informației, Jay este specializat în inteligența artificială, integrarea datelor, inteligența de afaceri și domeniile interfeței cu utilizatorul. El deține 23 de ani de experiență vastă de lucru cu mai mulți clienți din lanțul de aprovizionare, tehnologii juridice, imobiliare, servicii financiare, asigurări, plăți și cercetări de piață.

Karthik Sonti conduce o echipă globală de arhitecți de soluții concentrați pe conceptualizarea, construirea și lansarea de soluții orizontale, funcționale și verticale cu Accenture pentru a ajuta clienții noștri comuni să-și transforme afacerea într-un mod diferențiat pe AWS.

• Distribuție de conținut bazat pe SEO și PR. Amplifică-te astăzi.
• PlatoData.Network Vertical Generative Ai. Împuterniciți-vă. Accesați Aici.
• PlatoAiStream. Web3 Intelligence. Cunoștințe amplificate. Accesați Aici.
• PlatoESG. carbon, CleanTech, Energie, Mediu inconjurator, Solar, Managementul deșeurilor. Accesați Aici.
• PlatoHealth. Biotehnologie și Inteligență pentru studii clinice. Accesați Aici.
• Sursa: https://aws.amazon.com/blogs/machine-learning/accenture-creates-a-knowledge-assist-solution-using-generative-ai-services-on-aws/