Accenture crea una soluzione Knowledge Assist utilizzando servizi di intelligenza artificiale generativa su AWS | Servizi Web di Amazon

Questo post è stato scritto in collaborazione con Ilan Geller e Shuyu Yang di Accenture.

Oggi le imprese si trovano ad affrontare sfide importanti quando si tratta di utilizzare le proprie informazioni e basi di conoscenza per operazioni aziendali sia interne che esterne. Con operazioni, processi, policy e requisiti di conformità in continua evoluzione, può essere estremamente difficile per dipendenti e clienti rimanere aggiornati. Allo stesso tempo, la natura non strutturata di gran parte di questi contenuti richiede molto tempo per trovare risposte utilizzando la ricerca tradizionale.

Internamente, i dipendenti possono spesso trascorrere innumerevoli ore alla ricerca delle informazioni di cui hanno bisogno per svolgere il proprio lavoro, con conseguente frustrazione e riduzione della produttività. E quando non riescono a trovare risposte, devono intensificare i problemi o prendere decisioni senza un contesto completo, il che può creare rischi.

Esternamente, i clienti possono anche trovare frustrante individuare le informazioni che stanno cercando. Sebbene le basi di conoscenza aziendali abbiano, nel tempo, migliorato l'esperienza del cliente, possono ancora essere scomode e difficili da utilizzare. Che si tratti di cercare risposte a una domanda relativa a un prodotto o di informazioni su orari e luoghi di apertura, un'esperienza negativa può portare alla frustrazione o, peggio, alla defezione del cliente.

In entrambi i casi, poiché la gestione della conoscenza diventa più complessa, l’intelligenza artificiale generativa rappresenta un’opportunità rivoluzionaria per le aziende di connettere le persone alle informazioni di cui hanno bisogno per operare e innovare. Con la giusta strategia, queste soluzioni intelligenti possono trasformare il modo in cui la conoscenza viene acquisita, organizzata e utilizzata all'interno di un'organizzazione.

Per contribuire ad affrontare questa sfida, Accenture ha collaborato con AWS per creare una soluzione innovativa di intelligenza artificiale generativa denominata Knowledge Assist. Utilizzando i servizi di intelligenza artificiale generativa di AWS, il team ha sviluppato un sistema in grado di acquisire e comprendere enormi quantità di contenuti aziendali non strutturati.

Invece delle tradizionali ricerche per parole chiave, gli utenti possono ora porre domande ed estrarre risposte precise in un'interfaccia semplice e conversazionale. L’intelligenza artificiale generativa comprende il contesto e le relazioni all’interno della knowledge base per fornire risposte personalizzate e accurate. Man mano che risponde a più query, il sistema migliora continuamente l'elaborazione del linguaggio attraverso algoritmi di apprendimento automatico (ML).

Dal lancio di questo quadro di assistenza basato sull’intelligenza artificiale, le aziende hanno riscontrato notevoli miglioramenti nella conservazione delle conoscenze e nella produttività dei dipendenti. Fornendo un accesso rapido e preciso alle informazioni e consentendo ai dipendenti di lavorare autonomamente, questa soluzione riduce i tempi di formazione per i nuovi assunti di oltre il 50% e riduce le escalation fino al 40%.

Grazie alla potenza dell'intelligenza artificiale generativa, le aziende possono trasformare il modo in cui la conoscenza viene acquisita, organizzata e condivisa all'interno dell'organizzazione. Sbloccando le basi di conoscenza esistenti, le aziende possono aumentare la produttività dei dipendenti e la soddisfazione dei clienti. Come dimostra la collaborazione di Accenture con AWS, il futuro della gestione della conoscenza aziendale risiede nei sistemi basati sull'intelligenza artificiale che si evolvono attraverso le interazioni tra esseri umani e macchine.

Accenture sta collaborando con AWS per aiutare i clienti nella distribuzione Roccia Amazzonica, utilizzare i modelli fondazionali più avanzati come Titano Amazzonicoe implementare tecnologie leader del settore come JumpStart di Amazon SageMaker ed Inferenza di Amazon insieme ad altri servizi AWS ML.

Questo post fornisce una panoramica di una soluzione di intelligenza artificiale generativa end-to-end sviluppata da Accenture per un caso d'uso di produzione utilizzando Amazon Bedrock e altri servizi AWS.

Panoramica della soluzione

Un grande cliente del settore sanitario pubblico serve ogni giorno milioni di cittadini che richiedono un facile accesso a informazioni aggiornate in un panorama sanitario in continua evoluzione. Accenture ha integrato questa funzionalità di intelligenza artificiale generativa in un bot FAQ esistente, consentendo al chatbot di fornire risposte a una gamma più ampia di domande degli utenti. Aumentare la capacità dei cittadini di accedere alle informazioni pertinenti in modalità self-service fa risparmiare tempo e denaro al dipartimento, riducendo la necessità di interazione con gli agenti del call center. Le caratteristiche principali della soluzione includono:

• Approccio di intenti ibrido – Utilizza intenti generativi e pre-addestrati
• Supporto multilingue – Conversa in inglese e spagnolo
• Analisi conversazionale – Rapporti sulle esigenze, sentimenti e preoccupazioni degli utenti
• Conversazioni naturali – Mantiene il contesto con l’elaborazione del linguaggio naturale (PNL) simile a quella umana
• Citazioni trasparenti – Guida gli utenti alle informazioni di origine

La soluzione di intelligenza artificiale generativa di Accenture offre i seguenti vantaggi rispetto ai framework di chatbot esistenti o tradizionali:

• Genera rapidamente risposte accurate, pertinenti e naturali alle domande degli utenti
• Ricorda il contesto e risponde alle domande successive
• Gestisce le query e genera risposte in più lingue (come inglese e spagnolo)
• Apprende e migliora continuamente le risposte in base al feedback degli utenti
• È facilmente integrabile con la tua piattaforma web esistente
• Acquisisce un vasto repository di knowledge base aziendale
• Risponde in modo umano
• L'evoluzione della conoscenza è continuamente disponibile con uno sforzo minimo o nullo
• Utilizza un modello di pagamento in base al consumo senza costi iniziali

Il flusso di lavoro di alto livello di questa soluzione prevede i seguenti passaggi:

1. Gli utenti creano una semplice integrazione con le piattaforme web esistenti.​
2. I dati vengono inseriti nella piattaforma come caricamento collettivo il giorno 0 e quindi caricamenti incrementali dal giorno 1 in poi.​
3. Le query degli utenti vengono elaborate in tempo reale con il ridimensionamento del sistema richiesto per soddisfare la domanda degli utenti.
4. Le conversazioni vengono salvate nei database dell'applicazione (DB di Amazon Dynamo) per supportare conversazioni a più round.​
5. Il modello della fondazione Anthropic Claude viene richiamato tramite Amazon Bedrock, che viene utilizzato per generare risposte alle query basate sui contenuti più pertinenti.
6. Il modello della fondazione Anthropic Claude viene utilizzato per tradurre domande e risposte dall'inglese ad altre lingue desiderate per supportare conversazioni multilingue.
7. Il modello di fondazione Amazon Titan viene richiamato tramite Amazon Bedrock per generare incorporamenti di vettori.
8. La pertinenza del contenuto viene determinata attraverso la somiglianza degli incorporamenti di contenuti grezzi e l'incorporamento delle query dell'utente utilizzando gli incorporamenti del database vettoriale Pinecone.​
9. Il contesto insieme alla domanda dell'utente viene aggiunto per creare un prompt, che viene fornito come input al modello Anthropic Claude. La risposta generata viene restituita all'utente tramite la piattaforma web.

Il diagramma seguente illustra l'architettura della soluzione.

Il flusso dell'architettura può essere compreso in due parti:

Nelle sezioni seguenti discuteremo più in dettaglio i diversi aspetti della soluzione e il suo sviluppo.

Selezione del modello

Il processo di selezione del modello includeva test di regressione di vari modelli disponibili in Amazon Bedrock, che includevano i modelli AI21 Labs, Cohere, Anthropic e Amazon Foundation. Abbiamo verificato i casi d'uso supportati, gli attributi del modello, i token massimi, i costi, l'accuratezza, le prestazioni e le lingue. Sulla base di ciò, abbiamo selezionato Claude-2 come più adatto per questo caso d'uso.

Fonte di dati

Abbiamo creato un indice Amazon Kendra e aggiunto un'origine dati utilizzando connettori web crawler con un URL web root e una profondità di directory di due livelli. Diverse pagine Web sono state inserite nell'indice Amazon Kendra e utilizzate come origine dati.

Processo di richiesta e risposta del chatbot GenAI

I passaggi di questo processo consistono in un'interazione end-to-end con una richiesta da Amazon-Lex e una risposta da un modello linguistico di grandi dimensioni (LLM):

1. L'utente invia la richiesta all'applicazione front-end conversazionale ospitata in un file Servizio di archiviazione semplice Amazon (Amazon S3) attraverso il secchio Amazon percorso 53 ed Amazon CloudFront.
2. Amazon Lex comprende l'intento e indirizza la richiesta all'orchestratore ospitato in un file AWS Lambda funzione.
3. La funzione Lambda dell'agente di orchestrazione esegue i passaggi seguenti:
   1. La funzione interagisce con il database dell'applicazione, che è ospitato in un database gestito da DynamoDB. Il database memorizza l'ID sessione e l'ID utente per la cronologia delle conversazioni.
   2. Un'altra richiesta viene inviata all'indice Amazon Kendra per ottenere i primi cinque risultati di ricerca pertinenti per creare il contesto pertinente. Utilizzando questo contesto, viene costruito il prompt modificato richiesto per il modello LLM.
   3. La connessione viene stabilita tra Amazon Bedrock e l'orchestratore. Viene inviata una richiesta al modello Amazon Bedrock Claude-2 per ottenere la risposta dal modello LLM selezionato.
4. I dati vengono postelaborati dalla risposta LLM e una risposta viene inviata all'utente.

Segnalazione online

Il processo di segnalazione on-line si compone dei seguenti passaggi:

1. Gli utenti finali interagiscono con il chatbot tramite un livello front-end CDN CloudFront.
2. Ogni interazione di richiesta/risposta è facilitata dall'SDK AWS e invia il traffico di rete ad Amazon Lex (il componente NLP del bot).
3. Vengono registrati i metadati sugli accoppiamenti richiesta/risposta Amazon Cloud Watch.
4. Il gruppo di log CloudWatch è configurato con un filtro di sottoscrizione a cui invia i log Servizio Amazon OpenSearch.
5. Una volta disponibili nel servizio OpenSearch, i log possono essere utilizzati per generare report e dashboard utilizzando Kibana.

Conclusione

In questo post, abbiamo mostrato come Accenture utilizza i servizi di intelligenza artificiale generativa di AWS per implementare un approccio end-to-end verso la trasformazione digitale. Abbiamo identificato le lacune nelle tradizionali piattaforme di risposta alle domande e nell'intelligenza generativa aumentata all'interno della sua struttura per tempi di risposta più rapidi e miglioramento continuo del sistema, coinvolgendo al contempo gli utenti in tutto il mondo. Rivolgiti al team dell'Accenture Center of Excellence per approfondire la soluzione e implementarla per i tuoi clienti.

Questa piattaforma Knowledge Assist può essere applicata a diversi settori, inclusi ma non limitati a scienze sanitarie, servizi finanziari, produzione e altro ancora. Questa piattaforma fornisce risposte naturali e simili a quelle umane alle domande utilizzando la conoscenza protetta. Questa piattaforma consente efficienza, produttività e azioni più accurate da parte degli utenti.

Lo sforzo congiunto si basa sulla relazione strategica quindicennale tra le aziende e utilizza gli stessi meccanismi e acceleratori collaudati costruiti dal Gruppo aziendale Accenture AWS (AABG).

Connettiti con il team AABG all'indirizzo accentureaws@amazon.com per ottenere risultati aziendali trasformandosi in un'impresa di dati intelligente su AWS.

Per ulteriori informazioni sull'intelligenza artificiale generativa su AWS utilizzando Amazon Bedrock o Amazon Sage Maker, ti consigliamo le seguenti risorse:

Puoi anche iscriviti alla newsletter sull'intelligenza artificiale generativa di AWS, che include risorse didattiche, blog e aggiornamenti del servizio.

---

Informazioni sugli autori

Ilan Geller è l'amministratore delegato di Accenture con focus sull'intelligenza artificiale, aiuta i clienti a scalare le applicazioni di intelligenza artificiale ed è il partner leader globale GenAI COE per AWS.

Shuyu Yang è Generative AI e Large Language Model Delivery Lead e guida anche i team CoE (Centro di Eccellenza) Accenture AI (AWS DevOps professional).

Shikhar Kwatra è un architetto di soluzioni specializzato in AI/ML presso Amazon Web Services e collabora con un importante system integrator globale. Si è guadagnato il titolo di uno dei più giovani maestri inventori indiani con oltre 500 brevetti nei settori AI/ML e IoT. Shikhar aiuta nell'architettura, nella creazione e nella manutenzione di ambienti cloud scalabili e convenienti per l'organizzazione e supporta il partner GSI nella creazione di soluzioni di settore strategiche su AWS.

Jay Pillai è Principal Solution Architect presso Amazon Web Services. In questo ruolo, ricopre il ruolo di Global Generative AI Lead Architect e anche di Lead Architect per le soluzioni di supply chain con AABG. In qualità di leader nel settore della tecnologia dell'informazione, Jay è specializzato in domini di intelligenza artificiale, integrazione dei dati, business intelligence e interfaccia utente. Vanta 23 anni di vasta esperienza lavorando con diversi clienti nei settori della catena di fornitura, delle tecnologie legali, del settore immobiliare, dei servizi finanziari, delle assicurazioni, dei pagamenti e delle ricerche di mercato.

Karthik Sonti guida un team globale di Solutions Architect focalizzato sulla concettualizzazione, costruzione e lancio di soluzioni orizzontali, funzionali e verticali con Accenture per aiutare i nostri clienti comuni a trasformare la loro attività in modo differenziato su AWS.

• Distribuzione di contenuti basati su SEO e PR. Ricevi amplificazione oggi.
• PlatoData.Network Generativo verticale Ai. Potenzia te stesso. Accedi qui.
• PlatoAiStream. Intelligenza Web3. Conoscenza amplificata. Accedi qui.
• PlatoneESG. Carbonio, Tecnologia pulita, Energia, Ambiente, Solare, Gestione dei rifiuti. Accedi qui.
• Platone Salute. Intelligence sulle biotecnologie e sulle sperimentazioni cliniche. Accedi qui.
• Fonte: https://aws.amazon.com/blogs/machine-learning/accenture-creates-a-knowledge-assist-solution-using-generative-ai-services-on-aws/