Crea un bot per il servizio clienti basato sul modello Foundation (FM) con agenti per Amazon Bedrock | Servizi Web di Amazon

Dal miglioramento dell'esperienza di conversazione all'assistenza degli agenti, ci sono molti modi in cui l'intelligenza artificiale generativa (AI) e i modelli di base (FM) possono aiutare a fornire un supporto più rapido e migliore. Con la crescente disponibilità e diversità degli FM, è difficile sperimentare e mantenersi aggiornati con le ultime versioni dei modelli. Roccia Amazzonica è un servizio completamente gestito che offre una scelta di FM ad alte prestazioni di aziende leader nel settore dell'intelligenza artificiale come AI21 Labs, Anthropic, Cohere, Meta, Stability AI e Amazon. Con le funzionalità complete di Amazon Bedrock, puoi facilmente sperimentare una varietà dei migliori FM e personalizzarli privatamente con i tuoi dati utilizzando tecniche come la messa a punto e il recupero di generazione aumentata (RAG).

Agenti per Amazon Bedrock

A luglio, AWS ha annunciato l'anteprima di agenti per Amazon Bedrock, una nuova funzionalità che consente agli sviluppatori di creare agenti completamente gestiti in pochi clic. Gli agenti estendono i FM per eseguire attività aziendali complesse, dalla prenotazione di viaggi all'elaborazione di richieste di indennizzi assicurativi, alla creazione di campagne pubblicitarie e alla gestione dell'inventario, il tutto senza scrivere alcun codice. Con gli agenti completamente gestiti, non devi preoccuparti del provisioning o della gestione dell'infrastruttura.

In questo post, forniamo una guida passo passo con gli elementi costitutivi per creare un bot del servizio clienti. Utilizziamo un modello di generazione del testo (Claude antropico V2) e agenti di Amazon Bedrock per questa soluzione. Forniamo un AWS CloudFormazione modello per fornire le risorse necessarie per creare questa soluzione. Quindi ti guideremo attraverso i passaggi per creare un agente per Amazon Bedrock.

Richiesta di reazione

I FM determinano come risolvere le attività richieste dagli utenti con una tecnica chiamata Reagire. È un paradigma generale che combina il ragionamento e l'azione con i FM. ReAct richiede ai FM di generare tracce di ragionamento verbale e azioni per un compito. Ciò consente al sistema di eseguire un ragionamento dinamico per creare, mantenere e adattare i piani di azione incorporando informazioni aggiuntive nel ragionamento. I suggerimenti strutturati includono una sequenza di esempi di domanda-pensiero-azione-osservazione.

• La domanda è l'attività richiesta dall'utente o il problema da risolvere.
• Il pensiero è un passo di ragionamento che aiuta a dimostrare al FM come affrontare il problema e identificare un'azione da intraprendere.
• L'azione è un'API che il modello può richiamare da un set di API consentito.
• L'osservazione è il risultato dell'esecuzione dell'azione.

Componenti negli agenti per Amazon Bedrock

Dietro le quinte, gli agenti di Amazon Bedrock automatizzano la tempestiva progettazione e orchestrazione delle attività richieste dagli utenti. Possono integrare in modo sicuro le richieste con informazioni specifiche dell'azienda per fornire risposte all'utente in linguaggio naturale. L'agente suddivide l'attività richiesta dall'utente in più passaggi e orchestra le sottoattività con l'aiuto di FM. I gruppi di azioni sono attività che l'agente può eseguire in modo autonomo. I gruppi di azioni sono mappati su un file AWS Lambda funzione e relativo schema API per eseguire chiamate API. Il diagramma seguente illustra la struttura dell'agente.

Panoramica della soluzione

Utilizziamo il caso d'uso di un rivenditore di scarpe per creare il bot del servizio clienti. Il bot aiuta i clienti ad acquistare scarpe fornendo opzioni in una conversazione umana. I clienti conversano con il bot in linguaggio naturale con più passaggi che invocano API esterne per eseguire attività secondarie. Il seguente diagramma illustra il flusso del processo di esempio.

Il diagramma seguente illustra un'architettura di alto livello di questa soluzione.

1. Puoi creare un agente con FM supportati da Amazon Bedrock come Anthropic Claude V2.
2. Allega lo schema API, residente in un file Servizio di archiviazione semplice Amazon (Amazon S3) bucket e una funzione Lambda contenente la logica aziendale per l'agente. (Nota: questo è un passaggio di configurazione una tantum.)
3. L'agente utilizza le richieste del cliente per creare un prompt utilizzando il framework ReAct. Quindi utilizza lo schema API per richiamare il codice corrispondente nella funzione Lambda.
4. Puoi eseguire una serie di attività, tra cui l'invio di notifiche e-mail, la scrittura nei database e l'attivazione delle API dell'applicazione nelle funzioni Lambda.

In questo post utilizziamo la funzione Lambda per recuperare i dettagli del cliente, elencare le scarpe che corrispondono all'attività preferita dal cliente e, infine, effettuare ordini. Il nostro codice è supportato da un database SQLite in memoria. È possibile utilizzare costrutti simili per scrivere in un archivio dati persistente.

Prerequisiti

Per implementare la soluzione fornita in questo post, dovresti avere un file Account AWS e accesso ad Amazon Bedrock con agenti abilitati (attualmente in anteprima). Utilizza il modello AWS CloudFormation per creare lo stack di risorse necessario per la soluzione.

us-east-1

Il modello CloudFormation crea due ruoli IAM. Aggiorna questi ruoli per applicare le autorizzazioni con privilegi minimi come discusso in Best practice sulla sicurezza. Clic qui per scoprire quali funzionalità IAM sono disponibili da utilizzare con gli agenti per Amazon Bedrock.

1. LambdaBasicExecutionRole con accesso completo ad Amazon S3 e accesso CloudWatch per la registrazione.
2. AmazonBedrockExecutionRoleForAgents con accesso completo Amazon S3 e accesso completo Lambda.

Importante: Gli agenti per Amazon Bedrock devono avere il nome del ruolo preceduto da AmazonBedrockExecutionRoleForAgents_*

Configurazione degli agenti Bedrock

Nelle due sezioni successive ti guideremo attraverso la creazione e il test di un agente.

Crea un agente per Amazon Bedrock

Per creare un agente, apri il file Console Amazon Bedrock e scegli Agenti nel riquadro di navigazione sinistro. Quindi seleziona Crea agente.

Questo avvia il flusso di lavoro di creazione dell'agente.

1. Fornisci i dettagli dell'agente: Assegna all'agente un nome e una descrizione (facoltativo). Seleziona il ruolo del servizio creato dallo stack CloudFormation e seleziona Avanti.

2. Seleziona un modello di fondazione: Nel Seleziona il modello schermata, si seleziona un modello. Fornire istruzioni chiare e precise all'agente su quali attività eseguire e come interagire con gli utenti.

3. Aggiungi gruppi di azioni: Un'azione è un'attività che l'agente può eseguire effettuando chiamate API. Un insieme di azioni costituisce un gruppo di azioni. Fornisci uno schema API che definisce tutte le API nel gruppo di azioni. È necessario fornire uno schema API nel file Schema OpenAPI Formato JSON. La funzione Lambda contiene la logica aziendale necessaria per eseguire chiamate API. È necessario associare una funzione Lambda a ciascun gruppo di azioni.

Assegnare al gruppo di azioni un nome e una descrizione per l'azione. Seleziona la funzione Lambda, fornisci un file di schema API e seleziona Avanti.

4. Nel passaggio finale, esamina la configurazione dell'agente e seleziona Crea agente.

Testa e distribuisci agenti per Amazon Bedrock

1. Metti alla prova l'agente: dopo aver creato l'agente, una finestra di dialogo mostra la panoramica dell'agente insieme a una bozza di lavoro. La console Amazon Bedrock fornisce un'interfaccia utente per testare il tuo agente.

2. Schierare: dopo aver superato con successo il test, puoi distribuire il tuo agente. Per distribuire un agente nella tua applicazione, devi creare un alias. Amazon Bedrock crea quindi automaticamente una versione per quell'alias.

Le seguenti azioni si verificano con la configurazione dell'agente precedente e il codice Lambda fornito con questo post:

1. L'agente crea una richiesta a partire dalle istruzioni fornite dallo sviluppatore (ad esempio "Sei un agente che aiuta i clienti ad acquistare scarpe"), dagli schemi API necessari per completare le attività e dai dettagli dell'origine dati. La creazione automatica dei prompt consente di risparmiare settimane di sperimentazione con prompt per diversi FM.
2. L'agente orchestra l'attività richiesta dall'utente, ad esempio "Sto cercando scarpe", suddividendola in sottoattività più piccole come ottenere i dettagli del cliente, abbinare l'attività preferita del cliente con l'attività delle scarpe ed effettuare ordini di scarpe. L'agente determina la giusta sequenza di attività e gestisce gli scenari di errore lungo il percorso.

La schermata seguente mostra alcune risposte di esempio dell'agente.

Selezionando Mostra traccia per ogni risposta, una finestra di dialogo mostra la tecnica di ragionamento utilizzata dall'agente e la risposta finale generata dal FM.

Pulire

Per evitare di incorrere in addebiti futuri, eliminare le risorse. Puoi farlo eliminando lo stack dalla console CloudFormation.

Sentiti libero di scaricare e testare il codice utilizzato in questo post da GitHub agenti per il repository Amazon Bedrock. Puoi anche richiamare gli agenti per Amazon Bedrock in modo programmatico; UN esempio di taccuino Jupyter è fornito nel repository.

Conclusione

Gli agenti per Amazon Bedrock possono aiutarti ad aumentare la produttività, migliorare l'esperienza del servizio clienti o automatizzare le attività DevOps. In questo post, ti abbiamo mostrato come configurare gli agenti per Amazon Bedrock per creare un bot del servizio clienti.

Ti invitiamo a saperne di più rivedendo caratteristiche aggiuntive del substrato roccioso dell'Amazzonia. Puoi utilizzare il codice di esempio fornito in questo post per creare la tua implementazione. Prova il nostro laboratorio per acquisire esperienza pratica con Amazon Bedrock.

---

Informazioni sugli autori

Amit Arora è un AI e ML Specialist Architect presso Amazon Web Services, che aiuta i clienti aziendali a utilizzare i servizi di machine learning basati su cloud per scalare rapidamente le loro innovazioni. È anche docente a contratto nel programma MS data science and analytics presso la Georgetown University di Washington DC

Manju Prasad è un Senior Solutions Architect presso Strategic Accounts presso Amazon Web Services. Si concentra sulla fornitura di consulenza tecnica in una varietà di domini, tra cui AI/ML, a un cliente principale di M&E. Prima di entrare in AWS, ha lavorato per aziende nel settore dei servizi finanziari e anche per una startup.

Archana Inapudi è un Senior Solutions Architect presso AWS che supporta i clienti strategici. Ha oltre un decennio di esperienza nell'aiutare i clienti a progettare e creare analisi dei dati e soluzioni di database. La sua passione è l'utilizzo della tecnologia per fornire valore ai clienti e ottenere risultati aziendali.

• Distribuzione di contenuti basati su SEO e PR. Ricevi amplificazione oggi.
• PlatoData.Network Generativo verticale Ai. Potenzia te stesso. Accedi qui.
• PlatoAiStream. Intelligenza Web3. Conoscenza amplificata. Accedi qui.
• PlatoneESG. Carbonio, Tecnologia pulita, Energia, Ambiente, Solare, Gestione dei rifiuti. Accedi qui.
• Platone Salute. Intelligence sulle biotecnologie e sulle sperimentazioni cliniche. Accedi qui.
• Fonte: https://aws.amazon.com/blogs/machine-learning/build-a-foundation-model-fm-powered-customer-service-bot-with-agents-for-amazon-bedrock/