Creați un bot de serviciu pentru clienți bazat pe modelul de bază (FM) cu agenți pentru Amazon Bedrock | Amazon Web Services

De la îmbunătățirea experienței conversaționale până la asistența agenților, există o mulțime de moduri prin care inteligența artificială generativă (AI) și modelele de bază (FM) pot ajuta la furnizarea de asistență mai rapidă și mai bună. Odată cu disponibilitatea și diversitatea în creștere a FM-urilor, este dificil să experimentați și să fiți la curent cu cele mai recente versiuni de model. Amazon Bedrock este un serviciu complet gestionat care oferă o gamă de FM de înaltă performanță de la companii de IA lider, cum ar fi AI21 Labs, Anthropic, Cohere, Meta, Stability AI și Amazon. Cu capabilitățile cuprinzătoare ale Amazon Bedrock, puteți experimenta cu ușurință o varietate de FM de top, le puteți personaliza în mod privat cu datele dvs. folosind tehnici precum reglarea fină și Retrieval Augmented Generation (RAG).

Agenți pentru Amazon Bedrock

În iulie, AWS a anunțat previzualizarea agenți pentru Amazon Bedrock, o nouă capacitate pentru dezvoltatori de a crea agenți complet gestionați în câteva clicuri. Agenții extind FM pentru a desfășura sarcini de afaceri complexe - de la rezervarea călătoriilor și procesarea daunelor de asigurare până la crearea de campanii publicitare și gestionarea inventarului - totul fără a scrie niciun cod. Cu agenți gestionați complet, nu trebuie să vă faceți griji cu privire la furnizarea sau gestionarea infrastructurii.

În această postare, oferim un ghid pas cu pas cu blocuri pentru a crea un bot de serviciu pentru clienți. Folosim un model de generare de text (Claude antropic V2) și agenți pentru Amazon Bedrock pentru această soluție. Oferim un Formarea AWS Cloud șablon pentru a furniza resursele necesare pentru construirea acestei soluții. Apoi vă prezentăm pașii pentru a crea un agent pentru Amazon Bedrock.

React Prompting

FM-urile determină cum să rezolve sarcinile solicitate de utilizator cu o tehnică numită Reacţiona. Este o paradigmă generală care combină raționamentul și acțiunea cu FM. ReAct îi determină pe FM să genereze urme de raționament verbal și acțiuni pentru o sarcină. Acest lucru permite sistemului să efectueze raționament dinamic pentru a crea, menține și ajusta planuri de acțiune în timp ce încorporează informații suplimentare în raționament. Prompturile structurate includ o secvență de exemple de întrebare-gândire-acțiune-observare.

• Întrebarea este sarcina solicitată de utilizator sau problema de rezolvat.
• Gândul este un pas de raționament care ajută la demonstrarea FM cum să abordeze problema și să identifice o acțiune de întreprins.
• Acțiunea este un API pe care modelul îl poate invoca dintr-un set permis de API-uri.
• Observația este rezultatul efectuării acțiunii.

Componente în agenții pentru Amazon Bedrock

În culise, agenții pentru Amazon Bedrock automatizează proiectarea și orchestrarea promptă a sarcinilor solicitate de utilizator. Aceștia pot mări în siguranță solicitările cu informații specifice companiei pentru a oferi răspunsuri utilizatorului în limbaj natural. Agentul împarte sarcina solicitată de utilizator în mai mulți pași și orchestrează sarcini secundare cu ajutorul FM-urilor. Grupurile de acțiune sunt sarcini pe care agentul le poate îndeplini în mod autonom. Grupurile de acțiuni sunt mapate la un AWS Lambdas funcția și schema API aferentă pentru a efectua apeluri API. Următoarea diagramă prezintă structura agentului.

Prezentare generală a soluțiilor

Folosim un caz de utilizare a unui comerciant cu amănuntul de pantofi pentru a construi botul de servicii pentru clienți. Botul îi ajută pe clienți să cumpere pantofi oferind opțiuni într-o conversație umană. Clienții conversează cu botul în limbaj natural, cu mai mulți pași invocând API-uri externe pentru a îndeplini sarcini secundare. Următoarea diagramă ilustrează fluxul procesului eșantion.

Următoarea diagramă ilustrează o arhitectură de nivel înalt a acestei soluții.

1. Puteți crea un agent cu FM-uri acceptate de Amazon Bedrock, cum ar fi Anthropic Claude V2.
2. Atașați schema API, care locuiește într-un Serviciul Amazon de stocare simplă (Amazon S3) bucket și o funcție Lambda care conține logica de afaceri pentru agent. (Notă: acesta este un pas de configurare unic.)
3. Agentul folosește solicitările clienților pentru a crea un prompt folosind cadrul ReAct. Apoi, folosește schema API pentru a invoca codul corespunzător în funcția Lambda.
4. Puteți efectua o varietate de sarcini, inclusiv trimiterea de notificări prin e-mail, scrierea în baze de date și declanșarea API-urilor de aplicație în funcțiile Lambda.

În această postare, folosim funcția Lambda pentru a prelua detaliile clienților, a enumera pantofii care se potrivesc cu activitatea preferată de client și, în final, pentru a plasa comenzi. Codul nostru este susținut de o bază de date SQLite în memorie. Puteți folosi constructe similare pentru a scrie într-un depozit de date persistent.

Cerințe preliminare

Pentru a implementa soluția oferită în această postare, ar trebui să aveți un Cont AWS și acces la Amazon Bedrock cu agenți activați (în prezent în previzualizare). Utilizați șablonul AWS CloudFormation pentru a crea stiva de resurse necesară pentru soluție.

us-east-1

Șablonul CloudFormation creează două roluri IAM. Actualizați aceste roluri pentru a aplica permisiunile cu cel mai mic privilegiu, așa cum se discută în Cele mai bune practici de securitate. Clic aici pentru a afla ce funcții IAM sunt disponibile pentru a fi utilizate cu agenții pentru Amazon Bedrock.

1. LambdaBasicExecutionRole cu acces complet Amazon S3 și acces CloudWatch pentru înregistrare.
2. AmazonBedrockExecutionRoleForAgents cu acces complet Amazon S3 și acces complet Lambda.

Important: Agenții pentru Amazon Bedrock trebuie să aibă numele rolului prefixat de AmazonBedrockExecutionRoleForAgents_*

Configurarea Bedrock Agents

În următoarele două secțiuni, vă vom ghida prin crearea și testarea unui agent.

Creați un agent pentru Amazon Bedrock

Pentru a crea un agent, deschideți Consola Amazon Bedrock Și alegeți Agenți în panoul de navigare din stânga. Apoi selectați Creați agent.

Aceasta pornește fluxul de lucru pentru crearea agentului.

1. Furnizați detalii despre agent: Dați agentului un nume și o descriere (opțional). Selectați rolul de serviciu creat de stiva CloudFormation și selectați Pagina Următoare →.

2. Selectați un model de fundație: În Selectați modelul ecran, selectați un model. Furnizați agentului instrucțiuni clare și precise despre sarcinile pe care trebuie să le îndeplinească și cum să interacționeze cu utilizatorii.

3. Adăugați grupuri de acțiuni: O acțiune este o sarcină pe care agentul o poate realiza prin apeluri API. Un set de acțiuni cuprinde un grup de acțiuni. Furnizați o schemă API care definește toate API-urile din grupul de acțiuni. Trebuie să furnizați o schemă API în Schema OpenAPI format JSON. Funcția Lambda conține logica de afaceri necesară pentru a efectua apeluri API. Trebuie să asociați o funcție Lambda fiecărui grup de acțiuni.

Dați grupului de acțiuni un nume și o descriere pentru acțiune. Selectați funcția Lambda, furnizați un fișier de schemă API și selectați Pagina Următoare →.

4. În pasul final, examinați configurația agentului și selectați Creați agent.

Testați și implementați agenți pentru Amazon Bedrock

1. Testați agentul: După ce agentul este creat, o casetă de dialog arată prezentarea generală a agentului împreună cu o schiță de lucru. Consola Amazon Bedrock oferă o interfață de utilizare pentru a vă testa agentul.

2. Lansa: După testarea cu succes, vă puteți implementa agentul. Pentru a implementa un agent în aplicația dvs., trebuie să creați un alias. Amazon Bedrock creează apoi automat o versiune pentru acel alias.

Următoarele acțiuni apar cu configurarea agentului precedent și codul Lambda furnizat cu această postare:

1. Agentul creează o solicitare din instrucțiunile furnizate de dezvoltator (cum ar fi „Sunteți un agent care îi ajută pe clienți să cumpere pantofi”), schemele API necesare pentru a finaliza sarcinile și detaliile sursei de date. Crearea automată a promptului economisește săptămâni de experimentare cu solicitări pentru diferite FM.
2. Agentul orchestrează sarcina solicitată de utilizator, cum ar fi „Caut pantofi”, împărțind-o în subsarcini mai mici, cum ar fi obținerea de detalii despre clienți, potrivirea activității preferate de client cu activitatea de pantofi și plasarea comenzilor de pantofi. Agentul determină succesiunea corectă de sarcini și se ocupă de scenariile de eroare pe parcurs.

Următoarea captură de ecran afișează câteva exemple de răspunsuri de la agent.

Selectând Arată urmă pentru fiecare răspuns, o casetă de dialog arată tehnica de raționament folosită de agent și răspunsul final generat de FM.

A curăța

Pentru a evita costurile viitoare, ștergeți resursele. Puteți face acest lucru ștergând stiva din consola CloudFormation.

Simțiți-vă liber să descărcați și să testați codul folosit în această postare din GitHub agenți pentru depozitul Amazon Bedrock. De asemenea, puteți invoca agenții pentru Amazon Bedrock în mod programatic; un exemplu Jupyter Notebook este furnizat în depozit.

Concluzie

Agenții pentru Amazon Bedrock vă pot ajuta să creșteți productivitatea, să vă îmbunătățiți experiența de serviciu pentru clienți sau să automatizați sarcinile DevOps. În această postare, v-am arătat cum să configurați agenți pentru Amazon Bedrock pentru a crea un bot de serviciu pentru clienți.

Vă încurajăm să aflați mai multe examinând caracteristici suplimentare de Amazon Bedrock. Puteți folosi exemplul de cod furnizat în această postare pentru a vă crea implementarea. Încearcă-ne atelier pentru a câștiga experiență practică cu Amazon Bedrock.

---

Despre Autori

Amit Arora este arhitect specialist AI și ML la Amazon Web Services, ajutând clienții întreprinderilor să folosească servicii de învățare automată bazate pe cloud pentru a-și scala rapid inovațiile. El este, de asemenea, lector adjunct în programul MS de știință a datelor și analiză la Universitatea Georgetown din Washington DC

Manju Prasad este arhitect senior de soluții în cadrul Strategic Accounts la Amazon Web Services. Ea se concentrează pe furnizarea de îndrumare tehnică într-o varietate de domenii, inclusiv AI/ML unui client marcat de M&E. Înainte de a se alătura AWS, ea a lucrat pentru companii din sectorul serviciilor financiare și, de asemenea, pentru un startup.

Archana Inapudi este arhitect senior de soluții la AWS, care sprijină clienții strategici. Are peste un deceniu de experiență în a ajuta clienții să proiecteze și să construiască soluții de analiză a datelor și baze de date. Este pasionată de utilizarea tehnologiei pentru a oferi valoare clienților și pentru a obține rezultate în afaceri.

• Distribuție de conținut bazat pe SEO și PR. Amplifică-te astăzi.
• PlatoData.Network Vertical Generative Ai. Împuterniciți-vă. Accesați Aici.
• PlatoAiStream. Web3 Intelligence. Cunoștințe amplificate. Accesați Aici.
• PlatoESG. carbon, CleanTech, Energie, Mediu inconjurator, Solar, Managementul deșeurilor. Accesați Aici.
• PlatoHealth. Biotehnologie și Inteligență pentru studii clinice. Accesați Aici.
• Sursa: https://aws.amazon.com/blogs/machine-learning/build-a-foundation-model-fm-powered-customer-service-bot-with-agents-for-amazon-bedrock/