Z agenti za Amazon Bedrock | zgradite bot za pomoč strankam, ki ga poganja osnovni model (FM). Spletne storitve Amazon

Od izboljšanja pogovorne izkušnje do pomoči agentov, obstaja veliko načinov, na katere lahko generativna umetna inteligenca (AI) in osnovni modeli (FM) pomagajo zagotoviti hitrejšo in boljšo podporo. Z vse večjo razpoložljivostjo in raznolikostjo FM-jev je težko eksperimentirati in biti na tekočem z najnovejšimi različicami modelov. Amazon Bedrock je popolnoma upravljana storitev, ki ponuja izbiro visoko zmogljivih FM vodilnih podjetij z umetno inteligenco, kot so AI21 Labs, Anthropic, Cohere, Meta, Stability AI in Amazon. Z obsežnimi zmožnostmi Amazon Bedrock lahko preprosto eksperimentirate z različnimi vrhunskimi FM-ji, jih zasebno prilagodite s svojimi podatki z uporabo tehnik, kot sta fino uravnavanje in Retrieval Augmented Generation (RAG).

Zastopniki za Amazon Bedrock

Julija je AWS napovedal predogled zastopniki za Amazon Bedrock, nova zmožnost za razvijalce, da v nekaj klikih ustvarijo popolnoma upravljane agente. Agenti razširijo FM za izvajanje zapletenih poslovnih nalog – od rezervacije potovanja in obdelave zavarovalnih zahtevkov do ustvarjanja oglaševalskih kampanj in upravljanja inventarja – vse brez pisanja kode. S popolnoma upravljanimi agenti vam ni treba skrbeti za zagotavljanje ali upravljanje infrastrukture.

V tej objavi ponujamo vodnik po korakih z gradniki za ustvarjanje bota za pomoč strankam. Uporabljamo model generiranja besedila (Antropični Claude V2) in zastopniki za Amazon Bedrock za to rešitev. Nudimo Oblikovanje oblaka AWS predlogo za zagotavljanje virov, potrebnih za izdelavo te rešitve. Nato vas vodimo skozi korake za ustvarjanje agenta za Amazon Bedrock.

Poziv ReAct

FM določajo, kako rešiti naloge, ki jih zahteva uporabnik, s tehniko, imenovano React. To je splošna paradigma, ki združuje razmišljanje in delovanje s FM. ReAct pozove FM, da ustvari verbalne sledi sklepanja in dejanja za nalogo. To sistemu omogoča izvajanje dinamičnega sklepanja za ustvarjanje, vzdrževanje in prilagajanje načrtov za ukrepanje, medtem ko v sklepanje vključuje dodatne informacije. Strukturirani pozivi vključujejo zaporedje primerov vprašanja-misel-dejanje-opazovanje.

• Vprašanje je naloga ali problem, ki ga je uporabnik zahteval za rešitev.
• Misel je korak sklepanja, ki FM pomaga pokazati, kako se spoprijeti s problemom in opredeliti ukrep, ki ga je treba sprejeti.
• Dejanje je API, ki ga lahko model prikliče iz dovoljenega niza API-jev.
• Opazovanje je rezultat izvajanja akcije.

Komponente v agentih za Amazon Bedrock

V zakulisju agenti za Amazon Bedrock avtomatizirajo takojšen inženiring in orkestracijo nalog, ki jih zahtevajo uporabniki. Pozive lahko varno dopolnijo z informacijami, specifičnimi za podjetje, da uporabniku zagotovijo odgovore v naravnem jeziku. Agent razdeli nalogo, ki jo zahteva uporabnik, na več korakov in orkestrira podnaloge s pomočjo FM-jev. Akcijske skupine so naloge, ki jih agent lahko izvaja samostojno. Akcijske skupine so preslikane v AWS Lambda funkcijo in povezano shemo API za izvajanje klicev API. Naslednji diagram prikazuje strukturo agenta.

Pregled rešitev

Za izdelavo bota za pomoč strankam uporabljamo primer uporabe prodajalca čevljev. Bot strankam pomaga pri nakupu čevljev z zagotavljanjem možnosti v človeškem pogovoru. Stranke se pogovarjajo z botom v naravnem jeziku z več koraki, ki prikličejo zunanje API-je za izvedbo podnalog. Naslednji diagram prikazuje vzorčni potek postopka.

Naslednji diagram prikazuje visokonivojsko arhitekturo te rešitve.

1. Ustvarite lahko agenta s FM-ji, ki jih podpira Amazon Bedrock, kot je Anthropic Claude V2.
2. Priložite shemo API, ki se nahaja v Preprosta storitev shranjevanja Amazon (Amazon S3) vedro in funkcijo Lambda, ki vsebuje poslovno logiko agenta. (Opomba: To je enkraten korak nastavitve.)
3. Agent uporablja zahteve strank za ustvarjanje poziva z uporabo okvira ReAct. Nato uporabi shemo API za priklic ustrezne kode v funkciji Lambda.
4. Izvajate lahko različne naloge, vključno s pošiljanjem e-poštnih obvestil, pisanjem v zbirke podatkov in proženjem aplikacijskih API-jev v funkcijah Lambda.

V tej objavi uporabljamo funkcijo Lambda za pridobivanje podatkov o strankah, seznam čevljev, ki se ujemajo z dejavnostjo stranke, in na koncu oddaja naročila. Našo kodo podpira baza podatkov SQLite v pomnilniku. Podobne konstrukcije lahko uporabite za pisanje v trajno shrambo podatkov.

Predpogoji

Če želite implementirati rešitev v tej objavi, bi morali imeti AWS račun in dostop do Amazon Bedrock z omogočenimi agenti (trenutno v predogledu). Uporabite predlogo AWS CloudFormation, da ustvarite sklad virov, potreben za rešitev.

us-east-1

Predloga CloudFormation ustvari dve vlogi IAM. Posodobite te vloge, da uporabite dovoljenja z najmanjšimi pravicami, kot je opisano v Najboljše varnostne prakse. Kliknite tukaj če želite izvedeti, katere funkcije IAM so na voljo za uporabo z agenti za Amazon Bedrock.

1. LambdaBasicExecutionRole s polnim dostopom Amazon S3 in dostopom CloudWatch za beleženje.
2. AmazonBedrockExecutionRoleForAgents s polnim dostopom Amazon S3 in polnim dostopom Lambda.

pomembno: Agenti za Amazon Bedrock morajo imeti ime vloge s predpono AmazonBedrockExecutionRoleForAgents_*

Nastavitev Bedrock Agents

V naslednjih dveh razdelkih vas bomo vodili skozi ustvarjanje in testiranje agenta.

Ustvarite agenta za Amazon Bedrock

Če želite ustvariti agenta, odprite Konzola Amazon Bedrock In izberite Agenti v levem podoknu za krmarjenje. Nato izberite Ustvari agenta.

S tem se začne potek dela za ustvarjanje agenta.

1. Navedite podatke o agentu: Zastopniku dajte ime in opis (neobvezno). Izberite vlogo storitve, ki jo je ustvaril sklad CloudFormation, in izberite Naslednji.

2. Izberite model temeljev: v Izberite model zaslon, izberete model. Agentu zagotovite jasna in natančna navodila o tem, katere naloge naj izvaja in kako komunicirati z uporabniki.

3. Dodajte akcijske skupine: Dejanje je naloga, ki jo agent lahko izvede s klici API-ja. Niz dejanj sestavlja akcijsko skupino. Zagotovite shemo API-ja, ki definira vse API-je v skupini dejanj. Zagotoviti morate shemo API-ja v Shema OpenAPI format JSON. Funkcija Lambda vsebuje poslovno logiko, potrebno za izvajanje klicev API-ja. Vsaki skupini dejanj morate povezati funkcijo Lambda.

Skupini dejanj dajte ime in opis dejanja. Izberite funkcijo Lambda, zagotovite datoteko sheme API in izberite Naslednji.

4. V zadnjem koraku preglejte konfiguracijo agenta in izberite Ustvari agenta.

Preizkusite in uvedite agente za Amazon Bedrock

1. Preizkusite agenta: Ko je agent ustvarjen, pogovorno okno prikazuje pregled agenta skupaj z delovnim osnutkom. Konzola Amazon Bedrock nudi uporabniški vmesnik za testiranje vašega agenta.

2. uvajanje: Po uspešnem testiranju lahko uvedete svojega agenta. Če želite razmestiti agenta v vaši aplikaciji, morate ustvariti vzdevek. Amazon Bedrock nato samodejno ustvari različico za ta vzdevek.

Naslednja dejanja se zgodijo s prejšnjo nastavitvijo agenta in kodo Lambda, ki je priložena tej objavi:

1. Agent ustvari poziv iz navodil, ki jih zagotovi razvijalec (na primer »Ste agent, ki strankam pomaga pri nakupu čevljev.«), shem API-ja, potrebnih za dokončanje nalog, in podrobnosti o izvoru podatkov. Samodejno ustvarjanje pozivov prihrani tedne eksperimentiranja z pozivi za različne FM.
2. Agent organizira nalogo, ki jo zahteva uporabnik, na primer »Iščem čevlje«, tako da jo razdeli na manjše podopravila, kot je pridobivanje podatkov o strankah, povezovanje dejavnosti, ki jo stranka želi, z dejavnostjo čevljev in oddajanje naročil za čevlje. Agent določi pravo zaporedje nalog in na poti obravnava scenarije napak.

Naslednji posnetek zaslona prikazuje nekaj primerov odgovorov agenta.

Z izbiro Prikaži sled za vsak odgovor pogovorno okno prikazuje tehniko sklepanja, ki jo je uporabil agent, in končni odgovor, ki ga ustvari FM.

Pospravi

Da se izognete prihodnjim stroškom, izbrišite vire. To lahko storite tako, da izbrišete sklad iz konzole CloudFormation.

Prenesite in preizkusite kodo, uporabljeno v tej objavi, z GitHub agenti za repozitorij Amazon Bedrock. Agente za Amazon Bedrock lahko prikličete tudi programsko; an primer Jupyter Notebook je na voljo v skladišču.

zaključek

Agenti za Amazon Bedrock vam lahko pomagajo povečati produktivnost, izboljšati izkušnjo storitev za stranke ali avtomatizirati naloge DevOps. V tej objavi smo vam pokazali, kako nastavite agente za Amazon Bedrock, da ustvarite bota za pomoč uporabnikom.

Spodbujamo vas, da s pregledom izveste več dodatne funkcije Amazonke Bedrock. Za ustvarjanje izvedbe lahko uporabite primer kode, ki je na voljo v tej objavi. Preizkusite naše Delavnica pridobiti praktične izkušnje z Amazon Bedrock.

---

O avtorjih

Amit Arora je specialist za AI in ML pri Amazon Web Services, ki podjetjem pomaga pri uporabi storitev strojnega učenja v oblaku za hitro razširitev njihovih inovacij. Je tudi pomožni predavatelj v programu podatkovne znanosti in analitike MS na Univerzi Georgetown v Washingtonu DC.

Manju Prasad je višji arhitekt rešitev v Strategic Accounts pri Amazon Web Services. Osredotoča se na zagotavljanje tehničnih smernic na različnih področjih, vključno z umetno inteligenco/ML, za stranko M&E, ki se nahaja na trgu. Preden se je pridružila AWS, je delala za podjetja v sektorju finančnih storitev in tudi za startup.

Archana Inapudi je višji arhitekt rešitev pri AWS, ki podpira strateške stranke. Ima več kot desetletje izkušenj s pomočjo strankam pri načrtovanju in izgradnji analitike podatkov in rešitev za baze podatkov. Navdušena je nad uporabo tehnologije za zagotavljanje vrednosti strankam in doseganje poslovnih rezultatov.

• Distribucija vsebine in PR s pomočjo SEO. Okrepite se še danes.
• PlatoData.Network Vertical Generative Ai. Opolnomočite se. Dostopite tukaj.
• PlatoAiStream. Web3 Intelligence. Razširjeno znanje. Dostopite tukaj.
• PlatoESG. Ogljik, CleanTech, Energija, Okolje, sončna energija, Ravnanje z odpadki. Dostopite tukaj.
• PlatoHealth. Obveščanje o biotehnologiji in kliničnih preskušanjih. Dostopite tukaj.
• vir: https://aws.amazon.com/blogs/machine-learning/build-a-foundation-model-fm-powered-customer-service-bot-with-agents-for-amazon-bedrock/