Ehitage Amazon Bedrock |i agentidega vundamendimudeli (FM) toega klienditeenindusbot Amazoni veebiteenused

Alates vestluskogemuse täiustamisest kuni agendiabini on palju võimalusi, kuidas generatiivne tehisintellekt (AI) ja alusmudelid (FM-id) aitavad pakkuda kiiremat ja paremat tuge. FM-ide saadavuse ja mitmekesisuse suurenemise tõttu on raske katsetada ja uusimate mudeliversioonidega end kursis hoida. Amazonase aluspõhi on täielikult hallatav teenus, mis pakub valikut suure jõudlusega FM-e juhtivatelt tehisintellekti ettevõtetelt, nagu AI21 Labs, Anthropic, Cohere, Meta, Stability AI ja Amazon. Amazon Bedrocki kõikehõlmavate võimaluste abil saate hõlpsalt katsetada erinevate parimate FM-idega, kohandada neid privaatselt oma andmetega, kasutades selliseid tehnikaid nagu peenhäälestus ja taasesitatud genereerimine (RAG).

Amazon Bedrocki agendid

Juulis teatas AWS eelvaatest Amazon Bedrocki esindajad, uus võimalus arendajatele luua mõne klõpsuga täielikult hallatud agente. Agendid laiendavad FM-e keerukate äriülesannete täitmiseks – alates reiside broneerimisest ja kindlustusnõuete töötlemisest kuni reklaamikampaaniate loomise ja laoseisu haldamiseni – kõike seda ilma koodi kirjutamata. Täielikult hallatavate agentidega ei pea te muretsema taristu ettevalmistamise või haldamise pärast.

Selles postituses pakume samm-sammult juhendit koos ehitusplokkidega klienditeenindusroti loomiseks. Kasutame teksti genereerimise mudelit (Antroopiline Claude V2) ja Amazon Bedrocki esindajad selle lahenduse jaoks. Pakume an AWS CloudFormation malli selle lahenduse loomiseks vajalike ressursside eraldamiseks. Seejärel juhendame teid Amazon Bedrocki agendi loomiseks.

ReAct Prompting

FM-id määravad, kuidas lahendada kasutaja nõutud ülesandeid tehnikaga, mida nimetatakse reageerima. See on üldine paradigma, mis ühendab arutlemise ja tegutsemise FM-idega. ReAct palub FM-idel luua ülesande jaoks verbaalseid arutlusjälgi ja toiminguid. See võimaldab süsteemil teostada dünaamilist arutlust, et luua, säilitada ja kohandada tegutsemisplaane, kaasates samas arutluskäiku täiendavat teavet. Struktureeritud juhised sisaldavad rida küsimusi-mõtteid-tegevusi-vaatlusi.

• Küsimus on kasutaja taotletud ülesandes või probleemis, mida lahendada.
• Mõte on arutluskäik, mis aitab FM-ile näidata, kuidas probleemiga tegeleda ja teha kindlaks, mida teha.
• Toiming on API, mida mudel saab kutsuda lubatud API-de komplektist.
• Vaatlus on tegevuse läbiviimise tulemus.

Amazon Bedrocki agentide komponendid

Kulisside taga automatiseerivad Amazon Bedrocki agendid kasutaja nõutud ülesannete kiiret projekteerimist ja orkestreerimist. Nad saavad viipasid turvaliselt täiendada ettevõttepõhise teabega, et pakkuda kasutajale vastuseid loomulikus keeles. Agent jagab kasutaja taotletud ülesande mitmeks etapiks ja korraldab alamülesanded FM-ide abil. Tegevusrühmad on ülesanded, mida agent saab iseseisvalt täita. Tegevusrühmad on kaardistatud an AWS Lambda funktsioon ja sellega seotud API skeem API kõnede tegemiseks. Järgmine diagramm kujutab agendi struktuuri.

Lahenduse ülevaade

Klienditeenindusroti ehitamiseks kasutame kingamüüja kasutusjuhtumit. Bot aitab klientidel kingi osta, pakkudes inimlikus vestluses võimalusi. Kliendid vestlevad robotiga loomulikus keeles, kasutades alamülesannete täitmiseks väliseid API-sid. Järgmine diagramm illustreerib näidisprotsessi voogu.

Järgmine diagramm kujutab selle lahenduse kõrgetasemelist arhitektuuri.

1. Saate luua agendi Amazon Bedrocki toetatud FM-idega, nagu Anthropic Claude V2.
2. Manustage API skeem, mis asub Amazon Simple Storage Service (Amazon S3) kopp ja Lambda funktsioon, mis sisaldab agendi äriloogikat. (Märkus. See on ühekordne seadistusetapp.)
3. Agent kasutab ReActi raamistiku abil viipa loomiseks klientide taotlusi. Seejärel kasutab see API skeemi, et kutsuda välja Lambda funktsioonis vastav kood.
4. Saate täita mitmesuguseid toiminguid, sealhulgas saata meiliteatisi, kirjutada andmebaasidesse ja käivitada rakenduse API-sid Lambda funktsioonides.

Selles postituses kasutame Lambda funktsiooni, et hankida kliendi andmed, loetleda kliendi eelistatud tegevusele vastavad kingad ja lõpuks esitada tellimusi. Meie koodi toetab mälusisene SQLite andmebaas. Sarnaseid konstruktsioone saate kasutada püsivasse andmesalve kirjutamiseks.

Eeldused

Selles postituses pakutava lahenduse rakendamiseks peaks teil olema AWS-i konto ja juurdepääs Amazon Bedrockile lubatud agentidega (praegu eelvaates). Kasutage lahenduse jaoks vajaliku ressursivirna loomiseks malli AWS CloudFormation.

us-east-1

CloudFormationi mall loob kaks IAM-i rolli. Värskendage neid rolle, et rakendada vähimate privileegide õigusi, nagu on kirjeldatud artiklis Turvalisuse parimad tavad. Klõpsa siin et saada teada, milliseid IAM-i funktsioone saab kasutada Amazon Bedrocki agentidega.

1. LambdaBasicExecutionRole Amazon S3 täieliku juurdepääsuga ja CloudWatchi juurdepääsuga logimiseks.
2. AmazonBedrockExecutionRoleForAgents Amazon S3 täieliku juurdepääsuga ja Lambda täieliku juurdepääsuga.

NB! Amazon Bedrocki agentidel peab olema rollinime eesliit AmazonBedrockExecutionRoleForAgents_*

Aluspõhja agentide seadistamine

Järgmises kahes jaotises tutvustame teid agendi loomisel ja testimisel.

Looge Amazon Bedrocki agent

Agendi loomiseks avage Amazon Bedrocki konsool Ja vali Agendid vasakpoolsel navigeerimispaanil. Seejärel valige Looge agent.

See käivitab agendi loomise töövoo.

1. Esitage agendi üksikasjad: Andke agendile nimi ja kirjeldus (valikuline). Valige CloudFormationi virna loodud teenindusroll ja valige järgmine.

2. Valige vundamendi mudel: aasta Valige mudel ekraanil, valite mudeli. Esitage agendile selged ja täpsed juhised selle kohta, milliseid ülesandeid täita ja kuidas kasutajatega suhelda.

3. Lisa tegevusrühmi: Toiming on ülesanne, mida agent saab teha API-kõnede tegemisel. Toimingute kogum koosneb tegevusrühmast. Esitate API skeemi, mis määratleb kõik tegevusrühma API-d. Peate esitama rakenduses API skeemi OpenAPI skeem JSON-vormingus. Lambda funktsioon sisaldab API-kõnede tegemiseks vajalikku äriloogikat. Peate iga tegevusrühmaga seostama lambda funktsiooni.

Andke tegevusrühmale toimingu nimi ja kirjeldus. Valige funktsioon Lambda, esitage API skeemi fail ja valige järgmine.

4. Viimases etapis vaadake üle agendi konfiguratsioon ja valige Looge agent.

Testige ja juurutage Amazon Bedrocki agente

1. Testige agenti: pärast agendi loomist kuvatakse dialoogiboksis agendi ülevaade koos töötava mustandiga. Amazon Bedrocki konsool pakub teie agendi testimiseks kasutajaliidest.

2. juurutada: pärast edukat testimist saate oma agendi juurutada. Agendi juurutamiseks oma rakenduses peate looma aliase. Amazon Bedrock loob seejärel selle varjunime jaoks automaatselt versiooni.

Eelmise agendi seadistuse ja selle postitusega kaasas oleva Lambda koodiga toimuvad järgmised toimingud:

1. Agent loob viipa arendaja antud juhistest (nt "Olete agent, kes aitab klientidel kingi osta."), ülesannete täitmiseks vajalikest API skeemidest ja andmeallika üksikasjadest. Automaatne viipade loomine säästab nädalaid erinevate FM-ide viipadega katsetamist.
2. Agent korraldab kasutaja taotletud ülesande, näiteks „Otsin kingi”, jagades selle väiksemateks alamülesanneteks, nagu kliendi andmete hankimine, kliendi eelistatud tegevuse sobitamine kingategevusega ja kingade tellimuste esitamine. Agent määrab õige ülesannete jada ja käsitleb veastsenaariume.

Järgmisel ekraanipildil kuvatakse mõned agendi vastuste näidised.

Valides Näita jälge iga vastuse puhul kuvatakse dialoogiboksis agendi kasutatud arutlustehnika ja FM genereeritud lõplik vastus.

Korista ära

Edaspidiste tasude vältimiseks kustutage ressursid. Seda saate teha, kustutades virna CloudFormationi konsoolist.

Võite selles postituses kasutatud koodi GitHubist alla laadida ja testida Amazon Bedrocki hoidla agendid. Saate Amazon Bedrocki agente ka programmiliselt kutsuda; an Jupyteri sülearvuti näide on toodud hoidlas.

Järeldus

Amazon Bedrocki agendid võivad aidata teil tõsta tootlikkust, parandada klienditeeninduskogemust või automatiseerida DevOpsi ülesandeid. Selles postituses näitasime teile, kuidas seadistada Amazon Bedrocki agente klienditeenindusroti loomiseks.

Soovitame teil arvustades rohkem teada saada lisavõimalused Amazonase aluspõhjakivimitest. Rakenduse loomiseks saate kasutada selles postituses esitatud näidiskoodi. Proovige meie töökoda saada praktilisi kogemusi Amazon Bedrockiga.

---

Autoritest

Amit Arora on AI ja ML spetsialistarhitekt ettevõttes Amazon Web Services, aidates ettevõtetel kasutada pilvepõhiseid masinõppeteenuseid, et oma uuendusi kiiresti skaleerida. Ta on ka MS andmeteaduse ja -analüütika programmi adjunkt Georgetowni ülikoolis Washingtonis.

Manju Prasad on Amazon Web Servicesi strateegiliste kontode vanemlahenduste arhitekt. Ta keskendub tehniliste juhiste pakkumisele erinevates valdkondades, sealhulgas tehisintellekti/ML-i valdkonnas M&E-tellijale. Enne AWS-iga liitumist on ta töötanud finantsteenuste sektori ettevõtetes ja ka idufirmas.

Archana Inapudi on AWS-i vanemlahenduste arhitekt, kes toetab strateegilisi kliente. Tal on üle kümne aasta pikkune kogemus, mis aitab klientidel kavandada ja luua andmeanalüütikat ja andmebaasilahendusi. Ta on kirglik tehnoloogia kasutamise vastu, et pakkuda klientidele väärtust ja saavutada äritulemusi.

• SEO-põhise sisu ja PR-levi. Võimenduge juba täna.
• PlatoData.Network Vertikaalne generatiivne Ai. Jõustage ennast. Juurdepääs siia.
• PlatoAiStream. Web3 luure. Täiustatud teadmised. Juurdepääs siia.
• PlatoESG. Süsinik, CleanTech, Energia, Keskkond päikeseenergia, Jäätmekäitluse. Juurdepääs siia.
• PlatoTervis. Biotehnoloogia ja kliiniliste uuringute luureandmed. Juurdepääs siia.
• Allikas: https://aws.amazon.com/blogs/machine-learning/build-a-foundation-model-fm-powered-customer-service-bot-with-agents-for-amazon-bedrock/