Rakenna perusmallilla (FM) toimiva asiakaspalvelubotti Amazon Bedrockin edustajien kanssa | Amazon Web Services

Keskustelukokemuksen parantamisesta agenttien apuun on olemassa monia tapoja, joilla generatiivinen tekoäly (AI) ja perusmallit (FM) voivat auttaa tarjoamaan nopeampaa ja parempaa tukea. FM-laitteiden lisääntyvän saatavuuden ja monimuotoisuuden vuoksi on vaikea kokeilla ja pysyä ajan tasalla uusimpien malliversioiden kanssa. Amazonin kallioperä on täysin hallittu palvelu, joka tarjoaa valikoiman tehokkaita FM-laitteita johtavilta tekoälyyrityksiltä, ​​kuten AI21 Labs, Anthropic, Cohere, Meta, Stability AI ja Amazon. Amazon Bedrockin kattavilla ominaisuuksilla voit helposti kokeilla erilaisia ​​huippuluokan FM-laitteita ja mukauttaa niitä yksityisesti tietojesi kanssa käyttämällä tekniikoita, kuten hienosäätöä ja Retrieval Augmented Generation (RAG) -tekniikkaa.

Amazon Bedrockin edustajat

Heinäkuussa AWS julkisti esikatselun Amazon Bedrockin edustajat, uusi ominaisuus kehittäjille, jotka voivat luoda täysin hallittuja agentteja muutamalla napsautuksella. Agentit laajentavat FM:t suorittamaan monimutkaisia ​​liiketoimintatehtäviä – matkavarauksista ja vakuutuskorvausten käsittelystä mainoskampanjoiden luomiseen ja varaston hallintaan – kaikki ilman koodin kirjoittamista. Täysin hallittujen agenttien ansiosta sinun ei tarvitse huolehtia infrastruktuurin luomisesta tai hallinnasta.

Tässä viestissä tarjoamme vaiheittaisen oppaan, jossa on rakennuspalikoita asiakaspalvelubotin luomiseksi. Käytämme tekstin generointimallia (Antrooppinen Claude V2) ja Amazon Bedrockin edustajat tälle ratkaisulle. Tarjoamme an AWS-pilven muodostuminen mallin, joka tarjoaa tämän ratkaisun rakentamiseen tarvittavat resurssit. Sitten opastamme sinut Amazon Bedrockin agentin luomiseen.

ReAct kehotus

FM:t määrittävät kuinka ratkaista käyttäjän pyytämät tehtävät tekniikalla nimeltä suhtautua. Se on yleinen paradigma, joka yhdistää päättelyn ja näyttelemisen FM-ääneihin. ReAct kehottaa FM:itä luomaan sanallisia päättelyjälkiä ja toimia tehtävää varten. Tämän ansiosta järjestelmä voi suorittaa dynaamista päättelyä toimintasuunnitelmien luomiseksi, ylläpitämiseksi ja säätämiseksi samalla kun se sisällyttää päättelyyn lisätietoa. Jäsennellyt kehotteet sisältävät sarjan kysymys-ajattelu-toiminta-havainnointiesimerkkejä.

• Kysymys on käyttäjän pyytämä tehtävä tai ongelma ratkaistavaksi.
• Ajatus on pohdiskelu, joka auttaa osoittamaan FM:lle, kuinka ongelmaan puututaan ja miten toimia.
• Toiminto on API, jonka malli voi kutsua sallitusta API-joukosta.
• Havainto on seurausta toiminnan suorittamisesta.

Amazon Bedrockin agenttien komponentit

Kulissien takana Amazon Bedrockin edustajat automatisoivat käyttäjien pyytämien tehtävien nopean suunnittelun ja organisoinnin. He voivat turvallisesti täydentää kehotteita yrityskohtaisilla tiedoilla tarjotakseen vastaukset takaisin käyttäjälle luonnollisella kielellä. Agentti jakaa käyttäjän pyytämän tehtävän useisiin vaiheisiin ja organisoi alitehtävät FM:ien avulla. Toimintaryhmät ovat tehtäviä, joita agentti voi suorittaa itsenäisesti. Toimintaryhmät on kartoitettu an AWS Lambda toiminto ja siihen liittyvä API-skeema API-kutsujen suorittamiseen. Seuraava kaavio kuvaa agentin rakennetta.

Ratkaisun yleiskatsaus

Käytämme asiakaspalvelubotin rakentamiseen kenkäkauppiaan käyttötapausta. Botti auttaa asiakkaita ostamaan kenkiä tarjoamalla vaihtoehtoja inhimilliseen keskusteluun. Asiakkaat keskustelevat botin kanssa luonnollisella kielellä useiden vaiheiden avulla, jotka kutsuvat ulkoisia sovellusliittymiä osatehtävien suorittamiseen. Seuraava kaavio havainnollistaa esimerkkiprosessin kulkua.

Seuraava kaavio kuvaa tämän ratkaisun korkean tason arkkitehtuuria.

1. Voit luoda agentin Amazon Bedrockin tukemilla FM-laitteilla, kuten Anthropic Claude V2.
2. Liitä API-skeema, joka sijaitsee Amazonin yksinkertainen tallennuspalvelu (Amazon S3) kauha ja Lambda-funktio, joka sisältää liikelogiikan agentille. (Huomaa: tämä on kertaluonteinen asennusvaihe.)
3. Agentti käyttää asiakkaan pyyntöjä luodakseen kehotteen ReAct-kehyksen avulla. Se käyttää sitten API-skeemaa vastaavan koodin kutsumiseen Lambda-funktiossa.
4. Voit suorittaa erilaisia ​​tehtäviä, kuten lähettää sähköposti-ilmoituksia, kirjoittaa tietokantoihin ja käynnistää sovellusrajapintoja Lambda-toiminnoissa.

Tässä viestissä käytämme Lambda-toimintoa asiakkaiden tietojen hakemiseen, asiakkaan toivomaan toimintaan vastaavien kenkien luetteloimiseen ja lopuksi tilausten tekemiseen. Koodimme taustalla on muistissa oleva SQLite-tietokanta. Voit käyttää samankaltaisia ​​rakenteita kirjoittaaksesi pysyvään tietovarastoon.

Edellytykset

Tässä viestissä tarjotun ratkaisun toteuttamiseksi sinulla pitäisi olla AWS-tili ja pääsy Amazon Bedrockiin agenttien ollessa käytössä (tällä hetkellä esikatselussa). Käytä AWS CloudFormation -mallia ratkaisuun tarvittavan resurssipinon luomiseen.

us-east-1

CloudFormation-malli luo kaksi IAM-roolia. Päivitä nämä roolit käyttämään vähiten oikeuksia, kuten artikkelissa on käsitelty Turvallisuuden parhaat käytännöt. Klikkaus tätä oppiaksesi, mitä IAM-ominaisuuksia voi käyttää Amazon Bedrockin agenttien kanssa.

1. LambdaBasicExecutionRole Amazon S3:n täysi käyttöoikeus ja CloudWatch-pääsy kirjaamiseen.
2. AmazonBedrockExecutionRoleForAgents Amazon S3:n täysi pääsy ja Lambda täysi pääsy.

Tärkeää: Amazon Bedrockin agenteilla on oltava roolin nimen etuliite AmazonBedrockExecutionRoleForAgents_*

Bedrock Agents -asetukset

Kahdessa seuraavassa osiossa opastamme sinut agentin luomisen ja testaamisen läpi.

Luo agentti Amazon Bedrockille

Luo agentti avaamalla Amazon Bedrock -konsoli Ja valitse Kiinteistönvälittäjät vasemmassa navigointiruudussa. Valitse sitten Luo agentti.

Tämä käynnistää agentin luontityönkulun.

1. Anna edustajan tiedot: Anna edustajalle nimi ja kuvaus (valinnainen). Valitse CloudFormation-pinon luoma palvelurooli ja valitse seuraava.

2. Valitse pohjamalli: In Valitse malli näyttöön, valitse malli. Anna agentille selkeät ja tarkat ohjeet suoritettavista tehtävistä ja vuorovaikutuksesta käyttäjien kanssa.

3. Lisää toimintaryhmiä: Toiminto on tehtävä, jonka agentti voi suorittaa tekemällä API-kutsuja. Joukko toimia koostuu toimintaryhmästä. Annat API-skeeman, joka määrittää kaikki toimintaryhmän sovellusliittymät. Sinun on annettava API-skeema OpenAPI-skeema JSON-muoto. Lambda-toiminto sisältää liiketoimintalogiikan, jota tarvitaan API-kutsujen suorittamiseen. Sinun on liitettävä Lambda-funktio jokaiseen toimintoryhmään.

Anna toimintaryhmälle nimi ja kuvaus toiminnolle. Valitse Lambda-funktio, anna API-skeematiedosto ja valitse seuraava.

4. Tarkista viimeisessä vaiheessa agentin asetukset ja valitse Luo agentti.

Testaa ja ota käyttöön agentteja Amazon Bedrockille

1. Testaa agenttia: Kun agentti on luotu, valintaikkuna näyttää agentin yleiskatsauksen ja työluonnoksen. Amazon Bedrock -konsoli tarjoaa käyttöliittymän agenttisi testaamiseen.

2. Sijoittaa: Onnistuneen testauksen jälkeen voit ottaa agenttisi käyttöön. Jos haluat ottaa agentin käyttöön sovelluksessasi, sinun on luotava alias. Amazon Bedrock luo sitten automaattisesti version tälle aliakselle.

Seuraavat toiminnot tapahtuvat edellisen agentin asennuksen ja tämän viestin mukana toimitetun Lambda-koodin kanssa:

1. Agentti luo kehotteen kehittäjän antamista ohjeista (kuten "Olet agentti, joka auttaa asiakkaita ostamaan kenkiä."), tehtävien suorittamiseen tarvittavista API-skeemoista ja tietolähteen tiedoista. Automaattinen kehotteiden luominen säästää viikkoja kestäneestä kokeilusta eri FM-kehotteiden kanssa.
2. Agentti järjestää käyttäjän pyytämän tehtävän, kuten "etsin kenkiä", jakamalla sen pienempiin osatehtäviin, kuten asiakastietojen hankkimiseen, asiakkaan toivoman toiminnan yhteensovittamiseen kenkätoimintoihin ja kenkien tilausten tekemiseen. Agentti määrittää oikean tehtävien järjestyksen ja käsittelee virheskenaarioita matkan varrella.

Seuraava kuvakaappaus näyttää esimerkkejä agentin antamista vastauksista.

valitsemalla Näytä jälki Jokaisen vastauksen kohdalla valintaikkuna näyttää agentin käyttämän päättelytekniikan ja FM:n luoman lopullisen vastauksen.

Uudelleenjärjestäminen

Vältä tulevia maksuja poistamalla resurssit. Voit tehdä tämän poistamalla pinon CloudFormation-konsolista.

Voit vapaasti ladata ja testata tässä viestissä käytettyä koodia GitHubista agentit Amazon Bedrock -varastolle. Voit myös kutsua Amazon Bedrockin agentteja ohjelmallisesti; an esimerkki Jupyter-muistikirjasta tarjotaan arkistossa.

Yhteenveto

Agents for Amazon Bedrock voi auttaa sinua lisäämään tuottavuutta, parantamaan asiakaspalvelukokemustasi tai automatisoimaan DevOps-tehtäviä. Tässä viestissä näytimme sinulle, kuinka voit määrittää agentit Amazon Bedrockille asiakaspalvelubotin luomiseksi.

Kannustamme sinua oppimaan lisää tarkistamalla lisäominaisuuksia Amazon Bedrockista. Voit käyttää tässä viestissä annettua esimerkkikoodia toteutuksen luomiseen. Kokeile meidän työpaja saada käytännön kokemusta Amazon Bedrockista.

---

Tietoja Tekijät

Amit Arora on AI- ja ML-asiantuntijaarkkitehti Amazon Web Servicesissä, ja hän auttaa yritysasiakkaita käyttämään pilvipohjaisia ​​koneoppimispalveluita innovaatioiden nopeaan skaalaamiseen. Hän on myös dosentti MS-tietotiede- ja analytiikkaohjelmassa Georgetownin yliopistossa Washington DC:ssä.

Manju Prasad on vanhempi ratkaisuarkkitehti strategisten tilien parissa Amazon Web Services -palvelussa. Hän keskittyy tarjoamaan teknistä neuvontaa useilla eri aloilla, mukaan lukien tekoäly/ML teltta-M&E-asiakkaalle. Ennen AWS:lle tuloaan hän on työskennellyt finanssipalvelualan yrityksissä sekä startupissa.

Archana Inapudi on AWS:n vanhempi ratkaisuarkkitehti, joka tukee strategisia asiakkaita. Hänellä on yli vuosikymmenen kokemus asiakkaiden auttamisesta data-analytiikka- ja tietokantaratkaisujen suunnittelussa ja rakentamisessa. Hän on intohimoinen teknologian käyttämisestä arvon tuottamiseksi asiakkaille ja liiketoiminnan tulosten saavuttamiseksi.

• SEO-pohjainen sisällön ja PR-jakelu. Vahvista jo tänään.
• PlatoData.Network Vertical Generatiivinen Ai. Vahvista itseäsi. Pääsy tästä.
• PlatoAiStream. Web3 Intelligence. Tietoa laajennettu. Pääsy tästä.
• PlatoESG. hiili, CleanTech, energia, ympäristö, Aurinko, Jätehuolto. Pääsy tästä.
• PlatonHealth. Biotekniikan ja kliinisten kokeiden älykkyys. Pääsy tästä.
• Lähde: https://aws.amazon.com/blogs/machine-learning/build-a-foundation-model-fm-powered-customer-service-bot-with-agents-for-amazon-bedrock/