Crie um bot de atendimento ao cliente baseado em modelo básico (FM) com agentes para Amazon Bedrock | Amazon Web Services

Desde a melhoria da experiência de conversação até a assistência ao agente, há muitas maneiras pelas quais a inteligência artificial (IA) generativa e os modelos básicos (FMs) podem ajudar a fornecer um suporte melhor e mais rápido. Com a crescente disponibilidade e diversidade de FMs, é difícil experimentar e manter-se atualizado com as versões mais recentes dos modelos. Rocha Amazônica é um serviço totalmente gerenciado que oferece uma escolha de FMs de alto desempenho de empresas líderes de IA, como AI21 Labs, Anthropic, Cohere, Meta, Stability AI e Amazon. Com os recursos abrangentes do Amazon Bedrock, você pode experimentar facilmente uma variedade dos principais FMs e personalizá-los de maneira privada com seus dados usando técnicas como ajuste fino e geração aumentada de recuperação (RAG).

Agentes da Amazon Bedrock

Em julho, a AWS anunciou a prévia do agentes da Amazon Bedrock, um novo recurso para os desenvolvedores criarem agentes totalmente gerenciados com apenas alguns cliques. Os agentes estendem os FMs para executar tarefas de negócios complexas, desde a reserva de viagens e processamento de reclamações de seguros até a criação de campanhas publicitárias e gerenciamento de estoque, tudo sem escrever nenhum código. Com agentes totalmente gerenciados, você não precisa se preocupar com provisionamento ou gerenciamento de infraestrutura.

Nesta postagem, fornecemos um guia passo a passo com blocos de construção para criar um bot de atendimento ao cliente. Usamos um modelo de geração de texto (Claude Antrópico V2) e agentes da Amazon Bedrock para esta solução. Nós fornecemos um Formação da Nuvem AWS modelo para provisionar os recursos necessários para construir esta solução. Em seguida, orientamos você nas etapas para criar um agente para Amazon Bedrock.

Solicitação de reação

FMs determinam como resolver tarefas solicitadas pelo usuário com uma técnica chamada Reagir. É um paradigma geral que combina raciocínio e ação com FMs. O ReAct solicita que os FMs gerem traços de raciocínio verbal e ações para uma tarefa. Isso permite que o sistema execute o raciocínio dinâmico para criar, manter e ajustar planos de ação, ao mesmo tempo que incorpora informações adicionais ao raciocínio. As instruções estruturadas incluem uma sequência de exemplos de perguntas, pensamentos, ações e observações.

• A pergunta é a tarefa ou problema solicitado pelo usuário para resolver.
• O pensamento é uma etapa de raciocínio que ajuda a demonstrar ao GF como enfrentar o problema e identificar uma ação a ser tomada.
• A ação é uma API que o modelo pode invocar a partir de um conjunto permitido de APIs.
• A observação é o resultado da realização da ação.

Componentes em agentes para Amazon Bedrock

Nos bastidores, os agentes do Amazon Bedrock automatizam a engenharia imediata e a orquestração de tarefas solicitadas pelos usuários. Eles podem aumentar com segurança os prompts com informações específicas da empresa para fornecer respostas ao usuário em linguagem natural. O agente divide a tarefa solicitada pelo usuário em várias etapas e orquestra subtarefas com a ajuda de FMs. Grupos de ação são tarefas que o agente pode executar de forma autônoma. Os grupos de ação são mapeados para um AWS Lambda função e esquema de API relacionado para realizar chamadas de API. O diagrama a seguir descreve a estrutura do agente.

Visão geral da solução

Usamos um caso de uso de varejista de calçados para construir o bot de atendimento ao cliente. O bot ajuda os clientes a comprar sapatos, oferecendo opções em uma conversa humana. Os clientes conversam com o bot em linguagem natural em várias etapas, invocando APIs externas para realizar subtarefas. O diagrama a seguir ilustra o fluxo do processo de amostra.

O diagrama a seguir descreve uma arquitetura de alto nível desta solução.

1. Você pode criar um agente com FMs compatíveis com Amazon Bedrock, como Anthropic Claude V2.
2. Anexe o esquema da API, residente em um Serviço de armazenamento simples da Amazon (Amazon S3) bucket e uma função Lambda contendo a lógica de negócios para o agente. (Observação: esta é uma etapa de configuração única.)
3. O agente usa solicitações do cliente para criar um prompt usando a estrutura ReAct. Em seguida, ele usa o esquema da API para invocar o código correspondente na função Lambda.
4. Você pode executar diversas tarefas, incluindo enviar notificações por e-mail, gravar em bancos de dados e acionar APIs de aplicativos nas funções do Lambda.

Nesta postagem, usamos a função Lambda para recuperar detalhes do cliente, listar os sapatos que correspondem à atividade preferida do cliente e, por fim, fazer pedidos. Nosso código é apoiado por um banco de dados SQLite na memória. Você pode usar construções semelhantes para gravar em um armazenamento de dados persistente.

Pré-requisitos

Para implementar a solução fornecida neste post, você deve ter um Conta da AWS e acesso ao Amazon Bedrock com agentes habilitados (atualmente em versão prévia). Use o modelo AWS CloudFormation para criar a pilha de recursos necessária para a solução.

us-east-1

O modelo CloudFormation cria duas funções IAM. Atualize essas funções para aplicar permissões de privilégio mínimo, conforme discutido em Práticas recomendadas de segurança. Clique SUA PARTICIPAÇÃO FAZ A DIFERENÇA para saber quais recursos do IAM estão disponíveis para uso com agentes do Amazon Bedrock.

1. LambdaBasicExecutionRole com acesso total ao Amazon S3 e acesso ao CloudWatch para registro em log.
2. AmazonBedrockExecutionRoleForAgents com acesso total ao Amazon S3 e acesso total ao Lambda.

Importante: Os agentes do Amazon Bedrock devem ter o nome da função prefixado por AmazonBedrockExecutionRoleForAgents_*

Configuração dos Agentes Bedrock

Nas próximas duas seções, orientaremos você na criação e teste de um agente.

Crie um agente para Amazon Bedrock

Para criar um agente, abra o Console Amazon Bedrock e escolha Agentes no painel de navegação esquerdo. Em seguida, selecione Criar agente.

Isso inicia o fluxo de trabalho de criação do agente.

1. Forneça detalhes do agente: Dê ao agente um nome e uma descrição (opcional). Selecione a função de serviço criada pela pilha do CloudFormation e selecione Próximo.

2. Selecione um modelo de fundação: No Selecionar modelo tela, você seleciona um modelo. Forneça instruções claras e precisas ao agente sobre quais tarefas executar e como interagir com os usuários.

3. Adicionar grupos de ação: Uma ação é uma tarefa que o agente pode executar fazendo chamadas de API. Um conjunto de ações compreende um grupo de ação. Você fornece um esquema de API que define todas as APIs no grupo de ação. Você deve fornecer um esquema de API no Esquema OpenAPI Formato JSON. A função Lambda contém a lógica de negócios necessária para realizar chamadas de API. Você deve associar uma função do Lambda a cada grupo de ação.

Dê ao grupo de ação um nome e uma descrição para a ação. Selecione a função Lambda, forneça um arquivo de esquema de API e selecione Próximo.

4. Na etapa final, revise a configuração do agente e selecione Criar agente.

Teste e implante agentes para Amazon Bedrock

1. Teste o agente: após a criação do agente, uma caixa de diálogo mostra a visão geral do agente junto com um rascunho de trabalho. O console do Amazon Bedrock fornece uma UI para testar seu agente.

2. Implantação: após o teste bem-sucedido, você poderá implantar seu agente. Para implementar um agente em seu aplicativo, você deve criar um alias. O Amazon Bedrock cria automaticamente uma versão para esse alias.

As ações a seguir ocorrem com a configuração do agente anterior e o código Lambda fornecido nesta postagem:

1. O agente cria um prompt a partir das instruções fornecidas pelo desenvolvedor (como “Você é um agente que ajuda os clientes a comprar sapatos”), esquemas de API necessários para concluir as tarefas e detalhes da fonte de dados. A criação automática de prompts economiza semanas de experimentação com prompts para diferentes FMs.
2. O agente orquestra a tarefa solicitada pelo usuário, como “Estou procurando sapatos”, dividindo-a em subtarefas menores, como obter detalhes do cliente, combinar a atividade preferida do cliente com a atividade de calçados e fazer pedidos de calçados. O agente determina a sequência correta de tarefas e lida com cenários de erro ao longo do caminho.

A captura de tela a seguir mostra alguns exemplos de respostas do agente.

Ao selecionar Mostrar rastreamento para cada resposta, uma caixa de diálogo mostra a técnica de raciocínio utilizada pelo agente e a resposta final gerada pelo FM.

Limpar

Para evitar incorrer em cobranças futuras, exclua os recursos. Você pode fazer isso excluindo a pilha do console do CloudFormation.

Sinta-se à vontade para baixar e testar o código usado nesta postagem no GitHub agentes para o repositório Amazon Bedrock. Você também pode invocar os agentes do Amazon Bedrock programaticamente; um exemplo Jupyter Notebook é fornecido no repositório.

Conclusão

Os agentes do Amazon Bedrock podem ajudar você a aumentar a produtividade, melhorar sua experiência de atendimento ao cliente ou automatizar tarefas de DevOps. Nesta postagem, mostramos como configurar agentes do Amazon Bedrock para criar um bot de atendimento ao cliente.

Nós encorajamos você a aprender mais revisando características adicionais da Amazônia Bedrock. Você pode usar o código de exemplo fornecido nesta postagem para criar sua implementação. Experimente o nosso oficina para obter experiência prática com o Amazon Bedrock.

---

Sobre os autores

Amit Arora é um arquiteto especialista em IA e ML na Amazon Web Services, ajudando clientes corporativos a usar serviços de aprendizado de máquina baseados em nuvem para dimensionar rapidamente suas inovações. Ele também é professor adjunto no programa de ciência e análise de dados MS na Georgetown University em Washington DC

Manju Prasad é arquiteto de soluções sênior em contas estratégicas na Amazon Web Services. Ela se concentra em fornecer orientação técnica em uma variedade de domínios, incluindo IA/ML para um cliente importante de M&A. Antes de ingressar na AWS, ela trabalhou em empresas do setor de serviços financeiros e também em uma startup.

Archana Inapudi é arquiteto de soluções sênior na AWS, oferecendo suporte a clientes estratégicos. Ela tem mais de uma década de experiência ajudando clientes a projetar e construir análises de dados e soluções de banco de dados. Ela é apaixonada por usar a tecnologia para agregar valor aos clientes e alcançar resultados de negócios.

• Conteúdo com tecnologia de SEO e distribuição de relações públicas. Seja amplificado hoje.
• PlatoData.Network Gerativa Vertical Ai. Capacite-se. Acesse aqui.
• PlatoAiStream. Inteligência Web3. Conhecimento Amplificado. Acesse aqui.
• PlatãoESG. Carbono Tecnologia Limpa, Energia, Ambiente, Solar, Gestão de resíduos. Acesse aqui.
• PlatoHealth. Inteligência em Biotecnologia e Ensaios Clínicos. Acesse aqui.
• Fonte: https://aws.amazon.com/blogs/machine-learning/build-a-foundation-model-fm-powered-customer-service-bot-with-agents-for-amazon-bedrock/