Amazon Bedrock용 에이전트를 사용하여 FM(기반 모델) 기반 고객 서비스 봇 구축 | 아마존 웹 서비스

대화 경험 강화부터 상담원 지원까지, 생성적 인공 지능(AI)과 기반 모델(FM)이 더 빠르고 더 나은 지원을 제공하는 데 도움이 될 수 있는 다양한 방법이 있습니다. FM의 가용성과 다양성이 증가함에 따라 최신 모델 버전을 실험하고 최신 상태로 유지하는 것이 어렵습니다. 아마존 기반암 AI21 Labs, Anthropic, Cohere, Meta, Stability AI, Amazon 등 선도적인 AI 기업의 고성능 FM을 선택할 수 있는 완전관리형 서비스입니다. Amazon Bedrock의 포괄적인 기능을 사용하면 다양한 상위 FM을 쉽게 실험하고 미세 조정 및 RAG(검색 증강 생성)와 같은 기술을 사용하여 데이터로 비공개적으로 사용자 지정할 수 있습니다.

Amazon Bedrock용 에이전트

지난 XNUMX월 AWS는 다음의 프리뷰를 발표했습니다. Amazon Bedrock 에이전트는 개발자가 몇 번의 클릭만으로 완전 관리형 에이전트를 생성할 수 있는 새로운 기능입니다. 에이전트는 FM을 확장하여 여행 예약, 보험금 청구 처리, 광고 캠페인 생성, 재고 관리 등 복잡한 비즈니스 작업을 코드 작성 없이 모두 실행할 수 있습니다. 완전관리형 에이전트를 사용하면 인프라 프로비저닝이나 관리에 대해 걱정할 필요가 없습니다.

이 게시물에서는 고객 서비스 봇을 만들기 위한 구성 요소가 포함된 단계별 가이드를 제공합니다. 우리는 텍스트 생성 모델(인류 클로드 V2) 및 이 솔루션에 대한 Amazon Bedrock 에이전트입니다. 우리는 AWS 클라우드 포메이션 이 솔루션을 구축하는 데 필요한 리소스를 프로비저닝하기 위한 템플릿입니다. 그런 다음 Amazon Bedrock용 에이전트를 생성하는 단계를 안내합니다.

반응 프롬프트

FM은 다음과 같은 기술을 사용하여 사용자가 요청한 작업을 해결하는 방법을 결정합니다. 반응. FM에 추론과 행동을 결합한 일반적인 패러다임입니다. ReAct는 FM에게 작업에 대한 언어적 추론 추적 및 조치를 생성하도록 요청합니다. 이를 통해 시스템은 추가 정보를 추론에 통합하면서 행동 계획을 생성, 유지 및 조정하기 위한 동적 추론을 수행할 수 있습니다. 구조화된 프롬프트에는 일련의 질문-생각-행동-관찰 예제가 포함됩니다.

• 질문은 사용자가 해결하기 위해 요청한 작업이나 문제입니다.
• 사고는 문제를 해결하고 취해야 할 조치를 식별하는 방법을 FM에 보여주는 데 도움이 되는 추론 단계입니다.
• 작업은 모델이 허용된 API 세트에서 호출할 수 있는 API입니다.
• 관찰은 행동을 수행한 결과이다.

Amazon Bedrock용 에이전트의 구성 요소

그 뒤에서 Amazon Bedrock 에이전트는 사용자가 요청한 작업의 즉각적인 엔지니어링 및 조정을 자동화합니다. 회사별 정보로 프롬프트를 안전하게 강화하여 자연어로 사용자에게 응답을 제공할 수 있습니다. 에이전트는 사용자가 요청한 작업을 여러 단계로 나누고 FM의 도움을 받아 하위 작업을 조정합니다. 작업 그룹은 에이전트가 자율적으로 수행할 수 있는 작업입니다. 작업 그룹은 다음에 매핑됩니다. AWS 람다 API 호출을 수행하기 위한 함수 및 관련 API 스키마입니다. 다음 다이어그램은 에이전트 구조를 보여줍니다.

솔루션 개요

우리는 고객 서비스 봇을 구축하기 위해 신발 소매업체 사용 사례를 사용합니다. 봇은 인간과 같은 대화를 통해 옵션을 제공함으로써 고객이 신발을 구매할 수 있도록 돕습니다. 고객은 하위 작업을 수행하기 위해 외부 API를 호출하는 여러 단계를 통해 자연어로 봇과 대화합니다. 다음 다이어그램은 샘플 프로세스 흐름을 보여줍니다.

다음 다이어그램은 이 솔루션의 개략적인 아키텍처를 보여줍니다.

1. Anthropic Claude V2와 같은 Amazon Bedrock 지원 FM을 사용하여 에이전트를 생성할 수 있습니다.
2. 다음에 있는 API 스키마를 연결합니다. Amazon Simple Storage Service(Amazon S3) 버킷 및 에이전트에 대한 비즈니스 로직이 포함된 Lambda 함수입니다. (참고: 이는 일회성 설정 단계입니다.)
3. 에이전트는 고객 요청을 사용하여 ReAct 프레임워크를 사용하여 프롬프트를 생성합니다. 그런 다음 API 스키마를 사용하여 Lambda 함수에서 해당 코드를 호출합니다.
4. 이메일 알림 보내기, 데이터베이스에 쓰기, Lambda 함수에서 애플리케이션 API 트리거 등 다양한 작업을 수행할 수 있습니다.

이 게시물에서는 Lambda 함수를 사용하여 고객 세부 정보를 검색하고, 고객이 선호하는 활동과 일치하는 신발 목록을 나열하고, 마지막으로 주문합니다. 우리 코드는 메모리 내 SQLite 데이터베이스로 뒷받침됩니다. 유사한 구성을 사용하여 영구 데이터 저장소에 쓸 수 있습니다.

사전 조건

이 게시물에서 제공하는 솔루션을 구현하려면 다음이 있어야 합니다. AWS 계정 에이전트가 활성화된 Amazon Bedrock에 대한 액세스(현재 미리 보기 상태) AWS CloudFormation 템플릿을 사용하여 솔루션에 필요한 리소스 스택을 생성합니다.

us-east-1

CloudFormation 템플릿은 두 개의 IAM 역할을 생성합니다. 설명된 대로 최소 권한 권한을 적용하려면 이러한 역할을 업데이트하세요. 보안 모범 사례. 딸깍 하는 소리 여기에서 지금 확인해 보세요. Amazon Bedrock용 에이전트와 함께 사용할 수 있는 IAM 기능을 알아보세요.

1. LambdaBasicExecutionRole Amazon S3 전체 액세스 권한과 로깅을 위한 CloudWatch 액세스 권한이 있습니다.
2. AmazonBedrockExecutionRoleForAgents Amazon S3 전체 액세스 및 Lambda 전체 액세스가 가능합니다.

중요 사항: Amazon Bedrock용 에이전트에는 역할 이름 앞에 다음이 있어야 합니다. AmazonBedrockExecutionRoleForAgents_*

Bedrock 에이전트 설정

다음 두 섹션에서는 에이전트를 만들고 테스트하는 과정을 안내합니다.

Amazon Bedrock용 에이전트 생성

에이전트를 생성하려면 아마존 베드락 콘솔 선택하고 에이전트 왼쪽 탐색 창에서 그런 다음 선택 에이전트 생성.

그러면 에이전트 생성 워크플로가 시작됩니다.

1. 상담원 세부정보 제공: 에이전트에게 이름과 설명을 제공합니다(선택 사항). CloudFormation 스택에서 생성된 서비스 역할을 선택하고 다음 보기.

2. 기초 모델을 선택하세요: . 모델 선택 화면에서 모델을 선택합니다. 수행할 작업과 사용자와 상호 작용하는 방법에 대해 상담사에게 명확하고 정확한 지침을 제공합니다.

3. 작업 그룹 추가: 작업은 에이전트가 API 호출을 통해 수행할 수 있는 작업입니다. 일련의 작업이 작업 그룹을 구성합니다. 작업 그룹의 모든 API를 정의하는 API 스키마를 제공합니다. 다음 위치에 API 스키마를 제공해야 합니다. OpenAPI 스키마 JSON 형식. Lambda 함수에는 API 호출을 수행하는 데 필요한 비즈니스 로직이 포함되어 있습니다. 각 작업 그룹에 Lambda 함수를 연결해야 합니다.

작업 그룹에 작업에 대한 이름과 설명을 지정합니다. Lambda 함수를 선택하고 API 스키마 파일을 제공한 후 선택하세요. 다음 보기.

4. 마지막 단계에서 에이전트 구성을 검토하고 선택합니다. 에이전트 생성.

Amazon Bedrock용 에이전트 테스트 및 배포

1. 에이전트 테스트: 에이전트가 생성되면 대화 상자에 작업 초안과 함께 에이전트 개요가 표시됩니다. Amazon Bedrock 콘솔은 에이전트를 테스트하기 위한 UI를 제공합니다.

2. 배포: 테스트가 성공적으로 완료되면 에이전트를 배포할 수 있습니다. 애플리케이션에 에이전트를 배포하려면 별칭을 생성해야 합니다. 그런 다음 Amazon Bedrock은 해당 별칭에 대한 버전을 자동으로 생성합니다.

이전 에이전트 설정과 이 게시물과 함께 제공된 Lambda 코드를 사용하면 다음 작업이 발생합니다.

1. 에이전트는 개발자가 제공한 지침(예: "당신은 고객의 신발 구매를 돕는 에이전트입니다."), 작업을 완료하는 데 필요한 API 스키마, 데이터 소스 세부정보를 바탕으로 프롬프트를 생성합니다. 자동 프롬프트 생성을 통해 다양한 FM에 대한 프롬프트를 실험하는 데 몇 주가 소요됩니다.
2. 에이전트는 "신발을 찾고 있습니다"와 같은 사용자 요청 작업을 고객 세부 정보 가져오기, 고객이 선호하는 활동을 신발 활동과 일치, 신발 주문 등 더 작은 하위 작업으로 나누어 조정합니다. 에이전트는 올바른 작업 순서를 결정하고 그 과정에서 오류 시나리오를 처리합니다.

다음 스크린샷은 에이전트의 몇 가지 응답 예시를 보여줍니다.

선택하여 추적 표시 각 응답에 대해 대화 상자에는 에이전트가 사용하는 추론 기술과 FM이 생성한 최종 응답이 표시됩니다.

대청소

향후 요금이 발생하지 않도록 하려면 리소스를 삭제하세요. CloudFormation 콘솔에서 스택을 삭제하면 됩니다.

이 게시물에 사용된 코드를 GitHub에서 자유롭게 다운로드하고 테스트해 보세요. Amazon Bedrock 리포지토리용 에이전트. 프로그래밍 방식으로 Amazon Bedrock용 에이전트를 호출할 수도 있습니다. 안 예시 주피터 노트북 저장소에서 제공됩니다.

결론

Amazon Bedrock용 에이전트는 생산성을 높이고, 고객 서비스 경험을 개선하거나 DevOps 작업을 자동화하는 데 도움이 될 수 있습니다. 이 게시물에서는 고객 서비스 봇을 생성하기 위해 Amazon Bedrock용 에이전트를 설정하는 방법을 보여주었습니다.

다음을 검토하여 자세히 알아보시기 바랍니다. 추가 기능 아마존 베드락의. 이 게시물에 제공된 예제 코드를 사용하여 구현을 만들 수 있습니다. 우리의 작업장 Amazon Bedrock을 직접 경험해 보세요.

---

저자에 관하여

아미트 아로라 Amazon Web Services의 AI 및 ML 전문 설계자로서 기업 고객이 클라우드 기반 기계 학습 서비스를 사용하여 혁신을 빠르게 확장할 수 있도록 지원합니다. 그는 또한 워싱턴 DC의 Georgetown University에서 MS 데이터 과학 및 분석 프로그램의 겸임 강사이기도 합니다.

만주 프라사드 Amazon Web Services의 전략 계정 내 수석 솔루션 설계자입니다. 그녀는 주요 M&E 고객에게 AI/ML을 포함한 다양한 영역에서 기술 지침을 제공하는 데 중점을 두고 있습니다. AWS에 합류하기 전에 그녀는 금융 서비스 부문의 회사와 스타트업에서 근무했습니다.

아르카나 이나푸디 전략적 고객을 지원하는 AWS의 수석 솔루션 아키텍트입니다. 그녀는 고객이 데이터 분석 및 데이터베이스 솔루션을 설계하고 구축하도록 돕는 데 XNUMX년 이상의 경험을 갖고 있습니다. 그녀는 고객에게 가치를 제공하고 비즈니스 성과를 달성하기 위해 기술을 사용하는 데 열정을 갖고 있습니다.

• SEO 기반 콘텐츠 및 PR 배포. 오늘 증폭하십시오.
• PlatoData.Network 수직 생성 Ai. 자신에게 권한을 부여하십시오. 여기에서 액세스하십시오.
• PlatoAiStream. 웹3 인텔리전스. 지식 증폭. 여기에서 액세스하십시오.
• 플라톤ESG. 탄소, 클린테크, 에너지, 환경, 태양광, 폐기물 관리. 여기에서 액세스하십시오.
• PlatoHealth. 생명 공학 및 임상 시험 인텔리전스. 여기에서 액세스하십시오.
• 출처: https://aws.amazon.com/blogs/machine-learning/build-a-foundation-model-fm-powered-customer-service-bot-with-agents-for-amazon-bedrock/