Accenture는 AWS에서 생성적 AI 서비스를 사용하여 Knowledge Assist 솔루션을 만듭니다 | 아마존 웹 서비스

이 게시물은 Accenture의 Ilan Geller 및 Shuyu Yang과 공동으로 작성되었습니다.

오늘날 기업은 내부 및 외부 비즈니스 운영에 정보와 지식 기반을 사용하는 데 있어 큰 어려움에 직면해 있습니다. 지속적으로 발전하는 운영, 프로세스, 정책 및 규정 준수 요구 사항으로 인해 직원과 고객이 최신 상태를 유지하는 것은 극히 어려울 수 있습니다. 동시에 이러한 콘텐츠의 대부분은 구조화되지 않은 특성으로 인해 기존 검색을 사용하여 답변을 찾는 데 시간이 많이 걸립니다.

내부적으로 직원들은 업무 수행에 필요한 정보를 검색하는 데 셀 수 없이 많은 시간을 소비하여 좌절감과 생산성 저하를 초래하는 경우가 많습니다. 그리고 답을 찾을 수 없으면 완전한 맥락 없이 문제를 에스컬레이션하거나 결정을 내려야 하므로 위험이 발생할 수 있습니다.

외부적으로도 고객은 원하는 정보를 찾는 데 어려움을 겪을 수 있습니다. 기업 지식 기반은 시간이 지남에 따라 고객 경험을 개선했지만 여전히 번거롭고 사용하기 어려울 수 있습니다. 제품 관련 질문에 대한 답변을 찾거나 영업 시간 및 위치에 대한 정보가 필요한 경우, 좋지 않은 경험은 불만을 불러일으키거나 더 심한 경우 고객 이탈로 이어질 수 있습니다.

두 경우 모두, 지식 관리가 더욱 복잡해짐에 따라 생성 AI는 기업이 수행하고 혁신하는 데 필요한 정보에 사람들을 연결할 수 있는 획기적인 기회를 제공합니다. 올바른 전략을 사용하면 이러한 지능형 솔루션은 조직 전체에서 지식을 수집, 구성 및 사용하는 방식을 변화시킬 수 있습니다.

이 문제를 해결하기 위해 Accenture는 AWS와 협력하여 Knowledge Assist라는 혁신적인 생성 AI 솔루션을 구축했습니다. 팀은 AWS 생성 AI 서비스를 사용하여 대량의 비정형 엔터프라이즈 콘텐츠를 수집하고 이해할 수 있는 시스템을 개발했습니다.

기존의 키워드 검색 대신 이제 사용자는 간단한 대화형 인터페이스에서 질문하고 정확한 답변을 추출할 수 있습니다. Generative AI는 지식 기반 내의 컨텍스트와 관계를 이해하여 개인화되고 정확한 응답을 제공합니다. 더 많은 쿼리가 처리됨에 따라 시스템은 기계 학습(ML) 알고리즘을 통해 언어 처리를 지속적으로 개선합니다.

이 AI 지원 프레임워크를 출시한 이후 기업은 직원의 지식 보유 및 생산성이 크게 향상되었습니다. 정보에 대한 빠르고 정확한 액세스를 제공하고 직원이 셀프 서비스를 수행할 수 있도록 함으로써 이 솔루션은 신입 사원의 교육 시간을 50% 이상 단축하고 에스컬레이션을 최대 40%까지 줄입니다.

생성적 AI의 강력한 기능을 통해 기업은 조직 전체에서 지식을 캡처, 구성 및 공유하는 방식을 혁신할 수 있습니다. 기업은 기존 지식 기반을 활용하여 직원 생산성과 고객 만족도를 높일 수 있습니다. Accenture와 AWS의 협력이 보여 주듯이, 기업 지식 관리의 미래는 인간과 기계 간의 상호 작용을 통해 진화하는 AI 기반 시스템에 있습니다.

Accenture는 AWS와 협력하여 고객의 배포를 지원합니다. 아마존 기반암, 다음과 같은 가장 진보된 기본 모델을 활용합니다. 아마존 타이탄, 다음과 같은 업계 최고의 기술을 배포합니다. Amazon SageMaker 점프스타트 및 아마존 인페렌시아 다른 AWS ML 서비스와 함께.

이 게시물에서는 Amazon Bedrock 및 기타 AWS 서비스를 사용하여 프로덕션 사용 사례를 위해 Accenture가 개발한 엔드 투 엔드 생성 AI 솔루션에 대한 개요를 제공합니다.

솔루션 개요

대규모 공중 보건 부문 고객은 매일 수백만 명의 시민에게 서비스를 제공하며 끊임없이 변화하는 건강 환경에서 최신 정보에 쉽게 액세스할 수 있기를 요구합니다. Accenture는 이 생성 AI 기능을 기존 FAQ 봇에 통합하여 챗봇이 더 광범위한 사용자 질문에 대한 답변을 제공할 수 있도록 했습니다. 시민들이 셀프 서비스 방식으로 관련 정보에 액세스할 수 있는 능력이 향상되면 부서의 시간과 비용이 절약되고 콜센터 상담원 상호 작용의 필요성이 줄어듭니다. 솔루션의 주요 기능은 다음과 같습니다.

• 하이브리드 의도 접근 방식 – 생성 및 사전 훈련된 인텐트를 사용합니다.
• 다국어 지원 – 영어와 스페인어로 대화
• 대화 분석 – 사용자 요구, 정서 및 우려 사항에 대한 보고서
• 자연스러운 대화 – 인간과 유사한 자연어 처리(NLP)로 컨텍스트 유지
• 투명한 인용 – 사용자에게 출처정보를 안내합니다.

Accenture의 생성 AI 솔루션은 기존 또는 기존 챗봇 프레임워크에 비해 다음과 같은 이점을 제공합니다.

• 사용자 쿼리에 대해 정확하고 관련성이 높으며 자연스러운 응답을 신속하게 생성합니다.
• 맥락을 기억하고 후속 질문에 답합니다.
• 쿼리를 처리하고 여러 언어(예: 영어 및 스페인어)로 응답을 생성합니다.
• 사용자 피드백을 기반으로 지속적으로 학습하고 응답을 개선합니다.
• 기존 웹 플랫폼과 쉽게 통합 가능
• 방대한 기업 지식 기반 저장소를 수집합니다.
• 인간과 같은 방식으로 반응
• 지식의 발전은 최소한의 노력이나 노력 없이 지속적으로 가능합니다.
• 초기 비용 없이 종량제 모델을 사용합니다.

이 솔루션의 개략적인 워크플로에는 다음 단계가 포함됩니다.

1. 사용자는 기존 웹 플랫폼과의 간단한 통합을 생성합니다.​
2. 데이터는 0일차에 대량 업로드로 플랫폼에 수집된 다음 1일차 이상에는 증분 업로드로 수집됩니다.​
3. 사용자 쿼리는 사용자 요구를 충족하는 데 필요한 만큼 시스템 확장을 통해 실시간으로 처리됩니다.
4. 대화는 애플리케이션 데이터베이스(아마존 다이나모 DB) 다방면의 대화를 지원합니다.​
5. Anthropic Claude 기반 모델은 가장 관련성이 높은 콘텐츠를 기반으로 쿼리 응답을 생성하는 데 사용되는 Amazon Bedrock을 통해 호출됩니다.
6. Anthropic Claude 기반 모델은 다국어 대화를 지원하기 위해 영어에서 다른 원하는 언어로 쿼리와 응답을 번역하는 데 사용됩니다.
7. Amazon Titan 기반 모델은 Amazon Bedrock을 통해 호출되어 벡터 임베딩을 생성합니다.
8. 콘텐츠 관련성은 Pinecone 벡터 데이터베이스 임베딩을 사용하여 원시 콘텐츠 임베딩과 사용자 쿼리 임베딩의 유사성을 통해 결정됩니다.​
9. 사용자의 질문과 함께 컨텍스트가 추가되어 Anthropic Claude 모델에 대한 입력으로 제공되는 프롬프트를 생성합니다. 생성된 응답은 웹 플랫폼을 통해 사용자에게 다시 제공됩니다.

다음 다이어그램은 솔루션 아키텍처를 보여줍니다.

아키텍처 흐름은 두 부분으로 이해될 수 있습니다.

다음 섹션에서는 솔루션의 다양한 측면과 개발에 대해 자세히 설명합니다.

모델 선택

모델 선택 프로세스에는 AI21 Labs, Cohere, Anthropic 및 Amazon 기반 모델을 포함하여 Amazon Bedrock에서 사용할 수 있는 다양한 모델에 대한 회귀 테스트가 포함되었습니다. 지원되는 사용 사례, 모델 속성, 최대 토큰, 비용, 정확성, 성능 및 언어를 확인했습니다. 이를 바탕으로 우리는 이 사용 사례에 가장 적합한 것으로 Claude-2를 선택했습니다.

데이터 소스

Amazon Kendra 인덱스를 생성하고 루트 웹 URL과 디렉터리 깊이가 XNUMX개 수준인 웹 크롤러 커넥터를 사용하여 데이터 소스를 추가했습니다. 여러 웹페이지가 Amazon Kendra 인덱스로 수집되어 데이터 소스로 사용되었습니다.

GenAI 챗봇 요청 및 응답 프로세스

이 프로세스의 단계는 요청과의 엔드투엔드 상호작용으로 구성됩니다. 아마존 렉스 LLM(대형 언어 모델)의 응답:

1. 사용자는 다음에서 호스팅되는 대화형 프런트엔드 애플리케이션에 요청을 제출합니다. 아마존 단순 스토리지 서비스 (Amazon S3) 버킷 스루 아마존 경로 53 및 아마존 CloudFront를.
2. Amazon Lex는 의도를 이해하고 호스트된 오케스트레이터에게 요청을 전달합니다. AWS 람다 기능.
3. 오케스트레이터 Lambda 함수는 다음 단계를 수행합니다.
   1. 이 함수는 DynamoDB 관리형 데이터베이스에서 호스팅되는 애플리케이션 데이터베이스와 상호 작용합니다. 데이터베이스는 대화 기록을 위한 세션 ID와 사용자 ID를 저장합니다.
   2. 관련 컨텍스트를 구축하기 위해 상위 XNUMX개의 관련 검색 결과를 가져오기 위해 또 다른 요청이 Amazon Kendra 인덱스로 전송됩니다. 이 컨텍스트를 사용하여 LLM 모델에 필요한 수정된 프롬프트가 구성됩니다.
   3. Amazon Bedrock과 오케스트레이터 간에 연결이 설정됩니다. 선택한 LLM 모델로부터 응답을 얻기 위해 요청이 Amazon Bedrock Claude-2 모델에 게시됩니다.
4. 데이터는 LLM 응답에서 사후 처리되고 응답이 사용자에게 전송됩니다.

온라인보고

온라인 신고 절차는 다음 단계로 구성됩니다.

1. 최종 사용자는 CloudFront CDN 프런트엔드 계층을 통해 챗봇과 상호 작용합니다.
2. 각 요청/응답 상호 작용은 AWS SDK에 의해 촉진되며 네트워크 트래픽을 Amazon Lex(봇의 NLP 구성 요소)로 보냅니다.
3. 요청/응답 쌍에 대한 메타데이터는 다음 위치에 기록됩니다. 아마존 클라우드 워치.
4. CloudWatch 로그 그룹은 로그를 전송하는 구독 필터로 구성됩니다. 아마존 오픈서치 서비스.
5. OpenSearch Service에서 로그를 사용할 수 있게 되면 Kibana를 사용하여 보고서와 대시보드를 생성하는 데 사용할 수 있습니다.

결론

이 게시물에서는 Accenture가 AWS 생성 AI 서비스를 사용하여 디지털 혁신을 위한 엔드투엔드 접근 방식을 구현하는 방법을 소개했습니다. 우리는 응답 시간을 단축하고 전 세계 사용자와 소통하면서 시스템을 지속적으로 개선하기 위해 프레임워크 내에서 기존 질문 응답 플랫폼과 증강 생성 지능의 격차를 식별했습니다. 솔루션에 대해 자세히 알아보고 고객을 위해 이 솔루션을 배포하려면 Accenture Center of Excellence 팀에 문의하세요.

이 Knowledge Assist 플랫폼은 건강 과학, 금융 서비스, 제조 등을 포함하되 이에 국한되지 않는 다양한 산업에 적용될 수 있습니다. 이 플랫폼은 확보된 지식을 활용하여 질문에 대해 자연스럽고 인간과 유사한 답변을 제공합니다. 이 플랫폼은 사용자가 취할 수 있는 효율성, 생산성 및 보다 정확한 작업을 가능하게 합니다.

이번 공동 노력은 양사 간의 15년간의 전략적 관계를 기반으로 하며, Accenture AWS 비즈니스 그룹 (AABG).

다음에서 AABG 팀에 문의하세요. accessureaws@amazon.com AWS에서 지능형 데이터 기업으로 전환하여 비즈니스 성과를 창출합니다.

Amazon Bedrock을 사용하는 AWS의 생성적 AI에 대한 자세한 내용을 알아보려면 아마존 세이지 메이커, 다음 리소스를 권장합니다.

당신은 또한 수 AWS 생성 AI 뉴스레터에 가입하세요, 여기에는 교육 리소스, 블로그 및 서비스 업데이트가 포함됩니다.

저자에 관하여

일란 겔러 인공 지능에 초점을 맞춘 Accenture의 상무 이사로서 고객이 인공 지능 애플리케이션을 확장하고 AWS의 글로벌 GenAI COE 파트너 리드를 조정할 수 있도록 지원합니다.

양슈유 Generative AI 및 대규모 언어 모델 제공 책임자이자 CoE(Center of Excellence) Accenture AI(AWS DevOps 전문가) 팀을 이끌고 있습니다.

시카르 콰트라 Amazon Web Services의 AI/ML 전문 솔루션 설계자로서 선도적인 글로벌 시스템 통합업체와 협력하고 있습니다. 그는 AI/ML 및 IoT 분야에서 500개 이상의 특허를 보유한 인도 최연소 마스터 발명가 중 한 명이라는 칭호를 얻었습니다. Shikhar는 조직을 위한 비용 효율적이고 확장 가능한 클라우드 환경을 설계, 구축 및 유지 관리하는 데 도움을 주며 AWS에서 전략적 산업 솔루션을 구축하는 데 GSI 파트너를 지원합니다.

제이 필라이 Amazon Web Services의 수석 솔루션 설계자입니다. 이 역할에서 그는 글로벌 생성 AI 수석 설계자이자 AABG의 공급망 솔루션 수석 설계자로 활동합니다. 정보 기술 리더인 Jay는 인공 지능, 데이터 통합, 비즈니스 인텔리전스 및 사용자 인터페이스 영역을 전문으로 합니다. 그는 공급망, 법률 기술, 부동산, 금융 서비스, 보험, 지불 및 시장 조사 비즈니스 영역 전반에 걸쳐 여러 고객과 함께 일하면서 23년 동안 광범위한 경험을 보유하고 있습니다.

카르틱 손티 공동 고객이 AWS에서 차별화된 방식으로 비즈니스를 혁신할 수 있도록 Accenture와 함께 수평적, 기능적, 수직적 솔루션을 개념화, 구축 및 출시하는 데 주력하는 솔루션 아키텍트로 구성된 글로벌 팀을 이끌고 있습니다.

• SEO 기반 콘텐츠 및 PR 배포. 오늘 증폭하십시오.
• PlatoData.Network 수직 생성 Ai. 자신에게 권한을 부여하십시오. 여기에서 액세스하십시오.
• PlatoAiStream. 웹3 인텔리전스. 지식 증폭. 여기에서 액세스하십시오.
• 플라톤ESG. 탄소, 클린테크, 에너지, 환경, 태양광, 폐기물 관리. 여기에서 액세스하십시오.
• PlatoHealth. 생명 공학 및 임상 시험 인텔리전스. 여기에서 액세스하십시오.
• 출처: https://aws.amazon.com/blogs/machine-learning/accenture-creates-a-knowledge-assist-solution-using-generative-ai-services-on-aws/