Amazon SageMaker Canvas Generative AI |를 사용하여 비즈니스 사용자가 회사 문서에서 통찰력을 추출할 수 있도록 지원하세요. 아마존 웹 서비스

기업은 머신러닝(ML)의 잠재력을 활용하여 복잡한 문제를 해결하고 결과를 개선하려고 합니다. 최근까지 ML 모델을 구축하고 배포하려면 ML 모델 튜닝 및 운영 파이프라인 유지 관리를 포함하여 심층적인 수준의 기술 및 코딩 기술이 필요했습니다. 2021년 도입 이후, Amazon SageMaker 캔버스 비즈니스 분석가는 코드 한 줄을 작성하지 않고도 테이블 형식, 컴퓨터 비전, 자연어 처리 등 다양한 ML 모델을 구축, 배포 및 사용할 수 있습니다. 이를 통해 기업은 시계열 예측, 고객 이탈 예측, 정서 분석, 산업 결함 감지 등과 같은 사용 사례에 ML을 적용하는 능력을 가속화했습니다.

에 발표 된대로 2023 년 10 월 5 일, SageMaker Canvas는 콘텐츠를 생성하고 요약하는 데 사용되는 대규모 언어 모델인 기초 모델(FM)로 모델 지원을 확장했습니다. 와 더불어 12년 2023월 XNUMX일 출시, SageMaker Canvas를 통해 사용자는 기업 데이터를 기반으로 질문하고 응답을 얻을 수 있습니다. 이를 통해 상황에 맞는 결과가 보장되므로 코드 없는 ML을 적용하여 비즈니스 문제를 해결할 수 있는 추가 사용 사례가 열립니다. 예를 들어, 비즈니스 팀은 이제 조직의 특정 어휘 및 원칙과 일치하는 응답을 공식화할 수 있으며, 긴 문서를 보다 신속하게 쿼리하여 해당 문서의 내용에 기반을 둔 구체적인 응답을 얻을 수 있습니다. 이 모든 콘텐츠는 비공개적이고 안전한 방식으로 수행되므로 적절한 거버넌스와 보호 장치를 통해 모든 민감한 데이터에 액세스할 수 있습니다.

시작하려면 클라우드 관리자가 구성하고 채웁니다. 아마존 켄드라 SageMaker Canvas의 데이터 소스로 엔터프라이즈 데이터를 인덱스합니다. 캔버스 사용자는 자신의 문서가 있는 인덱스를 선택하고 출력이 항상 자신의 진실 소스에 의해 뒷받침된다는 것을 알고 아이디어를 내고 조사하고 탐색할 수 있습니다. SageMaker Canvas는 다음의 최첨단 FM을 사용합니다. 아마존 기반암 및 Amazon SageMaker 점프스타트. 여러 FM을 나란히 놓고 대화를 시작하여 출력을 비교하고 모든 사람이 실제로 제너레이티브 AI에 액세스할 수 있도록 만들 수 있습니다.

이 게시물에서는 다음 화면 캡처와 같이 최근 출시된 기능을 검토하고, 아키텍처에 대해 논의하고, SageMaker Canvas가 지식 베이스에서 문서를 쿼리할 수 있도록 하는 단계별 가이드를 제시합니다.

솔루션 개요

기초 모델은 환각, 즉 일반적이거나 모호하거나 관련이 없거나 사실이 잘못된 반응을 생성할 수 있습니다. 검색 증강 생성(RAG) 환각을 줄이기 위해 자주 사용되는 접근법입니다. RAG 아키텍처는 FM 외부에서 데이터를 검색하는 데 사용되며, 이는 사용자의 쿼리에 응답하기 위해 상황 내 학습을 수행하는 데 사용됩니다. 이를 통해 FM은 신뢰할 수 있는 지식 기반의 데이터를 사용하고 해당 지식을 사용하여 사용자의 질문에 답할 수 있으므로 환각의 위험을 줄일 수 있습니다.

RAG를 사용하면 FM 외부의 데이터와 사용자 프롬프트를 보강하는 데 사용되는 데이터는 문서 저장소, 데이터베이스 또는 API와 같은 여러 개별 데이터 소스에서 나올 수 있습니다. 첫 번째 단계는 관련성 의미 검색을 수행하기 위해 문서와 사용자 쿼리를 호환 가능한 형식으로 변환하는 것입니다. 형식을 호환 가능하게 만들기 위해 문서 컬렉션, 지식 라이브러리, 사용자가 제출한 쿼리는 임베딩 모델을 사용하여 수치 표현으로 변환됩니다.

이번 릴리스에서는 RAG 기능이 코드 없이 원활한 방식으로 제공됩니다. 기업은 기본 지식 관리 시스템인 Amazon Kendra를 사용하여 Canvas에서 채팅 경험을 풍부하게 할 수 있습니다. 다음 다이어그램은 솔루션 아키텍처를 보여줍니다.

SageMaker Canvas를 Amazon Kendra에 연결하려면 일회성 설정이 필요합니다. 문서를 쿼리하기 위해 Canvas 설정에서 설정 프로세스를 자세히 설명합니다. SageMaker 도메인을 아직 설정하지 않은 경우 다음을 참조하십시오. Amazon SageMaker 도메인에 온보딩.

도메인 구성의 일부로 클라우드 관리자는 비즈니스 분석가가 SageMaker Canvas를 통해 FM과 상호 작용할 때 쿼리할 수 있는 하나 이상의 Kendra 인덱스를 선택할 수 있습니다.

Kendra 인덱스를 수화하고 구성한 후 비즈니스 분석가는 새 채팅을 시작하고 "문서 쿼리" 토글을 선택하여 SageMaker Canvas에서 이를 사용합니다. 그런 다음 SageMaker Canvas는 Amazon Kendra와 선택한 FM 간의 기본 통신을 관리하여 다음 작업을 수행합니다.

1. 사용자의 질문으로 Kendra 인덱스를 쿼리합니다.
2. Kendra 인덱스에서 스니펫(및 소스)을 검색합니다.
3. 기초 모델이 검색된 문서에서 답변을 생성할 수 있도록 원래 쿼리가 포함된 조각으로 프롬프트를 엔지니어링합니다.
4. 응답을 공식화하는 데 사용된 페이지/문서에 대한 참조와 함께 생성된 답변을 사용자에게 제공합니다.

문서를 쿼리하도록 Canvas 설정

이 섹션에서는 Kendra 인덱스를 통해 제공되는 문서를 쿼리하도록 Canvas를 설정하는 단계를 안내합니다. 다음과 같은 전제 조건이 있어야 합니다.

• SageMaker 도메인 설정 – Amazon SageMaker 도메인에 온보딩
• 만들기 켄드라 지수 (또는 둘 이상)
• Kendra Amazon S3 커넥터 설정 – 다음을 따르십시오. Amazon S3 커넥터 – PDF 파일 및 기타 문서를 Kendra 인덱스와 연결된 Amazon S3 버킷에 업로드합니다.
• Canvas가 Amazon Bedrock 및/또는 SageMaker 엔드포인트 호출에 필요한 권한을 포함하여 적절한 권한을 갖도록 IAM을 설정합니다. 캔버스 채팅 설정 선적 서류 비치

이제 원하는 인덱스에 액세스할 수 있도록 도메인을 업데이트할 수 있습니다. SageMaker 콘솔의 특정 도메인에 대해 도메인 설정 탭에서 편집을 선택합니다. 캔버스 설정 단계에서 찾을 수 있는 "Amazon Kendra로 쿼리 문서 활성화" 토글을 활성화합니다. 활성화되면 Canvas와 함께 사용할 Kendra 인덱스를 하나 이상 선택합니다.

이것이 Canvas 쿼리 문서 기능을 구성하는 데 필요한 전부입니다. 이제 사용자는 Canvas 내에서 채팅에 뛰어들어 Kendra 인덱스를 통해 도메인에 연결된 지식 기반을 사용할 수 있습니다. 지식 기반 관리자는 계속해서 정보 소스를 업데이트할 수 있으며 Kendra의 동기화 기능을 통해 채팅 사용자는 자동으로 최신 정보를 원활하게 사용할 수 있습니다.

채팅에 문서 조회 기능 사용하기

SageMaker Canvas 사용자는 채팅 내에서 문서 쿼리 기능에 액세스할 수 있습니다. 채팅 세션을 시작하려면 SageMaker Canvas의 즉시 사용 가능한 모델 탭에서 "콘텐츠 생성, 추출 및 요약" 버튼을 클릭하거나 검색하십시오.

그런 다음 화면 상단의 토글을 사용하여 쿼리 문서를 켜거나 끌 수 있습니다. 해당 기능에 대해 자세히 알아보려면 정보 프롬프트를 확인하세요.

문서 쿼리가 활성화되면 클라우드 관리자가 활성화한 Kendra 인덱스 목록 중에서 선택할 수 있습니다.

새 채팅을 시작할 때 색인을 선택할 수 있습니다. 그런 다음 선택한 인덱스에서 자동으로 지식을 소싱하여 UX에 질문을 할 수 있습니다. 특정 인덱스에 대해 대화가 시작된 후에는 다른 인덱스로 전환할 수 없습니다.

질문에 대해 채팅에는 답변 생성에 기여한 소스 문서와 함께 FM에서 생성된 답변이 표시됩니다. 소스 문서 중 하나를 클릭하면 Canvas는 FM에서 사용된 발췌 부분을 강조 표시하면서 문서 미리 보기를 엽니다.

결론

대화형 AI는 다음과 같은 자연스럽고 직관적인 상호 작용을 통해 인간과 유사한 비서를 제공함으로써 고객과 직원 경험을 변화시킬 수 있는 엄청난 잠재력을 가지고 있습니다.

• 주제에 대한 연구 수행 또는 조직의 지식 기반 검색 및 찾아보기
• 방대한 양의 콘텐츠를 요약하여 신속하게 통찰력 수집
• 엔터티, 감정, PII 및 기타 유용한 데이터를 검색하고 비정형 콘텐츠의 비즈니스 가치를 높입니다.
• 문서 및 비즈니스 서신용 초안 생성
• 서로 다른 내부 소스(사건, 채팅 로그, Wiki)에서 지식 문서 생성

채팅 인터페이스, 지식 검색 및 FM의 혁신적인 통합을 통해 기업은 도메인 지식과 정보 소스를 사용하여 사용자 질문에 정확하고 관련성 높은 응답을 제공할 수 있습니다.

SageMaker Canvas를 Amazon Kendra의 지식 기반에 연결함으로써 조직은 FM의 최첨단 자연어 기능을 계속 활용하면서 자체 환경 내에 독점 데이터를 유지할 수 있습니다. SageMaker Canvas의 쿼리 문서 기능 출시를 통해 우리는 모든 기업이 LLM과 기업 지식을 정보 소스로 쉽게 사용하여 안전한 채팅 경험을 제공할 수 있게 되었습니다. 이 모든 기능은 코드 없는 형식으로 제공되므로 기업은 반복적이고 전문적이지 않은 작업을 처리하지 않아도 됩니다.

SageMaker Canvas에 대해 자세히 알아보고 이것이 모든 사람이 기계 학습을 더 쉽게 시작할 수 있도록 돕는 방법을 알아보려면 다음을 확인하십시오. SageMaker Canvas 발표. SageMaker Canvas가 데이터 과학자와 비즈니스 분석가 간의 협업을 촉진하는 데 어떻게 도움이 되는지 자세히 알아보십시오. 게시물 작성, 공유 및 배포. 마지막으로, 자신만의 검색 증강 생성 워크플로를 만드는 방법을 알아보려면 다음을 참조하세요. SageMaker JumpStart RAG.

참고자료

Lewis, P., Perez, E., Piktus, A., Petroni, F., Karpukhin, V., Goyal, N., Küttler, H., Lewis, M., Yih, W., Rocktäschel, T., 리델, S., 키엘라, D. (2020). 지식 집약적 NLP 작업을 위한 검색 증강 생성. 신경 정보 처리 시스템의 발전, 33, 9459 - 9474.

저자에 관하여

다비드 갈리텔리 AI/ML을 위한 수석 전문 솔루션 설계자입니다. 그는 브뤼셀에 거주하며 로우 코드/노코드 기계 학습 기술 및 생성 AI를 채택하려는 전 세계 고객들과 긴밀히 협력하고 있습니다. 그는 아주 어렸을 때부터 개발자로 활동해 왔으며, 7살 때부터 코딩을 시작했습니다. 그는 대학에서 AI/ML을 배우기 시작했고 그 이후로 그것에 푹 빠졌습니다.

빌랄 알람 금융 서비스 산업에 중점을 두고 있는 AWS의 엔터프라이즈 솔루션 아키텍트입니다. 대부분의 경우 Bilal은 고객이 가장 중요한 워크로드를 배포할 수 있도록 AWS 환경을 구축, 향상 및 보호하도록 지원하고 있습니다. 그는 통신, 네트워킹 및 소프트웨어 개발 분야에서 광범위한 경험을 갖고 있습니다. 최근에는 AI/ML을 사용하여 비즈니스 문제를 해결하는 방안을 모색하고 있습니다.

파시민 미스트리 AWS의 선임 제품 관리자입니다. 업무 외에 Pashmeen은 모험적인 하이킹, 사진 촬영, 가족과의 시간 보내기를 즐깁니다.

댄 신라이히 AWS의 수석 제품 관리자로 로우 코드/노 코드 기계 학습의 민주화를 돕고 있습니다. AWS 이전에 Dan은 기관 투자자가 위험을 관리하고 최적의 포트폴리오를 구성하는 데 사용하는 엔터프라이즈 SaaS 플랫폼과 시계열 모델을 구축하고 상용화했습니다. 직장 밖에서 그는 하키를 하고, 스쿠버 다이빙을 하고, 공상 과학 소설을 읽는 모습을 볼 수 있습니다.

• SEO 기반 콘텐츠 및 PR 배포. 오늘 증폭하십시오.
• PlatoData.Network 수직 생성 Ai. 자신에게 권한을 부여하십시오. 여기에서 액세스하십시오.
• PlatoAiStream. 웹3 인텔리전스. 지식 증폭. 여기에서 액세스하십시오.
• 플라톤ESG. 탄소, 클린테크, 에너지, 환경, 태양광, 폐기물 관리. 여기에서 액세스하십시오.
• PlatoHealth. 생명 공학 및 임상 시험 인텔리전스. 여기에서 액세스하십시오.
• 출처: https://aws.amazon.com/blogs/machine-learning/empower-your-business-users-to-extract-insights-from-company-documents-using-amazon-sagemaker-canvas-generative-ai/