Cohere는 Amazon SageMaker에 언어 AI를 제공합니다.

이것은 Cohere의 기술 직원 관리자인 Sudip Roy의 게스트 게시물입니다.

개발 커뮤니티에게는 신나는 날입니다. Cohere의 최첨단 언어 AI는 이제 다음을 통해 사용할 수 있습니다. 아마존 세이지 메이커. 이를 통해 개발자는 Cohere의 사전 훈련된 세대 언어 모델 에 아마존 세이지 메이커, 종단 간 기계 학습(ML) 서비스입니다. 개발자, 데이터 과학자 및 비즈니스 분석가는 Amazon SageMaker를 사용하여 완벽하게 관리되는 인프라, 도구 및 워크플로를 사용하여 빠르고 쉽게 ML 모델을 구축, 교육 및 배포합니다.

Cohere에서는 언어에 중점을 둡니다. 이 회사의 사명은 개발자와 기업이 언어 AI를 기술 스택에 추가하고 이를 통해 판도를 바꾸는 애플리케이션을 구축할 수 있도록 지원하는 것입니다. Cohere는 개발자와 기업이 카피라이팅, 명명된 엔터티 인식, 의역, 텍스트 요약 및 분류와 같은 광범위한 작업을 자동화할 수 있도록 지원합니다. 이 회사는 범용 LLM(대형 언어 모델)을 구축하고 지속적으로 개선하여 사용이 간편한 플랫폼을 통해 액세스할 수 있도록 합니다. 회사는 기본적으로 모델을 사용하거나 고유한 사용자 지정 데이터를 사용하여 특정 요구 사항에 맞게 모델을 조정할 수 있습니다.

SageMaker를 사용하는 개발자는 Cohere의 중간 세대 언어 모델에 액세스할 수 있습니다. 중간 세대 모델은 질문 답변, 카피라이팅 또는 패러프레이징과 같이 빠른 응답이 필요한 작업에 탁월합니다. 미디엄 모델은 AWS에서 사용할 수 있는 다양한 하드웨어 가속기 세트에서 지연 시간이 짧은 추론을 가능하게 하는 컨테이너에 배포되어 SageMaker 고객에게 다양한 비용 및 성능 이점을 제공합니다.

“Amazon SageMaker는 기계 학습 프로세스의 각 단계에서 어려운 작업을 제거하는 가장 광범위하고 포괄적인 서비스 세트를 제공합니다. Cohere의 범용 대규모 언어 모델을 Amazon SageMaker와 함께 제공하게 되어 기쁩니다. 우리의 공동 고객은 이제 광범위한 Amazon SageMaker 서비스를 활용하고 Cohere의 모델을 애플리케이션과 통합하여 가치 창출 시간을 단축하고 혁신을 가속화할 수 있습니다.”

-Rajneesh Singh, Amazon Web Services의 AI/ML 총괄 관리자.

“Cohere가 계속해서 언어 AI의 경계를 확장함에 따라 Amazon SageMaker와 협력하게 되어 기쁩니다. 이 파트너십을 통해 우리는 우리의 첨단 기술과 혁신적인 접근 방식을 훨씬 더 많은 청중에게 제공할 수 있게 되어 전 세계 개발자와 조직이 언어 AI의 힘을 활용하고 점점 더 경쟁이 치열해지는 시장에서 앞서 나갈 수 있도록 힘을 실어줄 것입니다.”

-Saurabh Baji, Cohere 엔지니어링 수석 부사장.

SageMaker를 통해 사용할 수 있는 Cohere Medium 세대 언어 모델은 개발자에게 세 가지 주요 이점을 제공합니다.

• 신속하게 빌드, 반복 및 배포 – Cohere는 모든 개발자(NLP, ML 또는 AI 전문 지식 필요 없음)가 전례 없는 수준으로 컨텍스트와 의미 체계를 이해하는 사전 훈련된 최신 생성 모델에 빠르게 액세스할 수 있도록 지원합니다. 이 고품질의 대규모 언어 모델은 광범위한 언어 이해 작업을 위한 즉시 사용 가능한 솔루션을 제공하여 고객의 가치 실현 시간을 단축합니다.
• 비공개 및 보안 – SageMaker를 사용하면 고객은 자체 관리형 컨테이너를 떠나는 데이터에 대해 걱정할 필요 없이 Cohere의 모델을 지원하는 컨테이너를 가동할 수 있습니다.
• 속도와 정확성 - Cohere의 중간 모델은 고객에게 품질, 비용 및 대기 시간 간에 적절한 균형을 제공합니다. 개발자는 간단한 API 및 SDK를 사용하여 Cohere Generate 엔드포인트를 앱에 쉽게 통합할 수 있습니다.

SageMaker에서 Cohere 시작하기

개발자는 SageMaker JumpStart 기반 모델의 시각적 인터페이스를 사용하여 한 줄의 코드를 작성하지 않고도 Cohere의 모델을 테스트할 수 있습니다. 특정 언어 이해 작업에서 모델을 평가하고 생성 언어 모델 사용의 기본 사항을 배울 수 있습니다. 코히어 참조 선적 서류 비치 및 블로그 언어 모델링과 관련된 다양한 자습서 및 팁과 요령.

노트북을 사용하여 SageMaker 엔드포인트 배포

Cohere는 지연 시간이 짧은 최적화된 추론 프레임워크와 함께 Medium 모델을 SageMaker 추론 엔드포인트로 배포할 수 있는 컨테이너에 패키징했습니다. Cohere의 컨테이너는 다양한 비용/성능 트레이드 오프를 제공하는 다양한 인스턴스(ml.p3.2xlarge, ml.g5.xlarge 및 ml.g5.2xlarge 포함)에 배포할 수 있습니다. 이러한 컨테이너는 현재 두 지역에서 사용할 수 있습니다. us-east-1 및 eu-west-1. Cohere는 사용 가능한 모델의 수와 크기, 지원되는 작업 세트(예: 이러한 모델 위에 구축된 엔드포인트), 지원되는 인스턴스 및 사용 가능한 지역을 추가하는 등 가까운 장래에 제품을 확장할 계획입니다.

개발자가 빠르게 시작할 수 있도록 Cohere는 주피터 노트북 이러한 컨테이너를 쉽게 배포하고 배포된 엔드포인트에서 추론을 실행할 수 있습니다. 노트북에 사전 구성된 상수 세트를 사용하면 다음 예제와 같이 단 몇 줄의 코드만으로 엔드포인트 배포를 쉽게 수행할 수 있습니다.

엔드포인트가 배포된 후 사용자는 Cohere의 SDK를 사용하여 추론을 실행할 수 있습니다. SDK는 다음과 같이 PyPI에서 쉽게 설치할 수 있습니다.

Cohere의 소스 코드에서 설치할 수도 있습니다. 공개 SDK GitHub 리포지토리.

엔드포인트가 배포된 후 사용자는 Cohere Generate 엔드포인트를 사용하여 텍스트 요약, 긴 형식 콘텐츠 생성, 엔터티 추출 또는 카피라이팅과 같은 여러 생성 작업을 수행할 수 있습니다. Jupyter 노트북 및 GitHub 리포지토리에는 이러한 사용 사례 중 일부를 보여주는 예제가 포함되어 있습니다.

결론

AWS Marketplace를 통해 SageMaker에서 기본적으로 Cohere를 사용할 수 있게 된 것은 NLP 분야의 주요 이정표를 나타냅니다. 고품질의 일관성 있는 텍스트를 생성하는 Cohere 모델의 기능은 텍스트 데이터로 작업하는 모든 사람에게 유용한 도구입니다.

자체 SageMaker 프로젝트에 Cohere를 사용하는 데 관심이 있다면 이제 다음에서 액세스할 수 있습니다. 세이지메이커 점프스타트. 또한 Cohere의 GitHub 노트북 모델을 배포하고 모델에 액세스하는 방법에 대한 지침은 Cohere 생성 끝점.

저자 소개

수딥 로이 최첨단 자연어 처리(NLP) 기술 제공업체인 Cohere의 기술 직원 관리자입니다. Sudip은 NeurIPS, MLSys, OOPSLA, SIGMOD, VLDB 및 SIGKDD와 같은 최고의 컨퍼런스를 위해 프로그램 위원회에서 출판하고 활동한 뛰어난 연구원이며 그의 작업은 SIGMOD 및 MLSys에서 뛰어난 논문 상을 받았습니다.

카르틱 바라티 제품 관리, 제품 전략, 실행 및 출시 경험이 XNUMX년 이상인 Amazon SageMaker 팀의 제품 리더입니다.

칼 알베르센 Amazon SageMaker 알고리즘 및 SageMaker의 기계 학습 허브인 JumpStart의 제품, 엔지니어링 및 과학을 이끌고 있습니다. 그는 기계 학습을 적용하여 비즈니스 가치를 창출하는 데 열정적입니다.

• SEO 기반 콘텐츠 및 PR 배포. 오늘 증폭하십시오.
• 플라토 블록체인. Web3 메타버스 인텔리전스. 지식 증폭. 여기에서 액세스하십시오.
• 출처: https://aws.amazon.com/blogs/machine-learning/cohere-brings-language-ai-to-amazon-sagemaker/