이제 Amazon SageMaker JumpStart에서 Meta의 Llama 2 기초 모델을 사용할 수 있습니다

플라톤에 의해 재발행

팔로워 : 0

오늘 Meta에서 개발한 Llama 2 기초 모델을 통해 고객이 사용할 수 있음을 발표하게 되어 기쁩니다. Amazon SageMaker 점프스타트. 대규모 언어 모델(LLM)의 Llama 2 제품군은 7억에서 70억 매개변수 규모의 사전 훈련되고 미세 조정된 생성 텍스트 모델 모음입니다. Llama-2-chat이라고 하는 미세 조정된 LLM은 대화 사용 사례에 최적화되어 있습니다. 이러한 모델을 쉽게 시험해보고 ML을 빠르게 시작할 수 있도록 알고리즘, 모델 및 ML 솔루션에 대한 액세스를 제공하는 기계 학습(ML) 허브인 SageMaker JumpStart와 함께 사용할 수 있습니다.

이 게시물에서는 SageMaker JumpStart를 통해 Llama 2 모델을 사용하는 방법을 살펴봅니다.

라마 2 란?

Llama 2는 최적화된 변환기 아키텍처를 사용하는 자동 회귀 언어 모델입니다. Llama 2는 영어로 된 상업용 및 연구용입니다. 7억, 13억, 70억 등의 다양한 매개변수 크기와 사전 훈련 및 미세 조정된 변형으로 제공됩니다. Meta에 따르면 조정된 버전은 지도 미세 조정(SFT) 및 인간 피드백을 통한 강화 학습(RLHF)을 사용하여 유용성과 안전성에 대한 인간의 선호도에 맞춥니다. Llama 2는 공개적으로 사용 가능한 소스에서 2조 개의 데이터 토큰으로 사전 훈련되었습니다. 조정된 모델은 비서와 같은 채팅을 위한 반면 사전 훈련된 모델은 다양한 자연어 생성 작업에 맞게 조정할 수 있습니다. 개발자가 사용하는 모델의 버전에 관계없이 Meta의 책임감 있는 사용 가이드 적절한 안전 완화로 모델을 사용자 정의하고 최적화하는 데 필요할 수 있는 추가 미세 조정을 안내하는 데 도움을 줄 수 있습니다.

SageMaker JumpStart란?

SageMaker JumpStart를 통해 ML 실무자는 다양한 오픈 소스 기반 모델 중에서 선택할 수 있습니다. ML 실무자는 기본 모델을 전용으로 배포할 수 있습니다. 아마존 세이지 메이커 네트워크 격리 환경에서 인스턴스를 생성하고 모델 교육 및 배포를 위해 SageMaker를 사용하여 모델을 사용자 지정합니다.

이제 몇 번의 클릭만으로 Llama 2를 검색하고 배포할 수 있습니다. 아마존 세이지 메이커 스튜디오 또는 SageMaker Python SDK를 통해 프로그래밍 방식으로 다음과 같은 SageMaker 기능으로 모델 성능 및 MLOps 컨트롤을 파생할 수 있습니다. Amazon SageMaker 파이프 라인, Amazon SageMaker 디버거, 또는 컨테이너 로그. 이 모델은 AWS 보안 환경과 VPC 제어에 배포되어 데이터 보안을 보장합니다. Llama 2 모델은 현재 Amazon SageMaker Studio에서 사용할 수 있습니다. us-east 1 및 us-west 2 지역.

모델 살펴보기

SageMaker Studio UI 및 SageMaker Python SDK에서 SageMaker JumpStart를 통해 기초 모델에 액세스할 수 있습니다. 이 섹션에서는 SageMaker Studio에서 모델을 검색하는 방법을 살펴봅니다.

SageMaker Studio는 데이터 준비에서 ML 모델 구축, 교육 및 배포에 이르기까지 모든 ML 개발 단계를 수행하기 위해 특별히 제작된 도구에 액세스할 수 있는 단일 웹 기반 시각적 인터페이스를 제공하는 통합 개발 환경(IDE)입니다. SageMaker Studio 시작 및 설정 방법에 대한 자세한 내용은 다음을 참조하십시오. 아마존 세이지 메이커 스튜디오.

SageMaker Studio에 있으면 사전 훈련된 모델, 노트북 및 사전 구축된 솔루션이 포함된 SageMaker JumpStart에 액세스할 수 있습니다. 사전 구축 및 자동화된 솔루션.