Các mô hình nền tảng Llama 2 từ Meta hiện có sẵn trong Amazon SageMaker JumpStart

Được xuất bản lại bởi Plato

Người theo dõi: 0

Hôm nay, chúng tôi rất vui mừng thông báo rằng các mẫu móng Llama 2 do Meta phát triển đã có sẵn cho khách hàng thông qua Khởi động Amazon SageMaker. Họ các mô hình ngôn ngữ lớn (LLM) Llama 2 là một tập hợp các mô hình văn bản tổng quát được đào tạo trước và tinh chỉnh với quy mô từ 7 tỷ đến 70 tỷ tham số. Các LLM tinh chỉnh, được gọi là Llama-2-chat, được tối ưu hóa cho các trường hợp sử dụng đối thoại. Bạn có thể dễ dàng dùng thử các mô hình này và sử dụng chúng với SageMaker JumpStart, một trung tâm máy học (ML) cung cấp quyền truy cập vào các thuật toán, mô hình và giải pháp ML để bạn có thể nhanh chóng bắt đầu với ML.

Trong bài đăng này, chúng tôi hướng dẫn cách sử dụng các mô hình Llama 2 thông qua SageMaker JumpStart.

Llama 2 là gì

Llama 2 là một mô hình ngôn ngữ tự hồi quy sử dụng kiến trúc máy biến áp được tối ưu hóa. Llama 2 dành cho mục đích thương mại và nghiên cứu bằng tiếng Anh. Nó có nhiều kích cỡ tham số—7 tỷ, 13 tỷ và 70 tỷ—cũng như các biến thể được đào tạo trước và tinh chỉnh. Theo Meta, các phiên bản đã điều chỉnh sử dụng tinh chỉnh có giám sát (SFT) và học tăng cường với phản hồi của con người (RLHF) để phù hợp với sở thích của con người về tính hữu ích và an toàn. Llama 2 đã được đào tạo trước trên 2 nghìn tỷ mã thông báo dữ liệu từ các nguồn có sẵn công khai. Các mô hình được điều chỉnh nhằm mục đích trò chuyện giống như trợ lý, trong khi các mô hình được đào tạo trước có thể được điều chỉnh cho nhiều tác vụ tạo ngôn ngữ tự nhiên. Bất kể nhà phát triển sử dụng phiên bản nào của mô hình, hướng dẫn sử dụng có trách nhiệm từ Meta có thể hỗ trợ hướng dẫn tinh chỉnh bổ sung có thể cần thiết để tùy chỉnh và tối ưu hóa các mô hình với các biện pháp giảm thiểu an toàn phù hợp.

Khởi động SageMaker là gì

Với SageMaker JumpStart, các học viên ML có thể chọn từ nhiều lựa chọn mô hình nền tảng nguồn mở. Các học viên ML có thể triển khai các mô hình nền tảng để chuyên dụng Amazon SageMaker các phiên bản từ môi trường cách ly mạng và tùy chỉnh các mô hình bằng SageMaker để đào tạo và triển khai mô hình.

Bây giờ bạn có thể khám phá và triển khai Llama 2 với một vài cú nhấp chuột trong Xưởng sản xuất Amazon SageMaker hoặc lập trình thông qua SageMaker Python SDK, cho phép bạn lấy được hiệu suất mô hình và các điều khiển MLOps bằng các tính năng của SageMaker như Đường ống Amazon SageMaker, Trình gỡ lỗi Amazon SageMakerhoặc nhật ký vùng chứa. Mô hình được triển khai trong môi trường bảo mật AWS và dưới sự kiểm soát VPC của bạn, giúp đảm bảo an toàn dữ liệu. Các mẫu Llama 2 hiện có sẵn trong Amazon SageMaker Studio, ban đầu là us-east 1 và us-west 2 vùng.

Khám phá các mô hình

Bạn có thể truy cập các mô hình nền tảng thông qua SageMaker JumpStart trong giao diện người dùng SageMaker Studio và SageMaker Python SDK. Trong phần này, chúng ta sẽ tìm hiểu cách khám phá các mô hình trong SageMaker Studio.

SageMaker Studio là một môi trường phát triển tích hợp (IDE) cung cấp một giao diện trực quan dựa trên web duy nhất, nơi bạn có thể truy cập các công cụ chuyên dụng để thực hiện tất cả các bước phát triển ML, từ chuẩn bị dữ liệu đến xây dựng, đào tạo và triển khai các mô hình ML của bạn. Để biết thêm chi tiết về cách bắt đầu và thiết lập SageMaker Studio, hãy tham khảo Xưởng sản xuất Amazon SageMaker.

Khi bạn đang ở trên SageMaker Studio, bạn có thể truy cập SageMaker JumpStart, nơi chứa các mô hình, sổ ghi chép và giải pháp dựng sẵn được đào tạo trước, bên dưới Các giải pháp dựng sẵn và tự động.