Ra mắt vào 2021, Canvas SageMaker của Amazon là một dịch vụ trực quan, trỏ và nhấp chuột để xây dựng và triển khai các mô hình học máy (ML) mà không cần phải viết bất kỳ mã nào. Các Mô hình nền tảng (FM) sẵn sàng sử dụng có sẵn trong SageMaker Canvas cho phép khách hàng sử dụng AI tổng hợp cho các nhiệm vụ như tạo và tóm tắt nội dung.
Chúng tôi rất vui mừng được thông báo các bản cập nhật mới nhất cho Amazon SageMaker Canvas, mang lại khả năng tạo AI mới thú vị cho nền tảng. Với sự hỗ trợ cho các mô hình Meta Llama 2 và Mistral.AI cũng như triển khai các phản hồi phát trực tuyến, SageMaker Canvas tiếp tục trao quyền cho tất cả những ai muốn bắt đầu với AI tổng hợp mà không cần viết một dòng mã nào. Trong bài đăng này, chúng tôi thảo luận về những cập nhật này và lợi ích của chúng.
Giới thiệu mô hình Meta Llama 2 và Mistral
Llama 2 là mô hình nền tảng tiên tiến của Meta, mang lại khả năng mở rộng và tính linh hoạt được cải thiện cho nhiều nhiệm vụ AI tổng quát. Người dùng đã báo cáo rằng Llama 2 có khả năng tham gia vào các cuộc trò chuyện có ý nghĩa và mạch lạc, tạo nội dung mới và trích xuất câu trả lời từ các ghi chú hiện có. Llama 2 là một trong những mô hình ngôn ngữ lớn (LLM) hiện đại nhất hiện nay dành cho cộng đồng nguồn mở để xây dựng các ứng dụng hỗ trợ AI của riêng họ.
Mistral.AI, một công ty khởi nghiệp AI hàng đầu của Pháp, đã phát triển Mistral 7B, một mô hình ngôn ngữ mạnh mẽ với 7.3 tỷ tham số. Các mô hình Mistral đã được cộng đồng nguồn mở đón nhận rất nồng nhiệt nhờ sử dụng sự chú ý truy vấn nhóm (GQA) để suy luận nhanh hơn, giúp mô hình này đạt hiệu quả cao và hoạt động tương đương với mô hình có số lượng tham số gấp hai hoặc ba lần.
Hôm nay, chúng tôi vui mừng thông báo rằng SageMaker Canvas hiện hỗ trợ ba biến thể mô hình Llama 2 và hai biến thể Mistral 7B:
Để kiểm tra các mô hình này, hãy điều hướng đến SageMaker Canvas Các mẫu sẵn sàng sử dụng trang, sau đó chọn Tạo, trích xuất và tóm tắt nội dung. Đây là nơi bạn sẽ tìm thấy trải nghiệm trò chuyện SageMaker Canvas GenAI. Tại đây, bạn có thể sử dụng bất kỳ mô hình nào từ Amazon Bedrock hoặc SageMaker JumpStart bằng cách chọn chúng trên menu thả xuống mô hình.
Trong trường hợp của chúng tôi, chúng tôi chọn một trong các mô hình Llama 2. Bây giờ bạn có thể cung cấp thông tin đầu vào hoặc truy vấn của mình. Khi bạn gửi dữ liệu đầu vào, SageMaker Canvas sẽ chuyển tiếp dữ liệu đầu vào của bạn tới mô hình.
Việc chọn một trong các mô hình có sẵn trong SageMaker Canvas phù hợp nhất cho trường hợp sử dụng của bạn đòi hỏi bạn phải tính đến thông tin về chính các mô hình: mô hình Llama-2-70B-chat là mô hình lớn hơn (70 tỷ tham số, so với 13 tỷ với Llama-2-13B-chat ), điều đó có nghĩa là hiệu suất của nó thường cao hơn hiệu suất nhỏ hơn, với chi phí là độ trễ cao hơn một chút và chi phí cho mỗi mã thông báo tăng lên. Mistral-7B có hiệu suất tương đương với Llama-2-7B hoặc Llama-2-13B, tuy nhiên nó được lưu trữ trên Amazon SageMaker. Điều này có nghĩa là mô hình định giá sẽ khác, chuyển từ mô hình định giá đô la cho mỗi mã thông báo sang mô hình định giá đô la mỗi giờ. Điều này có thể tiết kiệm chi phí hơn với số lượng yêu cầu đáng kể mỗi giờ và mức sử dụng nhất quán trên quy mô lớn. Tất cả các mô hình trên có thể hoạt động tốt trong nhiều trường hợp sử dụng khác nhau, vì vậy, đề xuất của chúng tôi là đánh giá mô hình nào giải quyết tốt nhất vấn đề của bạn, xem xét các cân nhắc về sản lượng, thông lượng và chi phí.
Nếu bạn đang tìm kiếm một cách đơn giản để so sánh cách các mô hình hoạt động thì SageMaker Canvas cung cấp khả năng này dưới dạng so sánh mô hình. Bạn có thể chọn tối đa ba mô hình khác nhau và gửi cùng một truy vấn tới tất cả các mô hình đó cùng một lúc. Sau đó, SageMaker Canvas sẽ nhận được phản hồi từ từng mô hình và hiển thị chúng trong giao diện người dùng trò chuyện song song. Để làm điều này, chọn So sánh và chọn các mẫu khác để so sánh, như hình dưới đây:
Giới thiệu tính năng truyền phát phản hồi: Tương tác theo thời gian thực và nâng cao hiệu suất
Một trong những tiến bộ quan trọng trong phiên bản này là việc giới thiệu các phản hồi trực tuyến. Việc truyền trực tuyến các phản hồi mang lại trải nghiệm phong phú hơn cho người dùng và phản ánh tốt hơn trải nghiệm trò chuyện. Với phản hồi trực tuyến, người dùng có thể nhận được phản hồi tức thì và tích hợp liền mạch trong ứng dụng chatbot của họ. Điều này cho phép trải nghiệm tương tác và phản hồi nhanh hơn, nâng cao hiệu suất tổng thể và sự hài lòng của người dùng đối với chatbot. Khả năng nhận được phản hồi ngay lập tức theo cách giống như trò chuyện sẽ tạo ra luồng trò chuyện tự nhiên hơn và cải thiện trải nghiệm người dùng.
Với tính năng này, giờ đây bạn có thể tương tác với các mô hình AI của mình trong thời gian thực, nhận được phản hồi tức thì và cho phép tích hợp liền mạch vào nhiều ứng dụng và quy trình làm việc khác nhau. Tất cả các mô hình có thể được truy vấn trong SageMaker Canvas—từ Amazon Bedrock và SageMaker JumpStart—có thể truyền phản hồi tới người dùng.
Bắt đầu từ hôm nay
Cho dù bạn đang xây dựng chatbot, hệ thống đề xuất hay trợ lý ảo, mô hình Llama 2 và Mistral kết hợp với phản hồi trực tuyến sẽ mang lại hiệu suất và khả năng tương tác nâng cao cho các dự án của bạn.
Để sử dụng các tính năng mới nhất của SageMaker Canvas, hãy đảm bảo xóa và tạo lại ứng dụng. Để làm điều đó, hãy đăng xuất khỏi ứng dụng bằng cách chọn Đăng xuất, sau đó mở lại SageMaker Canvas. Bạn nên xem các mẫu mới và thưởng thức các phiên bản mới nhất. Việc đăng xuất khỏi ứng dụng SageMaker Canvas sẽ giải phóng tất cả tài nguyên được sử dụng bởi phiên bản không gian làm việc, do đó tránh phát sinh thêm các khoản phí ngoài ý muốn.
Kết luận
Để bắt đầu với các phản hồi trực tuyến mới cho các mô hình Llama 2 và Mistral trong SageMaker Canvas, hãy truy cập Bảng điều khiển SageMaker và khám phá giao diện trực quan. Để tìm hiểu thêm về cách SageMaker Canvas và AI tổng quát có thể giúp bạn đạt được mục tiêu kinh doanh của mình, hãy tham khảo Trao quyền cho người dùng doanh nghiệp của bạn để trích xuất thông tin chuyên sâu từ tài liệu của công ty bằng cách sử dụng Amazon SageMaker Canvas và Generative AI và Vượt qua những thách thức chung của trung tâm liên lạc với AI tổng quát và Amazon SageMaker Canvas.
Nếu bạn muốn tìm hiểu thêm về các tính năng của SageMaker Canvas và tìm hiểu sâu về các trường hợp sử dụng ML khác, hãy xem các bài đăng khác có sẵn trong Danh mục Canvas SageMaker của Blog AWS ML. Chúng tôi rất nóng lòng được xem những ứng dụng AI tuyệt vời mà bạn sẽ tạo ra với những khả năng mới này!
Giới thiệu về tác giả
Davide Gallitelli là Kiến trúc sư giải pháp chuyên môn cao cấp về AI/ML. Anh ấy có trụ sở tại Brussels và hợp tác chặt chẽ với các khách hàng trên toàn cầu đang muốn áp dụng các công nghệ Machine Learning Mã thấp/Không mã và AI sáng tạo. Anh ấy là một nhà phát triển từ khi còn rất nhỏ, bắt đầu viết mã từ năm 7 tuổi. Anh ấy bắt đầu học AI/ML ở trường đại học và yêu thích nó kể từ đó.
Dan Sinnreich là Giám đốc sản phẩm cấp cao tại AWS, giúp dân chủ hóa việc học máy mã thấp/không mã. Trước AWS, Dan đã xây dựng và thương mại hóa các nền tảng SaaS dành cho doanh nghiệp cũng như các mô hình chuỗi thời gian được các nhà đầu tư tổ chức sử dụng để quản lý rủi ro và xây dựng danh mục đầu tư tối ưu. Ngoài công việc, người ta thấy anh ấy chơi khúc côn cầu, lặn biển và đọc khoa học viễn tưởng.
- Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
- PlatoData.Network Vertical Generative Ai. Trao quyền cho chính mình. Truy cập Tại đây.
- PlatoAiStream. Thông minh Web3. Kiến thức khuếch đại. Truy cập Tại đây.
- Trung tâmESG. Than đá, công nghệ sạch, Năng lượng, Môi trường Hệ mặt trời, Quản lý chất thải. Truy cập Tại đây.
- PlatoSức khỏe. Tình báo thử nghiệm lâm sàng và công nghệ sinh học. Truy cập Tại đây.
- nguồn: https://aws.amazon.com/blogs/machine-learning/announcing-support-for-llama-2-models-and-streaming-responses-in-amazon-sagemaker-canvas/
- : có
- :là
- :Ở đâu
- $ LÊN
- 100
- 13
- 2021
- 7
- 70
- a
- có khả năng
- Giới thiệu
- ở trên
- Tài khoản
- Đạt được
- thêm vào
- nhận nuôi
- tiến bộ
- một lần nữa
- chống lại
- tuổi
- AI
- Mô hình AI
- Hỗ trợ AI
- AI / ML
- Tất cả
- cho phép
- tuyệt vời
- đàn bà gan dạ
- Amazon SageMaker
- Canvas SageMaker của Amazon
- Amazon Web Services
- trong số
- số lượng
- an
- và
- Thông báo
- Thông báo
- câu trả lời
- bất kì
- ứng dụng
- Các Ứng Dụng
- các ứng dụng
- LÀ
- xung quanh
- AS
- Trợ lý
- At
- sự chú ý
- có sẵn
- tránh
- AWS
- dựa
- BE
- được
- phía dưới
- Lợi ích
- BEST
- Hơn
- lớn hơn
- Tỷ
- Blog
- mang lại
- Brussels
- xây dựng
- Xây dựng
- xây dựng
- kinh doanh
- by
- CAN
- vải
- khả năng
- khả năng
- có khả năng
- trường hợp
- trường hợp
- Trung tâm
- thách thức
- tải
- trò chuyện trên mạng
- chatbot
- kiểm tra
- Chọn
- lựa chọn
- chặt chẽ
- mã
- mạch lạc
- kết hợp
- Chung
- cộng đồng
- công ty
- so sánh
- so sánh
- so
- so sánh
- xem xét
- thích hợp
- xây dựng
- liên lạc
- trung tâm liên lạc
- nội dung
- Tạo nội dung
- liên tiếp
- Conversation
- cuộc hội thoại
- Phí Tổn
- tạo
- tạo ra
- khách hàng
- tiên tiến
- sâu
- lặn sâu
- dân chủ hóa
- triển khai
- phát triển
- Nhà phát triển
- khác nhau
- thảo luận
- bổ nhào
- lặn
- do
- tài liệu
- mỗi
- Hiệu quả
- hiệu quả
- trao quyền
- cho phép
- cho phép
- tương tác
- nâng cao
- tăng cường
- thưởng thức
- Doanh nghiệp
- đánh giá
- mọi người
- kích thích
- thú vị
- hiện tại
- kinh nghiệm
- khám phá
- trích xuất
- Rơi
- nhanh hơn
- Đặc tính
- Tính năng
- thông tin phản hồi
- Tiểu thuyết
- Tìm kiếm
- phù hợp
- dòng chảy
- Trong
- hình thức
- tìm thấy
- Nền tảng
- Tiếng Pháp
- từ
- genai
- nói chung
- tạo ra
- thế hệ
- thế hệ
- Trí tuệ nhân tạo
- được
- toàn cầu
- Các mục tiêu
- Có
- he
- giúp đỡ
- giúp đỡ
- tại đây
- cao hơn
- cao
- tổ chức
- giờ
- Độ đáng tin của
- Tuy nhiên
- HTTPS
- lập tức
- cải thiện
- cải thiện
- in
- tăng
- thông tin
- đầu vào
- những hiểu biết
- ví dụ
- ngay lập tức
- Thể chế
- tổ chức đầu tư
- hội nhập
- tương tác
- tương tác
- tương tác
- tương tác
- Giao thức
- trong
- Giới thiệu
- trực quan
- Các nhà đầu tư
- IT
- ITS
- jpg
- Key
- Ngôn ngữ
- lớn
- Độ trễ
- mới nhất
- Cập nhật mới nhất
- phóng
- hàng đầu
- LEARN
- học tập
- Dòng
- Loài đà mã ở nam mỹ
- đăng nhập
- khai thác gỗ
- tìm kiếm
- yêu
- máy
- học máy
- làm cho
- Làm
- quản lý
- giám đốc
- cách thức
- có ý nghĩa
- có nghĩa
- Menu
- Siêu dữ liệu
- ML
- kiểu mẫu
- mô hình
- chi tiết
- di chuyển
- nguyên bản
- Tự nhiên
- Điều hướng
- Cần
- Mới
- Chú ý
- tại
- con số
- of
- Cung cấp
- on
- hàng loạt
- ONE
- mở
- mã nguồn mở
- tối ưu
- or
- Nền tảng khác
- vfoXNUMXfipXNUMXhfpiXNUMXufhpiXNUMXuf
- ra
- đầu ra
- bên ngoài
- tổng thể
- riêng
- trang
- thông số
- mỗi
- Thực hiện
- hiệu suất
- biểu diễn
- biểu diễn
- hình ảnh
- nền tảng
- Nền tảng
- plato
- Thông tin dữ liệu Plato
- PlatoDữ liệu
- chơi
- danh mục đầu tư
- Bài đăng
- bài viết
- mạnh mẽ
- trước
- giá
- Mô hình định giá
- Vấn đề
- Sản phẩm
- giám đốc sản xuất
- dự án
- cho
- cung cấp
- truy vấn
- phạm vi
- Reading
- thực
- thời gian thực
- nhận
- nhận
- nhận
- Khuyến nghị
- xem
- phản ánh
- phát hành
- Phát hành
- Báo cáo
- yêu cầu
- đòi hỏi
- Thông tin
- phản ứng
- phản ứng
- đáp ứng
- giàu hơn
- Nguy cơ
- SaaS
- nhà làm hiền triết
- tương tự
- sự hài lòng
- khả năng mở rộng
- Quy mô
- Khoa học
- Khoa học giả tưởng
- liền mạch
- xem
- chọn
- lựa chọn
- gửi
- cao cấp
- dịch vụ
- DỊCH VỤ
- nên
- hiển thị
- thể hiện
- có ý nghĩa
- kể từ khi
- duy nhất
- nhỏ hơn
- So
- Giải pháp
- Giải quyết
- nguồn
- chuyên gia
- Khởi động
- bắt đầu
- Bắt đầu
- nhà nước-of-the-art
- đơn giản
- dòng
- xem trực tiếp
- trực tuyến
- như vậy
- tóm tắt
- hỗ trợ
- Hỗ trợ
- chắc chắn
- hệ thống
- Hãy
- nhiệm vụ
- Công nghệ
- thử nghiệm
- Cảm ơn
- việc này
- Sản phẩm
- cung cấp their dịch
- Them
- tự
- sau đó
- vì thế
- Kia là
- điều này
- số ba
- hồi hộp
- thông lượng
- thời gian
- thời gian
- đến
- bây giờ
- mã thông báo
- Hai lần
- hai
- ui
- trường đại học
- Cập nhật
- Sử dụng
- sử dụng
- ca sử dụng
- đã sử dụng
- người sử dang
- Kinh nghiệm người dùng
- Người sử dụng
- sử dụng
- nhiều
- tính linh hoạt
- rất
- ảo
- trợ lý ảo
- Truy cập
- trực quan
- chờ đợi
- muốn
- muốn
- là
- Đường..
- we
- web
- các dịch vụ web
- TỐT
- cái nào
- rộng
- Phạm vi rộng
- sẽ
- với
- không có
- Công việc
- Luồng công việc
- công trinh
- viết
- viết
- Bạn
- trẻ
- trên màn hình
- zephyrnet