Rozpoczęty w 2021, Płótno Amazon SageMaker to wizualna usługa typu „wskaż i kliknij” służąca do tworzenia i wdrażania modeli uczenia maszynowego (ML) bez konieczności pisania kodu. Gotowe do użycia modele Foundation Models (FM) dostępne w SageMaker Canvas umożliwiają klientom korzystanie z generatywnej sztucznej inteligencji do zadań takich jak generowanie treści i podsumowywanie.
Z radością ogłaszamy najnowsze aktualizacje Amazon SageMaker Canvas, które wprowadzają na platformę nowe, ekscytujące możliwości generatywnej sztucznej inteligencji. Dzięki obsłudze modeli Meta Llama 2 i Mistral.AI oraz wprowadzeniu odpowiedzi przesyłanych strumieniowo, SageMaker Canvas w dalszym ciągu zapewnia możliwości każdemu, kto chce rozpocząć pracę z generatywną sztuczną inteligencją bez pisania ani jednej linijki kodu. W tym poście omawiamy te aktualizacje i wynikające z nich korzyści.
Przedstawiamy modele Meta Llama 2 i Mistral
Llama 2 to najnowocześniejszy model podstawowy firmy Meta, który oferuje lepszą skalowalność i wszechstronność dla szerokiego zakresu generatywnych zadań AI. Użytkownicy zgłosili, że Llama 2 jest w stanie prowadzić znaczące i spójne rozmowy, generować nowe treści i wydobywać odpowiedzi z istniejących notatek. Llama 2 to jeden z najnowocześniejszych modeli dużych języków (LLM), dostępnych obecnie dla społeczności open source, umożliwiającej tworzenie własnych aplikacji opartych na sztucznej inteligencji.
Mistral.AI, wiodący francuski start-up zajmujący się sztuczną inteligencją, opracował Mistral 7B, potężny model językowy z 7.3 miliardami parametrów. Modele Mistral zostały bardzo dobrze przyjęte przez społeczność open source dzięki zastosowaniu funkcji Grouped-query Uwaga (GQA) w celu szybszego wnioskowania, dzięki czemu są bardzo wydajne i działają porównywalnie z modelem z dwukrotnie lub trzykrotnie większą liczbą parametrów.
Dzisiaj z radością ogłaszamy, że SageMaker Canvas obsługuje teraz trzy warianty modelu Llama 2 i dwa warianty Mistral 7B:
Aby przetestować te modele, przejdź do obszaru roboczego SageMaker Gotowe do użycia modele stronę, a następnie wybierz Generuj, wyodrębniaj i podsumowuj treść. Tutaj znajdziesz czat SageMaker Canvas GenAI. W tym miejscu możesz użyć dowolnego modelu z Amazon Bedrock lub SageMaker JumpStart, wybierając go z rozwijanego menu modelu.
W naszym przypadku wybieramy jeden z modeli Llama 2. Teraz możesz podać swoje dane wejściowe lub zapytanie. Gdy wysyłasz dane wejściowe, SageMaker Canvas przekazuje je dalej do modelu.
Wybór, który z modeli dostępnych w SageMaker Canvas najlepiej pasuje do Twojego przypadku użycia, wymaga wzięcia pod uwagę informacji o samych modelach: model czatu Llama-2-70B jest większym modelem (70 miliardów parametrów w porównaniu do 13 miliardów z Llama-2-13B-chat ), co oznacza, że jego wydajność jest generalnie wyższa niż mniejsza, kosztem nieco większego opóźnienia i zwiększonego kosztu w przeliczeniu na token. Mistral-7B ma wydajność porównywalną do Llama-2-7B lub Llama-2-13B, jednak jest hostowany na Amazon SageMaker. Oznacza to, że model cenowy jest inny i przechodzi z modelu cenowego dolara za token na model dolara za godzinę. Może to być bardziej opłacalne w przypadku znacznej liczby żądań na godzinę i spójnego wykorzystania na dużą skalę. Wszystkie powyższe modele mogą dobrze działać w różnych przypadkach użycia, dlatego sugerujemy, aby ocenić, który model najlepiej rozwiązuje Twój problem, biorąc pod uwagę wydajność, przepustowość i kompromisy w zakresie kosztów.
Jeśli szukasz prostego sposobu na porównanie zachowania modeli, SageMaker Canvas natywnie zapewnia taką możliwość w formie porównań modeli. Możesz wybrać maksymalnie trzy różne modele i wysłać do nich to samo zapytanie jednocześnie. SageMaker Canvas pobierze następnie odpowiedzi od każdego z modeli i wyświetli je w interfejsie czatu obok siebie. Aby to zrobić, wybierz PORÓWNAJ i wybierz inne modele do porównania, jak pokazano poniżej:
Przedstawiamy przesyłanie strumieniowe odpowiedzi: interakcje w czasie rzeczywistym i zwiększona wydajność
Jednym z kluczowych osiągnięć w tej wersji jest wprowadzenie odpowiedzi przesyłanych strumieniowo. Przesyłanie strumieniowe odpowiedzi zapewnia użytkownikowi bogatsze doświadczenia i lepiej odzwierciedla wrażenia z czatu. Dzięki odpowiedziom przesyłanym strumieniowo użytkownicy mogą otrzymywać natychmiastową informację zwrotną i bezproblemową integrację ze swoimi aplikacjami typu chatbot. Pozwala to na bardziej interaktywne i responsywne doświadczenie, zwiększając ogólną wydajność i satysfakcję użytkownika chatbota. Możliwość otrzymywania natychmiastowych odpowiedzi w sposób podobny do czatu zapewnia bardziej naturalny przebieg rozmowy i poprawia komfort użytkownika.
Dzięki tej funkcji możesz teraz wchodzić w interakcję z modelami AI w czasie rzeczywistym, otrzymywać natychmiastowe odpowiedzi i umożliwiać bezproblemową integrację z różnymi aplikacjami i przepływami pracy. Wszystkie modele, które można przeglądać w SageMaker Canvas — z Amazon Bedrock i SageMaker JumpStart — mogą przesyłać strumieniowo odpowiedzi do użytkownika.
Zacznij dziś
Niezależnie od tego, czy budujesz chatbota, system rekomendacji, czy wirtualnego asystenta, modele Llama 2 i Mistral w połączeniu z odpowiedziami przesyłanymi strumieniowo zapewniają lepszą wydajność i interaktywność w Twoich projektach.
Aby korzystać z najnowszych funkcji SageMaker Canvas, pamiętaj o usunięciu i ponownym utworzeniu aplikacji. W tym celu należy wylogować się z aplikacji wybierając Wyloguj, a następnie ponownie otwórz SageMaker Canvas. Powinieneś zobaczyć nowe modele i cieszyć się najnowszymi wydaniami. Wylogowanie się z aplikacji SageMaker Canvas spowoduje zwolnienie wszystkich zasobów wykorzystywanych przez instancję obszaru roboczego, co pozwala uniknąć dodatkowych, niezamierzonych opłat.
Wnioski
Aby rozpocząć korzystanie z nowych, przesyłanych strumieniowo odpowiedzi dla modeli Llama 2 i Mistral w SageMaker Canvas, odwiedź stronę Konsola SageMaker i poznaj intuicyjny interfejs. Aby dowiedzieć się więcej o tym, jak SageMaker Canvas i generatywna sztuczna inteligencja mogą pomóc Ci osiągnąć cele biznesowe, zobacz Zapewnij swoim użytkownikom biznesowym możliwość wydobywania spostrzeżeń z dokumentów firmowych za pomocą Amazon SageMaker Canvas i Generative AI i Pokonywanie typowych wyzwań związanych z centrami kontaktowymi dzięki generatywnej sztucznej inteligencji i Amazon SageMaker Canvas.
Jeśli chcesz dowiedzieć się więcej o funkcjach SageMaker Canvas i zagłębić się w inne przypadki użycia ML, sprawdź inne posty dostępne w Kategoria płótna SageMaker bloga AWS ML. Nie możemy się doczekać, aż zobaczymy niesamowite aplikacje AI, które utworzysz dzięki tym nowym możliwościom!
O autorach
Davide Gallitelli jest starszym specjalistą architektem rozwiązań w zakresie AI/ML. Mieszka w Brukseli i blisko współpracuje z klientami na całym świecie, którzy chcą wdrożyć technologie uczenia maszynowego o niskiej zawartości kodu/bez kodu oraz generatywnej sztucznej inteligencji. Od najmłodszych lat jest programistą, programować zaczął w wieku 7 lat. Naukę AI/ML rozpoczął na uniwersytecie i od tego czasu się w tym zakochał.
Dana Sinnreicha jest starszym menedżerem produktu w AWS, pomagającym w demokratyzacji uczenia maszynowego z małą ilością kodu/bez kodu. Przed AWS Dan budował i komercjalizował platformy SaaS dla przedsiębiorstw oraz modele szeregów czasowych wykorzystywane przez inwestorów instytucjonalnych do zarządzania ryzykiem i konstruowania optymalnych portfeli. Poza pracą można go spotkać grającego w hokeja, nurkującego i czytającego science fiction.
- Dystrybucja treści i PR oparta na SEO. Uzyskaj wzmocnienie już dziś.
- PlatoData.Network Pionowe generatywne AI. Wzmocnij się. Dostęp tutaj.
- PlatoAiStream. Inteligencja Web3. Wiedza wzmocniona. Dostęp tutaj.
- PlatonESG. Węgiel Czysta technologia, Energia, Środowisko, Słoneczny, Gospodarowanie odpadami. Dostęp tutaj.
- Platon Zdrowie. Inteligencja w zakresie biotechnologii i badań klinicznych. Dostęp tutaj.
- Źródło: https://aws.amazon.com/blogs/machine-learning/announcing-support-for-llama-2-models-and-streaming-responses-in-amazon-sagemaker-canvas/
- :ma
- :Jest
- :Gdzie
- $W GÓRĘ
- 100
- 13
- 2021
- 7
- 70
- a
- zdolność
- O nas
- powyżej
- Konto
- Osiągać
- Dodatkowy
- przyjąć
- postępy
- ponownie
- przed
- wiek
- AI
- Modele AI
- Zasilany AI
- AI / ML
- Wszystkie kategorie
- pozwala
- zdumiewający
- Amazonka
- Amazon Sage Maker
- Płótno Amazon SageMaker
- Amazon Web Services
- wśród
- ilość
- an
- i
- Ogłosić
- Ogłaszając
- odpowiedzi
- każdy
- Aplikacja
- Zastosowanie
- aplikacje
- SĄ
- na około
- AS
- Asystent
- At
- Uwaga
- dostępny
- unikając
- AWS
- na podstawie
- BE
- być
- poniżej
- Korzyści
- BEST
- Ulepsz Swój
- większe
- Miliard
- Blog
- przynieść
- Bruksela
- budować
- Budowanie
- wybudowany
- biznes
- by
- CAN
- brezentowy
- możliwości
- zdolność
- zdolny
- walizka
- Etui
- Centrum
- wyzwania
- Opłaty
- pogawędzić
- chatbot
- ZOBACZ
- Dodaj
- Wybierając
- dokładnie
- kod
- ZGODNY
- połączony
- wspólny
- społeczność
- sukcesy firma
- porównywalny
- porównać
- w porównaniu
- porównania
- wobec
- zgodny
- skonstruować
- skontaktuj się
- contact center
- zawartość
- Generowanie treści
- ciągły
- Rozmowa
- rozmowy
- Koszty:
- Stwórz
- tworzy
- Klientów
- pionierski nowatorski
- głęboko
- głębokie nurkowanie
- zdemokratyzować
- wdrażanie
- rozwinięty
- Deweloper
- różne
- dyskutować
- nurkować
- nurkowanie
- do
- dokumenty
- każdy
- Efektywne
- wydajny
- upoważniać
- umożliwiać
- umożliwiając
- ujmujący
- wzmocnione
- wzmocnienie
- cieszyć się
- Enterprise
- oceniać
- wszyscy
- podniecony
- ekscytujący
- Przede wszystkim system został opracowany
- doświadczenie
- odkryj
- wyciąg
- Upadły
- szybciej
- Cecha
- Korzyści
- informacja zwrotna
- Fikcja
- Znajdź
- pasuje
- pływ
- W razie zamówieenia projektu
- Nasz formularz
- znaleziono
- Fundacja
- francuski
- od
- genialne
- ogólnie
- generujący
- generacja
- generatywny
- generatywna sztuczna inteligencja
- otrzymać
- globus
- Gole
- Have
- he
- pomoc
- pomoc
- tutaj
- wyższy
- wysoko
- hostowane
- godzina
- W jaki sposób
- Jednak
- HTTPS
- Natychmiastowy
- ulepszony
- poprawia
- in
- wzrosła
- Informacja
- wkład
- spostrzeżenia
- przykład
- natychmiastowy
- instytucjonalny
- inwestorzy instytucjonalni
- integracja
- interakcji
- Interakcje
- interaktywne
- interaktywność
- Interfejs
- najnowszych
- Wprowadzenie
- intuicyjny
- Inwestorzy
- IT
- JEGO
- jpg
- Klawisz
- język
- duży
- Utajenie
- firmy
- Najnowsze aktualizacje
- uruchomić
- prowadzący
- UCZYĆ SIĘ
- nauka
- Linia
- Lama
- log
- zalogowaniu
- poszukuje
- miłość
- maszyna
- uczenie maszynowe
- robić
- Dokonywanie
- zarządzanie
- kierownik
- sposób
- wymowny
- znaczy
- Menu
- Meta
- ML
- model
- modele
- jeszcze
- przeniesienie
- natywnie
- Naturalny
- Nawigacja
- Potrzebować
- Nowości
- Uwagi
- już dziś
- numer
- of
- Oferty
- on
- pewnego razu
- ONE
- koncepcja
- open source
- Optymalny
- or
- Inne
- ludzkiej,
- na zewnątrz
- wydajność
- zewnętrzne
- ogólny
- własny
- strona
- parametry
- dla
- wykonać
- jest gwarancją najlepszej jakości, które mogą dostarczyć Ci Twoje monitory,
- spektakle
- wykonywania
- obraz
- Platforma
- Platformy
- plato
- Analiza danych Platona
- PlatoDane
- gra
- portfele
- Post
- Wiadomości
- mocny
- poprzedni
- wycena
- Model wyceny
- Problem
- Produkt
- product manager
- projektowanie
- zapewniać
- zapewnia
- pytanie
- zasięg
- Czytający
- real
- w czasie rzeczywistym
- otrzymać
- Odebrane
- odbieranie
- Rekomendacja
- odnosić się
- odzwierciedla
- zwolnić
- prasowe
- Zgłoszone
- wywołań
- Wymaga
- Zasoby
- odpowiedź
- Odpowiedzi
- czuły
- bogatszy
- Ryzyko
- SaaS
- sagemaker
- taki sam
- klientów
- Skalowalność
- Skala
- nauka
- Fantastyka naukowa
- bezszwowy
- widzieć
- wybierać
- wybierając
- wysłać
- senior
- usługa
- Usługi
- powinien
- pokazać
- pokazane
- znaczący
- ponieważ
- pojedynczy
- mniejszy
- So
- Rozwiązania
- Rozwiązuje
- Źródło
- specjalista
- Uruchomienie
- rozpoczęty
- Startowy
- state-of-the-art
- bezpośredni
- strumień
- strumieniowo
- Streaming
- taki
- streszczać
- wsparcie
- podpory
- pewnie
- system
- Brać
- zadania
- Technologies
- test
- Podziękowania
- że
- Połączenia
- ich
- Im
- sami
- następnie
- w związku z tym
- Te
- to
- trzy
- wstrząśnięty
- wydajność
- czas
- czasy
- do
- już dziś
- żeton
- Dwa razy
- drugiej
- ui
- uniwersytet
- Nowości
- Stosowanie
- posługiwać się
- przypadek użycia
- używany
- Użytkownik
- Doświadczenie użytkownika
- Użytkownicy
- za pomocą
- różnorodność
- wszechstronność
- początku.
- Wirtualny
- Wirtualny asystent
- Odwiedzić
- wizualny
- czekać
- chcieć
- chce
- była
- Droga..
- we
- sieć
- usługi internetowe
- DOBRZE
- który
- szeroki
- Szeroki zasięg
- będzie
- w
- bez
- Praca
- przepływów pracy
- działa
- napisać
- pisanie
- You
- młody
- Twój
- zefirnet