Cohere wprowadza sztuczną inteligencję językową do Amazon SageMaker

To jest gościnny post Sudipa Roya, kierownika personelu technicznego w Cohere.

To ekscytujący dzień dla społeczności programistów. Najnowocześniejsza sztuczna inteligencja językowa Cohere jest teraz dostępna za pośrednictwem Amazon Sage Maker. Ułatwia to programistom wdrażanie wstępnie wyszkolonych Cohere generacyjny model językowy do Amazon Sage Maker, kompleksowa usługa uczenia maszynowego (ML). Programiści, analitycy danych i analitycy biznesowi używają Amazon SageMaker do szybkiego i łatwego budowania, trenowania i wdrażania modeli ML przy użyciu w pełni zarządzanej infrastruktury, narzędzi i przepływów pracy.

W Cohere nacisk kładziony jest na język. Misją firmy jest umożliwienie programistom i firmom dodawania sztucznej inteligencji językowej do ich stosu technologicznego i tworzenia za jej pomocą aplikacji zmieniających gry. Cohere pomaga programistom i firmom zautomatyzować szeroki zakres zadań, takich jak pisanie tekstów, rozpoznawanie nazwanych jednostek, parafrazowanie, streszczanie tekstu i klasyfikacja. Firma buduje i stale ulepsza swoje duże modele językowe ogólnego przeznaczenia (LLM), udostępniając je za pośrednictwem prostej w użyciu platformy. Firmy mogą korzystać z gotowych modeli lub dostosowywać je do swoich konkretnych potrzeb, korzystając z własnych, niestandardowych danych.

Deweloperzy korzystający z SageMaker będą mieli dostęp do modelu języka średniej generacji Cohere. Model średniej generacji doskonale radzi sobie z zadaniami wymagającymi szybkich odpowiedzi, takimi jak odpowiadanie na pytania, pisanie tekstów czy parafrazowanie. Model średni jest wdrażany w kontenerach, które umożliwiają wnioskowanie o niskim opóźnieniu na zróżnicowanym zestawie akceleratorów sprzętowych dostępnych w AWS, zapewniając klientom SageMaker różne korzyści w zakresie kosztów i wydajności.

„Amazon SageMaker zapewnia najszerszy i najbardziej wszechstronny zestaw usług, które eliminują ciężkie prace na każdym etapie procesu uczenia maszynowego. Cieszymy się, że możemy zaoferować duży model językowy ogólnego przeznaczenia Cohere z Amazon SageMaker. Nasi wspólni klienci mogą teraz korzystać z szerokiej gamy usług Amazon SageMaker i integrować model Cohere ze swoimi aplikacjami w celu przyspieszenia czasu uzyskania korzyści i szybszych innowacji”.

-Rajneesh Singh, dyrektor generalny AI/ML w Amazon Web Services.

„Ponieważ Cohere wciąż przesuwa granice językowej sztucznej inteligencji, cieszymy się, że możemy połączyć siły z Amazon SageMaker. To partnerstwo pozwoli nam udostępnić naszą zaawansowaną technologię i innowacyjne podejście jeszcze szerszemu gronu odbiorców, umożliwiając programistom i organizacjom na całym świecie wykorzystanie potęgi językowej sztucznej inteligencji i wyprzedzenie konkurencji na coraz bardziej konkurencyjnym rynku”.

-Saurabh Baji, starszy wiceprezes ds. inżynierii w firmie Cohere.

Model języka generacji Cohere Medium dostępny w SageMaker zapewnia programistom trzy kluczowe korzyści:

• Szybkie tworzenie, iteracja i wdrażanie — Cohere umożliwia każdemu programiście (bez wiedzy specjalistycznej w zakresie NLP, ML lub AI) szybki dostęp do wstępnie wytrenowanego, najnowocześniejszego modelu generowania, który rozumie kontekst i semantykę na niespotykanym dotąd poziomie. Ten wysokiej jakości, duży model językowy skraca czas uzyskiwania korzyści dla klientów, dostarczając gotowe rozwiązanie dla szerokiego zakresu zadań związanych z rozumieniem języka.
• Prywatne i bezpieczne – Dzięki SageMaker klienci mogą uruchamiać kontenery obsługujące modele Cohere bez martwienia się, że ich dane opuszczą te samodzielnie zarządzane kontenery.
• Szybkość i dokładność - Średni model Cohere oferuje klientom dobrą równowagę między jakością, kosztami i opóźnieniami. Deweloperzy mogą łatwo zintegrować punkt końcowy Cohere Generate z aplikacjami za pomocą prostego interfejsu API i zestawu SDK.

Zacznij korzystać z Cohere w SageMaker

Deweloperzy mogą używać interfejsu wizualnego modeli podstawowych SageMaker JumpStart do testowania modeli Cohere bez pisania ani jednej linijki kodu. Możesz ocenić model na podstawie konkretnego zadania rozumienia języka i nauczyć się podstaw korzystania z generatywnych modeli językowych. Zobacz Cohere'a dokumentacja i blog dla różnych samouczków i wskazówek związanych z modelowaniem języka.

Wdróż punkt końcowy SageMaker za pomocą notebooka

Cohere spakował modele Medium wraz ze zoptymalizowaną platformą wnioskowania o niskim opóźnieniu w kontenerach, które można wdrożyć jako punkty końcowe wnioskowania SageMaker. Kontenery Cohere można wdrażać w wielu różnych instancjach (w tym ml.p3.2xlarge, ml.g5.xlarge i ml.g5.2xlarge), które oferują różne kompromisy koszt/wydajność. Te kontenery są obecnie dostępne w dwóch regionach: us-east-1 i eu-west-1. Cohere zamierza w niedalekiej przyszłości rozszerzyć swoją ofertę, włączając w to zwiększenie liczby i rozmiarów dostępnych modeli, zestawu obsługiwanych zadań (takich jak punkty końcowe zbudowane na podstawie tych modeli), obsługiwanych instancji i dostępnych Regionów.

Aby pomóc programistom w szybkim rozpoczęciu pracy, Cohere udostępnił Zeszyty Jupyter które ułatwiają wdrażanie tych kontenerów i uruchamianie wnioskowania na temat wdrożonych punktów końcowych. Dzięki wstępnie skonfigurowanemu zestawowi stałych w notatniku wdrożenie punktu końcowego można łatwo wykonać za pomocą zaledwie kilku wierszy kodu, jak pokazano w poniższym przykładzie:

Po wdrożeniu punktu końcowego użytkownicy mogą używać zestawu SDK Cohere do uruchamiania wnioskowania. Zestaw SDK można łatwo zainstalować z PyPI w następujący sposób:

Można go również zainstalować z kodu źródłowego w Cohere's publiczne repozytorium SDK GitHub.

Po wdrożeniu punktu końcowego użytkownicy mogą używać punktu końcowego Cohere Generate do wykonywania wielu zadań generatywnych, takich jak streszczanie tekstu, generowanie długich treści, wyodrębnianie jednostek lub pisanie tekstów. Notatnik Jupyter i repozytorium GitHub zawierają przykłady demonstrujące niektóre z tych przypadków użycia.

Wnioski

Dostępność Cohere natywnie w SageMaker za pośrednictwem AWS Marketplace stanowi kamień milowy w dziedzinie NLP. Zdolność modelu Cohere do generowania spójnego tekstu wysokiej jakości sprawia, że ​​jest to cenne narzędzie dla każdego, kto pracuje z danymi tekstowymi.

Jeśli jesteś zainteresowany wykorzystaniem Cohere do własnych projektów SageMaker, możesz teraz uzyskać do niego dostęp SageMaker Szybki start. Dodatkowo możesz odwołać się do Cohere's Notatnik GitHub aby uzyskać instrukcje dotyczące wdrażania modelu i uzyskiwania do niego dostępu z poziomu Cohere Wygeneruj punkt końcowy.

---

O autorach

Sudip Roy jest kierownikiem personelu technicznego w Cohere, dostawcy najnowocześniejszej technologii przetwarzania języka naturalnego (NLP). Sudip jest znakomitym naukowcem, który publikował i był członkiem komitetów programowych czołowych konferencji, takich jak NeurIPS, MLSys, OOPSLA, SIGMOD, VLDB i SIGKDD, a jego praca zdobyła nagrody Outstanding Paper od SIGMOD i MLSys.

Karthik Bharati jest liderem produktu w zespole Amazon SageMaker z ponad dziesięcioletnim doświadczeniem w zarządzaniu produktem, strategii produktu, realizacji i wprowadzaniu na rynek.

Karola Albertsena kieruje produktem, inżynierią i nauką w Amazon SageMaker Algorithms i JumpStart, centrum uczenia maszynowego SageMaker. Pasjonuje się stosowaniem uczenia maszynowego w celu odblokowania wartości biznesowej.

• Dystrybucja treści i PR oparta na SEO. Uzyskaj wzmocnienie już dziś.
• Platoblockchain. Web3 Inteligencja Metaverse. Wzmocniona wiedza. Dostęp tutaj.
• Źródło: https://aws.amazon.com/blogs/machine-learning/cohere-brings-language-ai-to-amazon-sagemaker/