Cohere додає мовний штучний інтелект до Amazon SageMaker

Це гостьова публікація Судіпа Роя, менеджера технічного персоналу Cohere.

Це хвилюючий день для спільноти розробників. Сучасний ШІ мови Cohere тепер доступний через Amazon SageMaker. Це полегшує розробникам розгортання попередньо навченого Cohere модель мови покоління до Amazon SageMaker, сервіс наскрізного машинного навчання (ML). Розробники, спеціалісти з обробки даних і бізнес-аналітики використовують Amazon SageMaker для швидкого й легкого створення, навчання та розгортання моделей ML за допомогою повністю керованої інфраструктури, інструментів і робочих процесів.

У Cohere основна увага приділяється мові. Місія компанії полягає в тому, щоб дозволити розробникам і компаніям додавати мовний штучний інтелект до свого стеку технологій і створювати за його допомогою програми, що змінюють правила гри. Cohere допомагає розробникам і компаніям автоматизувати широкий спектр завдань, таких як копірайтинг, розпізнавання іменованих об’єктів, перефразування, узагальнення тексту та класифікація. Компанія створює та постійно вдосконалює свої великі мовні моделі загального призначення (LLM), роблячи їх доступними через просту у використанні платформу. Компанії можуть використовувати готові моделі або пристосовувати їх до своїх конкретних потреб, використовуючи власні власні дані.

Розробники, які використовують SageMaker, матимуть доступ до мовної моделі середнього покоління Cohere. Модель середнього покоління відмінно справляється із завданнями, які вимагають швидкої відповіді, наприклад відповідями на запитання, копірайтингом або перефразуванням. Модель Medium розгортається в контейнерах, які дозволяють робити висновки з низькою затримкою на різноманітному наборі апаратних прискорювачів, доступних на AWS, забезпечуючи різні переваги щодо вартості та продуктивності для клієнтів SageMaker.

«Amazon SageMaker надає найширший і найповніший набір послуг, які усувають важку роботу з кожного кроку процесу машинного навчання. Ми раді запропонувати велику мовну модель загального призначення Cohere з Amazon SageMaker. Наші спільні клієнти тепер можуть використовувати широкий спектр послуг Amazon SageMaker та інтегрувати модель Cohere зі своїми програмами для пришвидшення окупності та швидшого впровадження інновацій».

-Раджніш Сінгх, генеральний менеджер AI/ML Amazon Web Services.

«Оскільки Cohere продовжує розширювати межі мовного ШІ, ми раді об’єднати зусилля з Amazon SageMaker. Це партнерство дозволить нам представити наші передові технології та інноваційний підхід ще ширшій аудиторії, дозволяючи розробникам і організаціям у всьому світі використовувати потужність мовного штучного інтелекту та залишатися попереду на ринку, що стає все більш конкурентним».

-Саурабх Баджі, старший віце-президент з розробки в Cohere.

Модель мови покоління Cohere Medium, доступна через SageMaker, надає розробникам три ключові переваги:

• Створюйте, ітеруйте та розгортайте швидко – Cohere дає змогу будь-якому розробнику (не вимагає досвіду NLP, ML або AI) швидко отримати доступ до попередньо підготовленої найсучаснішої моделі генерації, яка розуміє контекст і семантику на безпрецедентних рівнях. Ця високоякісна, велика мовна модель скорочує час окупності для клієнтів, надаючи готове рішення для широкого спектру завдань розуміння мови.
• Приватний і безпечний – За допомогою SageMaker клієнти можуть розкручувати контейнери, які обслуговують моделі Cohere, не турбуючись про те, що їхні дані залишать ці самокеровані контейнери.
• Швидкість і точність - Модель Cohere Medium пропонує клієнтам хороший баланс між якістю, вартістю та затримкою. Розробники можуть легко інтегрувати кінцеву точку Cohere Generate у програми за допомогою простого API та SDK.

Почніть роботу з Cohere у SageMaker

Розробники можуть використовувати візуальний інтерфейс базових моделей SageMaker JumpStart для тестування моделей Cohere без написання жодного рядка коду. Ви можете оцінити модель для конкретного завдання розуміння мови та вивчити основи використання генеративних мовних моделей. Дивіться Cohere документація та блозі для різноманітних навчальних посібників і порад і підказок, пов’язаних із моделюванням мови.

Розгорніть кінцеву точку SageMaker за допомогою блокнота

Cohere упакував моделі Medium разом із оптимізованою структурою висновку з низькою затримкою в контейнери, які можна розгортати як кінцеві точки висновку SageMaker. Контейнери Cohere можна розгортати на низці різних екземплярів (включно з ml.p3.2xlarge, ml.g5.xlarge та ml.g5.2xlarge), які пропонують різні компроміси між ціною та продуктивністю. Ці контейнери наразі доступні в двох регіонах: us-east-1 та eu-west-1. У найближчому майбутньому Cohere має намір розширити свою пропозицію, зокрема збільшивши кількість і розмір доступних моделей, набір підтримуваних завдань (таких як кінцеві точки, створені на основі цих моделей), підтримувані екземпляри та доступні регіони.

Щоб допомогти розробникам швидко розпочати роботу, Cohere надав Блокноти Юпітера які спрощують розгортання цих контейнерів і виконання висновків на розгорнутих кінцевих точках. За допомогою попередньо налаштованого набору констант у блокноті розгортання кінцевої точки можна легко виконати лише за допомогою кількох рядків коду, як показано в наступному прикладі:

Після розгортання кінцевої точки користувачі можуть використовувати Cohere SDK для запуску висновків. SDK можна легко встановити з PyPI наступним чином:

Його також можна встановити з вихідного коду в Cohere публічний репозиторій SDK GitHub.

Після розгортання кінцевої точки користувачі можуть використовувати кінцеву точку Cohere Generate для виконання кількох генеративних завдань, таких як резюмування тексту, генерація довгострокового вмісту, вилучення сутностей або копірайтинг. Блокнот Jupyter і репозиторій GitHub містять приклади, що демонструють деякі з цих випадків використання.

Висновок

Доступність Cohere нативно на SageMaker через AWS Marketplace є важливою віхою в галузі НЛП. Здатність моделі Cohere генерувати високоякісний зв’язний текст робить її цінним інструментом для тих, хто працює з текстовими даними.

Якщо ви зацікавлені у використанні Cohere для власних проектів SageMaker, тепер ви можете отримати доступ до нього на SageMaker JumpStart. Крім того, ви можете посилатися на Cohere Блокнот GitHub для інструкцій щодо розгортання моделі та доступу до неї з Кінцева точка Cohere Generate.

---

Про авторів

Судіп Рой є менеджером технічного персоналу компанії Cohere, постачальника передових технологій обробки природної мови (NLP). Судіп є досвідченим дослідником, який публікував і працював у програмних комітетах провідних конференцій, таких як NeurIPS, MLSys, OOPSLA, SIGMOD, VLDB і SIGKDD, і його робота отримала нагороди за видатну статтю від SIGMOD і MLSys.

Картік Бхараті є лідером продукту для команди Amazon SageMaker з більш ніж десятирічним досвідом управління продуктами, стратегії продукту, виконання та запуску.

Карл Альбертсен очолює продукт, розробку та науку для Amazon SageMaker Algorithms і JumpStart, центру машинного навчання SageMaker. Він захоплений застосуванням машинного навчання для розкриття цінності бізнесу.

• Розповсюдження контенту та PR на основі SEO. Отримайте посилення сьогодні.
• Платоблокчейн. Web3 Metaverse Intelligence. Розширені знання. Доступ тут.
• джерело: https://aws.amazon.com/blogs/machine-learning/cohere-brings-language-ai-to-amazon-sagemaker/