Amazon SageMaker JumpStart — это центр машинного обучения (ML), который может помочь вам ускорить переход к ML. С помощью SageMaker JumpStart вы можете обнаруживать и развертывать общедоступные и проприетарные базовые модели на выделенных Создатель мудреца Амазонки экземпляры для ваших генеративных приложений ИИ. SageMaker JumpStart позволяет развертывать базовые модели из изолированной от сети среды и не передает данные обучения клиентов и логические выводы поставщикам моделей.
В этом посте мы расскажем, как начать работу с проприетарными моделями от поставщиков моделей, таких как AI21, Cohere и LightOn. Студия Amazon SageMaker. SageMaker Studio — это среда для ноутбуков, в которой клиенты корпоративных специалистов по данным SageMaker оценивают и создают модели для своих следующих генеративных приложений ИИ.
Базовые модели в SageMaker
Базовые модели — это крупномасштабные модели машинного обучения, которые содержат миллиарды параметров и предварительно обучены на терабайтах данных текста и изображений, поэтому вы можете выполнять широкий спектр задач, таких как обобщение статей и создание текста, изображений или видео. Поскольку базовые модели предварительно обучены, они могут помочь снизить затраты на обучение и инфраструктуру и обеспечить настройку для вашего варианта использования.
SageMaker JumpStart предлагает два типа базовых моделей:
- Собственные модели – Эти модели предоставлены такими поставщиками, как AI21 с моделями Jurassic-2, Cohere с Cohere Command и LightOn с Mini, обученными на проприетарных алгоритмах и данных. Вы не можете просматривать артефакты модели, такие как вес и сценарии, но вы все равно можете развертывать экземпляры SageMaker для логического вывода.
- Общедоступные модели – Они взяты из популярных модельных хабов, таких как Hugging Face with Stable Diffusion, Falcon и FLAN, обученных на общедоступных алгоритмах и данных. Для этих моделей пользователи имеют доступ к артефактам модели и могут выполнять точную настройку с использованием собственных данных перед развертыванием для логического вывода.
Откройте для себя модели
Вы можете получить доступ к базовым моделям через SageMaker JumpStart в пользовательском интерфейсе SageMaker Studio и SageMaker Python SDK. В этом разделе мы рассмотрим, как обнаруживать модели в пользовательском интерфейсе SageMaker Studio.
SageMaker Studio — это интегрированная веб-среда разработки (IDE) для машинного обучения, которая позволяет создавать, обучать, отлаживать, развертывать и отслеживать модели машинного обучения. Дополнительные сведения о том, как начать работу и настроить SageMaker Studio, см. Студия Amazon SageMaker.
Перейдя в пользовательский интерфейс SageMaker Studio, вы можете получить доступ к SageMaker JumpStart, который содержит предварительно обученные модели, записные книжки и готовые решения, в разделе Готовые и автоматизированные решения.
На целевой странице SageMaker JumpStart вы можете просматривать решения, модели, блокноты и другие ресурсы. На следующем снимке экрана показан пример целевой страницы с перечисленными решениями и базовыми моделями.
У каждой модели есть карточка модели, как показано на следующем снимке экрана, которая содержит название модели, если она является точной или нет, имя поставщика и краткое описание модели. Вы также можете открыть карточку модели, чтобы узнать больше о модели и начать обучение или развертывание.
Подпишитесь на AWS Marketplace
Собственные модели в SageMaker JumpStart публикуются такими поставщиками моделей, как AI21, Cohere и LightOn. Вы можете идентифицировать проприетарные модели по тегу «Proprietary» на карточках моделей, как показано на следующем снимке экрана.
Ты можешь выбрать Посмотреть блокнот на карточке модели, чтобы открыть записную книжку в режиме только для чтения, как показано на следующем снимке экрана. Вы можете прочитать записную книжку для получения важной информации о предварительных требованиях и других инструкциях по использованию.
После импорта блокнота перед запуском кода необходимо выбрать соответствующую среду блокнота (образ, ядро, тип экземпляра и т. д.). Вы также должны следовать инструкциям по подписке и использованию для выбранного блокнота.
Прежде чем использовать проприетарную модель, вам необходимо сначала подписаться на модель из Торговая площадка AWS:
- Откройте страницу со списком моделей в AWS Marketplace.
URL указан в Важнo раздел записной книжки, или вы можете получить к нему доступ из Страница обслуживания SageMaker JumpStart. На странице со списком представлены обзор, информация о ценах, использовании и поддержке модели.
- В списке AWS Marketplace выберите Продолжить подписку.
Если у вас нет необходимых разрешений для просмотра или подписки на модель, обратитесь к своему ИТ-администратору или контактному лицу по закупкам, чтобы подписаться на модель для вас. Многие предприятия могут ограничивать разрешения AWS Marketplace, чтобы управлять действиями, которые кто-либо с такими разрешениями может выполнять на портале управления AWS Marketplace.
- На Подпишитесь на эту страницу программного обеспечения, просмотрите детали и выберите Принять предложение если вы и ваша организация согласны с лицензионным соглашением, ценами и условиями поддержки.
Если у вас есть какие-либо вопросы или запрос на оптовую скидку, обратитесь к поставщику модели напрямую по электронной почте службы поддержки, указанной на странице сведений, или обратитесь к команде своего аккаунта AWS.
- Выберите Продолжить настройку и выберите Регион.
Вы увидите отображаемый продукт ARN. Это ARN пакета модели, который необходимо указать при создании развертываемой модели с использованием Boto3.
- Скопируйте ARN, соответствующий вашему региону, и укажите его в инструкции к ячейке записной книжки.
Пример логического вывода с примерами подсказок
Давайте посмотрим на некоторые образцы базовых моделей от A21 Labs, Cohere и LightOn, которые можно обнаружить с помощью SageMaker JumpStart в SageMaker Studio. Все они имеют одинаковые инструкции по подписке на AWS Marketplace, а также по импорту и настройке блокнота.
AI21 Подвести итоги
Модель Summarize от A121 Labs сжимает длинные тексты в короткие, легко читаемые отрывки, которые фактически соответствуют источнику. Модель обучена генерировать сводки, в которых фиксируются ключевые идеи на основе основного текста. Это не требует никаких подсказок. Вы просто вводите текст, который необходимо обобщить. Ваш исходный текст может содержать до 50,000 10,000 символов, что соответствует примерно 40 XNUMX слов или внушительным XNUMX страницам.
Образец записной книжки для модели AI21 Summarize содержит важные предпосылки, которые необходимо соблюдать. Например, модель подписана на AWS Marketplace, имеет соответствующие разрешения ролей IAM, требуемую версию boto3 и т. д. В ней рассказывается, как выбрать пакет модели, создать конечные точки для вывода в реальном времени, а затем выполнить очистку.
Выбранный пакет модели содержит сопоставление ARN с регионами. Это информация, которую вы получили после выбора Продолжить настройку на странице подписки AWS Marketplace (в разделе Оцените и подпишитесь в Marketplace), а затем выберите регион, для которого вы увидите соответствующий продукт ARN.
Возможно, в записной книжке уже предварительно заполнено значение ARN.
Затем вы импортируете некоторые библиотеки, необходимые для запуска этой записной книжки, и устанавливаете wikipedia, библиотеку Python, упрощающую доступ к данным из Википедии и их анализ. Блокнот использует это позже, чтобы продемонстрировать, как резюмировать длинный текст из Википедии.
Ноутбук также переходит к установке ai21
Python SDK, который представляет собой оболочку API-интерфейсов SageMaker, таких как deploy
и invoke endpoint
.
Следующие несколько ячеек блокнота проходят следующие этапы:
- Выберите регион и получите пакет модели ARN из карты пакета модели.
- Создайте конечную точку вывода, выбрав тип экземпляра (в зависимости от вашего варианта использования и поддерживаемого экземпляра для модели; см. Модели для конкретных задач для получения более подробной информации), чтобы запустить модель на
- Создайте развертываемую модель из пакета модели
Давайте запустим вывод, чтобы сгенерировать сводку одного абзаца, взятого из новостной статьи. Как видно из вывода, итоговый текст представлен моделью в качестве вывода.
AI21 Summarize может обрабатывать ввод до 50,000 10,000 символов. Это примерно 40 XNUMX слов или XNUMX страниц. В качестве демонстрации поведения модели загружаем страницу из Википедии.
Теперь, когда вы выполнили вывод в реальном времени для тестирования, вам может больше не понадобиться конечная точка. Вы можете удалить конечную точку, чтобы не взимать плату.
Когерентная команда
Cohere Command — это генеративная модель, которая хорошо реагирует на подсказки, похожие на инструкции. Эта модель обеспечивает компаниям и предприятиям лучшее качество, производительность и точность во всех генеративных задачах. Вы можете использовать модель Cohere Command, чтобы оживить свои усилия по копирайтингу, распознаванию именованных объектов, перефразированию или обобщению и вывести их на новый уровень.
Образец записной книжки для модели Cohere Command содержит важные предварительные условия, которые необходимо соблюдать. Например, модель подписана на AWS Marketplace, имеет соответствующие разрешения ролей IAM, требуемую версию boto3 и т. д. В нем рассказывается, как выбрать пакет модели, создать конечные точки для вывода в реальном времени, а затем выполнить очистку.
Некоторые задачи аналогичны рассмотренным в предыдущем примере блокнота, например, установка Boto3, установка cohere-sagemaker
(пакет предоставляет функциональные возможности, разработанные для упрощения взаимодействия с моделью Cohere), а также получение сеанса и региона.
Давайте рассмотрим создание конечной точки. Вы предоставляете ARN пакета модели, имя конечной точки, тип используемого экземпляра и количество экземпляров. После создания конечная точка появится в вашем конечная точка раздел SageMaker.
Теперь давайте запустим вывод, чтобы увидеть некоторые выходные данные модели Command.
На следующем снимке экрана показан пример создания объявления о вакансии и его вывод. Как видите, модель сгенерировала пост из данной подсказки.
Теперь давайте посмотрим на следующие примеры:
- Создать описание продукта
- Создание основного абзаца сообщения в блоге
- Создайте информационное письмо
Как видите, модель Cohere Command генерирует текст для различных генеративных задач.
Теперь, когда вы выполнили вывод в реальном времени для тестирования, конечная точка может вам больше не понадобиться. Вы можете удалить конечную точку, чтобы не взимать плату.
LightOn Mini-инструктировать
Mini-instruct, модель искусственного интеллекта с 40 миллиардами миллиардов параметров, созданная LightOn, представляет собой мощную многоязычную систему искусственного интеллекта, которая была обучена с использованием высококачественных данных из многочисленных источников. Он создан для понимания естественного языка и реагирования на команды, которые соответствуют вашим потребностям. Он превосходно работает в потребительских продуктах, таких как голосовые помощники, чат-боты и интеллектуальные устройства. Он также имеет широкий спектр бизнес-приложений, включая помощь агентам и создание естественного языка для автоматизированного обслуживания клиентов.
Образец записной книжки для модели LightOn Mini-instruct содержит важные предварительные условия, которые необходимо соблюдать. Например, модель подписана на AWS Marketplace, имеет соответствующие разрешения ролей IAM, требуемую версию boto3 и т. д. В нем рассказывается, как выбрать пакет модели, создать конечные точки для вывода в реальном времени, а затем выполнить очистку.
Некоторые задачи аналогичны рассмотренным в предыдущем примере записной книжки, например установка Boto3 и получение региона сеанса.
Давайте посмотрим на создание конечной точки. Сначала укажите ARN пакета модели, имя конечной точки, тип используемого экземпляра и количество экземпляров. После создания конечная точка появится в разделе конечных точек SageMaker.
Теперь давайте попробуем вывести модель, попросив ее сгенерировать список идей для статей по теме, в данном случае акварели.
Как видите, модель LightOn Mini-instruct смогла предоставить сгенерированный текст на основе данной подсказки.
Убирать
После того, как вы протестировали модели и создали конечные точки, приведенные выше, для примеров проприетарных моделей Foundation, убедитесь, что вы удалили конечные точки вывода SageMaker и удалили модели, чтобы избежать взимания платы.
Заключение
В этом посте мы показали, как начать работу с проприетарными моделями от поставщиков моделей, таких как AI21, Cohere и LightOn, в SageMaker Studio. Клиенты могут открывать и использовать проприетарные модели Foundation в SageMaker JumpStart из Studio, SageMaker SDK и SageMaker Console. Благодаря этому у них есть доступ к крупномасштабным моделям машинного обучения, которые содержат миллиарды параметров и предварительно обучены на терабайтах текстовых и графических данных, поэтому клиенты могут выполнять широкий спектр задач, таких как обобщение статей и генерация текста, изображений или видео. Поскольку базовые модели предварительно обучены, они также могут помочь снизить затраты на обучение и инфраструктуру и обеспечить настройку для вашего варианта использования.
Полезные ресурсы
Об авторах
июнь выиграл является менеджером по продукту в SageMaker JumpStart. Он фокусируется на том, чтобы сделать базовые модели легко обнаруживаемыми и пригодными для использования, чтобы помочь клиентам создавать генеративные приложения ИИ.
Мани Хануджа SA специалист по искусственному интеллекту и машинному обучению в Amazon Web Services (AWS). Она помогает клиентам решать бизнес-задачи с помощью машинного обучения с помощью AWS. Она тратит большую часть своего времени на глубокое погружение и обучение клиентов проектам AI / ML, связанным с компьютерным зрением, обработкой естественного языка, прогнозированием, машинным обучением на периферии и многим другим. Она увлечена машинным обучением на грани, поэтому она создала собственную лабораторию с комплектом для самостоятельного вождения и производственной линией по производству прототипов, где она проводит много свободного времени.
Нитин Евсевий является старшим архитектором корпоративных решений в AWS с опытом работы в области разработки программного обеспечения, корпоративной архитектуры и AI/ML. Он работает с клиентами, помогая им создавать приложения с хорошей архитектурой на платформе AWS. Он увлечен решением технологических задач и помогает клиентам в их переходе к облачным технологиям.
- SEO-контент и PR-распределение. Получите усиление сегодня.
- PlatoData.Network Вертикальный генеративный ИИ. Расширьте возможности себя. Доступ здесь.
- ПлатонАйСтрим. Интеллект Web3. Расширение знаний. Доступ здесь.
- ПлатонЭСГ. Автомобили / электромобили, Углерод, чистые технологии, Энергия, Окружающая среда, Солнечная, Управление отходами. Доступ здесь.
- Смещения блоков. Модернизация права собственности на экологические компенсации. Доступ здесь.
- Источник: https://aws.amazon.com/blogs/machine-learning/use-proprietary-foundation-models-from-amazon-sagemaker-jumpstart-in-amazon-sagemaker-studio/
- :имеет
- :является
- :нет
- :куда
- $UP
- 000
- 10
- 100
- 40
- 50
- 500
- 7
- 87
- a
- в состоянии
- О нас
- выше
- ускорять
- доступ
- Учетная запись
- точность
- действия
- Администратор
- После
- Агент
- AI
- AI / ML
- алгоритмы
- Все
- позволяет
- уже
- причислены
- Amazon
- Создатель мудреца Амазонки
- Amazon SageMaker JumpStart
- Студия Amazon SageMaker
- Amazon Web Services
- Веб-службы Amazon (AWS)
- an
- и
- и инфраструктура
- любой
- больше не
- API
- появляется
- техника
- Приложения
- соответствующий
- архитектура
- МЫ
- около
- гайд
- статьи
- искусственный
- искусственный интеллект
- Искусственный интеллект и машинное обучение
- AS
- Помощь
- помощники
- At
- Автоматизированный
- доступен
- избежать
- AWS
- Торговая площадка AWS
- основанный
- BE
- , так как:
- было
- до
- не являетесь
- ЛУЧШЕЕ
- миллиард
- миллиарды
- Блог
- тело
- строить
- построенный
- бизнес
- Бизнес-приложения
- бизнес
- но
- by
- CAN
- захватить
- захваченный
- карта
- Карты
- заботится
- случаев
- Клетки
- проблемы
- символы
- заряженный
- расходы
- chatbots
- Выберите
- Выбирая
- облако
- Коды
- компьютер
- Компьютерное зрение
- последовательный
- Консоли
- потребитель
- Потребительские товары
- обращайтесь
- содержать
- содержит
- контроль
- Копирайтинг
- соответствующий
- Расходы
- покрытый
- Создайте
- создали
- Создающий
- клиент
- Клиенты
- настройка
- данным
- ученый данных
- преданный
- глубоко
- в зависимости
- развертывание
- развертывание
- развертывание
- описание
- подробность
- подробнее
- развитый
- Развитие
- Вещание
- непосредственно
- скидка
- обнаружить
- отображается
- не
- Dont
- легко
- легко
- Edge
- усилия
- включить
- Конечная точка
- Проект и
- Предприятие
- предприятий
- организация
- Окружающая среда
- и т.д
- оценивать
- пример
- Примеры
- опыт
- Больше
- Face
- несколько
- Во-первых,
- фокусируется
- следовать
- следует
- после
- Что касается
- Год основания
- Бесплатно
- от
- функциональность
- порождать
- генерируется
- порождающий
- поколение
- генеративный
- Генеративный ИИ
- получить
- получающий
- данный
- Go
- обрабатывать
- Есть
- he
- помощь
- помощь
- помогает
- ее
- высококачественный
- Как
- How To
- HTML
- HTTPS
- хаб
- идеи
- определения
- if
- изображение
- Импортировать
- важную
- импортирующий
- впечатляющий
- in
- В том числе
- информация
- Инфраструктура
- вход
- затраты
- устанавливать
- Установка
- пример
- инструкции
- интегрированный
- Интеллекта
- в
- изолированный
- IT
- ЕГО
- работа
- путешествие
- JPG
- Основные
- лаборатория
- Labs
- посадка
- язык
- крупномасштабный
- новее
- УЧИТЬСЯ
- изучение
- Lets
- уровень
- библиотеки
- Библиотека
- такое как
- ОГРАНИЧЕНИЯ
- линия
- Список
- Включенный в список
- листинг
- загрузка
- Длинное
- посмотреть
- серия
- ниже
- машина
- обучение с помощью машины
- сделать
- ДЕЛАЕТ
- Создание
- управление
- менеджер
- производство
- многих
- отображение
- рынка
- Май..
- ML
- режим
- модель
- Модели
- монитор
- БОЛЕЕ
- самых
- имя
- Названный
- натуральный
- Обработка естественного языка
- необходимо
- Необходимость
- потребности
- сеть
- Новости
- следующий
- ноутбук
- номер
- многочисленный
- of
- on
- консолидировать
- открытый
- or
- организация
- Другое
- внешний
- выходной
- аутрич
- за
- обзор
- собственный
- пакет
- страница
- параметры
- страстный
- Выполнять
- производительность
- выполнены
- выполняет
- Разрешения
- Платформа
- Платон
- Платон Интеллектуальные данные
- ПлатонДанные
- Точка
- Популярное
- Портал
- После
- мощный
- предпосылки
- представлены
- предыдущий
- цены
- Предварительный
- доходы
- обработка
- приобретение
- Продукт
- Менеджер по продукции
- Производство
- Продукция
- проектов
- ( изучите наши патенты),
- прототип
- обеспечивать
- при условии
- Недвижимости
- поставщики
- приводит
- публично
- опубликованный
- Питон
- Вопросы
- ассортимент
- достигать
- реагировать
- Читать
- Режим только для чтения
- реального времени
- признание
- по
- область
- районы
- Связанный
- оставаться
- запросить
- требовать
- обязательный
- Полезные ресурсы
- обзоре
- роли
- грубо
- Run
- Бег
- SA
- sagemaker
- Вывод SageMaker
- то же
- Ученый
- скрипты
- SDK
- Раздел
- посмотреть
- выбранный
- выбор
- самостоятельное вождение
- обслуживание
- Услуги
- Сессия
- набор
- Поделиться
- она
- Короткое
- должен
- демонстрации
- показал
- показанный
- Шоу
- аналогичный
- упростить
- просто
- одинарной
- умный
- So
- Software
- разработка программного обеспечения
- Решения
- РЕШАТЬ
- Решение
- некоторые
- Кто-то
- Источник
- Источники
- специалист
- конкретный
- стабильный
- Начало
- и политические лидеры
- Шаги
- По-прежнему
- студия
- подписаться
- подписка
- такие
- суммировать
- РЕЗЮМЕ
- поддержка
- Поддержанный
- система
- TAG
- взять
- приняты
- задачи
- Обучение
- команда
- Технологии
- terms
- проверенный
- Тестирование
- который
- Ассоциация
- информация
- Источник
- их
- Их
- тогда
- следовательно
- Эти
- они
- этой
- те
- Через
- время
- в
- тема
- Train
- специалистов
- Обучение
- стараться
- два
- напишите
- Типы
- ui
- под
- понимать
- URL
- годный к употреблению
- Применение
- использование
- прецедент
- используемый
- пользователей
- использования
- через
- различный
- версия
- с помощью
- Видео
- Вид
- видение
- Режимы
- объем
- законопроект
- we
- Web
- веб-сервисы
- Web-Based
- вес
- ЧТО Ж
- который
- в то время как
- широкий
- Широкий диапазон
- Википедия.
- будете
- слова
- работает
- Ты
- ВАШЕ
- зефирнет