Створена в 2021, Canvas Amazon SageMaker — це візуальна служба «вкажи та клацни» для створення та розгортання моделей машинного навчання (ML) без необхідності написання коду. Готові до використання базові моделі (FM), доступні в SageMaker Canvas, дозволяють клієнтам використовувати генеративний штучний інтелект для таких завдань, як генерація вмісту та узагальнення.
Ми раді повідомити про останні оновлення для Amazon SageMaker Canvas, які приносять нові захоплюючі можливості генеративного штучного інтелекту на платформу. Завдяки підтримці моделей Meta Llama 2 і Mistral.AI і запуску потокових відповідей SageMaker Canvas продовжує надавати можливості всім, хто хоче почати роботу з генеративним ШІ, не написавши жодного рядка коду. У цій публікації ми обговорюємо ці оновлення та їхні переваги.
Представляємо моделі Meta Llama 2 і Mistral
Llama 2 — це передова базова модель від Meta, яка пропонує покращену масштабованість і універсальність для широкого спектру генеративних завдань ШІ. Користувачі повідомили, що Llama 2 здатна вести змістовні та зв’язні розмови, генерувати новий вміст і отримувати відповіді з наявних нотаток. Llama 2 є однією з найсучасніших великих мовних моделей (LLM), доступних сьогодні для спільноти з відкритим кодом для створення власних програм на основі ШІ.
Mistral.AI, провідний французький стартап штучного інтелекту, розробив Mistral 7B, потужну мовну модель із 7.3 мільярдами параметрів. Моделі Mistral були дуже добре сприйняті спільнотою відкритих вихідних кодів завдяки використанню аналізу групових запитів (GQA) для швидшого висновку, що робить його високоефективним і продуктивним, порівнянним з моделлю з удвічі або втричі більшою кількістю параметрів.
Сьогодні ми раді повідомити, що тепер SageMaker Canvas підтримує три варіанти моделей Llama 2 і два варіанти Mistral 7B:
Щоб перевірити ці моделі, перейдіть до SageMaker Canvas Готові до використання моделі сторінку, потім виберіть Генеруйте, вилучайте та узагальнюйте вміст. Тут ви знайдете можливості чату SageMaker Canvas GenAI. Тут ви можете використовувати будь-яку модель з Amazon Bedrock або SageMaker JumpStart, вибравши їх у спадному меню моделі.
У нашому випадку ми вибираємо одну з моделей Llama 2. Тепер ви можете надати свої введення або запит. Коли ви надсилаєте вхідні дані, SageMaker Canvas пересилає їх до моделі.
Щоб вибрати, яка з моделей, доступних у SageMaker Canvas, найкраще підходить для вашого випадку використання, потрібно взяти до уваги інформацію про самі моделі: модель чату Llama-2-70B є більшою моделлю (70 мільярдів параметрів порівняно з 13 мільярдами). з Llama-2-13B-chat ), що означає, що його продуктивність, як правило, вища, ніж у меншого, за рахунок трохи вищої затримки та збільшення вартості токена. Mistral-7B має продуктивність, порівнянну з Llama-2-7B або Llama-2-13B, однак він розміщений на Amazon SageMaker. Це означає, що модель ціноутворення інша: від моделі ціноутворення «долар за токен» до моделі «долар за годину». Це може бути економічно ефективнішим із значною кількістю запитів на годину та стабільним використанням у масштабі. Усі наведені вище моделі можуть добре працювати в різних випадках використання, тому наша пропозиція полягає в тому, щоб оцінити, яка модель найкраще вирішить вашу проблему, враховуючи вихід, пропускну здатність і витрати.
Якщо ви шукаєте простий спосіб порівняти поведінку моделей, SageMaker Canvas надає цю можливість у формі порівняння моделей. Ви можете вибрати до трьох різних моделей і надіслати однаковий запит усім їм одночасно. Потім SageMaker Canvas отримає відповіді від кожної моделі та покаже їх у інтерфейсі паралельного чату. Для цього виберіть Порівняти і виберіть інші моделі для порівняння, як показано нижче:
Представляємо потокову передачу відповідей: взаємодія в реальному часі та покращена продуктивність
Одним із ключових досягнень цього випуску є впровадження потокових відповідей. Потокова передача відповідей забезпечує багатший досвід для користувача та краще відображає досвід чату. Завдяки потоковим відповідям користувачі можуть отримувати миттєвий зворотний зв’язок і безперебійну інтеграцію у свої додатки для чат-ботів. Це забезпечує більш інтерактивний і швидкий досвід, підвищуючи загальну продуктивність і задоволеність користувачів чат-ботом. Можливість отримувати негайні відповіді у формі чату створює більш природний потік розмови та покращує взаємодію з користувачем.
Завдяки цій функції тепер ви можете взаємодіяти зі своїми моделями штучного інтелекту в режимі реального часу, отримуючи миттєві відповіді та забезпечуючи бездоганну інтеграцію в різноманітні програми та робочі процеси. Усі моделі, які можна запитувати в SageMaker Canvas — від Amazon Bedrock і SageMaker JumpStart — можуть потоково передавати відповіді користувачеві.
Почніть сьогодні
Незалежно від того, створюєте ви чат-бота, систему рекомендацій або віртуального помічника, моделі Llama 2 і Mistral у поєднанні з потоковими відповідями забезпечують покращену продуктивність та інтерактивність ваших проектів.
Щоб використовувати найновіші функції SageMaker Canvas, обов’язково видаліть і повторно створіть програму. Для цього вийдіть із програми, вибравши Вийти, потім знову відкрийте SageMaker Canvas. Ви повинні побачити нові моделі та насолодитися останніми випусками. Вихід із програми SageMaker Canvas звільнить усі ресурси, що використовуються екземпляром робочої області, що дозволить уникнути додаткових ненавмисних витрат.
Висновок
Щоб розпочати роботу з новими потоковими відповідями для моделей Llama 2 і Mistral у SageMaker Canvas, відвідайте Консоль SageMaker та досліджуйте інтуїтивно зрозумілий інтерфейс. Щоб дізнатися більше про те, як SageMaker Canvas і генеративний штучний інтелект можуть допомогти вам досягти бізнес-цілей, див. Надайте своїм бізнес-користувачам можливість отримувати інформацію з документів компанії за допомогою Amazon SageMaker Canvas і Generative AI та Подолання типових проблем контакт-центру за допомогою генеративного штучного інтелекту та Amazon SageMaker Canvas.
Якщо ви хочете дізнатися більше про функції SageMaker Canvas і глибше зануритися в інші випадки використання ML, перегляньте інші публікації, доступні в Категорія Canvas SageMaker блогу AWS ML. Ми не можемо дочекатися, щоб побачити дивовижні програми ШІ, які ви створите за допомогою цих нових можливостей!
Про авторів
Давіде Галлітеллі є старшим спеціалістом з розробки рішень для AI/ML. Він живе в Брюсселі та тісно співпрацює з клієнтами по всьому світу, які хочуть застосувати технології машинного навчання з низьким кодом/без коду та Generative AI. Він був розробником із самого дитинства, почав кодувати у віці 7 років. Він почав вивчати AI/ML в університеті, і з тих пір закохався в нього.
Ден Зінрайх є старшим менеджером із продуктів в AWS, який допомагає демократизувати машинне навчання з низьким кодом/без коду. До AWS Ден розробив і комерціалізував корпоративні платформи SaaS і моделі часових рядів, які використовуються інституційними інвесторами для управління ризиками та створення оптимальних портфелів. Поза роботою його можна знайти за грою в хокей, підводним плаванням і читанням наукової фантастики.
- Розповсюдження контенту та PR на основі SEO. Отримайте посилення сьогодні.
- PlatoData.Network Vertical Generative Ai. Додайте собі сили. Доступ тут.
- PlatoAiStream. Web3 Intelligence. Розширення знань. Доступ тут.
- ПлатонЕСГ. вуглець, CleanTech, Енергія, Навколишнє середовище, Сонячна, Поводження з відходами. Доступ тут.
- PlatoHealth. Розвідка про біотехнології та клінічні випробування. Доступ тут.
- джерело: https://aws.amazon.com/blogs/machine-learning/announcing-support-for-llama-2-models-and-streaming-responses-in-amazon-sagemaker-canvas/
- : має
- :є
- :де
- $UP
- 100
- 13
- 2021
- 7
- 70
- a
- здатність
- МЕНЮ
- вище
- рахунки
- Achieve
- Додатковий
- прийняти
- досягнення
- знову
- проти
- вік
- AI
- Моделі AI
- Можливість
- AI / ML
- ВСІ
- дозволяє
- дивовижний
- Amazon
- Amazon SageMaker
- Canvas Amazon SageMaker
- Amazon Web Services
- серед
- кількість
- an
- та
- Оголосити
- Оголошуючи
- Відповіді
- будь-який
- додаток
- додаток
- застосування
- ЕСТЬ
- навколо
- AS
- Помічник
- At
- увагу
- доступний
- уникає
- AWS
- заснований
- BE
- було
- нижче
- Переваги
- КРАЩЕ
- Краще
- більший
- Мільярд
- Блог
- приносити
- Брюссель
- будувати
- Створюємо
- побудований
- бізнес
- by
- CAN
- полотно
- можливості
- можливості
- здатний
- випадок
- випадків
- Центр
- проблеми
- вантажі
- чат
- Chatbot
- перевірка
- Вибирати
- Вибираючи
- тісно
- код
- КОГЕРЕНТНИЙ
- комбінований
- загальний
- співтовариство
- компанія
- порівнянний
- порівняти
- порівняний
- порівняння
- беручи до уваги
- послідовний
- будувати
- контакт
- контакт-центр
- зміст
- Генерація контенту
- триває
- Розмова
- розмови
- Коштувати
- створювати
- створює
- Клієнти
- передовий
- глибокий
- глибоке занурення
- демократизувати
- розгортання
- розвиненою
- Розробник
- різний
- обговорювати
- занурення
- дайвінг
- do
- документація
- кожен
- Ефективний
- ефективний
- уповноважувати
- включіть
- дозволяє
- залучення
- підвищена
- підвищення
- користуватися
- підприємство
- оцінювати
- все
- збуджений
- захоплюючий
- існуючий
- досвід
- дослідити
- витяг
- Fallen
- швидше
- особливість
- риси
- зворотний зв'язок
- Художня література
- знайти
- підходить
- потік
- для
- форма
- знайдений
- фонд
- французька
- від
- genai
- в цілому
- породжує
- покоління
- генеративний
- Генеративний ШІ
- отримати
- земну кулю
- Цілі
- Мати
- he
- допомога
- допомогу
- тут
- вище
- дуже
- відбувся
- годину
- Як
- Однак
- HTTPS
- Негайний
- поліпшений
- поліпшується
- in
- збільшений
- інформація
- вхід
- розуміння
- екземпляр
- мить
- Інституційна
- інституційні інвестори
- інтеграція
- взаємодіяти
- Взаємодії
- інтерактивний
- інтерактивність
- інтерфейс
- в
- Вступ
- інтуїтивний
- Інвестори
- IT
- ЙОГО
- JPG
- ключ
- мова
- великий
- Затримка
- останній
- останні оновлення
- запуск
- провідний
- УЧИТЬСЯ
- вивчення
- Лінія
- Лама
- журнал
- каротаж
- шукати
- любов
- машина
- навчання за допомогою машини
- зробити
- Робить
- управляти
- менеджер
- манера
- значущим
- засоби
- Меню
- Meta
- ML
- модель
- Моделі
- більше
- переміщення
- спочатку
- Природний
- Переміщення
- Необхідність
- Нові
- примітки
- зараз
- номер
- of
- Пропозиції
- on
- один раз
- ONE
- відкрити
- з відкритим вихідним кодом
- оптимальний
- or
- Інше
- наші
- з
- вихід
- поза
- загальний
- власний
- сторінка
- параметри
- для
- Виконувати
- продуктивність
- виступи
- виконанні
- картина
- платформа
- Платформи
- plato
- Інформація про дані Платона
- PlatoData
- ігри
- портфелі
- пошта
- Пости
- потужний
- попередній
- ціни без прихованих комісій
- модель ціноутворення
- Проблема
- Product
- менеджер по продукції
- проектів
- забезпечувати
- забезпечує
- запит
- діапазон
- читання
- реальний
- реального часу
- отримати
- отримано
- отримання
- Рекомендація
- послатися
- Відображає
- звільнити
- Релізи
- Повідомляється
- запитів
- Вимагається
- ресурси
- відповідь
- відповіді
- реагувати
- багатший
- Risk
- SaaS
- мудрець
- то ж
- задоволення
- масштабованість
- шкала
- наука
- Наукова фантастика
- безшовні
- побачити
- вибрати
- вибирає
- послати
- старший
- обслуговування
- Послуги
- Повинен
- Показувати
- показаний
- значний
- з
- один
- менше
- So
- Рішення
- Вирішує
- Source
- спеціаліст
- Пуск в експлуатацію
- почалася
- Починаючи
- впроваджений
- просто
- потік
- потоковий
- потоковий
- такі
- підсумовувати
- підтримка
- Опори
- Переконайтеся
- система
- Приймати
- завдання
- Технології
- тест
- Дякую
- Що
- Команда
- їх
- Їх
- самі
- потім
- отже
- Ці
- це
- три
- в захваті
- пропускна здатність
- час
- times
- до
- сьогодні
- знак
- Двічі
- два
- ui
- університет
- Updates
- Використання
- використання
- використання випадку
- використовуваний
- користувач
- User Experience
- користувачі
- використання
- різноманітність
- Універсальність
- дуже
- Віртуальний
- віртуальний помічник
- візит
- візуальний
- чекати
- хотіти
- хоче
- було
- шлях..
- we
- Web
- веб-сервіси
- ДОБРЕ
- який
- широкий
- Широкий діапазон
- волі
- з
- без
- Work
- Робочі процеси
- працює
- запис
- лист
- Ти
- молодий
- вашу
- зефірнет