Налаштуйте Llama 2 для створення тексту на Amazon SageMaker JumpStart | Веб-сервіси Amazon

Сьогодні ми раді оголосити про можливість точного налаштування моделей Llama 2 за допомогою Meta за допомогою Amazon SageMaker JumpStart. Сімейство великих мовних моделей (LLM) Llama 2 — це набір попередньо підготовлених і точно налаштованих генеративних текстових моделей із масштабом від 7 до 70 мільярдів параметрів. Тонко налаштовані LLM, які називаються Llama-2-chat, оптимізовані для випадків використання діалогу. Ви можете легко випробувати ці моделі та використовувати їх із SageMaker JumpStart, центром машинного навчання (ML), який надає доступ до алгоритмів, моделей і рішень ML, щоб ви могли швидко розпочати роботу з ML. Тепер ви також можете точно налаштувати 7 мільярдів, 13 мільярдів і 70 мільярдів параметрів моделей генерації тексту Llama 2 на SageMaker JumpStart за допомогою Студія Amazon SageMaker Інтерфейс користувача кількома клацаннями миші або за допомогою SDK SageMaker Python.

Основні моделі генеративного штучного інтелекту вже більше року перебувають у центрі уваги більшості досліджень і випадків використання машинного навчання та штучного інтелекту. Ці базові моделі дуже добре виконують генеративні завдання, такі як генерація тексту, підсумовування, відповіді на запитання, генерація зображень і відео тощо, завдяки своєму великому розміру, а також тому, що вони навчаються на кількох великих наборах даних і сотнях завдань. Незважаючи на великі можливості цих моделей щодо узагальнення, часто існують випадки використання, які мають дуже специфічні дані домену (наприклад, охорона здоров’я чи фінансові послуги), через що ці моделі можуть не забезпечити хороші результати для цих випадків використання. Це призводить до необхідності подальшого тонкого налаштування цих генеративних моделей штучного інтелекту на основі даних, що стосуються конкретного випадку використання та домену.

У цій публікації ми розглянемо, як точно налаштувати попередньо навчені моделі генерації тексту Llama 2 за допомогою SageMaker JumpStart.

Що таке Лама 2

Llama 2 — це авторегресивна модель мови, яка використовує оптимізовану трансформаторну архітектуру. Llama 2 призначений для комерційного та наукового використання англійською мовою. Він доступний у діапазоні розмірів параметрів — 7 мільярдів, 13 мільярдів і 70 мільярдів — а також у попередньо підготовлених і точно налаштованих варіантах. Відповідно до Meta, налаштовані версії використовують контрольовану точну настройку (SFT) і навчання з підкріпленням із зворотним зв’язком людини (RLHF), щоб узгодити людські переваги щодо корисності та безпеки. Llama 2 був попередньо навчений на 2 трильйонах токенів даних із загальнодоступних джерел. Налаштовані моделі призначені для чату, схожого на помічника, тоді як попередньо навчені моделі можна адаптувати для різноманітних завдань генерації природної мови. Незалежно від того, яку версію моделі використовує розробник, посібник із відповідального використання від Meta може допомогти в проведенні додаткових тонких налаштувань, які можуть знадобитися для налаштування й оптимізації моделей із відповідними пом’якшеними засобами безпеки.

Наразі Llama 2 доступна в таких регіонах:

• Розгорнути доступну попередньо навчену модель: "us-west-2", "us-east-1", "us-east-2", "eu-west-1", "ap-southeast-1", "ap-southeast-2"
• Налаштуйте та розгорніть налаштовану модель: “us-east-1”, “us-west-2”,“eu-west-1”

Що таке SageMaker JumpStart

Завдяки SageMaker JumpStart фахівці з машинного навчання можуть вибирати з широкого вибору загальнодоступних моделей основи. Практикуючі ML можуть розгортати базові моделі на спеціальному Amazon SageMaker екземпляри з мережевого ізольованого середовища та налаштовуйте моделі за допомогою SageMaker для навчання та розгортання моделі. Тепер ви можете виявити та розгорнути Llama 2 кількома клацаннями миші в SageMaker Studio або програмно за допомогою SageMaker Python SDK, дозволяючи вам отримувати продуктивність моделі та елементи керування MLOps за допомогою таких функцій SageMaker, як Трубопроводи Amazon SageMaker, Налагоджувач Amazon SageMaker, або контейнерні журнали. Модель розгортається в захищеному середовищі AWS і під керуванням вашого VPC, що допомагає забезпечити безпеку даних. Крім того, ви можете точно налаштувати попередньо підготовлені моделі генерації тексту Llama2 7B, 13B і 70B за допомогою SageMaker JumpStart.

Точне налаштування моделей Llama2

Ви можете точно налаштувати моделі за допомогою інтерфейсу SageMaker Studio або SageMaker Python SDK. У цьому розділі ми обговорюємо обидва методи.

Тонка настройка без коду через інтерфейс SageMaker Studio

У SageMaker Studio ви можете отримати доступ до моделей Llama 2 через SageMaker JumpStart у розділі Моделі, зошити та рішення, як показано на наступному знімку екрана.

Якщо ви не бачите моделей Llama 2, оновіть версію SageMaker Studio, вимкнувши та перезапустивши програму. Додаткову інформацію про оновлення версій див Вимкніть і оновіть програми Studio.

Ви також можете знайти інші чотири варіанти моделі, вибравши Дослідіть усі моделі генерації тексту або пошук лами у вікні пошуку.

На цій сторінці ви можете вказати на Служба простого зберігання Amazon (Amazon S3), що містить набори даних навчання та перевірки для точного налаштування. Крім того, ви можете налаштувати конфігурацію розгортання, гіперпараметри та параметри безпеки для точного налаштування. Потім ви можете вибрати поїзд щоб почати навчальну роботу на екземплярі SageMaker ML. На попередньому знімку екрана показано сторінку тонкого налаштування моделі Llama-2 7B; однак ви можете точно налаштувати моделі генерації тексту 13B і 70B Llama 2, використовуючи відповідні сторінки моделей аналогічно. Щоб використовувати моделі Llama 2, вам потрібно прийняти Ліцензійну угоду з кінцевим користувачем (EULA). Він з’явиться, коли ви виберете поїзд, як показано на наступному знімку екрана. Виберіть Я прочитав і приймаю EULA та AUP щоб почати роботу з тонкого налаштування.

Розгортання моделі

Після точного налаштування моделі ви можете розгорнути її за допомогою сторінки моделі на SageMaker JumpStart. Опція розгортання точно налаштованої моделі з’явиться після завершення тонкого налаштування, як показано на наступному знімку екрана.

Точне налаштування за допомогою SDK SageMaker Python

Ви також можете точно налаштувати моделі Llama 2 за допомогою SDK SageMaker Python. Нижче наведено приклад коду для точного налаштування Llama 2 7B на вашому наборі даних:

import os
import boto3
from sagemaker.session import Session
from sagemaker.jumpstart.estimator import JumpStartEstimator # To fine-tune the 13B/70B model, please change model_id to `meta-textgeneration-llama-2-13b`/`meta-textgeneration-llama-2-70b`.
model_id = "meta-textgeneration-llama-2-7b" estimator = JumpStartEstimator( model_id=model_id, environment={"accept_eula": "true"}
)
# By default, instruction tuning is set to false. Thus, to use instruction tuning dataset you use
estimator.set_hyperparameters(instruction_tuned="True", epoch="5")
estimator.fit({"training": train_data_location})

Ви можете розгорнути налаштовану модель безпосередньо з кошторису:

finetuned_predictor = estimator.deploy()

Ви також можете знайти код у Налаштуйте моделі LLaMA 2 на SageMaker JumpStart. Це включає в себе підготовку набору даних, навчання вашому спеціальному набору даних і розгортання точно налаштованої моделі. Він демонструє точне налаштування підмножини набору даних Dolly із прикладами із завдання підсумовування. Нижче наведено приклад введення з відповідями від точно налаштованих і неналаштованих разом із основною відповіддю правди:

Введення в модель:

Below is an instruction that describes a task, paired with an input that provides further context. Write a response that appropriately completes the request.nn### Instruction:nWhen did Felix Luna die?nn### Input:nFélix César Luna (30 September 1925 – 5 November 2009) was an Argentine writer, lyricist and historian.nnnn### Response:n

Відповідь Ground Truth:

Felix Luna died on November 5th, 2009

Відповідь від неналаштованої моделі:

Félix César Luna (30 September 1925 – 5 November 2009) was an ArgentinennWhen did Luna die?nnn### Explanation:nWe answer the question with the input's date of birth and the date of death.nnn### Solution: 1102n

Відповідь від налаштованої моделі:

Félix Luna died on November 5th, 2009.nn

Для порівняльного аналізу продуктивності різних моделей на наборі даних Dolly та Dialogsum див Порівняльний аналіз продуктивності у додатку в кінці цієї публікації.

Техніка тонкого налаштування

Мовні моделі, такі як Llama, мають розмір більше 10 ГБ або навіть 100 ГБ. Для точного налаштування таких великих моделей потрібні екземпляри зі значною кількістю пам’яті CUDA. Крім того, навчання цих моделей може бути дуже повільним через розмір моделі. Тому для ефективного тонкого налаштування ми використовуємо такі оптимізації:

• Адаптація низького рангу (LoRA) – Це тип ефективного точного налаштування параметрів (PEFT) для ефективного точного налаштування великих моделей. У цьому випадку ми заморожуємо всю модель і додаємо в неї лише невеликий набір параметрів або шарів, які можна налаштувати. Наприклад, замість навчання всіх 7 мільярдів параметрів для Llama 2 7B ми можемо налаштувати менше ніж 1% параметрів. Це допомагає значно зменшити потребу в пам’яті, оскільки нам потрібно зберігати градієнти, стани оптимізатора та іншу пов’язану з навчанням інформацію лише для 1% параметрів. Крім того, це допомагає скоротити час навчання, а також витрати. Докладніше про цей метод див LoRA: низькорангова адаптація великих мовних моделей.
• Квантування Int8 – Навіть з такими оптимізаціями, як LoRA, такі моделі, як Llama 70B, все ще занадто великі для навчання. Щоб зменшити обсяг пам’яті під час навчання, ми можемо використовувати квантування Int8 під час навчання. Квантування зазвичай знижує точність типів даних із плаваючою комою. Хоча це зменшує пам’ять, необхідну для зберігання вагових коефіцієнтів моделі, це погіршує продуктивність через втрату інформації. Квантування Int8 використовує лише чверть точності, але не призводить до погіршення продуктивності, оскільки воно не просто пропускає біти. Він округлює дані від одного типу до іншого. Щоб дізнатися про квантування Int8, зверніться до LLM.int8(): 8-розрядне множення матриці для масштабованих трансформаторів.
• Повністю розділені паралельні дані (FSDP) – Це тип алгоритму паралельного навчання з даними, який розподіляє параметри моделі між паралельними об’єктами обробки даних і за бажанням може перевантажувати частину навчальних обчислень на ЦП. Незважаючи на те, що параметри розділені на різні GPU, обчислення кожної мікропартії є локальним для працівника GPU. Він розподіляє параметри більш рівномірно та забезпечує оптимізовану продуктивність завдяки накладенню зв’язку та обчислень під час навчання.

У наведеній нижче таблиці порівнюються різні методи з трьома моделями Llama 2.

Зауважте, що точне налаштування моделей Llama базується на сценаріях, наданих нижче GitHub репо.

Формат навчального набору даних

Наразі SageMaker JumpStart підтримує набори даних як у форматі адаптації домену, так і у форматі налаштування інструкцій. У цьому розділі ми вказуємо приклад набору даних в обох форматах. Для отримання додаткової інформації зверніться до Форматування набору даних розділ у додатку.

Формат адаптації домену

Модель генерації тексту Llama 2 можна точно налаштувати на будь-якому доменно-спеціальному наборі даних. Очікується, що після точного налаштування набору даних для конкретної області модель створюватиме текст для конкретної області та вирішуватиме різноманітні завдання NLP у цій конкретній області за допомогою кількох підказок. Для цього набору даних вхідні дані складаються з файлів CSV, JSON або TXT. Наприклад, вхідними даними можуть бути файли SEC Amazon у вигляді текстового файлу:

This report includes estimates, projections, statements relating to our
business plans, objectives, and expected operating results that are “forward-
looking statements” within the meaning of the Private Securities Litigation
Reform Act of 1995, Section 27A of the Securities Act of 1933, and Section 21E
of the Securities Exchange Act of 1934. Forward-looking statements may appear
throughout this report, including the following sections: “Business” (Part I,
Item 1 of this Form 10-K), “Risk Factors” (Part I, Item 1A of this Form 10-K),
and “Management’s Discussion and Analysis of Financial Condition and Results
of Operations” (Part II, Item 7 of this Form 10-K). These forward-looking
statements generally are identified by the words “believe,” “project,”
“expect,” “anticipate,” “estimate,” “intend,” “strategy,” “future,”
“opportunity,” “plan,” “may,” “should,” “will,” “would,” “will be,” “will
continue,” “will likely result,” and similar expressions.

Формат налаштування інструкції

Під час тонкого налаштування інструкцій модель налаштована для набору завдань обробки природної мови (NLP), описаних за допомогою інструкцій. Це допомагає підвищити продуктивність моделі для виконання невидимих ​​завдань із підказками з нульовим ударом. У форматі набору даних налаштування інструкцій ви вказуєте template.json файл із описом вхідних і вихідних форматів. Наприклад, кожен рядок у файлі train.jsonl виглядає так:

{"instruction": "What is a dispersive prism?", "context": "In optics, a dispersive prism is an optical prism that is used to disperse light, that is, to separate light into its spectral components (the colors of the rainbow). Different wavelengths (colors) of light will be deflected by the prism at different angles. This is a result of the prism material's index of refraction varying with wavelength (dispersion). Generally, longer wavelengths (red) undergo a smaller deviation than shorter wavelengths (blue). The dispersion of white light into colors by a prism led Sir Isaac Newton to conclude that white light consisted of a mixture of different colors.", "response": "A dispersive prism is an optical prism that disperses the light's different wavelengths at different angles. When white light is shined through a dispersive prism it will separate into the different colors of the rainbow."}

Додатковий файл template.json виглядає так:

{ "prompt": "Below is an instruction that describes a task, paired with an input that provides further context. " "Write a response that appropriately completes the request.nn" "### Instruction:n{instruction}nn### Input:n{context}nn", "completion": " {response}",
}

Підтримувані гіперпараметри для навчання

Точне налаштування Llama 2 підтримує низку гіперпараметрів, кожен із яких може впливати на вимоги до пам’яті, швидкість навчання та продуктивність налаштованої моделі:

• епоха – Кількість проходів, які виконує алгоритм точного налаштування через навчальний набір даних. Має бути цілим числом, більшим за 1. За замовчуванням 5.
• швидкість_навчання – Швидкість, з якою вагові коефіцієнти моделі оновлюються після опрацювання кожної групи навчальних прикладів. Має бути позитивне значення з плаваючою точкою більше 0. За замовчуванням 1e-4.
• інструкція_налаштована – Тренувати інструкцію моделі чи ні. Повинно бути 'True"або"False'. Типовим є 'False».
• per_device_train_batch_size – Розмір пакету на ядро ​​GPU/CPU для навчання. Має бути додатним цілим числом. За замовчуванням 4.
• per_device_eval_batch_size – Розмір партії на ядро ​​GPU/CPU для оцінки. Має бути додатним цілим числом. За замовчуванням 1.
• max_train_samples – З метою налагодження чи швидшого навчання скоротіть кількість навчальних прикладів до цього значення. Значення -1 означає використання всіх навчальних зразків. Має бути додатним цілим числом або -1. Типове значення -1.
• max_val_samples – З метою налагодження чи швидшого навчання скоротіть кількість прикладів перевірки до цього значення. Значення -1 означає використання всіх зразків перевірки. Має бути додатним цілим числом або -1. Типове значення -1.
• max_input_length – Максимальна загальна довжина послідовності введення після токенізації. Послідовності, довші за це, буде скорочено. Якщо -1, max_input_length встановлюється на мінімум 1024 і максимальну довжину моделі, визначену токенізатором. Якщо встановлено додатне значення, max_input_length встановлено мінімальне із наданих значень і model_max_length визначається токенізатором. Має бути додатним цілим числом або -1. Типове значення -1.
• validation_split_ratio – Якщо канал перевірки є none, співвідношення поділу перевірки поїзда з даних поїзда має бути між 0–1. За замовчуванням 0.2.
• train_data_split_seed – Якщо дані перевірки відсутні, це виправляє випадковий розподіл вхідних даних навчання на дані навчання та перевірки, які використовуються алгоритмом. Має бути цілим числом. За замовчуванням 0.
• preprocessing_num_workers – Кількість процесів для попередньої обробки. Якщо None, основний процес використовується для попередньої обробки. За замовчуванням None.
• lora_r – Лора Р. Має бути додатним цілим числом. За замовчуванням 8.
• lora_alpha – Лора Альфа. Має бути додатним цілим числом. За замовчуванням 32
• lora_dropout – Лора Дропаут. має бути додатним числом з плаваючою речовиною між 0 і 1. За замовчуванням 0.05.
• int8_quantization – Якщо True, модель завантажується з 8-бітною точністю для навчання. За замовчуванням для 7B і 13B є False. За замовчуванням для 70B є True.
• enable_fsdp – Якщо True, навчання використовує FSDP. За замовчуванням для 7B і 13B є True. За замовчуванням для 70B є False. Зверніть увагу на це int8_quantization не підтримується FSDP.

Типи екземплярів і сумісні гіперпараметри

Вимоги до пам’яті під час тонкого налаштування можуть відрізнятися залежно від кількох факторів:

• Тип моделі – Модель 7B має найменшу потребу в пам’яті GPU, а модель 70B – найбільшу
• Максимальна довжина введення – Більше значення довжини вхідних даних призводить до обробки більшої кількості токенів за раз і, таким чином, вимагає більше пам’яті CUDA
• Розмір партії – Більший розмір пакету вимагає більшого обсягу пам’яті CUDA, а тому вимагає більших типів екземплярів
• Квантування Int8 – Якщо використовується квантування Int8, модель завантажується з низькою точністю і тому вимагає менше пам’яті CUDA

Щоб допомогти вам почати роботу, ми пропонуємо набір комбінацій різних типів екземплярів, гіперпараметрів і типів моделей, які можна успішно налаштувати. Ви можете вибрати конфігурацію відповідно до ваших вимог і наявності типів екземплярів. Ми точно налаштовуємо всі три моделі на різноманітні параметри з трьома епохами на підмножині набору даних Dolly із прикладами узагальнення.

Модель 7В

У наступній таблиці підсумовано параметри точного налаштування моделі 7B.

13B

У наступній таблиці підсумовано параметри точного налаштування моделі 13B.

70B

У наступній таблиці підсумовано параметри точного налаштування моделі 70B.

Рекомендації щодо типів екземплярів і гіперпараметрів

Під час точного налаштування точності моделі пам’ятайте про таке:

• Більші моделі, такі як 70B, забезпечують кращу продуктивність, ніж 7B
• Продуктивність без квантування Int8 краща, ніж продуктивність із квантуванням INT8

Зверніть увагу на наступний час навчання та вимоги до пам’яті CUDA:

• Установка int8_quantization=True зменшує потребу в пам'яті та прискорює навчання.
• Зниження per_device_train_batch_size та max_input_length зменшує потребу в пам'яті, тому його можна запускати на менших екземплярах. Однак встановлення дуже низьких значень може збільшити час навчання.
• Якщо ви не використовуєте квантування Int8 (int8_quantization=False), використовувати FSDP (enable_fsdp=True) для більш швидкого та ефективного навчання.

Вибираючи тип екземпляра, враховуйте наступне:

• Примірники G5 забезпечують найефективніше навчання серед підтримуваних типів примірників. Тому, якщо у вас є доступні екземпляри G5, ви повинні використовувати їх.
• Час навчання значною мірою залежить від кількості графічних процесорів і доступної пам’яті CUDA. Таким чином, навчання на екземплярах з однаковою кількістю графічних процесорів (наприклад, ml.g5.2xlarge та ml.g5.4xlarge) є приблизно однаковим. Тому для навчання можна використовувати дешевший екземпляр (ml.g5.2xlarge).
• При використанні екземплярів p3 навчання виконуватиметься з 32-бітною точністю, оскільки bfloat16 не підтримується в цих екземплярах. Таким чином, завдання навчання споживатиме подвійний обсяг пам’яті CUDA під час навчання на екземплярах p3 порівняно з екземплярами g5.

Щоб дізнатися про вартість навчання за інстанцію, див Примірники Amazon EC2 G5.

Якщо набір даних у форматі налаштування інструкцій і послідовності введення+завершення невеликі (наприклад, 50–100 слів), тоді високе значення max_input_length призводить до дуже низької продуктивності. Значення за замовчуванням цього параметра -1, що відповідає max_input_length 2048 для моделей Llama. Тому ми рекомендуємо, якщо ваш набір даних містить невеликі вибірки, використовувати мале значення для max_input_length (наприклад, 200–400).

Нарешті, через високий попит на екземпляри G5, ви можете зіткнутися з недоступністю цих екземплярів у вашому регіоні з помилкою “CapacityError: Unable to provision requested ML compute capacity. Please retry using a different ML instance type.” Якщо виникла ця помилка, повторіть завдання навчання або спробуйте інший регіон.

Проблеми під час тонкого налаштування дуже великих моделей

У цьому розділі ми обговорюємо дві проблеми під час тонкого налаштування дуже великих моделей.

Вимкнути стиснення виводу

За замовчуванням результатом навчального завдання є навчена модель, яка стискається у форматі .tar.gz перед завантаженням в Amazon S3. Однак через великі розміри моделі цей крок може зайняти багато часу. Наприклад, стиснення та завантаження моделі 70B може тривати більше 4 годин. Щоб уникнути цієї проблеми, ви можете вимкнути функцію стиснення вихідних даних, яку підтримує навчальна платформа SageMaker. У цьому випадку модель завантажується без стиснення, яка далі використовується для розгортання:

estimator = JumpStartEstimator(
model_id=model_id, environment={"accept_eula": "true"}, disable_output_compression=True
)

Проблема тайм-ауту ядра SageMaker Studio

Через розмір моделі Llama 70B навчання може тривати кілька годин, а ядро ​​SageMaker Studio може загинути під час фази навчання. Однак протягом цього часу навчання все ще триває в SageMaker. Якщо це станеться, ви все одно зможете розгорнути кінцеву точку за допомогою назви навчального завдання з таким кодом:

from sagemaker.jumpstart.estimator import JumpStartEstimator
training_job_name = <<<INSERT_TRAINING_JOB_NAME>>> attached_estimator = JumpStartEstimator.attach(training_job_name, model_id)
attached_estimator.logs()
attached_estimator.deploy()

Щоб знайти назву навчальної роботи, перейдіть до консолі SageMaker і нижче Навчання на панелі навігації виберіть Навчальні роботи. Визначте назву навчальної роботи та замініть її в попередньому коді.

Висновок

У цій публікації ми обговорювали тонке налаштування моделей Meta Llama 2 за допомогою SageMaker JumpStart. Ми показали, що ви можете використовувати консоль SageMaker JumpStart у SageMaker Studio або SageMaker Python SDK для точного налаштування та розгортання цих моделей. Ми також обговорили техніку тонкого налаштування, типи екземплярів і підтримувані гіперпараметри. Крім того, ми виклали рекомендації щодо оптимізації навчання на основі різноманітних тестів, які ми провели. Результати тонкого налаштування трьох моделей на двох наборах даних наведено в додатку в кінці цієї публікації. Як ми бачимо з цих результатів, точне налаштування покращує узагальнення порівняно з моделями без точного налаштування. Як наступний крок ви можете спробувати точно налаштувати ці моделі на власному наборі даних, використовуючи код, наданий у сховищі GitHub, щоб протестувати та порівняти результати для ваших випадків використання.

Автори висловлюють вдячність за технічний внесок Крістоферу Уіттену, Сінь Хуангу, Кайлу Ульріху, Сіфей Лі, Емі Ю, Адаму Коздровічу, Евану Кравіцу, Бенджаміну Кребтрі, Хаотяну Ан, Манан Шаху, Тоні Крузу, Ерневу Шармі, Джонатану Гінегані та Джун виграв.

Про авторів

Доктор Вівек Мадан є прикладним науковцем у команді Amazon SageMaker JumpStart. Він отримав ступінь доктора філософії в Університеті Іллінойсу в Урбана-Шампейн і був науковим співробітником у технічному університеті Джорджії. Він є активним дослідником машинного навчання та розробки алгоритмів і публікував статті на конференціях EMNLP, ICLR, COLT, FOCS і SODA.

Доктор Фарук Сабір є старшим архітектором рішень зі штучного інтелекту та машинного навчання в AWS. Він має ступінь доктора філософії та магістра з електротехніки в Техаському університеті в Остіні та ступінь магістра з комп’ютерних наук у Технологічному інституті Джорджії. Він має понад 15 років досвіду роботи, а також любить навчати та наставляти студентів коледжу. В AWS він допомагає клієнтам формулювати та вирішувати їхні бізнес-проблеми в області обробки даних, машинного навчання, комп’ютерного зору, штучного інтелекту, чисельної оптимізації та пов’язаних областях. Живучи в Далласі, штат Техас, він і його сім’я люблять подорожувати та їздити в далекі подорожі.

Доктор Ашиш Хетан є старшим прикладним науковим співробітником Amazon SageMaker JumpStart і допомагає розробляти алгоритми машинного навчання. Він отримав ступінь доктора філософії в Іллінойському університеті Урбана-Шампейн. Він активно досліджує машинне навчання та статистичні висновки та опублікував багато статей на конференціях NeurIPS, ICML, ICLR, JMLR, ACL та EMNLP.

Додаток

У цьому додатку надається додаткова інформація про порівняльний аналіз продуктивності та форматування набору даних.

Порівняльний аналіз продуктивності

У цьому розділі ми надаємо результати для точного налаштування трьох моделей Llama 2 (7B, 13B і 70B) на двох різних наборах даних: Доллі та Діалогічна сума. Для набору даних Dolly наше завдання полягає в тому, щоб підсумувати абзац тексту, тоді як для Dialogsum ми точно налаштовуємо модель, щоб підсумувати дискусію між двома людьми. У наступних таблицях ми показуємо вхідні дані для моделі (підказка та вказівки), основну правду (резюме), відповідь від попередньо навченої моделі Llama 2 і відповідь від точно налаштованої моделі Llama 2 для кожного з трьох Llama 2 моделі. Ми показуємо результати висновків для п’яти точок даних. Ви можете помітити з наведених нижче таблиць, що зведення покращуються для обох наборів даних, коли ми точно налаштовуємо моделі.

• Результати для точного налаштування моделі генерації тексту Llama 2 7B на наборі даних Dolly:

• Результати для точного налаштування моделі генерації тексту Llama 2 13B на наборі даних Dolly:

• Результати для точного налаштування моделі генерації тексту Llama 2 70B на наборі даних Dolly:

• Результати для точного налаштування моделі генерації тексту Llama 2 7B на наборі даних Dialogsum:

• Результати точного налаштування моделі Llama-2 13B на наборі даних Dialogsum:

• Результати точного налаштування моделі Llama 2 70B на наборі даних Dialogsum:

Форматування набору даних

Наразі ми пропонуємо два типи тонкого налаштування: тонке налаштування інструкцій і тонке налаштування домену. Ви можете легко перейти до одного з методів навчання, вказавши параметр instruction_tuned як 'True"або"False».

Формат адаптації домену

Модель генерації тексту також можна точно налаштувати на будь-якому доменно-спеціальному наборі даних. Очікується, що після точного налаштування набору даних для конкретної області модель створюватиме текст для конкретної області та вирішуватиме різноманітні завдання NLP у цій конкретній області за допомогою кількох підказок.

Для введення в модель використовуйте навчальний та додатковий каталог перевірки. Кожен каталог містить файл CSV, JSON або TXT. Для файлів CSV і JSON дані тренування або перевірки використовуються зі стовпця під назвою «текст» або першого стовпця, якщо стовпець не називається text знаходиться. Кількість файлів під час підготовки та перевірки (якщо передбачено) має дорівнювати 1 відповідно.

Результатом є навчена модель, яку можна розгорнути для висновку.

Нижче наведено приклад файлу TXT для точного налаштування моделі генерації тексту. Файл TXT – це документи SEC Amazon за 2021–2022 роки:

This report includes estimates, projections, statements relating to our
business plans, objectives, and expected operating results that are “forward-
looking statements” within the meaning of the Private Securities Litigation
Reform Act of 1995, Section 27A of the Securities Act of 1933, and Section 21E
of the Securities Exchange Act of 1934. Forward-looking statements may appear
throughout this report, including the following sections: “Business” (Part I,
Item 1 of this Form 10-K), “Risk Factors” (Part I, Item 1A of this Form 10-K),
and “Management’s Discussion and Analysis of Financial Condition and Results
of Operations” (Part II, Item 7 of this Form 10-K). These forward-looking
statements generally are identified by the words “believe,” “project,”
“expect,” “anticipate,” “estimate,” “intend,” “strategy,” “future,”
“opportunity,” “plan,” “may,” “should,” “will,” “would,” “will be,” “will
continue,” “will likely result,” and similar expressions. Forward-looking
statements are based on current expectations and assumptions that are subject
to risks and uncertainties that may cause actual results to differ materially.
We describe risks and uncertainties that could cause actual results and events
to differ materially in “Risk Factors,” “Management’s Discussion and Analysis
of Financial Condition and Results of Operations,” and “Quantitative and
Qualitative Disclosures about Market Risk” (Part II, Item 7A of this Form
10-K). Readers are cautioned not to place undue reliance on forward-looking
statements, which speak only as of the date they are made. We undertake no
obligation to update or revise publicly any forward-looking statements,
whether because of new information, future events, or otherwise. GENERAL Embracing Our Future ...

Тонка настройка інструкцій

Модель генерації тексту може бути налаштована інструкціями на будь-які текстові дані за умови, що дані мають очікуваний формат. Модель, налаштована на інструкції, може бути додатково розгорнута для висновків.

Для введення використовуйте навчальний та додатковий каталог перевірки. Каталоги навчання та перевірки мають містити один або декілька файлів у форматі JSON (.jsonl). Зокрема, каталог поїздів також може містити додатковий файл *.json з описом форматів введення та виведення.

Найкраща модель вибирається відповідно до втрат перевірки, розрахованих наприкінці кожної епохи. Якщо набір перевірки не надано, (регульований) відсоток навчальних даних автоматично розділяється та використовується для перевірки.

Навчальні дані мають бути відформатовані у форматі рядків JSON (.jsonl), де кожен рядок є словником, що представляє один зразок даних. Всі навчальні дані повинні бути в одній папці; однак його можна зберегти в кількох файлах .jsonl. Розширення файлу .jsonl є обов’язковим. Навчальна папка також може містити a template.json файл з описом вхідних і вихідних форматів. Якщо файл шаблону не надано, використовуватиметься такий шаблон:

{ "prompt": "Below is an instruction that describes a task, paired with an input that provides further context. Write a response that appropriately completes the request.nn### Instruction:n{instruction}nn### Input:n{context}`, "completion": "{response}",
}

У цьому випадку дані в рядках JSON повинні містити prompt та completion поля. Якщо надається спеціальний шаблон, його також потрібно використовувати prompt та completion клавіші для визначення шаблонів введення та виведення. Нижче наведено приклад спеціального шаблону:

{ "prompt": "question: {question} context: {context}", "completion": "{answer}"
}

Тут дані в записах рядків JSON повинні містити question, context та answer полів.

Результатом є навчена модель, яку можна розгорнути для висновку.

Ми надаємо підмножину даних реєстрацій SEC Amazon. Він завантажується з загальнодоступного Едгар. Інструкції щодо доступу до даних див Доступ до даних EDGAR.

Ліцензія: Ліцензія Creative Commons Attribution-ShareAlike (CC BY-SA 4.0)

• Розповсюдження контенту та PR на основі SEO. Отримайте посилення сьогодні.
• PlatoData.Network Vertical Generative Ai. Додайте собі сили. Доступ тут.
• PlatoAiStream. Web3 Intelligence. Розширення знань. Доступ тут.
• ПлатонЕСГ. Автомобільні / електромобілі, вуглець, CleanTech, Енергія, Навколишнє середовище, Сонячна, Поводження з відходами. Доступ тут.
• PlatoHealth. Розвідка про біотехнології та клінічні випробування. Доступ тут.
• ChartPrime. Розвивайте свою торгову гру за допомогою ChartPrime. Доступ тут.
• BlockOffsets. Модернізація екологічної компенсаційної власності. Доступ тут.
• джерело: https://aws.amazon.com/blogs/machine-learning/fine-tune-llama-2-for-text-generation-on-amazon-sagemaker-jumpstart/