在 Amazon SageMaker JumpStart 上微调 Llama 2 以生成文本 | 亚马逊网络服务

今天，我们很高兴地宣布 Meta 使用以下功能对 Llama 2 模型进行微调： 亚马逊SageMaker JumpStart。 Llama 2 系列大型语言模型 (LLM) 是预先训练和微调的生成文本模型的集合，其规模从 7 亿到 70 亿个参数不等。 经过微调的 LLM，称为 Llama-2-chat，针对对话用例进行了优化。 您可以轻松尝试这些模型并将其与 SageMaker JumpStart 结合使用，SageMaker JumpStart 是一个机器学习 (ML) 中心，提供对算法、模型和 ML 解决方案的访问，以便您可以快速开始使用 ML。 现在，您还可以使用 SageMaker JumpStart 在 SageMaker JumpStart 上微调 7 亿、13 亿和 70 亿个参数 Llama 2 文本生成模型 亚马逊SageMaker Studio 只需点击几下或使用 SageMaker Python SDK 即可获得 UI。

一年多来，生成式人工智能基础模型一直是大多数机器学习和人工智能研究和用例的焦点。 这些基础模型在文本生成、摘要、问答、图像和视频生成等生成任务中表现良好，因为它们的规模很大，而且还因为它们在多个大型数据集和数百个任务上进行了训练。 尽管这些模型具有很强的泛化能力，但通常有些用例具有非常具体的领域数据（例如医疗保健或金融服务），因此这些模型可能无法为这些用例提供良好的结果。 这导致需要根据特定用例和特定领域的数据进一步微调这些生成式人工智能模型。

在这篇文章中，我们将介绍如何通过 SageMaker JumpStart 微调 Llama 2 预训练文本生成模型。

什么是骆驼 2

Llama 2 是一种使用优化的 Transformer 架构的自回归语言模型。 Llama 2 旨在用于英语商业和研究用途。 它具有一系列参数大小（7 亿、13 亿和 70 亿）以及预训练和微调的变量。 根据 Meta 的说法，调整后的版本使用监督微调（SFT）和带有人类反馈的强化学习（RLHF）来符合人类对帮助和安全的偏好。 Llama 2 使用来自公开来源的 2 万亿个代币数据进行了预训练。 调整后的模型旨在用于类似助理的聊天，而预训练的模型可适用于各种自然语言生成任务。 无论开发人员使用哪个版本的模型， Meta 的负责任使用指南 可以帮助指导通过适当的安全缓解措施定制和优化模型可能需要的额外微调。

目前，Llama 2 在以下地区可用：

• 部署可用的预训练模型： "us-west-2", "us-east-1", "us-east-2", "eu-west-1", "ap-southeast-1", "ap-southeast-2"
• 微调并部署微调后的模型： “us-east-1”, “us-west-2”,“eu-west-1”

什么是 SageMaker JumpStart

借助 SageMaker JumpStart，机器学习从业者可以从众多公开可用的基础模型中进行选择。 机器学习从业者可以将基础模型部署到专用的 亚马逊SageMaker 来自网络隔离环境的实例，并使用 SageMaker 自定义模型进行模型训练和部署。 现在，您只需在 SageMaker Studio 中单击几下或通过 SageMaker Python SDK 以编程方式发现和部署 Llama 2，即可利用 SageMaker 功能获取模型性能和 MLOps 控制，例如 Amazon SageMaker管道, Amazon SageMaker调试器，或容器日志。 该模型部署在 AWS 安全环境中并受您的 VPC 控制，有助于确保数据安全。 此外，您还可以通过 SageMaker JumpStart 微调 Llama2 7B、13B 和 70B 预训练文本生成模型。

微调 Llama2 模型

您可以使用 SageMaker Studio UI 或 SageMaker Python SDK 微调模型。 我们在本节中讨论这两种方法。

通过 SageMaker Studio UI 进行无代码微调

在 SageMaker Studio 中，您可以通过 SageMaker JumpStart 访问 Llama 2 模型 模型、笔记本和解决方案，如以下屏幕截图所示。

如果您没有看到 Llama 2 模型，请通过关闭并重新启动来更新您的 SageMaker Studio 版本。 有关版本更新的更多信息，请参阅 关闭并更新 Studio 应用程序.

您还可以通过选择找到其他四种型号变体 探索所有文本生成模型 或在搜索框中搜索 llama。

在此页面上，您可以指向 亚马逊简单存储服务 (Amazon S3) 存储桶，包含用于微调的训练和验证数据集。 此外，您还可以配置部署配置、超参数和安全设置以进行微调。 然后您可以选择 培训 在 SageMaker ML 实例上开始训练作业。 上图为Llama-2 7B模型的微调页面； 但是，您可以类似地使用各自的模型页面微调 13B 和 70B Llama 2 文本生成模型。 要使用 Llama 2 模型，您需要接受最终用户许可协议 (EULA)。 当你选择的时候它就会出现 培训，如下图所示。 选择 我已阅读并接受 EULA 和 AUP 开始微调工作。

部署模型

模型微调后，您可以使用 SageMaker JumpStart 上的模型页面进行部署。 微调完成后，将出现部署微调模型的选项，如下图所示。

通过 SageMaker Python SDK 进行微调

您还可以使用 SageMaker Python SDK 微调 Llama 2 模型。 以下是在数据集上微调 Llama 2 7B 的示例代码：

import os
import boto3
from sagemaker.session import Session
from sagemaker.jumpstart.estimator import JumpStartEstimator # To fine-tune the 13B/70B model, please change model_id to `meta-textgeneration-llama-2-13b`/`meta-textgeneration-llama-2-70b`.
model_id = "meta-textgeneration-llama-2-7b" estimator = JumpStartEstimator( model_id=model_id, environment={"accept_eula": "true"}
)
# By default, instruction tuning is set to false. Thus, to use instruction tuning dataset you use
estimator.set_hyperparameters(instruction_tuned="True", epoch="5")
estimator.fit({"training": train_data_location})

您可以直接从估计器部署微调模型：

finetuned_predictor = estimator.deploy()

您还可以在中找到代码 在 SageMaker JumpStart 上微调 LLaMA 2 模型。 它包括数据集准备、自定义数据集训练以及部署微调模型。 它通过摘要任务中的示例演示了对 Dolly 数据集的子集的微调。 以下是示例输入，其中包含微调和非微调的响应以及地面实况响应：

输入模型：

Below is an instruction that describes a task, paired with an input that provides further context. Write a response that appropriately completes the request.nn### Instruction:nWhen did Felix Luna die?nn### Input:nFélix César Luna (30 September 1925 – 5 November 2009) was an Argentine writer, lyricist and historian.nnnn### Response:n

地面真相回应：

Felix Luna died on November 5th, 2009

非微调模型的响应：

Félix César Luna (30 September 1925 – 5 November 2009) was an ArgentinennWhen did Luna die?nnn### Explanation:nWe answer the question with the input's date of birth and the date of death.nnn### Solution: 1102n

微调模型的响应：

Félix Luna died on November 5th, 2009.nn

有关 Dolly 和 Dialogsum 数据集上不同模型的性能基准测试，请参阅 性能基准测试 本文末尾的附录部分。

微调技术

Llama 等语言模型的大小超过 10 GB 甚至 100 GB。 微调如此大的模型需要具有非常高的 CUDA 内存的实例。 此外，由于模型的大小，训练这些模型可能会非常慢。 因此，为了高效微调，我们使用以下优化：

• 低阶适应（LoRA） – 这是一种参数高效微调（PEFT），用于对大型模型进行高效微调。 在此，我们冻结整个模型，只在模型中添加一小组可调整的参数或层。 例如，我们可以微调不到 7% 的参数，而不是为 Llama 2 7B 训练所有 1 亿个参数。 这有助于显着减少内存需求，因为我们只需要存储 1% 参数的梯度、优化器状态和其他训练相关信息。 此外，这有助于减少培训时间和成本。 有关此方法的更多详细信息，请参阅 LoRA：大型语言模型的低秩适应.
• Int8 量化 – 即使采用 LoRA 等优化，Llama 70B 等模型仍然太大而无法训练。 为了减少训练期间的内存占用，我们可以在训练期间使用 Int8 量化。 量化通常会降低浮点数据类型的精度。 尽管这减少了存储模型权重所需的内存，但由于信息丢失而降低了性能。 Int8 量化仅使用四分之一精度，但不会导致性能下降，因为它不会简单地丢弃位。 它将数据从一种类型舍入为另一种类型。 要了解 Int8 量化，请参阅 LLM.int8()：大规模 Transformer 的 8 位矩阵乘法.
• 完全分片数据并行 (FSDP) – 这是一种数据并行训练算法，它将模型的参数分片到数据并行工作器上，并且可以选择将部分训练计算卸载到 CPU。 尽管参数分布在不同的 GPU 上，但每个微批次的计算都是 GPU 工作线程本地的。 它更均匀地对参数进行分片，并通过训练期间的通信和计算重叠来实现优化的性能。

下表对三种 Llama 2 模型的不同方法进行了比较。

请注意，Llama 模型的微调基于以下提供的脚本 GitHub回购.

训练数据集格式

SageMaker JumpStart 目前支持域适应格式和指令调整格式的数据集。 在本节中，我们指定两种格式的示例数据集。 有关更多详细信息，请参阅 数据集格式化 附录中的部分。

域适应格式

文本生成 Llama 2 模型可以在任何特定领域的数据集上进行微调。 在特定领域的数据集上进行微调后，该模型有望生成特定领域的文本，并通过少量提示解决该特定领域中的各种 NLP 任务。 对于此数据集，输入由 CSV、JSON 或 TXT 文件组成。 例如，输入数据可能是亚马逊向 SEC 提交的文本文件：

This report includes estimates, projections, statements relating to our
business plans, objectives, and expected operating results that are “forward-
looking statements” within the meaning of the Private Securities Litigation
Reform Act of 1995, Section 27A of the Securities Act of 1933, and Section 21E
of the Securities Exchange Act of 1934. Forward-looking statements may appear
throughout this report, including the following sections: “Business” (Part I,
Item 1 of this Form 10-K), “Risk Factors” (Part I, Item 1A of this Form 10-K),
and “Management’s Discussion and Analysis of Financial Condition and Results
of Operations” (Part II, Item 7 of this Form 10-K). These forward-looking
statements generally are identified by the words “believe,” “project,”
“expect,” “anticipate,” “estimate,” “intend,” “strategy,” “future,”
“opportunity,” “plan,” “may,” “should,” “will,” “would,” “will be,” “will
continue,” “will likely result,” and similar expressions.

指令调整格式

在指令微调中，模型针对使用指令描述的一组自然语言处理（NLP）任务进行微调。 这有助于通过零样本提示提高模型针对看不见的任务的性能。 在指令调整数据集格式中，您指定 template.json 描述输入和输出格式的文件。 例如文件中的每一行 train.jsonl 如下所示：

{"instruction": "What is a dispersive prism?", "context": "In optics, a dispersive prism is an optical prism that is used to disperse light, that is, to separate light into its spectral components (the colors of the rainbow). Different wavelengths (colors) of light will be deflected by the prism at different angles. This is a result of the prism material's index of refraction varying with wavelength (dispersion). Generally, longer wavelengths (red) undergo a smaller deviation than shorter wavelengths (blue). The dispersion of white light into colors by a prism led Sir Isaac Newton to conclude that white light consisted of a mixture of different colors.", "response": "A dispersive prism is an optical prism that disperses the light's different wavelengths at different angles. When white light is shined through a dispersive prism it will separate into the different colors of the rainbow."}

附加文件 template.json 如下所示：

{ "prompt": "Below is an instruction that describes a task, paired with an input that provides further context. " "Write a response that appropriately completes the request.nn" "### Instruction:n{instruction}nn### Input:n{context}nn", "completion": " {response}",
}

支持的训练超参数

Llama 2 微调支持许多超参数，每个超参数都会影响微调模型的内存需求、训练速度和性能：

• 时代 – 微调算法通过训练数据集的次数。 必须是大于 1 的整数。默认值为 5。
• 学习率 – 在完成每批训练示例后模型权重的更新率。 必须是大于 0 的正浮点数。默认值为 1e-4。
• 指令调整 – 是否对模型进行指令训练。 必须是 'True' 要么 'False'。 默认为 'False“。
• 每个设备训练批次大小 – 用于训练的每个 GPU 核心/CPU 的批量大小。 必须是正整数。 默认值为 4。
• 每设备评估批量大小 – 用于评估的每个 GPU 核心/CPU 的批量大小。 必须是正整数。 默认值为 1。
• 最大训练样本数 – 为了调试目的或加快训练速度，请将训练示例的数量截断为此值。 值-1表示使用所有训练样本。 必须是正整数或-1。 默认值为-1。
• 最大值样本数 – 为了调试目的或加快训练速度，请将验证示例的数量截断为此值。 值 -1 表示使用所有验证样本。 必须是正整数或-1。 默认值为-1。
• 最大输入长度 – 标记化后的最大总输入序列长度。 超过此长度的序列将被截断。 如果-1， max_input_length 设置为最小值 1024 和分词器定义的最大模型长度。 如果设置为正值， max_input_length 设置为提供的值的最小值和 model_max_length 由分词器定义。 必须是正整数或-1。 默认值为-1。
• 验证分割比率 – 如果验证通道是 none，从训练数据中分割训练验证的比率必须在 0-1 之间。 默认值为 0.2。
• 训练数据分割种子 – 如果不存在验证数据，则会修复输入训练数据与算法使用的训练和验证数据的随机分割。 必须是整数。 默认值为 0。
• preprocessing_num_workers – 用于预处理的进程数。 如果 None，主进程用于预处理。 默认为 None.
• 劳拉_r – Lora R。必须是正整数。 默认值为 8。
• 洛拉阿尔法 ——洛拉·阿尔法。 必须是正整数。 默认值为 32
• 劳拉_辍学 ——洛拉辍学。 必须是 0 到 1 之间的正浮点数。默认值为 0.05。
• int8_量化 - 如果 True，模型加载8位精度进行训练。 7B 和 13B 的默认值为 False。 70B 的默认值是 True.
• 启用_fsdp - 如果 True，训练使用FSDP。 7B 和 13B 的默认值为 True。 70B 的默认值是 False。 注意 int8_quantization FSDP 不支持。

实例类型和兼容的超参数

微调期间的内存要求可能会因以下几个因素而有所不同：

• 型号类型 – 7B 型号具有最少的 GPU 内存需求，70B 具有最大的内存需求
• 最大输入长度 – 较高的输入长度值会导致一次处理更多的令牌，因此需要更多的 CUDA 内存
• 批量大小 – 更大的批处理大小需要更大的 CUDA 内存，因此需要更大的实例类型
• Int8 量化 – 如果使用 Int8 量化，模型会加载到低精度，因此需要更少的 CUDA 内存

为了帮助您入门，我们提供了一组可以成功微调的不同实例类型、超参数和模型类型的组合。 您可以根据您的要求和实例类型的可用性选择配置。 我们在 Dolly 数据集的子集上使用三个时期的各种设置对所有三个模型进行了摘要示例的微调。

7B型号

下表总结了 7B 型号上的微调选项。

13B

下表总结了 13B 型号上的微调选项。

70B

下表总结了 70B 型号上的微调选项。

实例类型和超参数建议

微调模型的准确性时，请记住以下几点：

• 70B 等较大型号提供比 7B 更好的性能
• 没有 Int8 量化的性能优于有 INT8 量化的性能

请注意以下训练时间和 CUDA 内存要求：

• 设置 int8_quantization=True 减少内存需求并加快训练速度。
• 降低 per_device_train_batch_size 和 max_input_length 减少了内存需求，因此可以在较小的实例上运行。 但是，设置非常低的值可能会增加训练时间。
• 如果您不使用 Int8 量化（int8_quantization=False），使用 FSDP（enable_fsdp=True）以实现更快、更高效的培训。

选择实例类型时，请考虑以下因素：

• G5 实例提供支持的实例类型中最高效的训练。 因此，如果您有可用的 G5 实例，则应该使用它们。
• 训练时间很大程度上取决于 GPU 数量和可用 CUDA 内存。 因此，在具有相同 GPU 数量的实例（例如 ml.g5.2xlarge 和 ml.g5.4xlarge）上进行训练大致相同。 因此，您可以使用更便宜的实例进行训练（ml.g5.2xlarge）。
• 使用 p3 实例时，将以 32 位精度进行训练，因为这些实例不支持 bfloat16。 因此，与 g3 实例相比，在 p5 实例上训练时，训练作业将消耗双倍的 CUDA 内存。

要了解每个实例的训练成本，请参阅 Amazon EC2 G5实例.

如果数据集采用指令调整格式并且输入+完成序列很小（例如 50-100 个单词），则较高的值 max_input_length 导致性能非常差。 该参数默认值为-1，对应 max_input_length Llama 型号为 2048。 因此，我们建议如果您的数据集包含小样本，请使用较小的值 max_input_length （例如 200–400）。

最后，由于 G5 实例的高需求，您可能会遇到您所在地区的这些实例不可用并出现错误 “CapacityError: Unable to provision requested ML compute capacity. Please retry using a different ML instance type.” 如果您遇到此错误，请重试训练作业或尝试其他区域。

微调非常大的模型时出现的问题

在本节中，我们将讨论微调大型模型时的两个问题。

禁用输出压缩

默认情况下，训练作业的输出是经过训练的模型，在上传到 Amazon S3 之前以 .tar.gz 格式压缩。 但是，由于模型尺寸较大，此步骤可能需要很长时间。 例如，压缩并上传70B模型可能需要4个多小时。 为了避免此问题，您可以使用 SageMaker 训练平台支持的禁用输出压缩功能。 在这种情况下，模型上传时不进行任何压缩，并进一步用于部署：

estimator = JumpStartEstimator(
model_id=model_id, environment={"accept_eula": "true"}, disable_output_compression=True
)

SageMaker Studio 内核超时问题

由于 Llama 70B 模型的大小，训练工作可能需要几个小时，并且 SageMaker Studio 内核可能会在训练阶段死亡。 然而，在此期间，训练仍在 SageMaker 中运行。 如果发生这种情况，您仍然可以使用训练作业名称和以下代码来部署端点：

from sagemaker.jumpstart.estimator import JumpStartEstimator
training_job_name = <<<INSERT_TRAINING_JOB_NAME>>> attached_estimator = JumpStartEstimator.attach(training_job_name, model_id)
attached_estimator.logs()
attached_estimator.deploy()

要查找训练作业名称，请导航至 SageMaker 控制台并在 产品培训 在导航窗格中，选择 培训工作。 确定训练作业名称并将其替换为前面的代码。

结论

在这篇文章中，我们讨论了使用 SageMaker JumpStart 微调 Meta 的 Llama 2 模型。 我们展示了您可以使用 SageMaker Studio 中的 SageMaker JumpStart 控制台或 SageMaker Python SDK 来微调和部署这些模型。 我们还讨论了微调技术、实例类型和支持的超参数。 此外，我们根据我们进行的各种测试概述了优化训练的建议。 在两个数据集上微调三个模型的结果显示在本文末尾的附录中。 从这些结果中我们可以看出，与非微调模型相比，微调提高了概括能力。 下一步，您可以尝试使用 GitHub 存储库中提供的代码在您自己的数据集上微调这些模型，以测试和基准测试用例的结果。

作者谨此感谢 Christopher Whitten、Xin Huang、Kyle Ulrich、Sifei Li、Amy You、Adam Kozdrowicz、Evan Kravitz、Benjamin Crabtree、Haotian An、Manan Shah、Tony Cruz、Ernev Sharma、Jonathan Guinegagne 和 June 的技术贡献韩元。

作者简介

Vivek Madan 博士 是 Amazon SageMaker JumpStart 团队的一名应用科学家。 他在伊利诺伊大学厄巴纳-香槟分校获得博士学位，并且是乔治亚理工学院的博士后研究员。 他是机器学习和算法设计方面的活跃研究员，并在 EMNLP、ICLR、COLT、FOCS 和 SODA 会议上发表过论文。

法鲁克·萨比尔博士 是 AWS 的高级人工智能和机器学习专家解决方案架构师。 他拥有德克萨斯大学奥斯汀分校的电气工程博士和硕士学位，以及佐治亚理工学院的计算机科学硕士学位。 他拥有超过 15 年的工作经验，也喜欢教授和指导大学生。 在 AWS，他帮助客户制定和解决他们在数据科学、机器学习、计算机视觉、人工智能、数值优化和相关领域的业务问题。 他和他的家人居住在得克萨斯州达拉斯，喜欢旅行和长途旅行。

Ashish Khetan 博士 是 Amazon SageMaker JumpStart 的高级应用科学家，帮助开发机器学习算法。 他在伊利诺伊大学厄巴纳-香槟分校获得博士学位。 他是机器学习和统计推断领域的活跃研究员，并在 NeurIPS、ICML、ICLR、JMLR、ACL 和 EMNLP 会议上发表了多篇论文。

附录

本附录提供了有关性能基准测试和数据集格式化的更多信息。

性能基准测试

在本节中，我们提供了在两个不同数据集上微调三个 Llama 2 模型（7B、13B 和 70B）的结果： 玩具娃娃 和 对话和。 对于 Dolly 数据集，我们的任务是总结一段文本，而对于 Dialogsum，我们正在微调模型以总结两个人之间的讨论。 在下表中，我们显示了模型的输入（提示和说明）、基本事实（摘要）、预训练的 Llama 2 模型的响应以及三个 Llama 中每一个的微调 Llama 2 模型的响应2 个型号。 我们显示五个数据点的推理结果。 从下表中您可以注意到，当我们微调模型时，两个数据集的摘要都会得到改善。

• 在 Dolly 数据集上微调 Llama 2 7B 文本生成模型的结果：

• 在 Dolly 数据集上微调 Llama 2 13B 文本生成模型的结果：

• 在 Dolly 数据集上微调 Llama 2 70B 文本生成模型的结果：

• 在 Dialogsum 数据集上微调 Llama 2 7B 文本生成模型的结果：

• 在 Dialogsum 数据集上微调 Llama-2 13B 模型的结果：

• 在 Dialogsum 数据集上微调 Llama 2 70B 模型的结果：

数据集格式化

我们目前提供两种类型的微调：指令微调和域适应微调。 您可以通过指定参数轻松切换到其中一种训练方法 instruction_tuned 为“True' 要么 'False“。

域适应格式

文本生成模型还可以在任何特定领域的数据集上进行微调。 在特定领域的数据集上进行微调后，该模型有望生成特定领域的文本，并通过少量提示解决该特定领域中的各种 NLP 任务。

对于模型的输入，请使用训练和可选的验证目录。 每个目录都包含一个 CSV、JSON 或 TXT 文件。 对于 CSV 和 JSON 文件，如果没有名为 text 的列，则使用来自名为 text 的列或第一列的训练或验证数据 text 被发现。 训练和验证（如果提供）下的文件数量应分别等于 1。

输出是经过训练的模型，可以部署用于推理。

以下是用于微调文本生成模型的 TXT 文件示例。 TXT 文件是亚马逊 2021 年至 2022 年向 SEC 提交的文件：

This report includes estimates, projections, statements relating to our
business plans, objectives, and expected operating results that are “forward-
looking statements” within the meaning of the Private Securities Litigation
Reform Act of 1995, Section 27A of the Securities Act of 1933, and Section 21E
of the Securities Exchange Act of 1934. Forward-looking statements may appear
throughout this report, including the following sections: “Business” (Part I,
Item 1 of this Form 10-K), “Risk Factors” (Part I, Item 1A of this Form 10-K),
and “Management’s Discussion and Analysis of Financial Condition and Results
of Operations” (Part II, Item 7 of this Form 10-K). These forward-looking
statements generally are identified by the words “believe,” “project,”
“expect,” “anticipate,” “estimate,” “intend,” “strategy,” “future,”
“opportunity,” “plan,” “may,” “should,” “will,” “would,” “will be,” “will
continue,” “will likely result,” and similar expressions. Forward-looking
statements are based on current expectations and assumptions that are subject
to risks and uncertainties that may cause actual results to differ materially.
We describe risks and uncertainties that could cause actual results and events
to differ materially in “Risk Factors,” “Management’s Discussion and Analysis
of Financial Condition and Results of Operations,” and “Quantitative and
Qualitative Disclosures about Market Risk” (Part II, Item 7A of this Form
10-K). Readers are cautioned not to place undue reliance on forward-looking
statements, which speak only as of the date they are made. We undertake no
obligation to update or revise publicly any forward-looking statements,
whether because of new information, future events, or otherwise. GENERAL Embracing Our Future ...

指令微调

文本生成模型可以对任何文本数据进行指令调整，前提是数据采用预期格式。 经过指令调整的模型可以进一步部署用于推理。

对于输入，请使用训练和可选的验证目录。 训练和验证目录应包含一个或多个 JSON 行 (.jsonl) 格式的文件。 特别是，train 目录还可以包含一个可选的 *.json 文件，描述输入和输出格式。

根据每个时期结束时计算的验证损失来选择最佳模型。 如果未给出验证集，则会自动分割（可调整的）百分比的训练数据并用于验证。

训练数据必须采用 JSON 行 (.jsonl) 格式，其中每行都是代表单个数据样本的字典。 所有训练数据必须位于一个文件夹中； 但是，它可以保存在多个 .jsonl 文件中。 .jsonl 文件扩展名是强制性的。 训练文件夹还可以包含 template.json 描述输入和输出格式的文件。 如果没有给出模板文件，将使用以下模板：

{ "prompt": "Below is an instruction that describes a task, paired with an input that provides further context. Write a response that appropriately completes the request.nn### Instruction:n{instruction}nn### Input:n{context}`, "completion": "{response}",
}

在这种情况下，JSON 行条目中的数据必须包括 prompt 和 completion 字段。 如果提供了自定义模板，则还必须使用 prompt 和 completion 键定义输入和输出模板。 以下是自定义模板示例：

{ "prompt": "question: {question} context: {context}", "completion": "{answer}"
}

此处，JSON 行条目中的数据必须包含 question, context及 answer 领域。

输出是经过训练的模型，可以部署用于推理。

我们提供亚马逊 SEC 备案数据的子集。 它是从公开下载的 埃德加。 有关访问数据的说明，请参阅 访问 EDGAR 数据.

执照： 知识共享署名-相同方式共享许可证 (CC BY-SA 4.0)

• SEO 支持的内容和 PR 分发。 今天得到放大。
• PlatoData.Network 垂直生成人工智能。 赋予自己力量。 访问这里。
• 柏拉图爱流。 Web3 智能。 知识放大。 访问这里。
• 柏拉图ESG。 汽车/电动汽车， 碳， 清洁科技, 能源， 环境， 太阳能， 废物管理。 访问这里。
• 柏拉图健康。 生物技术和临床试验情报。 访问这里。
• 图表Prime。 使用 ChartPrime 提升您的交易游戏。 访问这里。
• 块偏移量。 现代化环境抵消所有权。 访问这里。
• Sumber: https://aws.amazon.com/blogs/machine-learning/fine-tune-llama-2-for-text-generation-on-amazon-sagemaker-jumpstart/