亚马逊SageMaker JumpStart 是一个机器学习 (ML) 中心,提供算法、模型和 ML 解决方案。 借助 SageMaker JumpStart,ML 从业者可以从不断增长的性能最佳且公开可用的列表中进行选择 基础模型 (FM)例如 布卢姆, 骆驼2, 猎鹰40B, 稳定扩散, 开放骆驼, 法兰-T5/UL2,或来自的 FM 凝聚力 和 点亮.
在这篇文章和随附的笔记本中,我们演示了如何使用 SageMaker Python 简化 SDK in 亚马逊SageMaker JumpStart 作为端点并将其用于各种自然语言处理 (NLP) 任务。 您还可以通过以下方式访问基础模型 亚马逊SageMaker Studio。 BloomZ 176B 模型是最大的公开模型之一,是一种最先进的指令调整模型,可以执行各种上下文中的小样本学习和零样本学习 NLP 任务。 指令调优是一种涉及使用指令对 NLP 任务集合的语言模型进行微调的技术。 要了解有关指令调整的更多信息,请参阅 Amazon SageMaker JumpStart 中 Flan-T5 基础模型的零样本提示.
NLP 中的零样本学习允许预先训练的法学硕士生成对其未经专门训练的任务的响应。 在该技术中,为模型提供输入文本和提示,以自然语言描述模型的预期输出。 零样本学习用于各种 NLP 任务,例如:
- 多语言文本和情感分类
- 多语言问答
- 代码生成
- 段落改写
- 概要
- 常识推理和自然语言推理
- 问题回答
- 句子和情感分类
- 基于标题的虚构文章生成
- 根据文章总结标题
少样本学习涉及通过仅提供几个示例来训练模型来执行新任务。 当可用于训练的标记数据有限时,这非常有用。 少秀学习可用于多种任务,包括:
- 文本摘要
- 代码生成
- 名称实体识别
- 问题回答
- 语法和拼写更正
- 产品描述和概括
- 句子和情感分类
- 聊天机器人和对话式人工智能
- 推文生成
- 机器翻译
- 意图分类
关于绽放
BigScience 大型开放科学开放多语言 (BLOOM) 语言模型是基于 Transformer 的大型语言模型 (LLM)。 BLOOM 是一种自回归法学硕士,经过训练,可以使用工业规模的计算资源根据大量文本数据的提示继续文本。 因此,它能够输出与人类编写的文本几乎无法区分的连贯文本。 还可以通过将 BLOOM 转换为文本生成任务来指示 BLOOM 执行尚未明确训练的文本任务。
凭借 176 亿个参数,BLOOM 能够生成 46 种自然语言和 13 种编程语言的文本。 对于几乎所有语言,例如西班牙语、法语和阿拉伯语,BLOOM 是有史以来第一个拥有超过 100 亿个参数的语言模型。 研究人员可以 下载、运行和研究 BLOOM 调查最近开发的法学硕士的绩效和行为,直至其最深层的内部运营。
解决方案概述
在这篇文章中,我们展示了如何使用最先进的指令调整的 BloomZ 176B 模型 拥抱脸 用于文本生成。 您可以将 BloomZ 176B 模型与少样本学习和零样本学习一起用于许多 NLP 任务,而无需对模型进行微调。 无需训练新模型,因为像 BloomZ 176B 这样的模型具有大量参数,因此它们可以轻松适应许多上下文而无需重新训练。 BloomZ 176B 模型经过大量数据训练,适用于许多通用任务。
下面提供了此演示中所有步骤的代码 笔记本.
指令调优
过去几年,法学硕士的规模和复杂性呈爆炸式增长。 法学硕士在学习自然语言语义和产生类似人类的反应方面表现出了卓越的能力。 许多最近的法学硕士都使用一种强大的技术进行了微调,称为 指令调整,这有助于模型执行新任务或生成对新提示的响应,而无需针对特定提示进行微调。 指令调整模型利用其对相关任务或概念的理解来生成对新提示的预测。 因为这种技术不涉及更新模型权重,所以它避免了为新的、以前未见过的任务微调模型所需的耗时且计算量大的过程。
指令调优涉及使用指令对 NLP 任务集合的语言模型进行微调。 在这种技术中,模型被训练为通过遵循文本指令而不是每个任务的特定数据集来执行任务。 该模型通过每个任务的一组输入和输出示例进行微调,只要为任务提供提示,就允许模型泛化到尚未明确训练的新任务。 指令调整有助于提高模型的准确性和有效性,并且在大型数据集无法用于特定任务的情况下很有帮助。
BLOOM 模型上的零样本和少样本 NLP 任务的快速工程
即时工程 涉及创建高质量的提示来引导模型做出所需的响应。 需要根据所使用的特定任务和数据集来设计提示。 这里的目标是为模型提供必要的信息,以生成高质量的响应,同时最大限度地减少噪声。 这可能涉及关键字、其他上下文、问题等等。
设计良好的提示可以使模型更具创造性和泛化性,从而轻松适应新任务。 提示还可以帮助将领域知识融入特定任务并提高可解释性。 Prompt engineering 可以极大地提高零样本和少样本学习模型的性能。 创建高质量的提示需要仔细考虑手头的任务,以及对模型的优势和局限性的深刻理解。
在下表中,BloomZ 176B 模型用于生成各种零样本和少样本 NLP 任务的响应。 第一列显示任务,第二列包含提供给模型的提示(其中模板文本为粗体,非粗体文本是示例输入),第三列是根据提示进行查询时模型的响应
对于以下所有任务,我们将超参数设置为 600 max_length
, num_return_sequences
, top_k
为 250, top_p
为 0.95,并且没有采样。
任务 | 提示输入 | 输出 |
零样本学习任务 | ||
多语言文本或情感分类(中英) | 一个传奇的开端,一个不灭的神话,这不仅仅是一部电影,而是一个融入新时代的标签,永远彪悍的史册。您对之前的评论的评价是正面、中立还是负面? | 积极 |
多语言问答(英译汉) | 用繁体中文给我解释一下 什么是反向传播 | 梯度反向传播算法是一种机器学习算法,用于训练人工神经网络。该算法使用梯度下降来最小化损失函数。 |
代码生成 | 写一个 二叉搜索树与 O(log(n)) 计算复杂度。 {代码开始} |
def binary_search(a, x): 低=0 高 = len(a) – 1 当低 <= 高时: 中=(低+高)//2 如果 a[mid] < x: 低=中+1 elif a[中] > x: 高 = 中 – 1 其他: 中途返回 返回-1′ ... 其他: 中途返回 返回低位' 输出被截断 |
段落改写 | Amazon Web Services (AWS) 宣布对其基于云的机器学习平台 SageMaker 进行九项重大更新。 SageMaker 旨在提供机器学习服务,可用于为几乎任何用例构建、训练和部署 ML 模型。 在今年的 re:Invent 大会上,AWS 发布了多项公告,以进一步提高 SageMaker 的功能。nn您会如何用英语简单地重新表述一下?,Amazon Web Services (AWS) 宣布其基于云的机器学习平台 SageMaker 的九项重大新更新。 SageMaker 旨在提供机器学习服务,可用于为几乎任何用例构建、训练和部署 ML 模型。 在今年的 re:Invent 大会上,AWS 发布了多项公告,以进一步提高 SageMaker 的功能。 n上面这句话很复杂。 请提供一个由多个句子组成的简化同义版本: |
Amazon SageMaker 获得重大更新 Amazon Web Services (AWS) 宣布对其基于云的机器学习平台 SageMaker 进行九项重大更新。 SageMaker 旨在提供机器学习服务,可用于为几乎任何用例构建、训练和部署 ML 模型 |
概要 | Amazon Comprehend 使用自然语言处理 (NLP) 来提取有关文档内容的见解。 它通过识别文档中的实体、关键短语、语言、情感和其他常见元素来发展洞察力。 使用 Amazon Comprehend 在理解文档结构的基础上创建新产品。 例如,使用 Amazon Comprehend,您可以在社交网络源中搜索产品提及或扫描整个文档存储库以查找关键短语。 您可以使用 Amazon Comprehend 控制台或使用 Amazon Comprehend API 访问 Amazon Comprehend 文档分析功能。 您可以为小型工作负载运行实时分析,也可以为大型文档集启动异步分析作业。 您可以使用 Amazon Comprehend 提供的预训练模型,也可以训练您自己的自定义模型以进行分类和实体识别。 所有 Amazon Comprehend 功能都接受 UTF-8 文本文档作为输入。 此外,自定义分类和自定义实体识别接受图像文件、PDF 文件和 Word 文件作为输入。 Amazon Comprehend 可以根据具体功能检查和分析多种语言的文档。 有关更多信息,请参阅 Amazon Comprehend 支持的语言。 Amazon Comprehend 的主导语言功能可以检查文档并确定更广泛的语言选择的主导语言。nn===n用英语写出前文的摘要: |
Amazon Comprehend 使用自然语言处理 (NLP) 来提取有关文档内容的见解。 它通过识别文档中的实体、关键短语、语言、情感和其他常见元素来发展洞察力。 使用 Amazon Comprehend 在理解文档结构的基础上创建新产品。 例如,使用 Amazon Comprehend,您可以在社交网络源中搜索产品提及或扫描整个文档存储库以查找关键短语。 您可以使用 Amazon Comprehend 控制台或使用 Amazon Comprehend API 访问 Amazon Comprehend 文档分析功能。 您可以为小型工作负载运行实时分析,也可以为大型文档集启动异步分析作业。 您可以使用 Amazon Comprehend 提供的预训练模型,也可以训练您自己的自定义模型以进行分类和实体识别。 所有 Amazon Comprehend 功能都接受 UTF-8 文本文档作为输入。 此外,自定义分类和自定义实体识别接受图像文件、PDF 文件和 Word 文件作为输入。 Amazon Comprehend 可以检查和分析多种语言的文档,具体取决于具体功能。 有关更多信息,请参阅 Amazon Comprehend 支持的语言。 Amazon Comprehend 的主导语言功能可以检查文档并确定主导语言,以供更广泛的语言选择。 |
常识推理和自然语言推理 | 鉴于 世界杯已经在美国洛杉矶拉开帷幕。 是不是遵循这个 世界杯在美国举行。 是还是不是?, 世界杯已经在美国洛杉矶拉开帷幕。 仅使用上述描述和您对世界的了解,就是 “世界杯在美国举行” 绝对正确吗? 是还是不是?, |
支持 |
问题回答 | 问题: 新 Kindle 的主要特点是什么?nn上下文: 最新、最具创新性的 Kindle 让您可以在数百万本书和文档上做笔记、写清单和日记等等。 对于一直希望在电子书中书写的读者来说,亚马逊的新款 Kindle 可以让他们做到这一点。 Kindle Scribe 是第一款用于阅读和写作的 Kindle,它允许用户用笔记、列表等来补充他们的书籍和文档。 以下是您需要了解的有关 Kindle Scribe 的所有信息,包括常见问题解答。 Kindle Scribe 让您像在纸上一样轻松阅读和书写 Kindle Scribe 配备 10.2 英寸无眩光屏幕(所有 Kindle 设备中最大的屏幕)、清晰的 300 ppi 分辨率和 35 个 LED 前灯,可自动适应您的环境。 通过可调节的暖光、字体大小、行距等进一步个性化您的体验。 它随附您选择的 Basic Pen 或 Premium Pen,您可以使用它们在屏幕上像在纸上一样书写。 它们还可以磁性吸附到您的 Kindle 上,无需充电。 Premium Pen 包括专用橡皮擦和可自定义的快捷按钮。 Kindle Scribe 拥有所有 Kindle 设备中最多的存储选项:从 8 GB、16 GB 或 32 GB 中进行选择,以满足您的阅读和写作水平。 nn答案 |
对数以百万计的书籍和文档做笔记、写清单和日记等等 |
句子和情感分类 | 评论:n这部电影太棒了,再一次让我们眼花缭乱,欣喜若狂n这个影评句子是负面的还是正面的?n选项:n-正 n-负 | 积极的 |
根据标题生成虚构文章 | 称谓: “大学即将有新设施”n鉴于上面一篇虚构文章的标题,想象一下这篇文章。n””” |
这个耗资 1.2 万英镑的项目将在因弗内斯的高地和群岛大学 (UHI) 创建一个新的教学中心。 它将建在原因弗内斯商学院的旧址上。 UHI 表示,新设施将用于教学、学生支持和管理。 该大学表示,它还将用于举办会议和活动。 新大楼将建在原因弗内斯商学院旧址上 该大学表示,新大楼将建在原因弗内斯商学院的旧址上,该学院于 2013 年关闭。 据称,新设施将用于教学、学生支持和管理。 它还将用于会议和活动。 UHI表示,新设施将建在原因弗内斯商学院的旧址上 该大学表示,新大楼将建在原因弗内斯商学院的旧址上,该学院于 2013 年关闭。 据称,新设施将用于教学、学生支持和管理。 UHI 表示,新设施将建在前因弗内斯旧址上…… |
根据文章总结标题 | “最新、最具创新性的 Kindle 可以让您在数百万本书和文档上做笔记、写清单和日记等等。 对于一直希望在电子书中书写的读者来说,亚马逊的新款 Kindle 可以让他们做到这一点。 Kindle Scribe 是第一款用于阅读和写作的 Kindle,它允许用户用笔记、列表等来补充他们的书籍和文档。 以下是您需要了解的有关 Kindle Scribe 的所有信息,包括常见问题解答。 Kindle Scribe 让您像在纸上一样轻松阅读和书写 Kindle Scribe 配备 10.2 英寸无眩光屏幕(所有 Kindle 设备中最大的屏幕)、清晰的 300 ppi 分辨率和 35 个 LED 前灯,可自动适应您的环境。 通过可调节的暖光、字体大小、行距等进一步个性化您的体验。 它随附您选择的 Basic Pen 或 Premium Pen,您可以使用它们在屏幕上像在纸上一样书写。 它们还可以磁性吸附到您的 Kindle 上,无需充电。 Premium Pen 包括专用橡皮擦和可自定义的快捷按钮。 Kindle Scribe 拥有所有 Kindle 设备中最多的存储选项:可选择 8 GB、16 GB 或 32 GB,以满足您的阅读和写作水平。 恩恩恩给我上面的文章一个好标题。 |
亚马逊的 Kindle Scribe:您需要了解的一切 |
少样本学习任务 | ||
概要 | [原文]:亚马逊科学家与谢菲尔德大学的研究人员合作,首次公开提供大规模事实提取和验证数据集。 该数据集包含超过 185,000 个有证据支持的主张,有望促进研究和开发,解决执行自动信息提取的软件应用程序或基于云的服务中的事实提取和验证问题。 [摘要]:亚马逊和大学研究人员公开提供事实提取和验证数据集。 ### [原文]:美国的 Prime 会员可以通过 Prime 会员资格获得更多送货上门的服务。 会员现在可以免费享受一年的 Grubhub+,每月价值 9.99 美元,无需为 Prime 会员额外付费。 要激活此优惠,请访问 amazon.com/grubhub。 这项新优惠包括订单超过 0 美元的无限量 12 美元送餐费,以及 Grubhub+ 会员的专属福利以及免费食品和订单折扣等奖励。 此外,食客可以通过选择加入 Grubhub 的 Donate the Change 计划来“吃好东西,同时做好事”,这是一项捐赠匹配计划,仅在 25 年就筹集了超过 2021 万美元,使全国 20 多个慈善组织受益。 【摘要】:美国Prime会员可免费享受一年的Grubhub+,符合条件的订单免送餐费。 ### [原文]:亚马逊科学家与谢菲尔德大学的研究人员合作,首次公开提供大规模事实提取和验证数据集。 该数据集包含超过 185,000 个有证据支持的主张,有望促进研究和开发,解决执行自动信息提取的软件应用程序或基于云的服务中的事实提取和验证问题。 [概括]: |
[概括]: 亚马逊和大学研究人员公开提供事实提取和验证数据集。 |
代码生成 | 描述:一个橙色按钮,上面写着“停止” 代码:停止 ### 描述:一个蓝色框,包含带有红色边框的黄色圆圈 代码: ### 描述:标题为“欢迎来到人工智能” 码: |
代码: 欢迎来到人工智能' |
名称实体识别 | 【正文】:弗雷德是一位连续创业者。 他是 Platform.sh 的联合创始人兼首席执行官,之前与他人共同创立了领先的 Drupal 电子商务提供商 Commerce Guys。 他的使命是保证,在我们继续雄心勃勃地深刻改变云计算的使用和感知方式的过程中,我们能够脚踏实地,继续我们迄今为止所享受的快速增长。 [姓名]:弗雷德 【职务】:联合创始人兼CEO [公司]:Platform.sh ### [文字]:微软(该词是“微型计算机软件”的合成词)由比尔·盖茨于 4 年 1975 月 8800 日创立,旨在开发和销售 Altair 2000 的 BASIC 解释器。史蒂夫·鲍尔默 (Steve Ballmer) 于 XNUMX 年接替盖茨担任首席执行官,后来又设想了“设备和服务”战略。 [姓名]:史蒂夫·鲍尔默 【职务】:首席执行官 【公司】:微软 ### 【文】:弗兰克·吕布7年1955月XNUMX日出生于里昂。 他是前首席执行官 Antoine Riboud 的儿子,Antoine Riboud 将前欧洲玻璃制造商 BSN 集团转变为食品行业的领先企业。 他是达能公司的首席执行官。 【姓名】:弗兰克·吕布 【职务】:首席执行官 【公司】:达能 ### 【文】:David Melvin 是中信里昂证券的投资和金融服务专业人士,在投资银行和私募股权领域拥有 30 多年的经验。 现任中信里昂证券高级顾问。 |
[姓名]:弗雷德 【职务】:联合创始人兼CEO [公司]:Platform.sh |
问题回答 | 背景:NLP Cloud 成立于 2021 年,当时团队意识到没有简单的方法可以在生产中可靠地利用自然语言处理。 问:NLP云什么时候成立? 答:2021 ### 背景:NLP Cloud 在 2020 年中期开发了他们的 API,从那时起他们添加了许多预先训练的开源模型。 问:NLP Cloud 开发了什么? 答案:API ### 背景:所有计划都可以随时停止。 您只需为使用该服务的时间付费。 如果降级,您将在下一张发票上获得折扣。 问:什么时候可以停止计划? 答案:随时 ### 背景:GPT-J 的主要挑战是内存消耗。 建议使用 GPU 计划。 问:GPT-J 推荐哪种计划? 回答:””” |
答案:GPU计划' |
语法和拼写更正 | 我喜欢去海滩。 更正:我喜欢去海滩。 ### 让我拥有吧! 更正:给我吧! ### 它有太多的缺点。 更正:它有太多缺点。 ### 我不想去 更正: |
更正:我不想去 |
产品描述和概括 | 根据关键字生成产品描述。 关键词:鞋子、女装、59 美元 句子:漂亮的女鞋,价格 59 美元。 ### 关键词: 裤子, 男装, 69 美元 句子:现代男士长裤,仅售 69 美元。 ### 关键词:手套,冬季,19 美元 句子:非常适合寒冷冬天的保暖手套,售价 19 美元。 ### 关键词: T 恤,男士,39 美元 句子: |
句子:很酷的男士 T 恤,仅售 39 美元。 |
句子和情感分类 | 寄语:当飞船登陆火星时,全人类都兴奋不已 主题: 空间 ### 留言:我喜欢打网球和高尔夫球。 我每周练习两次。 主题: 运动 ### 信息:管理销售人员团队是一项艰巨但有益的工作。 主题: 商业 ### 消息:我正在尝试用西红柿煮鸡肉。 主题: |
主题: 食物 |
聊天机器人和对话式人工智能 | 这是【人类】和【机器人】之间的讨论。 [机器人]非常友善且富有同情心。 [人]:你好,很高兴认识你。 [机器人]:我也很高兴认识你。 ### [人类]:今天过得怎么样? [机器人]:还不错,谢谢! 你呢? ### [人类]:我很好,但我有点难过…… [机器人]:哦? 为什么? ### [人类]:我得了流感 [机器人]: |
[机器人]:哦不,我很遗憾听到这个消息! |
推文生成 | 关键词: 市场 推文:从自然和市场而不是人那里获取反馈 ### 关键词:儿童 推特:也许我们死了,这样我们就可以像孩子一样回来。 ### 关键词:初创公司 推特:初创公司不应该担心如何扑灭大火,而应该担心如何引发火灾。 ### 关键词:自然语言处理 鸣叫: |
tweet:NLP 是一种工具,而不是目标。 |
机器翻译 | 拥抱 NLP 的革命。 翻译:拥抱脸彻底改变了 NLP。 ### Cela 真是不可思议! 翻译:这太令人难以置信了! ### Désolé je ne peux pas。 翻译:抱歉,但我不能。 ### NLP Cloud 允许在生产设施中部署 NLP。 翻译: |
翻译:NLP Cloud 使在生产中部署 NLP 变得容易。 |
意图分类 | 我想明天开始编码,因为它看起来很有趣! 意图:开始编码 ### 请给我看看你最后的照片。 目的:展示图片 ### 尽快搜索所有这些文件。 目的:搜索文件 ### 下周你能教我中文吗? 意图: |
目的:教我中文 |
在 SageMaker 中访问 BloomZ 176B 指令调整模型
SageMaker JumpStart 提供了两种开始使用这些指令调整的 Bloom 模型的方法: 亚马逊SageMaker Studio 和 SageMaker SDK。 以下部分说明了每个选项的外观以及如何访问它们。
使用简化的 SageMaker JumpStart SDK 访问模型
简化的 SageMaker JumpStart SDK 只需几行代码即可轻松训练和部署内置 SageMaker JumpStart 模型。 这使您可以访问整个 SageMaker JumpStart 模型库,包括最新的基础模型和图像生成模型,而无需提供除模型 ID 之外的任何输入。
您可以利用我们提供的特定于模型的默认值来指定配置,例如 Docker 映像、ML 实例类型、模型工件位置和超参数等字段。 这些属性只是默认值; 您可以覆盖它们并保留对您创建的 AWS 模型的精细控制。 由于这些更改,编写 Python 工作流程来部署和训练 SageMaker JumpStart 模型的工作量已经减少,使您能够将更多时间花在重要的任务上。 此功能在所有支持 JumpStart 的区域均可用,并且可以通过 SageMaker Python 开发工具包 版本2.154.0或更高版本。
您可以通过 SageMaker SDK 以编程方式部署终端节点。 您需要在 SageMaker 模型中心指定所需模型的模型 ID 以及用于部署的实例类型。 包含推理脚本的模型 URI 和 Docker 容器的 URI 通过 SageMaker SDK 获取。 这些 URI 由 SageMaker JumpStart 提供,可用于初始化 SageMaker 模型对象以进行部署。
部署模型并查询端点
此笔记本需要 ipywidgets。 安装 ipywidgets,然后使用与当前笔记本关联的执行角色作为具有 SageMaker 访问权限的 AWS 账户角色。
选择预训练模型
我们选择 bloomz-176b-fp16
预训练模型:
以下部分中的笔记本使用 布卢姆Z 176B 举个例子。 有关 SageMaker 预训练模型的完整列表,请参阅 带有预训练模型表的内置算法.
检索工件并部署端点
借助 SageMaker,我们可以对预训练模型进行推理,而无需先在新数据集上对其进行微调。 我们首先检索 deploy_image_uri
, deploy_source_uri
及 model_uri
对于预训练模型。 为了托管预训练模型,我们创建了一个实例 sagemaker.model.模型 并部署它。 这可能需要几分钟的时间。
现在,我们可以使用简化的 SageMaker JumpStart SDK 和以下代码行来部署模型:
我们使用 SageMaker 大型模型推理 (LMI) 容器 托管 BloomZ 176B 模型。 LMI 是 AWS 构建的 LLM 软件堆栈(容器),可为生成 AI 模型提供易于使用的功能和性能增益。 它嵌入了模型并行性、编译、量化和其他堆栈以加速推理。 详情请参阅 使用大型模型推理深度学习容器和 DeepSpeed 在 Amazon SageMaker 上部署 BLOOM-176B 和 OPT-30B.
请注意,部署此模型需要 p4de.24xlarge 实例,部署通常需要大约 1 小时。 如果您没有该实例的配额,请在 AWS Service Quotas 控制台上创建配额。
查询端点并使用各种参数解析响应来控制生成的文本
端点的输入是任何格式化为 JSON 并以 utf-8 格式编码的文本字符串。 端点的输出是一个包含生成文本的 JSON 文件。
在以下示例中,我们提供了一些示例输入文本。 您可以输入任何文本,模型会预测序列中的下一个单词。 通过重复调用模型可以生成更长的文本序列。 以下代码显示如何使用这些参数调用端点:
我们得到以下输出:
['How to make a pasta? boil a pot of water and add salt. Add the pasta to the water and cook until al dente. Drain the pasta.']
在 SageMaker Studio 中访问模型
您还可以通过访问这些模型 JumpStart 着陆页 在工作室。 此页面列出了可用的端到端 ML 解决方案、预训练模型和示例笔记本。
在发布帖子时,BloomZ 176B 仅在 us-east-2
区域。
您可以选择BloomZ 176B型号卡来查看笔记本。
然后,您可以导入笔记本以进一步运行笔记本。
清理
为了避免持续产生费用,请删除 SageMaker 推理端点。 您可以使用以下命令通过 SageMaker 控制台或从 SageMaker Studio 笔记本删除端点:
predictor.delete_model()
predictor.delete_endpoint()
结论
在这篇文章中,我们概述了零样本和少样本学习的好处,并描述了即时工程如何提高指令调整模型的性能。 我们还展示了如何从 SageMaker JumpStart 轻松部署指令调整的 BloomZ 176B 模型,并提供示例来演示如何使用 SageMaker 中部署的 BloomZ 176B 模型端点执行不同的 NLP 任务。
我们鼓励您从 SageMaker JumpStart 部署 BloomZ 176B 模型,并为 NLP 用例创建自己的提示。
要了解有关 SageMaker JumpStart 的更多信息,请查看以下内容:
作者简介
拉贾库马尔·桑帕斯库马尔 是 AWS 的首席技术客户经理,为客户提供业务技术协调方面的指导,并支持其云运营模型和流程的重塑。 他对云计算和机器学习充满热情。 Raj 还是一名机器学习专家,与 AWS 客户合作设计、部署和管理他们的 AWS 工作负载和架构。
黄鑫博士 是 Amazon SageMaker JumpStart 和 Amazon SageMaker 内置算法的应用科学家。 他专注于开发可扩展的机器学习算法。 他的研究兴趣是自然语言处理、表格数据的可解释深度学习以及非参数时空聚类的稳健分析。 他在 ACL、ICDM、KDD 会议和皇家统计学会:A 系列期刊上发表了多篇论文。
埃文·克拉维茨 是 Amazon Web Services 的一名软件工程师,致力于 SageMaker JumpStart。 他喜欢烹饪和在纽约市跑步。
- SEO 支持的内容和 PR 分发。 今天得到放大。
- PlatoData.Network 垂直生成人工智能。 赋予自己力量。 访问这里。
- 柏拉图爱流。 Web3 智能。 知识放大。 访问这里。
- 柏拉图ESG。 汽车/电动汽车, 碳, 清洁科技, 能源, 环境, 太阳能, 废物管理。 访问这里。
- 柏拉图健康。 生物技术和临床试验情报。 访问这里。
- 图表Prime。 使用 ChartPrime 提升您的交易游戏。 访问这里。
- 块偏移量。 现代化环境抵消所有权。 访问这里。
- Sumber: https://aws.amazon.com/blogs/machine-learning/zero-shot-and-few-shot-prompting-for-the-bloomz-176b-foundation-model-with-the-simplified-amazon-sagemaker-jumpstart-sdk/
- :具有
- :是
- :不是
- :在哪里
- $UP
- 000
- 1
- 10
- 100
- 11
- 12
- 13
- 15%
- 16
- 20
- 2000
- 2013
- 2021
- 24
- 250
- 30
- 32
- 33
- 7
- 8
- a
- Able
- 关于
- 以上
- 接受
- ACCESS
- 访问
- 账号管理
- 横过
- 适应
- 加
- 添加
- 增加
- 额外
- 地址
- 可调整的
- 管理
- 优点
- 再次
- 驳
- AI
- AI模型
- 目标
- AL
- 算法
- 对准
- 所有类型
- 允许
- 允许
- 单
- 还
- 牵牛星
- 时刻
- am
- Amazon
- 亚马逊领悟
- 亚马逊SageMaker
- 亚马逊SageMaker JumpStart
- 亚马逊网络服务
- 亚马逊网络服务(AWS)
- 有雄心
- 其中
- 量
- 量
- an
- 分析
- 分析
- 和
- 洛杉矶
- 公布
- 最新公告
- 任何
- API
- APIs
- 相应
- 应用领域
- 应用的
- 四月
- 阿拉伯
- 保健
- 国家 / 地区
- 参数
- 刊文
- AS
- 相关
- At
- 连接
- 属性
- 自动表
- 自动
- 可使用
- 避免
- AWS
- 背部
- 坏
- 银行业
- 基于
- 基本包
- BE
- 海滩
- 美丽
- 因为
- 很
- 行为
- 作为
- 受益
- 好处
- 除了
- 最佳
- 之间
- 法案
- 比尔·盖茨
- 亿
- 位
- Bloom
- 蓝色
- 无所畏惧
- 书籍
- 边界
- 天生的
- 盒子
- 简要地
- BSN的
- 建立
- 建筑物
- 建
- 内建的
- 但是
- 按键
- by
- 被称为
- 调用
- CAN
- 可以得到
- 不能
- 能力
- 能力
- 卡
- 小心
- 案件
- 例
- 铸件
- 抓
- 中心
- CEO
- 挑战
- 更改
- 更改
- 带电
- 收费
- 查
- 儿童
- 中文
- 选择
- 界
- 城市
- 索赔
- 分类
- 关闭
- 云端技术
- 云计算
- 集群
- 联合创始人
- 码
- 编码
- 相干
- 冷
- 合作
- 采集
- 学院
- 柱
- 如何
- 购买的订单均
- 未来
- 商业
- 相当常见
- 公司
- 完成
- 复杂
- 复杂
- 理解
- 包括
- 计算
- 概念
- 研讨会 首页
- 会议
- 配置
- 考虑
- 组成
- 安慰
- 消费
- 容器
- 集装箱
- 包含
- 内容
- 上下文
- 继续
- 继续
- 控制
- 听起来像对话
- Cool
- 正确
- 价格
- 可以
- 国家
- 情侣
- 创建信息图
- 创建
- 创造
- 创建
- 创意奖学金
- 杯
- 电流
- 目前
- 习俗
- 合作伙伴
- 定制
- data
- 数据集
- David
- 处理
- 交易
- 专用
- 深
- 深入学习
- 最深
- 默认
- 提升
- 交货
- 演示
- 演示
- 证明
- 根据
- 部署
- 部署
- 部署
- 部署
- 部署
- 描述
- 描述
- 设计
- 设计
- 期望
- 详情
- 确定
- 开发
- 发达
- 发展
- 研发支持
- 发展
- 设备
- DID
- 死
- 不同
- 已优惠
- 折扣
- 讨论
- do
- 码头工人
- 文件
- 文件
- 不会
- 做
- 域
- 优势
- 捐赠
- 别
- 门
- 向下
- 下坡
- 排水
- 缺点
- 每
- 容易
- 易
- 易于使用
- 电子书
- 电子商务
- 效用
- 努力
- 分子
- 合格
- 嵌入式
- 使
- 鼓励
- 端至端
- 端点
- 工程师
- 工程师
- 英语
- 享受
- 整个
- 实体
- 实体
- 企业家
- 环境
- 公平
- 欧洲
- 甚至
- 事件
- EVER
- 一切
- 检查
- 例子
- 例子
- 独家
- 执行
- 预期
- 昂贵
- 体验
- 提取
- 面部彩妆
- 功能有助于
- 诊所
- 事实
- 远
- 高效率
- 专栏
- 特征
- 反馈
- 费用
- 脚
- 少数
- 字段
- 文件
- 档
- 金融
- 金融服务
- 火灾
- (名字)
- 第一次
- 重点
- 遵循
- 以下
- 食品
- 送外卖
- 针对
- 格式
- 前
- 基金会
- 公司成立
- 自由的
- 法语
- 频繁
- 止
- 前
- 功能
- 进一步
- Gain增益
- 盖茨
- 一般用途
- 生成
- 产生
- 代
- 生成的
- 生成式人工智能
- 得到
- 给
- 目标
- 去
- 高尔夫球
- 非常好
- GPU
- 大
- 非常
- 陆运
- 团队
- 成长
- 事业发展
- 保证
- 指导
- 指南
- 手
- 有
- 有
- he
- 标题
- 听
- 高度
- 帮助
- 有帮助
- 帮助
- 相关信息
- 高
- 高品质
- 他的
- 希望
- 主持人
- 热卖
- 小时
- 创新中心
- How To
- HTML
- HTTPS
- 黄
- 中心
- 人
- 人类
- 人类
- i
- ID
- if
- 图片
- 假想
- 想像
- 进口
- 改善
- in
- 包括
- 包含
- 合并
- 行业中的应用:
- 信息
- 信息提取
- 倡议
- 创新
- 输入
- 输入
- 可行的洞见
- 安装
- 例
- 代替
- 说明
- 利益
- 内部
- 成
- 调查
- 投资
- 投资银行
- 涉及
- 岛屿
- IT
- 它的
- 工作
- 工作机会
- 日志
- 旅程
- JPG
- JSON
- 只是
- 保持
- 键
- 关键词
- 知道
- 知识
- 着陆
- 语言
- 语言
- 大
- 大规模
- 最大
- (姓氏)
- 后来
- 最新
- 领导
- 学习用品
- 学习
- 导致
- 让
- 让
- Level
- 杠杆作用
- 自学资料库
- 光
- 喜欢
- 限制
- 有限
- Line
- 线
- 清单
- 书单
- LLM
- 圖書分館的位置
- 长
- 不再
- 看
- 看起来像
- 该
- 洛杉矶
- 爱
- 低
- 机
- 机器学习
- 制成
- 主要
- 主要
- 使
- 制作
- 制作
- 管理
- 经理
- 管理的
- 许多
- 市场
- 火星
- 问题
- 可能..
- 也许
- me
- 满足
- 成员
- 籍
- 内存
- 男性
- 提到
- 微软
- 中
- 百万
- 百万
- 最小化
- 分钟
- 使命
- ML
- 模型
- 模型
- 现代
- 月
- 更多
- 最先进的
- 电影
- 多
- 姓名
- 自然
- 自然语言处理
- 自然
- ne
- 必要
- 需求
- 负
- 工业网络
- 一般
- 决不要
- 全新
- 新产品
- 纽约
- 纽约市
- 最新
- 下页
- 下周
- 不错
- NLP
- 没有
- 噪声
- 笔记本
- 小说
- 十一月
- 现在
- 数
- 对象
- 获得
- of
- 折扣
- 提供
- 提供
- 优惠精选
- oh
- on
- 一旦
- 一
- 正在进行
- 仅由
- 开放源码
- 操作
- 运营
- 附加选项
- or
- 橘色
- 秩序
- 订单
- 组织
- 原版的
- 其他名称
- 我们的
- 输出
- 产量
- 超过
- 覆盖
- 简介
- 己
- 页
- 纸类
- 文件
- 参数
- 多情
- 员工
- 为
- 感知
- 演出
- 性能
- 执行
- 津贴
- 个性化
- 短语
- 图片
- 地方
- 计划
- 计划
- 平台
- 柏拉图
- 柏拉图数据智能
- 柏拉图数据
- 播放机
- 播放
- 请
- 加
- 位置
- 积极
- 可能
- 帖子
- 强大
- PPI
- 预测
- 预报器
- 预测
- 高级版
- 以前
- 先前
- 车资
- 总理
- 校长
- 私立
- 私募股权投资
- 问题
- 过程
- 过程
- 处理
- 生产
- 产品
- 生产
- 核心产品
- 所以专业
- 曲目
- 代码编程
- 编程语言
- 项目
- 提供
- 提供
- 提供者
- 提供
- 优
- 公然
- 出版
- 出版
- 放
- 蟒蛇
- 题
- 有疑问吗?
- 凸
- 快
- 率
- RE
- 阅读
- 读者
- 阅读
- 实时的
- 实现
- 最近
- 最近
- 承认
- 认识
- 建议
- 红色
- 减少
- 地区
- 地区
- 有关
- 卓越
- 反复
- 改写
- 更换
- 知识库
- 请求
- 必须
- 需要
- 研究
- 研究和开发
- 研究人员
- 分辨率
- 资源
- 响应
- 回复
- 导致
- 保留
- 检讨
- 革命性
- 奖励
- 奖励
- 机器人
- 健壮
- 角色
- 皇族
- 运行
- 运行
- s
- sagemaker
- SageMaker 推理
- 说
- 销售
- 盐
- 说
- 说
- 可扩展性
- 浏览
- 科学家
- 科学家
- 屏风
- SDK
- 搜索
- 其次
- 部分
- 看到
- 似乎
- 选择
- 出售
- 语义
- 前辈
- 感
- 句子
- 情绪
- 情怀
- 序列
- 串行
- 系列
- A系列
- 服务
- 特色服务
- 集
- 套数
- 设置
- 几个
- 应该
- 显示
- 显示
- 作品
- 显著
- 简
- 自
- 网站
- 情况
- 尺寸
- 尺寸
- 小
- 小
- So
- 社会
- 社交网络
- 社会
- 软件
- 软件工程师
- 固体
- 解决方案
- 一些
- 是
- 西班牙语
- 专家
- 具体的
- 特别是
- 速度
- 拼字
- 花
- 堆
- 堆栈
- 开始
- 开始
- 初创企业
- 国家的最先进的
- 州
- 统计
- 步骤
- Steve (史蒂夫)
- 停止
- 存储
- 储存选项
- 策略
- 优势
- 串
- 结构体
- 学生
- 工作室
- 学习
- 这样
- 如下
- 概要
- 补充
- 供应
- SUPPORT
- 支持
- 支持
- 代名词
- 表
- 采取
- 需要
- 任务
- 任务
- 教诲
- 团队
- 文案
- 模板
- 比
- 感谢
- 这
- 区域
- 世界
- 其
- 他们
- 然后
- 那里。
- 博曼
- 他们
- 第三
- Free Introduction
- 通过
- 通过
- 次
- 耗时的
- 标题
- 至
- 今晚
- 明天
- 也有
- 工具
- 强硬
- 向
- 传统
- 培训
- 熟练
- 产品培训
- 改造
- 转化
- 翻译
- 树
- 鸣叫
- 两次
- 二
- 类型
- 我们
- 理解
- 联合的
- 美国
- 大学
- 无限
- 直到
- 更新
- 最新动态
- 更新
- 使用
- 用例
- 用过的
- 用户
- 使用
- 运用
- 平时
- 价值
- 价值观
- 各种
- 各个
- 广阔
- 企业验证
- 版本
- 非常
- 通过
- 查看
- 实质上
- 参观
- 想
- 温暖
- 是
- 水
- 方法..
- 方法
- we
- 卷筒纸
- Web服务
- 周
- 欢迎进入
- 井
- 什么是
- 什么是
- ,尤其是
- 这
- 而
- 白色
- WHO
- 全
- 为什么
- 更宽
- 宽度
- 将
- 冬季
- 也完全不需要
- 女性
- Word
- 话
- 工作流程
- 加工
- 合作
- 世界
- 世界杯
- 担心
- 将
- 写
- 写作
- 书面
- X
- 年
- 年
- 含
- 但
- 纽约
- 完全
- 您一站式解决方案
- 和风网
- 零样本学习