成本优化是其中的支柱之一 AWS架构完善的框架,它是在工作负载的生命周期内持续改进和改进的过程。 它支持构建和运行具有成本意识的系统,从而最大限度地降低成本、最大化投资回报并实现业务成果。
亚马逊SageMaker 是一种完全托管的机器学习 (ML) 服务,可提供多种成本优化选项和功能,例如托管点训练、多模型端点、 AWS 推理、ML Savings Plans 以及许多其他有助于降低 ML 工作负载总拥有成本 (TCO) 的选项,与其他基于云的选项(例如自我管理)相比 亚马逊弹性计算云 (Amazon EC2) 和 AWS 托管 Amazon Elastic Kubernetes服务 (亚马逊 EKS)。
AWS 致力于通过提供广泛的服务和定价选项来帮助您实现最大的节省。 我们提供的工具可实现灵活的成本管理,并提高详细成本和工作负载使用情况的可见性。
2021年,我们推出了 AWS Support 主动服务 作为部分 AWS 企业支持 计划。 自推出以来,我们已经帮助数百家客户优化了他们的工作负载、设置了防护栏并提高了他们 ML 工作负载成本和使用情况的可见性。
在这篇文章中,我们分享了经验教训,并引导您通过各种方式来分析您的 SageMaker 使用情况并确定成本优化的机会。
使用 AWS Cost Explorer 分析 SageMaker 成本
AWS 成本管理器 提供预配置的视图,显示有关成本趋势的信息,让您在了解成本历史和趋势方面抢占先机。 它允许您按 AWS 服务、使用类型、成本分配标签、EC2 实例类型等值进行过滤和分组, 和更多. 如果您使用整合账单,您还可以按关联账户进行过滤。 此外,您可以设置时间间隔和粒度,以及根据您的历史成本和使用数据预测未来成本。
让我们首先使用 Cost Explorer 来确定 SageMaker 中的成本优化机会。
- 在 Cost Explorer 控制台上,选择 SageMaker 服务 并选择 应用过滤器.
- 您可以设置所需的时间间隔和粒度,以及 通过...分组 参数。
- 您可以以条形图、折线图或堆栈图格式显示图表数据。
- 使用筛选器和分组获得所需结果后,您可以通过选择下载结果 下载为 CSV 或通过选择保存报告 保存到报告库.
以下屏幕截图显示了所选日期范围内每月的 SageMaker 成本,按地区分组。
有关使用 Cost Explorer 的一般指南,请参阅 AWS Cost Explorer 的新外观和常见使用案例.
或者,您可以启用 AWS 成本和使用报告 (AWS CUR) 以深入了解您账户的成本和使用数据。 该报告包含每小时 AWS 消耗详细信息。 它存储在 亚马逊简单存储服务 (Amazon S3) 在付款人账户中,它整合了所有关联账户的数据。 您可以查询该报告以分析您的使用趋势并采取适当的措施来优化成本。 亚马逊雅典娜 是一种无服务器查询服务,可用于使用标准 SQL 分析 Amazon S3 中的报告数据。 有关详细信息和示例查询,请参阅 AWS CUR 查询库.
以下代码是 AWS CUR 查询示例,用于获取过去 3 个月使用的 SageMaker 成本:
您还可以将 AWS CUR 数据输入 亚马逊QuickSight,您可以在其中以任何您喜欢的方式对其进行切片和切块,以用于报告或可视化目的。 有关将 CUR 数据摄取到 QuickSight 中的说明,请参阅 如何将 AWS 成本和使用报告 (CUR) 提取并可视化到 Amazon QuickSight 中.
分析 SageMaker 使用类型的成本
您每月的 SageMaker 成本来自不同的 SageMaker 使用类型,例如笔记本实例、托管、训练和处理等。 选择 SageMaker 服务过滤器并按 使用类型 Cost Explorer 中的维度让您大致了解基于 SageMaker 使用类型的成本分配。 使用类型以格式显示
以下屏幕截图显示了当帐户报告笔记本使用情况时按 SageMaker 使用类型分组的成本分布和 亚马逊SageMaker Studio 内核网关应用程序。
优化 SageMaker 成本的一般最佳实践
在本节中,我们分享了在使用 SageMaker 时节省成本的一般建议。
标记
A 行李牌 是您分配给 AWS 资源的标签。 你可以 使用标签来组织您的资源 按用户、部门或成本中心分类,并详细跟踪您的成本。 成本分配标签可用于对成本进行分类 成本管理器 or 成本和使用报告. 有关 SageMaker 环境和工作负载的成本分配的提示和最佳实践,请参阅 使用 Amazon SageMaker 中的资源标记为 ML 环境和工作负载设置企业级成本分配
AWS 预算
AWS 预算 让您了解 AWS 上的 ML 成本,并帮助您跟踪 SageMaker 成本,包括开发、培训和托管。 它允许您设置自定义预算以跟踪从最简单到最复杂的用例的成本和使用情况。 AWS Budgets 还支持电子邮件或 亚马逊简单通知服务 (Amazon SNS) 在实际或预测的成本和使用量超过您的预算阈值时,或者当您的实际 Savings Plans 的利用率或覆盖率低于您期望的阈值时发出通知。
AWS Budgets 还与 Cost Explorer 集成,因此您可以轻松查看和分析您的成本和使用驱动因素, AWS聊天机器人,这样您就可以在指定的 Slack 频道或 Amazon Chime 房间中接收 AWS 预算提醒,并且 AWS服务目录,因此您可以跟踪已批准的 AWS 产品组合和产品的成本。 您还可以设置提醒,并在您的成本或使用量超过(或预计会超过)预算金额时收到通知。 创建预算后,您可以在 AWS 预算控制台上跟踪进度。 有关详细信息,请参阅 使用 AWS 预算管理您的成本.
AWS 账单控制台
AWS 账单控制台 使您可以轻松了解您的 AWS 支出、查看和支付发票、管理账单偏好和税收设置,以及访问其他云财务管理服务。 您可以快速评估您的每月支出是否符合前期、预测或预算,并及时调查并采取纠正措施。 您可以使用 AWS 账单控制台的控制面板页面来大致了解您的 AWS 支出。 您还可以使用它来确定成本最高的服务或区域,查看过去几个月的支出趋势,以及查看 AWS 使用情况的各种细分。
总结 页面的一部分概述了所有账户、区域、服务提供商和服务的 AWS 成本以及其他 KPI。 它还提供与当月总预测成本的比较。 这 最高成本 部分按估计的月初至今 (MTD) 支出显示您的顶级服务、帐户或区域。 这 前五名服务的成本趋势 部分显示最近三到六个已关闭计费周期的前五项服务的成本趋势。
规划和预测
预测是掌握云成本和使用情况的重要组成部分,并且随着业务规模的扩大而变得更加重要。
AWS 有多个选项可帮助您预测成本。 这 预测功能 Cost Explorer 使您能够创建自定义使用量预测,以了解您的预期未来成本。 这 内置机器学习驱动的预测 QuickSight 允许您通过简单的点击操作来预测您的关键业务指标。 它提供了一种直接的方法来使用 ML 对任何时间序列数据进行预测,设置时间最短且无需 ML 经验。
您还可以使用 亚马逊预报,一种使用 ML 提供高度准确预测的完全托管服务,使用从 AWS CUR 收集的数据为特定 AWS 服务生成预测。 有关详细信息,请参阅 使用AWS Cost and Usage Reports,AWS Glue DataBrew和Amazon Forecast预测AWS支出.
有关成本预测选项的其他信息,请参阅 使用正确的工具进行云成本预测。
实例大小调整
您可以优化 SageMaker 成本,并通过选择正确的资源只为真正需要的资源付费。 在购买 Savings Plan 之前,您应该调整 SageMaker 计算实例的大小,以提供适当的承诺并获得最大的成本节约。 SageMaker 目前提供 ML计算实例 在各种实例系列上。 机器学习是一个迭代过程,在 ML 生命周期的不同阶段(从数据预处理到模型训练和模型托管)具有不同的计算要求。 识别正确类型的计算实例具有挑战性,并且可能导致资源过度配置,从而增加成本。 SageMaker 的模块化架构允许您根据 ML 生命周期的阶段优化 ML 工作负载的可扩展性、性能和定价。 有关详细信息,请参阅 调整大小的Amazon SageMaker笔记本计算资源,处理作业,培训和部署 帖子的一部分 确保 Amazon SageMaker 上的高效计算资源.
Amazon SageMaker 储蓄计划
Amazon SageMaker Savings Plans 是 SageMaker 的灵活定价模型。 它提供折扣率,以换取对 1 年或 3 年期限的一致使用量(以美元/小时衡量)的承诺。 Savings Plans 由于其基于使用的模型而提供灵活性,并有助于将您的成本降低多达 64%。 这些费率自动适用于符合条件的 SageMaker ML 实例使用,包括 Studio 笔记本、SageMaker 笔记本实例、SageMaker Processing、 SageMaker数据牧马人、SageMaker 训练、SageMaker 实时推理和 SageMaker 批量转换,无论实例系列、大小或区域如何。 这使您可以轻松地最大限度地节省成本,而不管您的用例和消费随着时间的推移如何变化,并且与按需价格相比,您最多可以节省 64%。
例如,您可以从小实例开始,在一小部分数据集上试验不同的算法。 然后,您可以转移到更大的实例来准备数据并针对您的完整数据集进行大规模训练。 最后,您可以在多个区域部署您的模型,为您的用户提供低延迟预测。 跨新区域的所有实例大小修改和部署都将包含在同一个 Savings Plan 中,而无需您进行任何管理工作。
符合 SageMaker Savings Plans 资格的每种 SageMaker 使用类型都有一个 Savings Plans 利率和按需利率. 当您注册 SageMaker Savings Plans 时,您将按照 Savings Plan 费率按照您的承诺支付使用费。 超出承诺的任何使用量将按按需费率收费。 AWS 成本管理控制台为您提供 建议 这使得为 Savings Plan 找到合适的承诺水平变得容易。 这些建议基于以下内容:
- 您在过去 7 天、30 天或 60 天的 SageMaker 使用情况。 您应该选择最能代表您未来使用情况的时间段。
- 您的计划期限:1 年或 3 年。
- 您的付款选项:无预付、部分预付(50% 或更多)或全部预付。 一些客户更喜欢(或必须使用)最后一个选项,因为它使他们能够清晰且可预测地了解他们的 SageMaker 账单。
这些建议基于您在选定回顾期内的历史使用情况,不会预测您的使用情况。 请务必选择反映您未来使用情况的回顾期。 3年期计划提供最高折扣率; 同样,与无预付费用或部分预付费用选项相比,全预付费用选项提供最高的折扣率。 工作负载和使用情况通常会随着时间的推移而变化,一致、稳定的使用模式是节省计划的理想选择。 如果您有大量短期或一次性工作负载,则可能很难为计算使用量(每小时测量)选择正确的承诺。 建议随着时间的推移不断购买少量的 Savings Plans 承诺。 这可确保您保持高水平的覆盖范围以最大限度地享受折扣,并且您的计划始终与您的工作量和组织要求紧密匹配。
要了解 Savings Plan 建议,请参阅 通过 Amazon SageMaker 的实例降价和节省计划降低您的机器学习成本.
使用报告
对于有效的储蓄计划, 使用报告 可在 Savings Plans 控制台上查看您实际使用的承诺的百分比。 您可以使用您的 Savings Plans 使用报告直观地了解您在配置的时间段内使用了多少 Savings Plans 承诺,以及与按需价格相比节省的费用。 例如,如果您有 10 美元/小时的承诺,并且您使用 Savings Plans 费率计费的每小时总计为 9.80 美元,则该小时的利用率为 98%。 您可以根据回顾期以每小时、每天或每月的粒度查看您的 Savings Plans 利用率。 您可以按 Savings Plans 类型、成员账户、区域和实例系列在 筛选 部分。 如果您是主账户中的用户,您可以看到整个整合账单系列的汇总利用率。
以下屏幕截图显示了利用率报告的示例。 您可以看到,即使 Savings Plans 的覆盖率连续很多天都不是 100%,但净储蓄总额仍然为正。 如果没有 Savings Plans,您将按按需费率支付使用费。 为实现最大程度的节省并避免过度承诺,建议根据对 SageMaker 工作负载的一致、优化使用来选择正确的承诺。
覆盖率报告
同样, 覆盖率报告 向您显示该计划涵盖了多少符合条件的支出。 要了解覆盖率的计算方式,请参阅 使用您的覆盖率报告.
以下屏幕截图显示了覆盖率报告的示例。 您可以看到所选时间段的平均覆盖率为 92%,以及计划未涵盖的按需支出。 根据计划未涵盖的按需支出,您可以选择购买额外的 Savings Plan 以获得最大的节省。 此外,建议在购买 Savings Plan 之前调整 SageMaker 计算实例的大小,并了解工作负载大小以避免过度或不足地使用 Savings Plan。
有关 Savings Plans 如何应用于您的 AWS 使用的更多详细信息,请参阅 了解 Savings Plans 如何适用于您的 AWS 使用.
结论
机器学习已成为跨行业的强大工具,但训练新模型和运行 ML 模型进行推理的成本可能很高。 在 SageMaker 上运行 ML 的优势之一是广泛而深入的功能集提供了成本优化策略,而不会影响性能或敏捷性。 这篇博文重点介绍了用于分析 SageMaker 成本、确定趋势以及实施主动警报和优化最佳实践的 AWS 工具和选项。
作者简介
迪帕里•拉贾莱 是 AWS 的高级 AI/ML 专家。 她与企业客户合作,为在 AWS 生态系统中部署和维护 AI/ML 解决方案提供技术指导和最佳实践。 她曾与众多组织合作处理涉及 NLP 和计算机视觉的各种深度学习用例。 她热衷于帮助组织利用生成式 AI 来增强他们的使用体验。 在业余时间,她喜欢电影、音乐和文学。
乌里·罗森博格 是欧洲、中东和非洲的人工智能和机器学习专家技术经理。 Uri 总部位于以色列,致力于为企业客户提供有关 ML 的所有东西的支持,以大规模设计、构建和运营。 在业余时间,他喜欢骑自行车、徒步旅行和时间旅行。
- SEO 支持的内容和 PR 分发。 今天得到放大。
- 柏拉图爱流。 Web3 数据智能。 知识放大。 访问这里。
- 与 Adryenn Ashley 一起铸造未来。 访问这里。
- 使用 PREIPO® 买卖 PRE-IPO 公司的股票。 访问这里。
- Sumber: https://aws.amazon.com/blogs/machine-learning/part-1-analyze-amazon-sagemaker-spend-and-determine-cost-optimization-opportunities-based-on-usage-part-1/
- :具有
- :是
- :不是
- :在哪里
- $UP
- 1
- 100
- 12
- 2021
- 30
- 60
- 7
- 8
- 80
- 804
- a
- 对,能力--
- 关于
- ACCESS
- 账号管理
- 账户
- 精准的
- 实现
- 横过
- 操作
- 行动
- 要积极。
- 实际
- 通
- 增加
- 额外
- 附加信息
- 优点
- 非洲
- 后
- 驳
- AI
- AI / ML
- 通知
- 算法
- 所有类型
- 分配
- 允许
- 沿
- 还
- Amazon
- 亚马逊编钟
- Amazon EC2
- 亚马逊SageMaker
- 亚马逊网络服务
- 其中
- 量
- 量
- an
- 分析
- 和
- 任何
- 使用
- 适当
- 批准
- 应用
- 架构
- 保健
- AS
- At
- 自动
- 可使用
- 避免
- AWS
- AWS胶水
- AWS Glue 数据酿造
- 酒吧
- 基于
- BE
- 因为
- 成为
- 很
- before
- 如下。
- 最佳
- 最佳实践
- 超越
- 法案
- 计费
- 预算
- 预算
- 预算
- 建立
- 建筑物
- 商业
- 但是
- 购买
- by
- 计算
- CAN
- 候选人
- 能力
- 例
- 分类
- 中心
- 挑战
- 更改
- 渠道
- 带电
- 图表
- 钟
- 选择
- 清除
- 关闭
- 密切
- 云端技术
- 码
- 购买的订单均
- 承诺
- 相当常见
- 相比
- 对照
- 复杂
- 计算
- 一台
- 计算机视觉
- 连续
- 一贯
- 安慰
- 来合并
- 消费
- 包含
- 不断
- 价格
- 成本管理
- 节约成本
- 昂贵
- 成本
- 可以
- 覆盖
- 覆盖
- 创建信息图
- 电流
- 目前
- 习俗
- 合作伙伴
- 每天
- XNUMX月XNUMX日
- data
- 日期
- 一年中的
- 专用
- 深
- 深入学习
- 交付
- 部门
- 部署
- 部署
- 部署
- 部署
- 设计
- 指定
- 期望
- 详细
- 详情
- 确定
- 研发支持
- 不同
- 难
- 尺寸
- 已优惠
- 打折
- 折扣
- 屏 显:
- 分配
- do
- 别
- 下载
- 驱动程序
- 滴
- 两
- 容易
- 东部
- 易
- 生态系统
- 高效
- 努力
- 或
- 合格
- 邮箱地址
- 授权
- 授权
- enable
- 使
- 提高
- 确保
- 企业
- 企业级
- 整个
- 环境
- 环境中
- 必要
- 成熟
- 估计
- 欧洲
- 评估
- 甚至
- 发展
- 例子
- 超过
- 超过
- 交换
- 预期
- 体验
- 实验
- 探险家
- 广泛
- 家庭
- 家庭
- 专栏
- 少数
- 过滤
- 过滤器
- 终于
- 金融
- 找到最适合您的地方
- 高度灵活
- 柔软
- 以下
- 针对
- 收益预测
- 预测
- 格式
- 分数
- 止
- ,
- 充分
- 未来
- Gain增益
- 其他咨询
- 生成
- 生成的
- 生成式人工智能
- 得到
- 给
- 给
- 非常好
- 团队
- 指导
- 有
- he
- 头
- 帮助
- 帮助
- 帮助
- 帮助
- 这里
- 高
- 最高
- 突出
- 高度
- 他的
- 历史的
- 历史
- 托管
- 小时
- 创新中心
- HTML
- HTTP
- HTTPS
- 数百
- i
- 主意
- 鉴定
- 确定
- if
- 影响
- 实施
- 重要
- 改善
- 改善
- 改进
- in
- 包含
- 增加
- 行业
- 信息
- 可行的洞见
- 例
- 说明
- 集成
- 成
- 介绍
- 调查
- 投资
- 涉及
- 以色列
- IT
- 它的
- 本身
- 工作机会
- JPG
- 键
- 标签
- 大
- 名:
- 推出
- 铅
- 知道
- 学习
- 教训
- 经验教训
- 让
- Level
- 各级
- 杠杆作用
- 生命周期
- 喜欢
- Line
- 链接
- 文学
- 看
- 占地
- 机
- 机器学习
- 保持
- 维护
- 使
- 制作
- 管理
- 管理
- 颠覆性技术
- 经理
- 方式
- 许多
- 匹配
- 生产力
- 最多
- 可能..
- 会员
- 指标
- 中间
- 中东
- 最小
- ML
- 模型
- 模型
- 修改
- 模块化
- 月
- 每月一次
- 个月
- 更多
- 最先进的
- 移动
- 电影
- MTD
- 许多
- 多
- 音乐
- 必须
- 需求
- 净
- 全新
- NLP
- 没有
- 笔记本
- 通知
- 获得
- of
- 提供
- 优惠精选
- on
- 点播
- 一
- 仅由
- 操作
- 操作
- 机会
- 优化
- 优化
- 优化
- 追求项目的积极优化
- 附加选项
- 附加选项
- or
- 秩序
- 组织
- 组织
- 其他名称
- 其它
- 输出
- 结果
- 超过
- 简介
- 所有权
- 页
- 参数
- 部分
- 多情
- 过去
- 模式
- 付款
- 百分比
- 性能
- 期间
- 期
- 计划
- 计划
- 柏拉图
- 柏拉图数据智能
- 柏拉图数据
- 投资组合
- 积极
- 帖子
- 强大
- 做法
- 可预见
- 预测
- 比较喜欢
- 喜好
- Prepare
- 车资
- 价格
- 价格
- 定价模型
- 先
- 主动
- 过程
- 处理
- 核心产品
- 进展
- 正确
- 提供
- 供应商
- 提供
- 优
- 采购
- 购买
- 目的
- 查询
- 很快
- 范围
- 率
- 价格表
- 实时的
- 实现
- 真
- 接收
- 最近
- 建议
- 建议
- 减少
- 反映
- 关于
- 而不管
- 地区
- 地区
- 报告
- 报道
- 报告
- 业务报告
- 代表
- 必须
- 岗位要求
- 资源
- 资源
- 成果
- 回报
- 右
- Room
- 运行
- sagemaker
- 同
- 保存
- 储
- 可扩展性
- 鳞片
- 秤
- 部分
- 看到
- 选
- 选择
- 前辈
- 系列
- 服务
- 无服务器
- 服务
- 服务供应商
- 特色服务
- 集
- 设置
- 格局
- 几个
- Share
- 她
- 应该
- 显示
- 作品
- 视力
- 签署
- 同样
- 简易
- 简单
- 自
- SIX
- 尺寸
- 松弛
- 切片
- 小
- So
- 解决方案
- 一些
- 跨度
- 专家
- 具体的
- 花
- 花费
- Spot
- 堆
- 阶段
- 实习
- 标准
- 开始
- 仍
- 存储
- 存储
- 简单的
- 策略
- 工作室
- 这样
- SUPPORT
- 支持主动
- 支持
- 产品
- 采取
- 税
- 文案
- 术语
- 这
- 其
- 他们
- 然后
- 因此
- 博曼
- 事
- Free Introduction
- 虽然?
- 三
- 门槛
- 通过
- 次
- 时间序列
- 时
- 秘诀
- 至
- 工具
- 工具
- 最佳
- 合计
- 跟踪时
- 培训
- 产品培训
- 改造
- 旅游
- 趋势
- 趋势
- 类型
- 类型
- 一般
- 理解
- 理解
- 用法
- 使用
- 用过的
- 用户
- 用户
- 使用
- 运用
- 价值观
- 各种
- 各个
- 查看
- 意见
- 能见度
- 愿景
- 可视化
- 是
- 方法..
- 方法
- we
- 卷筒纸
- Web服务
- 井
- 什么是
- ,尤其是
- 是否
- 这
- 而
- 宽
- 大范围
- 将
- 也完全不需要
- 工作
- 合作
- 将
- 完全
- 您一站式解决方案
- 和风网