为了鼓励技术人员和工程师尝试其人工智能加速硬件,英特尔整合了一系列软件参考套件,声称将减少在其芯片上部署机器学习系统所需的时间和资源。
如您所料, 34 个开源参考套件 解决各种常见的人工智能/机器学习工作负载——从用于支持聊天机器人和其他生成人工智能的大型语言模型,到更普通的任务,如对象检测、语音生成和财务风险预测。
英特尔表示,与埃森哲合作开发的每个套件都包含所有必要的模型代码、训练数据、库、openAPI 组件以及在英特尔硬件上实现它们所需的指令。 我们被告知参考套件将根据社区反馈定期更新。
需要明确的是,这些套件似乎是纯粹的软件:您提供(英特尔内部)硬件,然后使用给定的套件在其上构建应用程序。
英特尔拥有相当多的加速器和 GPU 能够运行此类人工智能应用程序,包括 Habana Gaudi2 训练处理器、Ponte Vecchio GPU 以及内置于英特尔 Sapphire Rapids Xeon 可扩展处理器中的高级矩阵扩展。
尽管围绕生成式 AI 进行了大肆宣传,但英特尔的加速器并没有像 Nvidia 的 GPU 那样受到公众的关注和广泛采用。 但是,由于训练最大、最令人印象深刻的模型需要大量的 GPU 节点——主要的云提供商正因为这个原因部署了数以万计的 GPU 和加速器——英特尔最终可能会因为客户无法以足够的数量或合理的价格获得 Nvidia 的卡而获得胜利。
据我们的兄弟网站报道 下一个平台,Nvidia 的 H100 PCIe 卡——甚至不是最强大的 GPU 版本——已经 斑 在 eBay 上售价高达 40,000 美元。
因此,如果英特尔能够降低在其加速器上部署人工智能工作负载的障碍,那么这家 x86 巨头理所当然应该更容易说服客户购买其部件,尤其是更昂贵的部件。
当然,采取这一策略的并非只有英特尔一家。 Nvidia 在 GPU 加速的软件开发和商业化方面已经取得了巨大成功。 去年,首席财务官科莱特·克雷斯 (Colette Kress) 强调了此类订阅软件对于将加速冠军的收入推向更高水平的重要性。 $ 1 万亿.
AMD 也更加积极地推出自己的 AI GPU 和加速器。 六月份的时候 详细 其 Instinct MI300 APU 和 GPU 旨在与 Nvidia 在 HPC 和 AI/ML 领域展开正面竞争。 除了新芯片之外,芯片制造商还 公布 与 Hugging Face 建立战略合作伙伴关系,该公司开发用于构建 ML 应用程序的工具,以优化 AMD Instinct GPU、Alveo FPGA 以及 Epyc 和 Ryzen CPU 的流行 AI 模型。 ®
- :具有
- :不是
- $UP
- 000
- a
- 关于
- 加速
- 加速器
- Accenture
- 地址
- 采用
- 高级
- 侵略性
- AI
- AI / ML
- 所有类型
- 单
- 靠
- 已经
- 还
- AMD公司
- an
- 和
- 出现
- 应用领域
- 应用
- 保健
- AS
- 关注我们
- 屏障
- 基于
- BE
- 因为
- 很
- 都
- 建立
- 建筑物
- 束
- 但是
- 购买
- by
- CAN
- 能力
- 牌
- CFO
- 聊天机器人
- 索赔
- 清除
- 云端技术
- CO
- 码
- 合作
- 相当常见
- 社体的一部分
- 竞争
- 组件
- 包含
- 套餐
- 合作伙伴
- data
- 部署
- 部署
- 设计
- 检测
- 发达
- 发展
- 发展
- 驾驶
- 两
- 每
- 更容易
- 易趣
- 鼓励
- 结束
- 工程师
- 甚至
- 期望
- 昂贵
- 扩展
- 面部彩妆
- 反馈
- 少数
- 金融
- 针对
- 发现
- 止
- 代
- 生成的
- 生成式人工智能
- 得到
- 特定
- GPU
- 图形处理器
- 大
- 手
- 硬件
- 有
- 头
- 帮助
- 突出
- HPC
- HTML
- HTTPS
- 炒作
- if
- 实施
- 重要性
- 有声有色
- in
- 包含
- 内
- 说明
- 英特尔
- 成
- ISN
- IT
- 它的
- JPG
- 六月
- 语言
- 大
- 最大
- 名:
- 去年
- 学习
- 库
- 喜欢
- 崇高的
- 降低
- 机
- 机器学习
- 主要
- 矩阵
- 可能..
- ML
- 模型
- 模型
- 更多
- 最先进的
- 许多
- 必要
- 全新
- 下页
- 节点
- Nvidia公司
- 对象
- 物体检测
- of
- on
- 那些
- 打开
- 开放源码
- 优化
- or
- 其他名称
- 我们的
- 输出
- 己
- 尤其
- 合作伙伴
- 部分
- 柏拉图
- 柏拉图数据智能
- 柏拉图数据
- 流行的
- 热门
- 功率
- 强大
- 预测
- 价格
- 处理器
- 提供
- 供应商
- 国家
- 纯粹
- 推
- 推动
- 放
- 范围
- RE
- 原因
- 合理
- 减少
- 报道
- 必须
- 资源
- 收入
- 风险
- 运行
- s
- 说
- 可扩展性
- 得分
- 出售
- 卖房
- 应该
- 硅
- 只是
- 网站
- 软件
- 来源
- 看台
- 善用
- 战略伙伴关系
- 策略
- 订阅
- 成功
- 这样
- 周围
- 产品
- 任务
- HAST
- 这
- 其
- 他们
- 然后
- 博曼
- Free Introduction
- 虽然?
- 数千
- 次
- 泰坦
- 至
- 一起
- 工具
- 培训
- 产品培训
- 尝试
- 更新
- 使用
- 用过的
- 各种
- 版本
- 非常
- 音色
- 卷
- we
- 这
- 广泛
- 将
- 胜利
- 年
- 完全
- 和风网