英特尔推出人工智能参考套件以帮助销售其芯片

英特尔推出人工智能参考套件以帮助销售其芯片

英特尔推出人工智能参考套件,以帮助销售其芯片 PlatoBlockchain 数据智能。垂直搜索。人工智能。

为了鼓励技术人员和工程师尝试其人工智能加速硬件,英特尔整合了一系列软件参考套件,声称将减少在其芯片上部署机器学习系统所需的时间和资源。

如您所料, 34 个开源参考套件 解决各种常见的人工智能/机器学习工作负载——从用于支持聊天机器人和其他生成人工智能的大型语言模型,到更普通的任务,如对象检测、语音生成和财务风险预测。

英特尔表示,与埃森哲合作开发的每个套件都包含所有必要的模型代码、训练数据、库、openAPI 组件以及在英特尔硬件上实现它们所需的指令。 我们被告知参考套件将根据社区反馈定期更新。

需要明确的是,这些套件似乎是纯粹的软件:您提供(英特尔内部)硬件,然后使用给定的套件在其上构建应用程序。

英特尔拥有相当多的加速器和 GPU 能够运行此类人工智能应用程序,包括 Habana Gaudi2 训练处理器、Ponte Vecchio GPU 以及内置于英特尔 Sapphire Rapids Xeon 可扩展处理器中的高级矩阵扩展。

尽管围绕生成式 AI 进行了大肆宣传,但英特尔的加速器并没有像 Nvidia 的 GPU 那样受到公众的关注和广泛采用。 但是,由于训练最大、最令人印象深刻的模型需要大量的 GPU 节点——主要的云提供商正因为这个原因部署了数以万计的 GPU 和加速器——英特尔最终可能会因为客户无法以足够的数量或合理的价格获得 Nvidia 的卡而获得胜利。

据我们的兄弟网站报道 下一个平台,Nvidia 的 H100 PCIe 卡——甚至不是最强大的 GPU 版本——已经 在 eBay 上售价高达 40,000 美元。

因此,如果英特尔能够降低在其加速器上部署人工智能工作负载的障碍,那么这家 x86 巨头理所当然应该更容易说服客户购买其部件,尤其是更昂贵的部件。

当然,采取这一策略的并非只有英特尔一家。 Nvidia 在 GPU 加速的软件开发和商业化方面已经取得了巨大成功。 去年,首席财务官科莱特·克雷斯 (Colette Kress) 强调了此类订阅软件对于将加速冠军的收入推向更高水平的重要性。 $ 1 万亿.

AMD 也更加积极地推出自己的 AI GPU 和加速器。 六月份的时候 详细 其 Instinct MI300 APU 和 GPU 旨在与 Nvidia 在 HPC 和 AI/ML 领域展开正面竞争。 除了新芯片之外,芯片制造商还 公布 与 Hugging Face 建立战略合作伙伴关系,该公司开发用于构建 ML 应用程序的工具,以优化 AMD Instinct GPU、Alveo FPGA 以及 Epyc 和 Ryzen CPU 的流行 AI 模型。 ®

时间戳记:

更多来自 注册