Nvidia 周三宣布收购以 AI 为中心的 Kubernetes 编排提供商 Run:ai,以帮助提高基于 GPU 构建的计算集群的效率。
详细 交易 没有透露,但是 据说 这笔交易的价值约为 700 亿美元。这家总部位于特拉维夫的初创公司 显然地 自 118 年成立以来,已通过四轮融资筹集了 2018 亿美元。
Run:ai 的平台提供了一个中央用户界面和控制平面,用于处理各种流行的 Kubernetes 变体。这使得它有点像 RedHat 的 OpenShift 或 SUSE 的 Rancher,并且它具有许多相同的工具来管理命名空间、用户配置文件和资源分配等内容。
关键区别在于 Run:ai 旨在与第三方 AI 工具和框架集成,并处理 GPU 加速容器环境。其软件产品组合包括工作负载调度和加速器分区等元素,后者允许多个工作负载分布在单个 GPU 上。
据 Nvidia 称,Run:ai 的平台已经支持其 DGX 计算平台,包括 Superpod 配置、Base Command 集群管理系统、NGC 容器库和 AI Enterprise 套件。
关于 AI,Kubernetes 声称比裸机部署有许多优势,因为可以将环境配置为处理跨多个可能分布在地理上的资源的扩展。
目前,现有的 Run:ai 客户不必担心 Nvidia 对该平台进行重大更改。在一个 释放,Nvidia 表示,在不久的将来,它将继续以相同的商业模式提供 Run:ai 的产品——无论这意味着什么。
与此同时,订阅 Nvidia DGX Cloud 的用户将可以访问 Run:ai 的 AI 工作负载功能集,包括大型语言模型 (LLM) 部署。
就在 GPU 巨头宣布这一消息一个多月后 亮相 用于构建 AI 模型的新容器平台称为 Nvidia Inference Microservices (NIM)。
NIMS 本质上是包含模型的预配置和优化的容器映像,无论是开源版本还是专有版本,以及运行该模型所需的所有依赖项。
与大多数容器一样,NIM 可以跨各种运行时部署,包括 CUDA 加速的 Kubernetes 节点。
将法学硕士和其他人工智能模型转变为微服务背后的想法是,它们可以联网在一起,用于构建更复杂、功能更丰富的人工智能模型,而无需自己训练专用模型,或者至少这就是 Nvidia 设想的人们使用的方式他们。
通过收购 Run:ai,Nvidia 现在拥有了一个 Kubernetes 编排层,用于管理这些 NIM 在其 GPU 基础设施中的部署。 ®
- :具有
- :是
- 2018
- a
- 关于
- 加速
- 加速器
- ACCESS
- 获得
- 横过
- 优点
- 后
- AI
- AI模型
- 目标
- 所有类型
- 分配
- 允许
- 已经
- an
- 和
- 公布
- 公告
- 保健
- AS
- At
- 基地
- BE
- 背后
- 位
- 加强
- 建立
- 建筑物
- 建
- 商业
- 商业模式
- 但是
- 被称为
- CAN
- 中央
- 更改
- 索赔
- 云端技术
- 簇
- CO
- 购买的订单均
- 命令
- 复杂
- 计算
- 计算
- 配置
- 容器
- 集装箱
- 继续
- 控制
- 可以
- 的CrunchBase
- 合作伙伴
- 处理
- 专用
- 依赖
- 部署
- 部署
- 部署
- 设计
- 详情
- 差异
- 分布
- 效率
- 努力
- 分子
- 企业
- 环境
- 环境中
- 设想
- 本质上
- 现有
- 专栏
- 特征
- 针对
- 公司成立
- 四
- 框架
- 资金
- 融资回合
- 未来
- 地理
- 得到
- 巨人
- GPU
- 处理
- 帮助
- 创新中心
- HTTPS
- 主意
- 图片
- 即时
- 威风
- in
- 包括
- 包含
- 基础设施
- 整合
- 接口
- 成
- IT
- 它的
- JPG
- 只是
- 键
- 语言
- 大
- 层
- 最少
- 自学资料库
- 喜欢
- LLM
- 主要
- 制作
- 管理
- 颠覆性技术
- 管理的
- 许多
- 可能..
- 意味着
- 某些金属
- 微服务
- 百万
- 模型
- 模型
- 月
- 更多
- 最先进的
- 多
- 必要
- 全新
- 南卡罗来纳州
- 节点
- 现在
- 数
- Nvidia公司
- of
- 提供
- on
- 打开
- 开放源码
- 优化
- or
- 管弦乐编曲
- 其他名称
- 除此以外
- 超过
- 平面
- 平台
- 平台
- 柏拉图
- 柏拉图数据智能
- 柏拉图数据
- 热门
- 个人档案
- 可能
- 可能
- 热销产品
- 简介
- 所有权
- 提供者
- 提供
- 凸
- 视
- 资源
- 资源
- 丰富
- περίπου
- 轮
- 运行
- 运行
- s
- 说
- 同
- 缩放
- 调度
- 集
- 自
- 单
- 软件
- 来源
- 传播
- 启动
- 套房
- 支持
- 系统
- 电话
- 比
- 这
- 其
- 他们
- 博曼
- 他们
- 事
- 第三方
- Free Introduction
- 那些
- 至
- 一起
- 工具
- 产品培训
- 谈到
- 下
- 用过的
- 用户
- 用户界面
- 运用
- 价值
- 各种
- 版本
- 是
- 周三
- 人
- 任何
- 是否
- 这
- 将
- 也完全不需要
- 加工
- 担心
- 将
- 您一站式解决方案
- 你自己
- 和风网