Nvidia 与 RTX 的对话：为设备端人工智能奠定基础还是功亏一篑？

• Nvidia Chat with RTX 是一种设备上的大型语言模型，它使用 PC 上的信息来满足您的请求。 

• 它还可以用于互联网上的数据，例如网页。

•  尽管该模型很有能力，但人们认为它的能力被大大夸大了。

英伟达正在超越其传统角色，将自己打造成关键参与者，从而加大对人工智能革命的参与力度。在一场充满重大公告的开发者大会之后，Nvidia 推出了一款用于测试的新产品：Nvidia Chat with RTX。

这种设备上的大语言模型完全在您的 PC 上运行，使用本地信息来响应请求。与三星的 Galaxy AI 类似，随 Galaxy S24系列Nvidia Chat with RTX 可以在设备上处理大多数 AI 任务，将这种功能带到了 PC 上，有可能重塑我们处理 AI、Transformers 和大型语言模型 (LLM) 的方法。

与 RTX 聊天

Chat with RTX 是您 PC 上的人工智能聊天机器人。作为旧版软件安装，它提供了一个了解您电脑上所有数据的聊天机器人。因此，无论您是想回忆 2022 年 17 月月末报告中的某些内容，还是您在 2019 年 XNUMX 月 XNUMX 日晚上预订晚餐的地方，如果您的 PC 上有这些信息，Chat with RTX 都可以将其带入向上。

设备端人工智能的优势

速度： Chat with RTX 的最大优势之一是处理速度。在设备上进行所有处理意味着您的互联网连接速度变得无关紧要。你甚至不需要一个！与现有的数字或人工智能助手相比，这是向前迈出的一大步。

隐私： 处理所有设备信息在隐私方面也具有很大的优势。所有信息均经过处理并保存在设备上，让所有者完全控制和保管。没有第三方可以有意或无意地查看、整理、挖掘、出售或泄露您的数据给其他任何人。

安全性： 数据的托管还带来了安全方面的优势。无需登录某处或发送信息，您最终可以提高安全性。信息永远不需要传输或存储在其他地方，即使是暂时的。

定制： 另一个明显的优势是定制。 Chat with RTX 的工作原理是基于您计算机上存储的信息，本质上相当于一个接受过您的数据和信息培训的法学硕士。无论您的大部分信息是文档、静态图像还是视频，IT 都是特定于您和您的数据的聊天机器人。

灵活性： 与 RTX 聊天不仅限于您设备上的数据；它还可以用于互联网上的数据，例如网页。因此，您可以要求 Chat with RTX 在网页上挖掘一些信息，它会提供结果，而这一切都不会影响安全或隐私方面。还值得注意的是，这只是一个开始。

细节中的魔鬼

使用 RTX 运行 Chat 的系统要求在需求方。目前，它仅适用于 Windows PC，暂时将 MacOS 和 Linux 排除在外。它仅适用于运行 Windows 11 的电脑。

至少 16GB 的 RAM 和 35GB 的文件大小意味着您需要相当强大的系统才能使用它。除此之外，系统还需要 Nvidia GeForce RTX 30 或 40 系列 GPU 才能在机器上正常运行。系统要求有点偏高，但仍然可以满足许多中档个人电脑和笔记本电脑的要求。

混合评论

首次提供与 RTX 的聊天功能 19 年 2024 月 XNUMX 日进行测试。它的评论与 Nvidia 的演示和交流有些不同。尽管该模型很有能力，但人们认为它的能力被大大夸大了。大文件大小和高要求与输出不匹配。

它可以完成很多任务，但做得不好。作为新想法的第一次尝试，这是可以理解的。随着这些事情的发展，我们应该期待未来的改进。庞大的尺寸和繁重的系统要求是他们应该努力解决的两个领域，同时也以性能改进为目标。

虽然支持者已经开始将 Chat with RTX 视为 Chat GPT 和 Google Gemini 终结的开始，但使用它的人的经验表明，距离这种情况的发生还需要相当长的时间。法学硕士和变压器需要大量的处理能力和培训来配合。

期望 PC 上的本地安装能够提供与您最喜欢的生成式人工智能背后的数据中心一样好的效果，但要求太高太快了。然而，对于企业来说，这确实带来了一些可以很快兑现的承诺。

规模合理的公司可以为其员工提供自己的法学硕士系统。这将有广泛的应用，但显然，信息密集型行业的工作流程有很多好处。

 定制、隐私和安全的优势对于企业用户来说非常有价值。因此，虽然短期内在个人电脑上开设法学硕士的想法还没有完全准备好与同类最佳的竞争，但我们可以在中短期内看到为企业用户提供个性化的法学硕士。

设备端人工智能时代

Nvidia Chat with RTX 的推出标志着我们正在迈向设备端人工智能时代。三星 S24 与 Galaxy AI 一起处理了设备上的大部分任务。

现在 Nvidia 为我们提供了完全的设备上处理。根据一些评论，该产品还不够好。也就是说，很少有首次产品是这样的。 Nvidia 无疑已经通过 Chat with RTX 解决了这一问题。

• SEO 支持的内容和 PR 分发。 今天得到放大。
• PlatoData.Network 垂直生成人工智能。 赋予自己力量。 访问这里。
• 柏拉图爱流。 Web3 智能。 知识放大。 访问这里。
• 柏拉图ESG。 碳， 清洁科技, 能源， 环境， 太阳能， 废物管理。 访问这里。
• 柏拉图健康。 生物技术和临床试验情报。 访问这里。
• Sumber: https://web3africa.news/2024/04/12/news/nvidia-chat-with-rtx-on-device-ai/