Беседа Nvidia с RTX: готовим почву для искусственного интеллекта на устройствах или терпим неудачу?

• Nvidia Chat с RTX — это встроенная в устройство модель большого языка, которая использует информацию на вашем компьютере для выполнения ваших запросов. 

• Его также можно использовать для данных в Интернете, например веб-страниц.

•  Хотя модель способна, люди предполагают, что ее возможности сильно преувеличены.

Nvidia активизирует свое участие в революции искусственного интеллекта, выходя за рамки своей традиционной роли и становясь ключевым игроком. После конференции разработчиков, наполненной важными объявлениями, Nvidia представила для тестирования новый продукт: Nvidia Chat с RTX.

Эта встроенная в устройство модель большого языка полностью работает на вашем ПК, используя локальную информацию для ответа на запросы. Подобно Samsung Galaxy AI, выпущенному вместе с Galaxy S24 серия, который решал большинство задач искусственного интеллекта на устройстве, Nvidia Chat с RTX переносит эту возможность на ПК, потенциально меняя наш подход к искусственному интеллекту, трансформерам и моделям большого языка (LLM).

Чат с RTX

Чат с RTX — это чат-бот с искусственным интеллектом на вашем компьютере. Установленное как устаревшее программное обеспечение, оно предоставляет чат-бот, который знает все данные на вашем компьютере. Итак, пытаетесь ли вы вспомнить что-то из отчета на конец месяца за октябрь 2022 года или где вы забронировали столик на ужин в ночь на 17 февраля 2019 года, если информация есть на вашем компьютере, Chat with RTX сможет ее найти. вверх.

Преимущества искусственного интеллекта на устройстве

Скорость: Одним из самых больших преимуществ Chat с RTX является скорость обработки. Выполнение всей обработки на устройстве означает, что скорость вашего интернет-соединения становится несущественной. Вам он даже не нужен! Это большой шаг вперед по сравнению с существующими цифровыми помощниками или помощниками с искусственным интеллектом.

Конфиденциальность: Обработка всей информации об устройстве также имеет большое преимущество с точки зрения конфиденциальности. Вся информация обрабатывается и хранится на устройстве, предоставляя владельцу полный контроль и хранение. Не существует третьей стороны, которая может просматривать, сопоставлять, добывать, продавать или передавать ваши данные кому-либо еще, намеренно или иным образом.

Безопасность: Хранение данных также дает преимущества в плане безопасности. Без необходимости куда-то входить в систему или отправлять информацию вы в конечном итоге повышаете безопасность. Информацию никогда не придется перемещать или хранить где-либо еще, даже временно.

Производство на заказ: Еще одним явным преимуществом является индивидуализация. Чат с RTX работает на основе информации, хранящейся на вашем компьютере, по сути, действуя как LLM, обученный вашим данным и информации. Независимо от того, составляют ли большую часть вашей информации документы, неподвижные изображения или видео, ИТ-отдел — это чат-бот, специально предназначенный для вас и ваших данных.

Гибкость: Чат с RTX не ограничивается данными на вашем устройстве; его также можно использовать для данных в Интернете, например веб-страниц. Таким образом, вы можете попросить Chat with RTX найти некоторую информацию на веб-странице, и он предоставит результаты, и все это без ущерба для аспектов безопасности или конфиденциальности. Также стоит отметить, что это только начало.

Дьявол в деталях

Системные требования для запуска Chat с RTX находятся на стороне спроса. В настоящее время он доступен только для ПК с Windows, оставляя MacOS и Linux пока в стороне. Он доступен только для компьютеров под управлением Windows 11.

Минимум 16 ГБ ОЗУ и размер файла 35 ГБ означают, что для его использования вам понадобится довольно мощная система. В дополнение ко всему этому для хорошей работы системы также требуется графический процессор Nvidia GeForce RTX 30 или 40-й серии. Системные требования немного высоки, но все же доступны для многих ПК и ноутбуков среднего класса.

Смешанные отзывы

Чат с RTX впервые стал доступен на тестирование 19 февраля 2024 г.. Его обзоры несколько отличаются от демонстраций и сообщений Nvidia. Хотя модель способна, люди предполагают, что ее возможности сильно преувеличены. Большой размер файла и высокие требования не соответствуют выходным данным.

Он может выполнять множество задач, но делает их не очень хорошо. Это понятно, поскольку это первый шаг к новой идее. При таком развитии событий нам следует ожидать улучшений в будущем. Огромный размер и тяжелые системные требования — это две области, над которыми им следует работать, одновременно стремясь к повышению производительности.

Хотя сторонники начали говорить о Chat с RTX как о начале конца Chat GPT и Google Gemini, опыт тех, кто его использовал, показывает, что до этого еще далеко. LLM и трансформаторы требуют больших вычислительных мощностей и обучения для этого.

Ожидать, что локальная установка на ПК будет работать так же хорошо, как и центры обработки данных, стоящие за вашим любимым генеративным искусственным интеллектом, — значит требовать слишком многого и слишком рано. Однако для предприятий это все же дает определенные надежды, которые могут быть реализованы в ближайшее время.

Компания разумного размера может создать собственную систему LLM для своих сотрудников. Это будет иметь широкое применение, но очевидно, что преимуществ для рабочего процесса в отраслях, насыщенных информацией, много.

 Преимущества настройки, конфиденциальности и безопасности будут очень ценны для корпоративных пользователей. Таким образом, хотя идея LLM на вашем ПК не совсем готова конкурировать с лучшими в своем классе в ближайшем будущем, мы можем увидеть персонализированные LLM для корпоративных пользователей в краткосрочной и среднесрочной перспективе.

Эпоха искусственного интеллекта на устройствах

Доступность чата Nvidia с RTX сигнализирует о том, что мы приближаемся к эпохе искусственного интеллекта на устройствах. Линейка Samsung S24 с помощью Galaxy AI обрабатывает большинство задач на устройстве.

Теперь Nvidia предоставляет нам возможность полностью выполнять обработку на устройстве. По некоторым отзывам продукт еще недостаточно хорош. Тем не менее, очень мало новых продуктов. Nvidia определенно бросила кота среди голубей, выпустив Chat с RTX.

• SEO-контент и PR-распределение. Получите усиление сегодня.
• PlatoData.Network Вертикальный генеративный ИИ. Расширьте возможности себя. Доступ здесь.
• ПлатонАйСтрим. Интеллект Web3. Расширение знаний. Доступ здесь.
• ПлатонЭСГ. Углерод, чистые технологии, Энергия, Окружающая среда, Солнечная, Управление отходами. Доступ здесь.
• ПлатонЗдоровье. Биотехнологии и клинические исследования. Доступ здесь.
• Источник: https://web3africa.news/2024/04/12/news/nvidia-chat-with-rtx-on-device-ai/