Discussion de Nvidia avec RTX : préparer le terrain pour l'IA sur l'appareil ou échouer ?

Discussion de Nvidia avec RTX : préparer le terrain pour l'IA sur l'appareil ou échouer ?

Horodatage: 12 avril 2024 1:00
Discussion de Nvidia avec RTX : préparer le terrain pour l'IA sur l'appareil ou échouer ? Intelligence des données PlatoBlockchain. Recherche verticale. Aï.
  • Nvidia Chat avec RTX est un modèle de langage étendu sur l'appareil qui utilise les informations de votre PC pour répondre à vos demandes. 
  • Il peut également être utilisé sur des données sur Internet, telles que des pages Web.
  •  Bien que le modèle soit capable, les gens suggèrent que ses capacités sont grandement exagérées.

Nvidia intensifie son implication dans la révolution de l’IA en dépassant son rôle traditionnel et en s’imposant comme un acteur incontournable. Suite à une conférence de développeurs remplie d'annonces importantes, Nvidia a présenté un nouveau produit à tester : Nvidia Chat with RTX.

Ce grand modèle linguistique intégré à l'appareil fonctionne entièrement sur votre PC, en utilisant les informations locales pour répondre aux demandes. Semblable au Galaxy AI de Samsung, lancé avec le Série Galaxy S24, qui gérait la plupart des tâches d'IA sur l'appareil, Nvidia Chat avec RTX apporte cette fonctionnalité aux PC, remodelant potentiellement notre approche de l'IA, des transformateurs et des grands modèles de langage (LLM).

Discutez avec RTX

Discutez avec RTX est un chatbot IA sur votre PC. Installé en tant que logiciel existant, il fournit un chatbot qui connaît toutes les données de votre PC. Ainsi, que vous essayiez de vous souvenir de quelque chose du rapport de fin de mois d'octobre 2022 ou de l'endroit où vous avez réservé un dîner dans la nuit du 17 février 2019, si l'information est sur votre PC, Chat avec RTX pourra l'apporter en haut.

Avantages de l'IA sur appareil

La vitesse: L'un des plus grands avantages de Chat avec RTX est la rapidité de traitement. Effectuer tout le traitement sur l'appareil signifie que la vitesse de votre connexion Internet n'a plus d'importance. Vous n’en avez même pas besoin ! Il s’agit d’une avancée majeure par rapport aux assistants numériques ou IA existants.

Intimité: Le traitement de toutes les informations sur les appareils présente également un grand avantage en termes de confidentialité. Toutes les informations sont traitées et conservées sur l'appareil, donnant au propriétaire un contrôle et une garde complets. Aucun tiers ne peut consulter, rassembler, extraire, vendre ou divulguer vos données à quiconque, intentionnellement ou non.

Sécurité :  La conservation des données apporte également des avantages en matière de sécurité. Sans avoir besoin de vous connecter quelque part ni d'envoyer des informations, vous augmentez en fin de compte la sécurité. Les informations ne doivent jamais voyager ou être stockées ailleurs, même temporairement.

Personnalisation: Un autre avantage évident est la personnalisation. Chat avec RTX fonctionne sur la base des informations stockées sur votre ordinateur, agissant essentiellement comme un LLM formé sur vos données et informations. Que la majeure partie de vos informations soit constituée de documents, d'images fixes ou de vidéos, l'informatique est un chatbot spécifique à vous et à vos données.

Flexibilité: Le chat avec RTX ne se limite pas aux données de votre appareil ; il peut également être utilisé sur des données sur Internet, telles que des pages Web. Ainsi, vous pouvez demander à Chat with RTX de rechercher des informations sur une page Web, et cela fournira des résultats, le tout sans compromettre les aspects de sécurité ou de confidentialité. Il convient également de noter que ce n’est que le début.

Diable dans les détails

La configuration système requise pour exécuter Chat avec RTX dépend de la demande. Actuellement, il n’est disponible que pour les PC Windows, laissant MacOS et Linux de côté pour le moment. Il n'est disponible que pour les PC exécutant Windows 11.

Un minimum de 16 Go de RAM et une taille de fichier de 35 Go signifient que vous avez besoin d'un système assez puissant pour l'utiliser. En plus de tout cela, le système nécessite également un GPU Nvidia GeForce RTX série 30 ou 40 pour bien fonctionner sur une machine. La configuration système requise est un peu lourde mais reste à la portée de nombreux PC et ordinateurs portables de milieu de gamme.

Critiques mitigées

Le chat avec RTX a été rendu disponible pour la première fois pour test le 19 février 2024. Ses critiques diffèrent quelque peu des démos et de la communication provenant de Nvidia. Bien que le modèle soit capable, les gens suggèrent que ses capacités sont grandement exagérées. La grande taille du fichier et les exigences élevées ne sont pas satisfaites par la sortie.

Il peut accomplir de nombreuses tâches, mais il ne les accomplit pas correctement. Ceci est compréhensible comme un premier essai d’une nouvelle idée. À mesure que ces choses progressent, nous devrions nous attendre à des améliorations à l’avenir. La taille imposante et les exigences système élevées sont deux domaines sur lesquels ils devraient travailler tout en ciblant également l'amélioration des performances.

Alors que les partisans ont commencé à parler de Chat avec RTX comme du début de la fin pour Chat GPT et Gemini de Google, les expériences de ceux qui l'ont utilisé suggèrent que nous sommes encore loin d'être le cas. Les LLM et les transformateurs nécessitent une grande quantité de puissance de traitement et une formation pour les accompagner.

S'attendre à ce qu'une installation locale sur un PC soit aussi performante que les centres de données derrière votre IA générative préférée, c'est en demander trop, trop tôt. Toutefois, pour les entreprises, cela constitue une promesse qui pourra bientôt se concrétiser.

Une entreprise de taille raisonnable pourrait alimenter son propre système LLM pour son personnel. Cela aurait de vastes applications, mais il est clair que les avantages du flux de travail dans les industries à forte concentration d'informations sont nombreux.

 Les avantages de la personnalisation, de la confidentialité et de la sécurité seraient très précieux pour les utilisateurs en entreprise. Ainsi, même si l'idée d'un LLM sur votre PC n'est pas tout à fait prête à rivaliser avec les meilleurs de sa catégorie dans l'immédiat, nous pourrions voir des LLM personnalisés pour les utilisateurs d'entreprise à court et moyen terme.

L’ère de l’IA sur appareil

La disponibilité du chat de Nvidia avec RTX signale que nous nous dirigeons vers l’ère de l’IA sur appareil. La gamme Samsung S24 avec Galaxy AI a traité la majorité des tâches sur l'appareil.

Nvidia nous offre désormais un traitement entièrement sur l'appareil. Selon certaines critiques, le produit n'est pas encore assez bon. Cela dit, très peu de produits pour la première fois le sont. Nvidia a certainement jeté le chat parmi les pigeons avec Chat with RTX.

Horodatage:

Plus de Web 3 Afrique