Réseaux de calcul décentralisés pour lutter contre la pénurie de GPU dans l'IA : Messari

Réseaux de calcul décentralisés pour lutter contre la pénurie de GPU dans l'IA : Messari

Réseaux de calcul décentralisés pour lutter contre la pénurie de GPU dans l'IA : Messari PlatoBlockchain Data Intelligence. Recherche verticale. Aï.

Le boom de l'intelligence artificielle pousse l'industrie de la fabrication de puces à ses limites, entraînant une pénurie de GPU - les unités de traitement de base qui alimentent les modèles d'apprentissage automatique (ML). 

Selon la société Messari, spécialisée dans la recherche et les données cryptographiques, les réseaux de calcul décentralisés pourraient présenter une solution prête à l'emploi.

Demande croissante et exigences GPU

Un nouveau rapport de Messari examine les défis auxquels sont confrontés les fabricants de puces tels que Nvidia, qui ont du mal à répondre à la demande à la suite de la folie de l'IA. JLes coûts élevés et la disponibilité limitée des puces posent des problèmes pour le déploiement futur des applications d'IA.

L'industrie de l'IA dépend des GPU qui sont "essentiels pour la formation et l'interrogation des modèles ML", explique Messari. La flambée des ventes a empêché les fabricants de suivre le rythme, ce qui a entraîné une pénurie .

Cependant, il peut y avoir de la lumière au bout du tunnel, car une solution peut déjà exister sous la forme de réseaux de calcul décentralisés.

"Les réseaux de calcul décentralisés offrent une solution prometteuse en connectant des entités avec une puissance de calcul inactive, atténuant la pénurie de GPU", a tweeté Messari sur Mercredi.

Il existe un certain nombre de projets de calcul de crypto-monnaie qui pourraient intervenir pour aider à satisfaire la demande.

Du côté de la formation et de la mise au point des modèles, Messari souligne Gensin ainsi que les Ensemble. Sur les projets parallèles d'inférence de modèle vantés par Messari, citons Giza, Rendre, ChaîneML, Laboratoires de module ainsi que les Bittenseur.

Les réseaux de calcul à usage plus général sont Akash, Miracle, iExec, Bit vrai, Morue ainsi que les Flux.

Selon Messari, en exploitant la puissance des GPU inactifs, la demande de GPU haut de gamme peut être atténuée, réduisant les coûts et améliorant l'accessibilité pour les développeurs d'IA.

Un tas de chips

Une rapport par la société de recherche TrendForce, révèle que ChatGPT peut nécessiter plus de 30,000 XNUMX GPU de Nvidia pour traiter efficacement ses données de formation.

Les estimations de TrendForce sont basées sur les capacités de calcul de A100 de Nvidia carte graphique, dont le prix se situe entre 10,000 15,000 $ et 300 XNUMX $. Nvidia devrait générer des revenus substantiels, pouvant atteindre XNUMX millions de dollars, en raison de la forte demande alimentée par ChatGPT.

La demande de GPU dans l'IA connaît une croissance exponentielle à mesure que les modèles ML deviennent plus complexes, nécessitant des modèles de paramètres plus grands et une puissance de calcul accrue. L'avènement des transformateurs et leur application dans la modélisation du langage a encore amplifié les exigences de calcul, doublant ces exigences tous les 3 à 6 mois. 

Tensions politiques et contraintes d'approvisionnement en GPU

A Blog de Newtown sur l'informatique décentralisée en AI et ML suggère que tensions politiques contribuent aux contraintes d'approvisionnement en GPU. La production de semi-conducteurs repose sur un ensemble complexe de facteurs mécaniques, physiques, chimiques, logistiques et commerciaux. 

Taïwan, qui représente 63 % du marché de la fonderie de semi-conducteurs, détient un bastion dans la chaîne d'approvisionnement mondiale. Cependant, les tensions géopolitiques entre les États-Unis et la Chine créent des incertitudes et des menaces potentielles pour l'industrie des semi-conducteurs, soulignant la nécessité de chaînes d'approvisionnement diversifiées.

Le blog confirme en outre que les fournisseurs de cloud, tels qu'AWS, GCP et Azure, proposent des locations de GPU mais ont besoin d'aide en matière de tarification et de disponibilité. 

La poursuite des relations conflictuelles entre les États-Unis et la Chine présente donc une opportunité importante pour les réseaux de calcul décentralisés.

PARTAGER CETTE PUBLICATION

Horodatage:

Plus de MétaActualités