Hajautetut laskentaverkot ratkaisemaan GPU-pula tekoälyssä: Messari

Hajautetut laskentaverkot ratkaisemaan GPU-pula tekoälyssä: Messari

Aikaleima: 23. kesäkuuta 2023 2
Hajautetut laskentaverkot GPU-pulaan tekoälyssä: Messari PlatoBlockchain Data Intelligence. Pystysuuntainen haku. Ai.

Tekoälyn puomi venyttää sirujen valmistusteollisuuden äärirajoilleen, mikä johtaa pulaan GPU:ista – koneoppimismalleja (ML) käyttävistä perusprosessointiyksiköistä. 

Salaustutkimus- ja dataasiantuntijayritys Messarin mukaan hajautetut laskentaverkot voisivat tarjota valmiin ratkaisun.

Kasvava kysyntä ja GPU-vaatimukset

Messarin uusi raportti tarkastelee Nvidian kaltaisten siruvalmistajien kohtaamia haasteita, jotka kamppailevat kysynnän tahdissa tekoälymanian seurauksena. Tkorkeat kustannukset ja rajallinen sirujen saatavuus aiheuttavat huolta tekoälysovellusten tulevasta käyttöönotosta.

Tekoälyteollisuus on riippuvainen GPU:ista, jotka ovat "välttämättömiä ML-mallien koulutuksessa ja kyselyissä", Messari sanoo. Myynnin piikki on johtanut siihen, että valmistajat eivät pysy perässä, mikä on johtanut pulaan.

Valoa saattaa kuitenkin näkyä tunnelin päässä, sillä ratkaisu voi olla jo olemassa hajautettujen laskentaverkkojen muodossa.

"Hajautetut laskentaverkot tarjoavat lupaavan ratkaisun yhdistämällä entiteettejä käyttämättömällä laskentateholla, mikä vähentää GPU-pulaa", Messari twiittasi. Keskiviikko.

On olemassa useita kryptovaluuttojen laskentaprojekteja, jotka voivat auttaa tyydyttämään kysyntää.

Mallin koulutus- ja hienosäätöpuolella Messari viittaa Gensyn ja Yhdessä. Mallipäätelmän puolella Messarin mainitsemia projekteja ovat mm Giza, tehdä, ChainML, Modulus Labs ja Bittensor.

Yleisimmät laskentaverkot ovat Akash, Kiitti, iExec, Truebit, bacalhau ja Vuo.

Messarin mukaan käyttämättömien GPU:iden tehoa hyödyntämällä huippuluokan GPU:iden kysyntää voidaan vähentää, mikä vähentää kustannuksia ja parantaa tekoälykehittäjien käytettävyyttä.

Kokonainen sipsejä

Viime raportti Tutkimusyhtiö TrendForce paljastaa, että ChatGPT saattaa vaatia yli 30,000 XNUMX GPU:ta Nvidialta harjoitustietojen tehokkaaseen käsittelyyn.

TrendForcen arviot perustuvat laskennallisiin kykyihin Nvidian A100 näytönohjain, jonka hinta on 10,000 15,000–300 XNUMX dollaria. Nvidia tuottaa merkittäviä tuloja, mahdollisesti jopa XNUMX miljoonaa dollaria ChatGPT:n ruokkiman suuren kysynnän ansiosta.

GPU:iden kysyntä tekoälyssä kasvaa eksponentiaalisesti, kun ML-malleista tulee monimutkaisempia, mikä edellyttää suurempia parametrimalleja ja lisääntynyttä laskentatehoa. Muuntajien tulo ja niiden soveltaminen kielimallinnukseen on lisännyt laskentavaatimuksia entisestään kaksinkertaistaen nämä vaatimukset 3-6 kuukauden välein. 

Poliittiset jännitteet ja GPU-tarjontarajoitteet

A Newtown blogi hajautetun tietojenkäsittelyn yhteydessä AI ja ML ehdottaa sitä poliittisia jännitteitä myötävaikuttaa GPU:n tarjonnan rajoituksiin. Puolijohteiden tuotanto perustuu monimutkaiseen pinoon mekaanisia, fysikaalisia, kemiallisia, logistisia ja kaupallisia tekijöitä. 

Taiwanilla, jonka osuus puolijohdevalimomarkkinoista on 63 prosenttia, on vahva asema maailmanlaajuisessa toimitusketjussa. Yhdysvaltojen ja Kiinan väliset geopoliittiset jännitteet luovat kuitenkin epävarmuutta ja mahdollisia uhkia puolijohdeteollisuudelle, mikä korostaa tarvetta monipuolistaa toimitusketjuja.

Blogi vahvistaa lisäksi, että pilvipalveluntarjoajat, kuten AWS, GCP ja Azure, tarjoavat GPU-vuokraa, mutta tarvitsevat apua hinnoittelussa ja saatavuudessa. 

Jatkuvat katkerat suhteet Yhdysvaltojen ja Kiinan välillä tarjoavat siksi merkittävän mahdollisuuden hajautetuille laskentaverkoille.

JAA TÄMÄ POSTAUS

Aikaleima:

Lisää aiheesta MetaNews