Nvidia dezvăluie o stație de lucru GPU mică, care consumă energie

Nvidia dezvăluie o stație de lucru GPU mică, care consumă energie

Marca temporală: 12 februarie 2024 4:57
Nvidia unveils small power-sipping workstation GPU PlatoBlockchain Data Intelligence. Vertical Search. Ai.

Nvidia și-a extins portofoliul de GPU-uri luni cu o placă de stație de lucru foarte mică despre care susține că oferă o creștere considerabilă a performanței în timp ce doar consumă putere, relativ vorbind.

Cu 2,816 de nuclee CUDA și 16 GB de memorie GDDR6 ECC, RTX 2000 Ada Poate că nu este cel mai puternic cip de stație de lucru Nvidia, dar factorul de formă cu două sloturi și jumătate de înălțime îl face unul dintre cele mai mici bazate pe micro-arhitectura Nvidia Ada Lovelace.

Nu este prima dată când vedem acest factor de formă de la Nvidia. GPU slinger-ul RTX A12 de 2000 GB, care a debutat în 2021, a prezentat un design similar în stil suflante, care a putut să se potrivească în unele sisteme foarte mici, cum ar fi HP Z2 G9 Mini.

În timp ce reîmprospătarea Ada menține același buget de putere de 70 W ca și predecesorul său, Nvidia susține că noua placă este cu aproximativ 30% mai rapidă în sarcinile de lucru grafice și cu până la 50% mai rapidă într-o varietate de sarcini de redare și AI, cum ar fi modelul de generare a imaginii Stable Diffusion. .

În ceea ce privește performanța brută, Nvidia susține cardul ca fiind capabil să stoarce aproximativ 12 teraFLOPS la o precizie unică sau aproximativ 192 teraFLOPS de FP8 rar de la GPU-ul AD107.

Dacă această matriță sună familiară, este aceeași folosită în GPU-urile de gaming Nvidia RTX 299 de 4060 USD, pe care le-am sa uitat la primavara trecuta. Nu este neobișnuit ca Nvidia (sau majoritatea caselor de cipuri) să recicleze matrițele pentru a fi utilizate în mai multe familii de produse, modificând configurația memoriei și/sau activând/dezactivând caracteristici pentru a crea diferențiere. De exemplu, L40 de la Nvidia folosește aceeași GPU moare ca RTX 4090.

Este o poveste similară pentru RTX 2000 Ada, care, pe lângă faptul că este mult mai mic decât RTX 4060, are de două ori memorie și un TDP mult mai mic, permițându-i să ruleze în întregime pe slotul PCIe. RTX 2000 Ada are mai puține nuclee CUDA și, probabil, ceasuri mai mici, totuși cardul nu este conceput pentru jocuri.

În schimb, linia de stații de lucru RTX a Nvidia - ceea ce obișnuia să numească GPU-urile sale Quadro - sunt certificate pentru utilizare cu sarcini profesionale, cum ar fi Solidworks, și de ce prezintă lucruri precum memoria ECC.

Vorbind despre memorie, buffer-ul de cadru mai mare al RTX 2000 Ada ar trebui să fie, de asemenea, la îndemână pentru cei care își măresc sarcinile de lucru creative sau de proiectare cu modele AI generative. Cu 16 GB de vRAM la bord, cardul ar trebui să poată găzdui cu ușurință modele cu 13 miliarde de parametri la FP8 și, potențial, chiar mai mari atunci când se profită de tehnici precum cuantizarea.

Acestea fiind spuse, magistrala de memorie pe 128 de biți a cardului s-ar putea dovedi oarecum limitatoare în ceea ce privește performanța. Puteți vedea fișa completă de specificații aici.

Dar, dacă tot ceea ce căutați este mai multă memorie pentru a rula modele de limbi mari la nivel local, există opțiuni mai ieftine și/sau mai performante, mai ales dacă puteți renunța la funcțiile stației de lucru ale Nvidia. Nvidia RTX 4070 TI Super și plăcile grafice AMD RX 7600XT, care a lansat la CES luna trecută, au și 16 GB de DRAM. Acesta din urmă poate fi avut pentru 329 USD, ceea ce îl face considerabil mai ieftin decât RTX 2000 Ada la 625 USD.

Dacă se întâmplă să căutați o placă mică de stație de lucru cu un exces de vRAM, atunci RTX 2000 Ada este disponibil acum de la o varietate de parteneri de placă Nvidia, inclusiv Arrow Electronics, PNY și Ingram Micro. Cardul va fi vândut și în stațiile de lucru pre-construite de la HP, Dell Tech și Lenovo începând din aprilie. ®

Timestamp-ul:

Mai mult de la Registrul