Nvidia avslöjar en liten kraftslukande arbetsstations GPU

Nvidia utökade sin GPU-portfölj i måndags med ett lite snålt arbetsstationskort som det hävdar ger en avsevärd höjning av prestanda samtidigt som de bara smutter på kraften, relativt sett.

Med 2,816 16 CUDA-kärnor och 6 GB GDDRXNUMX ECC-minne, RTX 2000 Ada kanske inte är Nvidias mest kraftfulla arbetsstationschip, men dess formfaktor med dubbla kortplatser och halvhöjd gör den till en av de minsta baserad på Nvidias Ada Lovelace-mikroarkitektur.

Det är inte första gången vi har sett den här formfaktorn från Nvidia. GPU-slingerns 12GB RTX A2000, som debuterade 2021, hade en liknande fläktdesign som kunde passa in i några allvarligt små system, som HP:s Z2 G9 Mini.

Medan Ada Refresh bibehåller samma 70W effektbudget som sin föregångare, hävdar Nvidia att det nya kortet är cirka 30 procent snabbare i grafikbelastning och upp till 50 procent snabbare i en mängd olika renderings- och AI-arbetsbelastningar, som den stabila bildgenereringsmodellen .

När det gäller rå prestanda, nämner Nvidia kortet som kapabelt att klämma runt 12 teraFLOPS med enkel precision eller cirka 192 teraFLOPS gles FP8 från dess AD107 GPU-matris.

Om den där tärningen låter bekant, är det samma som används i $299 Nvidia RTX 4060 gaming GPU:er, som vi tittade på förra våren. Det är inte ovanligt att Nvidia (eller de flesta chiphus) återvinner matriser för användning i flera produktfamiljer, ändrar minneskonfigurationen och/eller aktiverar/inaktiverar funktioner för att skapa differentiering. Till exempel använder Nvidias L40 samma GPU-matris som RTX 4090.

Det är en liknande historia för RTX 2000 Ada, som förutom att vara mycket mindre än RTX 4060, har dubbelt så mycket minne och en mycket lägre TDP, vilket gör att den kan köras helt från PCIe-platsen. RTX 2000 Ada har färre CUDA-kärnor och förmodligen lägre klockor, men kortet är inte designat med spel i åtanke.

Istället är Nvidias RTX-arbetsstationslinje - vad den brukade kalla sina Quadro GPU:er - certifierade för användning med professionella arbetsbelastningar, som Solidworks, och varför den har saker som ECC-minne.

På tal om minne så borde RTX 2000 Adas större rambuffert också vara praktisk för dem som utökar sina kreativa eller designmässiga arbetsbelastningar med generativa AI-modeller. Med 16 GB vRAM ombord borde kortet enkelt kunna rymma 13 miljarder parametermodeller vid FP8 och potentiellt ännu större när man drar fördel av tekniker som kvantisering.

Med det sagt kan kortets 128-bitars minnesbuss visa sig vara något begränsande när det gäller prestanda. Du kan se hela specifikationen här..

Men om allt du är ute efter är mer minne för att köra stora språkmodeller lokalt, finns det billigare och/eller mer presterande alternativ där ute, speciellt om du kan avstå från Nvidias arbetsstationsfunktioner. Nvidias RTX 4070 TI Super och AMD:s RX 7600XT grafikkort, som lanserades på CES förra månaden, har också 16 GB DRAM. Den senare kan köpas för $329, vilket gör den betydligt billigare än RTX 2000 Ada på $625.

Om du råkar leta efter ett litet arbetsstationskort med ett överskott av vRAM, så är RTX 2000 Ada tillgänglig nu från en mängd olika Nvidia-kortpartners, inklusive Arrow Electronics, PNY och Ingram Micro. Kortet kommer också att säljas i förbyggda arbetsstationer från HP, Dell Tech och Lenovo från och med april. ®

• SEO-drivet innehåll och PR-distribution. Bli förstärkt idag.
• PlatoData.Network Vertical Generative Ai. Styrka dig själv. Tillgång här.
• PlatoAiStream. Web3 Intelligence. Kunskap förstärkt. Tillgång här.
• Platoesg. Kol, CleanTech, Energi, Miljö, Sol, Avfallshantering. Tillgång här.
• PlatoHealth. Biotech och kliniska prövningar Intelligence. Tillgång här.
• Källa: https://go.theregister.com/feed/www.theregister.com/2024/02/12/nvidia_workstation_gpu/