Dell rakar bort ledtider i månader för GPU-drivna AI-servrar

Dell rakar bort ledtider i månader för GPU-drivna AI-servrar

Tidsstämpel: 11 april 2024 12:00
Dell rakar bort ledtider i månader för GPU-drivna AI-servrar PlatoBlockchain Data Intelligence. Vertikal sökning. Ai.

Dells ledtider för datorer med GPU:er som Nvidias H100 har kommit ner till åtta till 12 veckor, en betydande minskning från nästan 40 veckor i slutet av förra året.

Dell Taiwans Terence Liao sa att även om AI-driven efterfrågan på GPU:er är fortsatt hög i Taiwan (och på andra håll, verkar det som), har företaget äntligen kunnat minska leveranstiderna, enligt en rapport från United Daily News. I slutet av 2023 uppskattade Dell ett ledtid på 39 veckor för leveranser av servrar som drivs av Nvidias H100 GPU:er.

Liao sa att GPU-tillförseln har förbättrats sedan februari och därmed minskat leveranstiderna avsevärt. Detta var tack vare ökad produktion för TSMC:s chip-on-wafer-on-substrat (CoWoS) förpackningstjänst, en viktig flaskhals i skapandet av datacenter GPU:er som H100. I september förra året var efterfrågan så stor på den avancerade förpackningstekniken att TSMC sa att det bara kunde uppfylla 80 procent av beställningarna.

I enlighet med en tidigare rapport i november från United Daily News satte TSMC för sig att utöka sin CoWoS-produktionskapacitet med 20 procent. Med tanke på att TSMC uppskattade att CoWoS-bristen skulle pågå i 18 månader i september, har denna ökning på 20 procent troligen inte till fullo uppfyllt efterfrågan, men har fortfarande sannolikt mildrat utbudsbegränsningar. Den senaste jordbävningen i Taiwan har inte påverkat utbudet från TSMC:s CoWoS-fabriker.

Situationen verkar också förbättras för Dell-konkurrenten HPE, som citerade en 20 veckor eller så ledtid förra månaden. Som jämförelse sa marknadsanalysföretaget Omdia i november att ledtiderna för hela serverbranschen varierade från 36 veckor till ett helt år. Även om HPE hade en relativt låg ledtid på 36 veckor, är en minskning till 20 veckor en stor sak.

HPE:s verksamhet led dock på grund av att den gick miste om all den potentiella GPU-försäljningen, och säger att dess orderstock nu är värd 3 miljarder USD. Det är inte ett hemskt problem att ha, allt med tanke på.

På lång sikt bör den avancerade förpackningsbristen mildras genom att nya förpackningsanläggningar byggs. TSMC planerar att börja bygga för en ny CoWoS-anläggning i norra Taiwan under andra halvåret 2024, med ett färdigställandedatum satt till tredje kvartalet 3. Dessutom kan förpackningstjänster från Samsung och Intel öka produktionen ytterligare och ta potentiella affärer bort från TSMC om de inte kan utöka sin CoWoS-produktionskapacitet snabb nog. ®

Tidsstämpel:

Mer från Registret