Nvidia חושפת את 'H200' עם יכולות AI מתקדמות

יצרנית השבבים Nvidia הציגה את ערכת השבבים H200, שתגביר את הביצועים עבור דגמי שפה גדולים (LLMs) ותטפל במערכות AI גדולות יותר.

השבב החדש הוא שדרוג משמעותי מה-H100, עם מהירות כמעט כפולה כמו גם יכולות גבוהות יותר. Nvidia ציינה שהשבב המשודרג יתחיל לצאת בשנת 2024.

הפרטים

השבב החדש מחליף את הנוכחי H100 ערכת שבבים עם שדרוגים משמעותיים, במיוחד זיכרון ברוחב פס גבוה, אלמנט משמעותי המגדיר את מהירות עיבוד הנתונים.

ה-H200 מגיע בצורה של זיכרון, הופך ל-GPU הראשון לבוא עם טכנולוגיית HBM3e. הוא מוטבע עם 141 ג'יגה-בייט של זיכרון במהירות של 4.8 טרה-בייט לשנייה, וזה הרבה יותר מאשר H100 עם קיבולת של 80 GB.

לפי Nvidia, שטח זיכרון גדול יותר ורכיבי עיבוד מהירים נועדו לאפשר תגובות טובות ומהירות יותר משירותי AI.

Nvidia לא ציינה אף ספק זיכרון עבור ערכת השבבים החדשה, אך ייתכן שמתחרים אפשריים כמו Micron Technology סיפקו את הזיכרון, על פי Jagran אנגלית.

ככל שמירוץ הבינה המלאכותית נמשך, שבב H200 תוכנן לתת מענה לביקוש גבוה ליעילות טובה יותר ויכולות חזקות יותר.

מבוסס על ארכיטקטורת NVIDIA Hopper, ה-NVIDIA HGX H200 כולל את NVIDIA H200 Tensor Core GPU עם זיכרון מתקדם לטיפול בכמויות אדירות של נתונים עבור AI #HPC עומסי עבודה. #SC23

— NVIDIA Data Center (@NVIDIADC) 13 בנובמבר 2023

שמות גדולים בצנרת

Microsoft Azure, Oracle cloud infrastructure, Google Cloud ו- Amazon Web Services מהווים את ספקי שירותי הענן הראשוניים שיציעו גישה לשבב מבוסס H200 ברבעון השני של 2024. זאת בנוסף לספקיות הענן המתמחות בינה מלאכותית, Lambda, CoreWeave , ווולטר.

"כשאתה מסתכל על מה שקורה בשוק, גדלי הדגמים מתרחבים במהירות... זה עוד אחד מאיתנו שממשיך להציג במהירות את הטכנולוגיה העדכנית והטובה ביותר", דיון האריס, ראש שיווק מוצרי מרכז נתונים ב- Nvidia, צוטט כאומר.

לדברי יצרנית השבבים, ה-H200 החדש יוביל ל"חיזוק ביצועים שיכלול כמעט הכפלת מהירות ההפרעות ב-Llama 2 של Meta".

גם לקרוא: China International Import Expo מציג AI ו- Metaverse Devices

החשיבות

ה-H200 החדש מגיע באמצע הגבלות יצוא של ארה"ב על שבבים יוקרתיים, מה שעלול להשפיע על ענקית ייצור השבבים.

זה מגיע כאשר לפי הערכות 20% עד 25% מהכנסות מרכז הנתונים של Nvidia מגיעות מסין. אבל לחברה יש השהה הזמנות שבבי בינה מלאכותיות חדשות מהכלכלה האסייתית והפנה את המערכות שלה לשווקים אחרים.

לאחר ההכרזה על ערכת השבבים H200, מניית Nvidia זינקה ב-1.5%, והגיעה ל-486 דולר ב-13 בנובמבר, שהם 12 דולר בהשוואה לשיא של 502 דולר בכל הזמנים.

על בסיס שנה עד היום, המונה זינק ביותר מ-250%. גם מסלול הצמיחה של החברה נשאר חזק, והיא צופה הכנסות של 16 מיליארד דולר ברבעון השלישי הפיסקאלי שלה, שהוא בערך עלייה של 170% לעומת השנה הקודמת.

Nvidia שולטת בכ-80% מה- שוק גלובלי עבור שבבי AI. חברות כמו יצרנית ChatGPT OpenAI ו-Stability AI מסתמכות במידה רבה על טכנולוגיית Nvidia.

[תוכן מוטבע]

• הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
• PlatoData.Network Vertical Generative Ai. העצים את עצמך. גישה כאן.
• PlatoAiStream. Web3 Intelligence. הידע מוגבר. גישה כאן.
• PlatoESG. פחמן, קלינטק, אנרגיה, סביבה, שמש, ניהול פסולת. גישה כאן.
• PlatoHealth. מודיעין ביוטכנולוגיה וניסויים קליניים. גישה כאן.
• מקור: https://metanews.com/nvidia-unveils-h200-with-advanced-ai-capabilities/