Nvidia הודיעה ביום רביעי על רכישת ספקית התזמורת Kubernetes המתמקדת ב-AI, Run:ai, במאמץ לסייע בחיזוק היעילות של אשכולות מחשוב הבנויים על GPU.
הפרטים של העסקה לא נחשפו, אבל לפי הדיווחים העסקה עשויה להיות מוערכת בכ-700 מיליון דולר. לסטארטאפ התל אביבי יש ככל הנראה גייסה 118 מיליון דולר על פני ארבעה סבבי גיוס מאז הקמתה ב-2018.
הפלטפורמה של Run:ai מספקת ממשק משתמש מרכזי ומישור בקרה לעבודה עם מגוון גרסאות פופולריות של Kubernetes. זה הופך אותו קצת לדומה ל-OpenShift של RedHat או ל-Rancher של SUSE, והוא כולל רבים מאותם כלים לניהול דברים כמו מרחבי שמות, פרופילי משתמשים והקצאות משאבים.
ההבדל העיקרי הוא ש-Run:ai's מתוכנן להשתלב עם כלים ומסגרות AI של צד שלישי, ולהתמודד עם סביבות מכולות מואצות של GPU. תיק התוכנה שלה כולל אלמנטים כמו תזמון עומסי עבודה ומחיצות מאיץ, שהאחרון מאפשר לפזר עומסי עבודה מרובים על פני GPU יחיד.
לפי Nvidia, הפלטפורמה של Run:ai כבר תומכת בפלטפורמות המחשוב שלה DGX, כולל תצורות ה-Superpod שלה, מערכת ניהול האשכולות Base Command, ספריית מיכל NGC וחבילת AI Enterprise.
לגבי AI Kubernetes טוענת למספר יתרונות על פני פריסות מתכת חשופות, שכן ניתן להגדיר את הסביבה להתמודד עם קנה מידה על פני משאבים מרובים, שעלולים להפיץ גיאוגרפית.
לעת עתה, לקוחות Run:ai קיימים אינם צריכים לדאוג ש-Nvidia תטיל שינויים גדולים בפלטפורמה. ב לשחרר, Nvidia אמרה שהיא תמשיך להציע את המוצרים של Run:ai תחת אותו מודל עסקי, לעתיד המיידי - מה שזה לא יהיה.
בינתיים, המנויים ל-DGX Cloud של Nvidia יקבלו גישה לסט התכונות של Run:ai לעומסי העבודה של AI שלהם, כולל פריסות של מודל שפה גדול (LLM).
ההכרזה מגיעה קצת יותר מחודש לאחר ענקית ה-GPU חשף פלטפורמת קונטיינר חדשה לבניית דגמי AI בשם Nvidia Inference Microservices (NIM).
NIMS הן בעצם תמונות מיכל מוגדרות מראש ומותאמות המכילות את המודל, בין אם מדובר בגרסה הפתוח או הקניינית, עם כל התלות הדרושה כדי להפעיל אותו.
כמו רוב הקונטיינרים, ניתן לפרוס NIM על פני מגוון זמני ריצה כולל צמתי Kubernetes המואצים ב-CUDA.
הרעיון מאחורי הפיכת LLMs ומודלים אחרים של AI למיקרו-שירותים הוא שניתן לחבר אותם לרשת ולהשתמש בהם כדי לבנות מודלים מורכבים ועשירים יותר ממה שהיה אפשרי בלי להכשיר מודל ייעודי בעצמך, או לפחות כך רואה Nvidia אנשים המשתמשים אוֹתָם.
עם רכישת Run:ai, ל-Nvidia יש כעת שכבת תזמור של Kubernetes לניהול הפריסה של NIMs אלה על פני תשתית ה-GPU שלה. ®
- הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
- PlatoData.Network Vertical Generative Ai. העצים את עצמך. גישה כאן.
- PlatoAiStream. Web3 Intelligence. הידע מוגבר. גישה כאן.
- PlatoESG. פחמן, קלינטק, אנרגיה, סביבה, שמש, ניהול פסולת. גישה כאן.
- PlatoHealth. מודיעין ביוטכנולוגיה וניסויים קליניים. גישה כאן.
- מקור: https://go.theregister.com/feed/www.theregister.com/2024/04/24/runai_acquisition_nvidia/
- :יש ל
- :הוא
- 2018
- a
- אודות
- מוּאָץ
- מאיץ
- גישה
- רכישה
- לרוחב
- יתרונות
- לאחר
- AI
- דגמי AI
- מטרות
- תעשיות
- הקצאות
- מאפשר
- כְּבָר
- an
- ו
- הודיע
- הַכרָזָה
- ARE
- AS
- At
- בסיס
- BE
- מאחור
- קצת
- לחזק
- לִבנוֹת
- בִּניָן
- נבנה
- עסקים
- מודל עסקי
- אבל
- נקרא
- CAN
- מֶרכָּזִי
- שינויים
- טענות
- ענן
- אשכול
- CO
- מגיע
- הפקודה
- מורכב
- לחשב
- מחשוב
- מוגדר
- מכולה
- מכולות
- להמשיך
- לִשְׁלוֹט
- יכול
- קראנץ '
- לקוחות
- עסקה
- מוקדש
- תלות
- פרס
- פריסה
- פריסות
- מעוצב
- פרטים
- הבדל
- מופץ
- יְעִילוּת
- מאמץ
- אלמנטים
- מִפְעָל
- סביבה
- סביבות
- חוזה
- למעשה
- קיימים
- מאפיין
- תכונות
- בעד
- נוסד
- ארבע
- מסגרות
- מימון
- סבבי מימון
- עתיד
- גיאוגרפית
- לקבל
- ענק
- GPU
- לטפל
- לעזור
- איך
- HTTPS
- רעיון
- תמונות
- מיידי
- כופה
- in
- כולל
- כולל
- תשתית
- לשלב
- מִמְשָׁק
- אל תוך
- IT
- שֶׁלָה
- jpg
- רק
- מפתח
- שפה
- גָדוֹל
- שכבה
- הכי פחות
- סִפְרִיָה
- כמו
- LLM
- גדול
- עושה
- לנהל
- ניהול
- ניהול
- רב
- מאי..
- אומר
- מתכת
- מיקרו
- מִילִיוֹן
- מודל
- מודלים
- חוֹדֶשׁ
- יותר
- רוב
- מספר
- הכרחי
- חדש
- ngc
- צמתים
- עַכשָׁיו
- מספר
- Nvidia
- of
- הַצָעָה
- on
- לפתוח
- קוד פתוח
- אופטימיזציה
- or
- תזמור
- אחר
- אַחֶרֶת
- יותר
- מטוס
- פלטפורמה
- פלטפורמות
- אפלטון
- מודיעין אפלטון
- אפלטון נתונים
- פופולרי
- תיק עבודות
- אפשרי
- פוטנציאל
- מוצרים
- פרופילים
- קניינית
- ספק
- מספק
- מורם
- להתייחס
- משאב
- משאבים
- עשיר
- בערך
- סיבובים
- הפעלה
- ריצה
- s
- אמר
- אותו
- דרוג
- תזמון
- סט
- since
- יחיד
- תוכנה
- מָקוֹר
- התפשטות
- סטארט - אפ
- מערכת
- תומך
- מערכת
- כזה
- מֵאֲשֶׁר
- זֶה
- השמיים
- שֶׁלָהֶם
- אותם
- אלה
- הֵם
- דברים
- צד שלישי
- זֶה
- אלה
- ל
- יַחַד
- כלים
- הדרכה
- פנייה
- תחת
- מְשׁוּמָשׁ
- משתמש
- ממשק משתמש
- באמצעות
- מוערך
- מגוון
- גרסה
- היה
- יום רביעי
- היו
- כלשהו
- אם
- אשר
- יצטרך
- עם
- לְלֹא
- עובד
- לדאוג
- היה
- עצמך
- זפירנט