הזינו את אש הבינה המלאכותית בריכוזיות

תכונה ממומנת זרם קבוע של טכנולוגיות ותגליות מהפכניות - אש, חקלאות, גלגל, בית הדפוס והאינטרנט, אם להזכיר רק כמה - עיצבו באופן עמוק את ההתפתחות והציוויליזציה האנושית. והמעגל הזה של חדשנות ממשיך עם בינה מלאכותית (AI). 

חברת המחקר IDC הרחיקה לכת והגיעה למסקנה שבינה מלאכותית היא באמת התשובה ל"הכל". Rasmus Andsbjerg, סגן נשיא שותף, נתונים וניתוח ב-IDC אומר: "המציאות היא, AI מציעה פתרונות לכל מה שאנחנו מתמודדים איתו כרגע. בינה מלאכותית יכולה להיות מקור למעקב מהיר אחר מסעות טרנספורמציה דיגיטלית, לאפשר חיסכון בעלויות בזמנים של שיעורי אינפלציה מדהימים ולתמוך במאמצי אוטומציה בזמנים של מחסור בכוח אדם".

אין ספק, ובכל התעשיות והפונקציות, ארגוני משתמשי קצה מתחילים לגלות את היתרונות של AI, כאשר אלגוריתמים חזקים יותר ויותר ותשתית בסיסית צצים כדי לאפשר קבלת החלטות טובה יותר ופרודוקטיביות גבוהה יותר. 

ההכנסות העולמיות עבור שוק הבינה המלאכותית (AI), כולל תוכנה, חומרה ושירותים קשורים ליישומים ממוקדי בינה מלאכותית וגם ליישומים שאינם ממוקדי בינה מלאכותית, הסתכמו ב-383.3 מיליארד דולר בשנת 2021. זה היה עלייה של 20.7% לעומת השנה הקודמת, לפי הכי הרבה לאחרונה International Data Corporation (IDC) מעקב אחר בינה מלאכותית עולמית חצי שנתית.

באופן דומה, פריסת תוכנת AI לענן ממשיכה להראות צמיחה מתמדת. IDC מצפה שגרסאות ענן של תוכנת בינה מלאכותית שנרכשה לאחרונה יתגברו על פריסות מקומיות ב-2022.

השמיים הם הגבול עבור AI

ד"ר רונן דר, סמנכ"ל הטכנולוגיה של מומחה הבינה המלאכותית Run:ai, שיצרה פלטפורמת ניהול מחשוב עבור בינה מלאכותית, מאמין שהשמיים הם הגבול למגזר הבינה המלאכותית הארגונית המתהווה. 

"AI הוא שוק שאנו רואים שהוא צומח במהירות רבה. ומבחינת ארגונים, אנו רואים ביקוש ואימוץ ללמידת מכונה ובינה מלאכותית. ואני חושב שכרגע יש כאן טכנולוגיה חדשה שמביאה יכולות חדשות שהולכות לשנות את העולם; שעומדים לחולל מהפכה בעסקים", מציין דאר. 

יש גם הבנה יותר ויותר ברורה לגבי הצורך להתחיל לחקור ולהתנסות ב-AI ולהבין כיצד לשלב בינה מלאכותית במודלים עסקיים.

דר מאמין שבינה מלאכותית יכולה להביא "יתרונות מדהימים" לשיפור התהליכים העסקיים הקיימים בארגון: "במונחים של אופטימיזציה והוכחה של העסק הנוכחי, אנו רואים הרבה מקרי שימוש סביב בינה מלאכותית ולמידת מכונה שמשפרת את התפעול ואת אופן קבלת ההחלטות סביב היצע וביקוש".

הוא מציין כי מודלים חדשים של למידה עמוקה המבוססים על רשתות עצביות יכולים לשפר תהליכים, קבלת החלטות ודיוק של תהליכים עסקיים קריטיים כגון זיהוי הונאה בתעשיית השירותים הפיננסיים. שירותי בריאות הם מגזר נוסף שבו הפוטנציאל של AI הוא "עצום", במיוחד במונחים של עזרה לרופאים לקבל החלטות קליניות טובות יותר ולעזור לגלות ולפתח תרופות חדשות. 

ובמבט רחוק יותר, דאר צופה שטכנולוגיית AI תעזור לספק הזדמנויות מסחריות חדשות לגמרי שאינן קיימות כיום במגזרים כמו כלי רכב בנהיגה עצמית ומשחקים סוחפים. 

מכשולי תשתית שיש להתגבר עליהם

למרות הפוטנציאל הברור של בינה מלאכותית ולמידת מכונה בארגון, דאר מכיר בכך שהפריסה המסחרית של בינה מלאכותית מעוכבת על ידי בעיות סביב אספקת תשתית. הוא מייעץ שחברות צריכות לבחון את הדרך שבה בינה מלאכותית נכנסת לארגון מלכתחילה.

בדרך כלל, זה כרוך בתהליך לא מתואם, מחלקה-לאחר מחלקה, שרואה צוותים שונים מספקים טכנולוגיה ומשאבים באופן עצמאי, מה שמוביל לפריסות סתום. ה-IT אינו יכול לשלוט ביעילות בפרויקטים אד-הוק אלה ואין לו נראות לגבי המתרחש. וזה מקשה עד בלתי אפשרי לחשב החזר ROI על הוצאות תשתית AI. 

"זו הבעיה הקלאסית: פעם זה היה Shadow IT ועכשיו זה Shadow AI", אומר דאר. 

בנוסף, התשתית המתקדמת הדרושה עבור AI/ML היא השקעה שכן ארגונים זקוקים לחומרת מחשוב חזקה המואצת ב-GPU כדי לעבד נתונים מורכבים מאוד ולהכשיר מודלים. 

"צוותי AI זקוקים לכוח מחשוב רב כדי להכשיר מודלים, בדרך כלל באמצעות GPUs, שהם משאבי מרכז נתונים מובחרים שניתן לסתום אותם ולא להשתמש בהם ביעילות", אומר דאר. "זה יכול לגרום לבזבוז כסף רב בוודאות." 

תשתית מוצקה זו יכולה לגרום לרמות ניצול של פחות מ-10%, למשל.

על פי סקר Run:ai, סקר תשתיות AI לשנת 2021, שפורסם באוקטובר 2021, 87 אחוז מהמשיבים אמרו שהם חווים רמה מסוימת של בעיות בהקצאת משאבי GPU/מחשוב, כאשר 12 אחוז אמרו שזה קורה לעתים קרובות. כתוצאה מכך, 83 אחוז מהחברות שנסקרו דיווחו שהן לא מנצלות באופן מלא את חומרת ה-GPU וה-AI שלהן. למעשה, כמעט שני שלישים (61 אחוז) ציינו כי חומרת ה-GPU וה-AI שלהם הם לרוב ברמות ניצול "מתונות".

הריכוזיות של AI

כדי לפתור את הבעיות הללו דר תומך בריכוז אספקת משאבי בינה מלאכותית. Run:AI פיתחה פלטפורמת ניהול מחשוב עבור AI שעושה בדיוק את זה, מרכזת ווירטואליזציה של משאב המחשוב של GPU. על ידי איחוד מעבדי GPU לשכבה וירטואלית אחת ואוטומציה של תזמון עומסי עבודה לניצול של 100 אחוז, גישה זו מציעה יתרונות בהשוואה למערכות מוצקות ברמת המחלקה. 

ריכוז התשתית מחזיר את השליטה והנראות, תוך שחרור מדעני נתונים מהתקורה של ניהול התשתיות. צוותי בינה מלאכותית חולקים משאב מחשוב אוניברסלי של בינה מלאכותית שניתן לחייג בצורה דינמית למעלה ולמטה ככל שהביקוש עולה או יורד, ומבטל צווארי בקבוק בביקוש ותקופות של תת ניצול. 

גישה זו, טוען דאר, יכולה לעזור לארגונים להפיק את המרב מהחומרה שלהם ולשחרר מדעני נתונים מהמגבלות של הגבלת משאבים בסיסית. כל זה אומר שהם יכולים להפעיל יותר עבודות ולהביא לייצור יותר דגמי AI. 

דוגמה מסופקת מהמרכז להדמיה רפואית ובינה מלאכותית של לונדון לבריאות מבוססת ערך, בהובלת קינגס קולג' בלונדון ובסיסה בבית החולים סנט תומאס. הוא משתמש בתמונות רפואיות ובנתוני בריאות אלקטרוניים כדי להכשיר אלגוריתמי למידה עמוקה מתוחכמים לראייה ממוחשבת ולעיבוד שפה טבעית. אלגוריתמים אלו משמשים ליצירת כלים חדשים להקרנה יעילה, אבחון מהיר יותר וטיפולים מותאמים אישית.

המרכז הבין שתשתית ה-AI הוותיקה שלו סובלת מבעיות יעילות: ניצול ה-GPU הכולל היה מתחת ל-30% עם תקופות סרק "משמעותיות" עבור חלק מהרכיבים. לאחר שעבר לטפל בבעיות אלו על ידי אימוץ מודל אספקת מחשוב AI מרכזי המבוסס על הפלטפורמה של Run:ai, ניצול ה-GPU שלו עלה ב-110 אחוז, עם שיפורים מקבילים במהירות הניסוי וביעילות המחקר הכוללת.

"הניסויים שלנו יכולים לקחת ימים או דקות, תוך שימוש בטפטוף של כוח מחשוב או אשכול שלם", אומר ד"ר מ' חורחה קרדוסו, פרופסור חבר ומרצה בכיר לבינה מלאכותית בקינגס קולג' בלונדון ו-CTO של מרכז הבינה המלאכותית. "צמצום הזמן לתוצאות מבטיח שנוכל לשאול ולענות על שאלות קריטיות יותר לגבי בריאותם וחייהם של אנשים", 

ריכוז משאבי AI GPU גם סיפק יתרונות מסחריים חשובים ל-Wayve, חברה מלונדון המפתחת תוכנת AI למכוניות בנהיגה עצמית. הטכנולוגיה שלו נועדה לא להיות תלויה בחישה, אלא מתמקדת באינטליגנציה רבה יותר, לנהיגה אוטונומית טובה יותר באזורים עירוניים צפופים.

לולאת הצי של Wayve כוללת מחזור מתמשך של איסוף נתונים, איסוף, הדרכה של מודלים, הדמיה מחדש ורישוי מודלים לפני פריסה לצי. צריכת המחשוב העיקרית של ה-GPU של החברה מגיעה מהכשרת ייצור לולאת הלמידה של Fleet. הוא מאמן את קו הבסיס של המוצר עם מערך הנתונים המלא ומתאמן מחדש ללא הרף כדי לאסוף נתונים חדשים באמצעות איטרציות של לולאת הלמידה של הצי.

החברה החלה להבין שהיא סובלת מ"אימה" של תזמון GPU: למרות שכמעט 100 אחוז ממשאבי ה-GPU הזמינים שלה הוקצו לחוקרים, פחות מ-45 אחוז נוצלו כאשר הבדיקה נעשתה לראשונה. 

"מכיוון ש-GPUs הוקצו באופן סטטי לחוקרים, כאשר חוקרים לא השתמשו ב-GPUs שהוקצו להם, אחרים לא יכלו לגשת אליהם, מה שיצר אשליה ש-GPUs להכשרת מודלים נמצאים בקיבולת, אפילו אם רבים מה-GPUs יושבים בטל", מציין Wayve. 

העבודה עם Run:ai התמודדה עם בעיה זו על ידי הסרת ממגורות וביטול הקצאה סטטית של משאבים. נוצרו מאגרים של GPUs משותפים המאפשרים לצוותים לגשת ליותר GPUs ולהפעיל עומסי עבודה נוספים, מה שהוביל לשיפור של 35% בניצול שלהם. 

שיקוף שיפורים ביעילות המעבד

שיקוף את האופן שבו VMware הביאה שיפורי יעילות משמעותיים לאופן שבו נעשה שימוש במעבדי שרת לקיבולת מירבית במהלך השנים האחרונות, חידושים חדשים מגיעים כעת לאוויר כדי לייעל את היעילות של ניצול GPU עבור עומסי עבודה של מחשוב בינה מלאכותית. 

"אם אתה חושב על מחסנית התוכנה שפועלת על גבי מעבדים, היא נבנתה עם הרבה VMware ווירטואליזציה", מסביר דאר. "מעבדי GPU הם חדשים יחסית במרכז הנתונים, ותוכנות עבור AI ווירטואליזציה - כגון NVIDIA AI Enterprise - הוא גם התפתחות לאחרונה." 

"אנחנו מביאים טכנולוגיה מתקדמת בתחום הזה עם יכולות כמו GPU חלקי, החלפת עבודה ו. מה שמאפשר לעומסי עבודה לשתף ביעילות מעבדי GPU", אומר דאר, ומוסיף שמתוכננים שיפורים נוספים.

Run:ai עובד בשיתוף פעולה הדוק עם NVIDIA כדי לשפר ולפשט את השימוש במעבדי GPU בארגון. שיתוף הפעולה האחרון כולל מתן אפשרות לגמישות GPU מרובת עננים לחברות המשתמשות במעבדי GPU בענן, ושילוב עם NVIDIA Triton Inference Server תוכנה כדי לפשט את תהליך פריסת המודלים בייצור.

באופן שבו לחידושים הגדולים במהלך ההיסטוריה היו השפעות עמוקות על המין האנושי והעולם, דאר מציין כי יהיה צורך לרתום את הכוח של AI בזהירות כדי למקסם את היתרונות הפוטנציאליים שלו, תוך ניהול החסרונות הפוטנציאליים. הוא משווה את הבינה המלאכותית עם החידוש הקדמוני מכולם: אש. 

"זה כמו אש שהביאה הרבה דברים גדולים ושינתה חיי אדם. גם שריפה הביאה סכנה. אז בני אדם הבינו איך לחיות עם אש", אומר דר. "אני חושב שזה גם כאן ב-AI בימים אלה." 

בחסות Run:ai.