AWS Deep Learning Challenge רואה שימוש חדשני ורב השפעה במופעי Amazon EC2 DL1

ב אתגר למידה עמוקה של AWS שנערך בין ה-5 בינואר 2022 ל-1 במרץ 2022, משתתפים מהאקדמיה, סטארטאפים וארגונים ארגוניים הצטרפו כדי לבחון את כישוריהם ולהכשיר מודל למידה עמוקה לפי בחירתם באמצעות ענן מחשוב אלסטי של אמזון (אמזון EC2) מופעי DL1 וה- SynapseAI SDK של Habana. מופעי EC2 DL1 המופעלים על ידי מאיצים של גאודי מבית Habana Labs, חברת אינטל, תוכננו במיוחד לאימון מודלים של למידה עמוקה. המשתתפים הצליחו להבין את יתרונות המחיר/ביצועים המשמעותיים ש-DL1 מציע על פני מופעים מבוססי GPU.

אנו נרגשים להכריז על הזוכים ולהציג כמה מדגמי למידת מכונה (ML) שהוכשרו בהאקתון זה. תלמדו על כמה ממקרי השימוש בלמידה עמוקה הנתמכים על ידי מופעי EC2 DL1, כולל ראייה ממוחשבת, עיבוד שפה טבעית ומידול אקוסטי.

דגמים מנצחים

הזוכה במקום הראשון שלנו הוא א פרויקט שהוגש על ידי גוסטבו זומר. זה יישום של רב לשוני CLIP (הדרכה מקדימה לשפה-תמונה קונטרסטית). CLIP הוצג על ידי OpenAI בשנת 2021 כדרך להכשיר סיווג תמונות שניתן להכללה על פני מערכי נתונים גדולים יותר באמצעות למידה בפיקוח עצמי. הוא מאומן על סט גדול של תמונות עם מגוון רחב של פיקוח על שפה טבעית, שזמין בשפע באינטרנט, אך מוגבל לשפה האנגלית. פרויקט זה מחליף את מקודד הטקסט ב-CLIP במקודד טקסט רב-לשוני בשם XLM-RoBERTa כדי להרחיב את היישום של המודל למספר שפות. יישום שונה זה של CLIP מסוגל לשייך תמונות עם כתוביות על פני מספר שפות. המודל אומן על 16 מאיצים בשני מקרים של DL1, המראה כיצד ניתן לשנות את קנה המידה של אימון ML לשימוש במספר מאיצי גאודי על פני מספר צמתים כדי להגדיל את תפוקת האימון ולהפחית את זמן האימון. השופטים התרשמו מהשימוש המשפיע בלמידה עמוקה כדי לשבור מחסומי שפה, ומהיישום הטכני, שהשתמש בהדרכה מבוזרת.

במקום השני, יש לנו א פרויקט שהוגש על ידי Remco van Akker. הוא משתמש ב-GAN (Generative Adversarial Network) כדי ליצור נתוני תמונה סינתטיים של הרשתית עבור יישומים רפואיים. נתונים סינתטיים משמשים בהכשרת מודלים ביישומים רפואיים כדי להתגבר על המחסור בנתונים רפואיים מוערים, שהם עתירי עבודה ויקרים להפקה. ניתן להשתמש בנתונים סינתטיים כחלק מהגדלת נתונים כדי להסיר הטיות ולהפוך מודלים של ראייה ביישומים רפואיים לניתנים להכללה. פרויקט זה בלט מכיוון שהטמיע מודל יצירתי ב-DL1 כדי לפתור בעיה אמיתית המשפיעה על היישום של AI ו-ML בשירותי הבריאות.

סיום שלושת הראשונים שלנו היה א פרויקט שהוגש על ידי זוהר ג'קסון שהטמיע מודל של שנאי ראייה לפילוח סמנטי. פרויקט זה משתמש בספריית Ray Tune לכוונון היפרפרמטרים ומשתמש ב- Horovod כדי להקביל אימון על 16 מאיצי גאודי בשני מקרים של DL1.

בנוסף לשלושת הזוכים המובילים, המשתתפים זכו במספר פרסים נוספים, כולל היישום הטכני הטוב ביותר, ההשפעה הפוטנציאלית הגבוהה ביותר והפרויקט היצירתי ביותר. אנו מציעים את ברכותינו לכל הזוכים בהאקתון זה על בניית כזה מערך מגוון של פרויקטים משפיעים על מופעי EC2 DL1 מבוססי מאיץ של גאודי. אנחנו לא יכולים לחכות לראות מה המשתתפים שלנו ימשיכו לבנות על מופעי DL1 בעתיד.

התחל עם מופעי DL1

כפי שהדגימו הפרויקטים השונים בהאקתון זה, אתה יכול להשתמש במופעי EC2 DL1 כדי להכשיר מודלים של למידה עמוקה למקרי שימוש כגון עיבוד שפה טבעית, זיהוי אובייקטים וזיהוי תמונות. עם מופעי DL1, אתה גם מקבל עד 40% מחיר/ביצועים טובים יותר עבור אימון מודלים של למידה עמוקה בהשוואה למופעי EC2 מבוססי GPU מהדור הנוכחי. לְבַקֵר מופעי אמזון EC2 DL1 למידע נוסף על האופן שבו מופעי DL1 יכולים להאיץ את עומסי האימון שלך.

על המחברים

דוויג' בג'פאי הוא מנהל מוצר בכיר ב-AWS. הוא עובד על פיתוח מופעי EC2 לעומסי עבודה בלמידת מכונה ומחשוב בעל ביצועים גבוהים.

אמר רגב הוא אדריכל פתרונות ראשי ב-AWS. הוא מספק הדרכה טכנית כדי לעזור ללקוחות להפעיל עומסי עבודה חישוביים מורכבים בקנה מידה.

שרוטי קופרקאר הוא מנהל שיווק מוצר בכיר ב-AWS. היא עוזרת ללקוחות לחקור, להעריך ולאמץ תשתית מחשוב מואצת של EC2 לצרכי למידת המכונה שלהם.