چالش یادگیری عمیق AWS شاهد استفاده نوآورانه و تاثیرگذار از نمونه های آمازون EC2 DL1 است.

در چالش یادگیری عمیق AWS که از 5 ژانویه 2022 تا 1 مارس 2022 برگزار شد، شرکت کنندگانی از دانشگاه ها، استارت آپ ها و سازمان های سازمانی پیوستند تا مهارت های خود را بیازمایند و یک مدل یادگیری عمیق را به انتخاب خود آموزش دهند. ابر محاسبه الاستیک آمازون (Amazon EC2) نمونه های DL1 و SynapseAI SDK Habana. نمونه‌های EC2 DL1 که توسط شتاب‌دهنده‌های Gaudi از Habana Labs، یک شرکت اینتل طراحی شده‌اند، به‌طور خاص برای آموزش مدل‌های یادگیری عمیق طراحی شده‌اند. شرکت‌کنندگان توانستند مزایای قیمت/عملکرد قابل توجهی را که DL1 نسبت به نمونه‌های مبتنی بر GPU ارائه می‌دهد، درک کنند.

ما هیجان زده هستیم که برندگان را اعلام کنیم و برخی از مدل های یادگیری ماشینی (ML) را که در این هکاتون آموزش دیده اند به نمایش بگذاریم. شما در مورد برخی از موارد استفاده از یادگیری عمیق که توسط نمونه های EC2 DL1 پشتیبانی می شوند، از جمله بینایی کامپیوتر، پردازش زبان طبیعی و مدل سازی آکوستیک آشنا خواهید شد.

مدل های برنده

برنده مقام اول ما یک است پروژه ارائه شده توسط گوستاوو زومر. این یک پیاده سازی چند زبانه است کلیپ (پیش آموزش زبان متضاد-تصویر). CLIP توسط OpenAI در سال 2021 به عنوان راهی برای آموزش طبقه‌بندی‌کننده تصویر قابل تعمیم‌پذیرتر در مجموعه داده‌های بزرگتر از طریق یادگیری خود نظارتی معرفی شد. این برنامه بر روی مجموعه بزرگی از تصاویر با طیف گسترده ای از نظارت زبان طبیعی که به وفور در اینترنت موجود است، اما به زبان انگلیسی محدود می شود، آموزش داده شده است. این پروژه رمزگذار متن در CLIP را با یک رمزگذار متن چند زبانه به نام XLM-RoBERTa جایگزین می‌کند تا کاربرد مدل را برای چندین زبان گسترش دهد. این پیاده‌سازی اصلاح‌شده CLIP می‌تواند تصاویر را با زیرنویس‌ها در چندین زبان جفت کند. این مدل بر روی 16 شتاب دهنده در دو نمونه DL1 آموزش داده شد، که نشان می دهد چگونه آموزش ML را می توان برای استفاده از چندین شتاب دهنده گائودی در چندین گره برای افزایش توان آموزشی و کاهش زمان آموزش، مقیاس بندی کرد. داوران تحت تأثیر استفاده مؤثر از یادگیری عمیق برای از بین بردن موانع زبانی و اجرای فنی که از آموزش های توزیع شده استفاده می کرد، قرار گرفتند.

در وهله دوم، ما یک پروژه ارائه شده توسط Remco van Akker. از GAN (شبکه متخاصم مولد) برای تولید داده های تصویر مصنوعی شبکیه برای کاربردهای پزشکی استفاده می کند. داده‌های مصنوعی در آموزش مدل در کاربردهای پزشکی برای غلبه بر کمبود داده‌های پزشکی مشروح استفاده می‌شود که تولید آن سخت و پرهزینه است. داده های مصنوعی را می توان به عنوان بخشی از افزایش داده ها برای حذف سوگیری ها و قابل تعمیم تر کردن مدل های بینایی در کاربردهای پزشکی استفاده کرد. این پروژه به این دلیل برجسته شد که یک مدل تولیدی را در DL1 برای حل یک مشکل دنیای واقعی که بر کاربرد هوش مصنوعی و ML در مراقبت‌های بهداشتی تأثیر می‌گذارد، پیاده‌سازی کرد.

جمع کردن سه نفر برتر ما یک بود پروژه ارائه شده توسط زوهر جکسون که یک مدل ترانسفورماتور بینایی را برای تقسیم بندی معنایی پیاده سازی کرد. این پروژه از کتابخانه Ray Tune برای تنظیم دقیق هایپرپارامترها استفاده می کند و از Horovod برای موازی سازی آموزش بر روی 16 شتاب دهنده گائودی در دو نمونه DL1 استفاده می کند.

علاوه بر سه برنده برتر، شرکت کنندگان جوایز متعدد دیگری از جمله بهترین پیاده سازی فنی، بالاترین تأثیر بالقوه و خلاقانه ترین پروژه را به دست آوردند. ما به همه برندگان این هکاتون برای ساخت چنین هکاتون تبریک می گوییم مجموعه متنوعی از پروژه های تاثیرگذار در نمونه های EC2 DL1 مبتنی بر شتاب دهنده گائودی. ما نمی توانیم منتظر بمانیم تا ببینیم شرکت کنندگان ما در آینده به ساختن نمونه های DL1 ادامه خواهند داد.

با نمونه های DL1 شروع کنید

همانطور که توسط پروژه های مختلف در این هکاتون نشان داده شده است، می توانید از نمونه های EC2 DL1 برای آموزش مدل های یادگیری عمیق برای موارد استفاده مانند پردازش زبان طبیعی، تشخیص اشیا و تشخیص تصویر استفاده کنید. با نمونه‌های DL1، در مقایسه با نمونه‌های EC40 مبتنی بر GPU، تا 2 درصد قیمت/عملکرد بهتری برای آموزش مدل‌های یادگیری عمیق دریافت می‌کنید. بازدید کنید موارد آمازون EC2 DL1 برای کسب اطلاعات بیشتر در مورد اینکه چگونه نمونه های DL1 می توانند بارهای آموزشی شما را تسریع کنند.

درباره نویسندگان

دویج باجپای مدیر محصول ارشد در AWS است. او روی توسعه نمونه های EC2 برای بارهای کاری در یادگیری ماشین و محاسبات با عملکرد بالا کار می کند.

عمرو رجب یک معمار اصلی راه حل در AWS است. او راهنمایی های فنی را برای کمک به مشتریان برای اجرای بارهای کاری محاسباتی پیچیده در مقیاس ارائه می دهد.

شروتی کپرکار مدیر ارشد بازاریابی محصول در AWS است. او به مشتریان کمک می‌کند تا زیرساخت‌های محاسباتی تسریع‌شده EC2 را برای نیازهای یادگیری ماشین خود کاوش، ارزیابی و اتخاذ کنند.