سری جدید وبلاگ - خاطرات یک توسعه دهنده TorchVision

• اوت 21، 2021
• واسیلیس ورینیوتس
• . بدون نظر

من در حال شروع یک سری پست وبلاگ جدید در مورد توسعه کتابخانه بینایی کامپیوتر PyTorch هستم. من قصد دارم در درجه اول از ویژگی های جالب آینده بحث کنم TorchVision و ثانویه از اکوسیستم PyTorch. هدف من برجسته کردن ویژگی‌های جدید و در حال توسعه و ارائه شفافیت از آنچه در بین نسخه‌ها اتفاق می‌افتد است. اگرچه قالب احتمالاً در طول زمان تغییر می‌کند، من در ابتدا قصد دارم آن را در حد کوچک نگه دارم و برای کسانی که می‌خواهند عمیق‌تر کاوش کنند، مراجع ارائه کنم. در نهایت، به جای انتشار مقالات در فواصل زمانی ثابت، زمانی که موضوعات جالب کافی برای پوشش دادن داشته باشم، پست خواهم کرد.

سلب مسئولیت: ویژگی های پوشش داده شده نسبت به موضوعاتی که شخصاً به آنها علاقه مند هستم تعصب دارند. اکوسیستم PyTorch عظیم است و من فقط قسمت کوچکی از آن را می بینم. پوشاندن (یا نپوشاندن) یک ویژگی چیزی در مورد اهمیت آن نمی گوید. نظرات بیان شده صرفاً متعلق به من است.

با وجود این موضوع، بیایید ببینیم چه چیزی در حال پختن است:

هموارسازی برچسب برای از دست دادن متقابل آنتروپی

یک ویژگی بسیار درخواست شده در PyTorch این است که پشتیبانی از اهداف نرم و یک گزینه صاف کردن برچسب اضافه کنید در از دست دادن آنتروپی متقاطع. هدف هر دو ویژگی آسان کردن انجام هموارسازی برچسب است، با اولین گزینه انعطاف پذیری بیشتری در هنگام تکنیک های افزایش داده مانند مخلوط کردن/کات میکس استفاده می شود و دومی برای موارد ساده کارایی بیشتری دارد. گزینه اهداف نرم قبلاً وجود داشته است در استاد ادغام شد توسط Joel Schlosser در حالی که گزینه label_smoothing است در حال توسعه توسط Thomas J. Fan و در حال حاضر در دست بررسی است.

برنامه زمانبندی جدید گرم کردن

گرم کردن نرخ یادگیری تکنیک رایجی است که برای آموزش مدل‌ها استفاده می‌شود، اما تا کنون PyTorch راه‌حلی را ارائه نکرده است. اخیراً ایلقار رمضانلی دارد معرفی یک Scheduler جدید که از گرم کردن خطی و ثابت پشتیبانی می کند. در حال حاضر کار در حال انجام است بهبود توانایی زنجیره ای و ترکیب زمانبندی های موجود

TorchVision با "باتری شامل"

این نیمه، ما در حال کار بر روی اضافه کردن مدل‌های محبوب TorchVision، Losses، Schedulers، Data Augmentations و سایر ابزارهای مورد استفاده برای دستیابی به نتایج پیشرفته هستیم. نام این پروژه به درستی "باتری ها” و در حال حاضر است در حال پیش رفت.

اوایل این هفته، من یک لایه جدید اضافه کرد نام عمق تصادفی که می تواند برای رها کردن تصادفی شاخه های باقیمانده در معماری های باقی مانده استفاده شود. در حال حاضر مشغول کار هستم اضافه کردن یک پیاده سازی از معماری شبکه محبوب نامیده می شود EfficNet. در نهایت، آلن گودمن است در حال حاضر اضافه کردن یک اپراتور جدید که تبدیل را فعال می کند ماسک های تقسیم بندی به جعبه های مرزی.

ویژگی های دیگر در حال توسعه

فکر می‌کنیم که دائماً در اسناد، زیرساخت CI و کیفیت کلی کد بهبودهای تدریجی انجام می‌دهیم، در زیر برخی از "روی کاربر" را برجسته می‌کنم. آیتم های نقشه راه که در حال توسعه هستند:

خودشه! امیدوارم براتون جالب بوده باشه هر گونه ایده در مورد چگونگی تطبیق قالب یا موضوعاتی که باید پوشش داده شود بسیار استقبال می شود. به من ضربه بزن لینک or توییتر.