הצצה קטנה ל TorchVision v0.11 - זכרונות של מפתח TorchVision - 2

• אוקטובר 10, 2021
• וסיליס ווריניוטיס
• . אין תגובה

השבועיים האחרונים היו עמוסים במיוחד ב-"PyTorch Land" כאשר אנו מכינים בטירוף את השחרור של PyTorch v1.10 ו-TorchVision v0.11. בפרק השני הזה של הסדרה, אכסה כמה מהפיצ'רים הקרובים הכלולים כעת בענף ההפצה של TorchVision.

כתב ויתור: למרות שהמהדורה הקרובה עמוסה בשיפורים רבים ושיפורי באגים/בדיקות/תיעוד, כאן אני מדגיש תכונות חדשות "הפונים למשתמש" בדומיינים שאני מתעניין בהם באופן אישי. לאחר כתיבת הפוסט בבלוג, שמתי לב גם להטיה כלפי תכונות שסקרתי, כתבתי או עקבתי מקרוב אחר התפתחותן. כיסוי (או אי כיסוי) של תכונה לא אומר דבר על חשיבותה. הדעות המובעות הן שלי בלבד.

מודלים חדשים

המהדורה החדשה עמוסה בדגמים חדשים:

• קאי ג'אנג הוסיף יישום של ארכיטקטורת RegNet יחד עם משקולות מאומנות מראש עבור 14 גרסאות אשר משחזרים מקרוב את הנייר המקורי.
• לאחרונה הוספתי יישום של ארכיטקטורת EfficientNet יחד עם משקולות מאומנות מראש לגרסאות B0-B7 שסופקו על ידי Luke Melas-Kyriazi ו-Ros Wightman.

הגדלת נתונים חדשים

כמה טכניקות חדשות להגדלת נתונים נוספו לגרסה האחרונה:

• שמואל גבריאל תרם TrivialAugment, אסטרטגיה חדשה פשוטה אך יעילה ביותר שנראה כי מספקת תוצאות מעולות ל-AutoAugment.
• הוספתי את RandAugment שיטה בהגדלות אוטומטיות.
• סיפקתי יישום של Mixup ו-CutMix משתנה בהפניות. אלה יועברו בהמרה במהדורה הבאה לאחר סיום ה-API שלהם.

אופרטורים ושכבות חדשות

נכללו מספר אופרטורים ושכבות חדשות:

הפניות / מתכוני הדרכה

למרות שהשיפור של תסריטי ההתייחסות שלנו הוא מאמץ מתמשך, הנה כמה תכונות חדשות הכלולות בגרסה הקרובה:

• Prabhat Roy הוסיף תמיכה של ממוצע נע מעריכי במתכון הסיווג שלנו.
• עדכנתי את ההפניות שלנו לתמיכה החלקת תווית, אשר הוצג לאחרונה על ידי ג'ואל שלוסר ותומס ג'יי פאן על ליבת PyTorch.
• כללתי את האפשרות להופיע חימום קצב למידה, באמצעות מתזמני LR העדכניים ביותר שפותחו על ידי Ilqar Ramazanli.

שיפורים אחרים

להלן כמה שיפורים בולטים נוספים שנוספו במהדורה:

• אלכסנדר סואר ופרנסיסקו מאסה פיתחו א כלי עזר מבוסס FX מה שמאפשר לחלץ תכונות ביניים שרירותיות מארכיטקטורות מודל.
• ניקיטה שולגה הוסיפה תמיכה ב CUDA 11.3 ל-TorchVision.
• Zhongkai Zhu תיקן את בעיות תלות של JPEG lib (בעיה זו גרמה לכאב ראש גדול לרבים מהמשתמשים שלנו).

בתהליך והמשך

יש הרבה פיצ'רים חדשים ומלהיבים שנמצאים בפיתוח שלא הצליחו במהדורה זו. הנה כמה:

• Moto Hira, Parmeet Singh Bhatia ואני ניסחנו RFC, המציע מנגנון חדש עבור גרסת דגמים ולטיפול במטא נתונים הקשורים למשקולות מאומנות מראש. זה יאפשר לנו לתמוך במספר משקלים מאומנים מראש לכל דגם ולצרף מידע משויך כגון תוויות, טרנספורמציות עיבוד מוקדם וכו' לדגמים.
• כרגע אני עובד על השימוש בפרימיטיבים שנוספו על ידי ה-"כולל סוללותפרויקט על מנת לשפר את הדיוק שלנו מודלים שהוכשרו מראש. המטרה היא להשיג את התוצאות הטובות ביותר מסוגה עבור הדגמים הפופולריים ביותר שהוכשרו מראש המסופקים על ידי TorchVision.
• פיליפ מאייר ופרנסיסקו מאסה עובדים על אב-טיפוס מרגש עבור החדש של TorchVision מערך נתונים ו הופך ה-API.
• Prabhat Roy עובד על הרחבת PyTorch Core's AveragedModel כיתה כדי לתמוך ב מיצוע של המאגרים בנוסף לפרמטרים. היעדר תכונה זו מדווח בדרך כלל כבאג ורצון אפשר מספר רב של ספריות במורד הזרם ומסגרות להסרת יישומי EMA המותאמים אישית שלהם.
• אדיטיה אוקה כתב כלי עזר המאפשר מתווים את התוצאות של דגמי Keypoint על התמונות המקוריות (הפיצ'ר לא הגיע לשחרור מכיוון ששטפנו ולא יכולנו לסקור אותו בזמן 🙁 )
• אני בונה א אב טיפוס FX-utility שמטרתה לזהות חיבורים שיוריים בארכיטקטורות מודל שרירותיות ולשנות את הרשת כדי להוסיף בלוקי רגולציה (כגון StochasticDepth).

לבסוף יש כמה תכונות חדשות בצבר ההזמנות שלנו (יח"צ בקרוב):

אני מקווה שמצאת את הסיכום לעיל מעניין. כל רעיון כיצד להתאים את הפורמט של סדרת הבלוגים יתקבל בברכה. הכה אותי לינקדין or טויטר.

• הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
• Platoblockchain. Web3 Metaverse Intelligence. ידע מוגבר. גישה כאן.
• מקור: https://blog.datumbox.com/a-sneak-peek-on-torchvision-v0-11-memoirs-of-a-torchvision-developer-2/