- אוקטובר 10, 2021
- וסיליס ווריניוטיס
- . אין תגובה
השבועיים האחרונים היו עמוסים במיוחד ב-"PyTorch Land" כאשר אנו מכינים בטירוף את השחרור של PyTorch v1.10 ו-TorchVision v0.11. בפרק השני הזה של הסדרה, אכסה כמה מהפיצ'רים הקרובים הכלולים כעת בענף ההפצה של TorchVision.
כתב ויתור: למרות שהמהדורה הקרובה עמוסה בשיפורים רבים ושיפורי באגים/בדיקות/תיעוד, כאן אני מדגיש תכונות חדשות "הפונים למשתמש" בדומיינים שאני מתעניין בהם באופן אישי. לאחר כתיבת הפוסט בבלוג, שמתי לב גם להטיה כלפי תכונות שסקרתי, כתבתי או עקבתי מקרוב אחר התפתחותן. כיסוי (או אי כיסוי) של תכונה לא אומר דבר על חשיבותה. הדעות המובעות הן שלי בלבד.
מודלים חדשים
המהדורה החדשה עמוסה בדגמים חדשים:
- קאי ג'אנג הוסיף יישום של ארכיטקטורת RegNet יחד עם משקולות מאומנות מראש עבור 14 גרסאות אשר משחזרים מקרוב את הנייר המקורי.
- לאחרונה הוספתי יישום של ארכיטקטורת EfficientNet יחד עם משקולות מאומנות מראש לגרסאות B0-B7 שסופקו על ידי Luke Melas-Kyriazi ו-Ros Wightman.
הגדלת נתונים חדשים
כמה טכניקות חדשות להגדלת נתונים נוספו לגרסה האחרונה:
- שמואל גבריאל תרם TrivialAugment, אסטרטגיה חדשה פשוטה אך יעילה ביותר שנראה כי מספקת תוצאות מעולות ל-AutoAugment.
- הוספתי את RandAugment שיטה בהגדלות אוטומטיות.
- סיפקתי יישום של Mixup ו-CutMix משתנה בהפניות. אלה יועברו בהמרה במהדורה הבאה לאחר סיום ה-API שלהם.
אופרטורים ושכבות חדשות
נכללו מספר אופרטורים ושכבות חדשות:
הפניות / מתכוני הדרכה
למרות שהשיפור של תסריטי ההתייחסות שלנו הוא מאמץ מתמשך, הנה כמה תכונות חדשות הכלולות בגרסה הקרובה:
- Prabhat Roy הוסיף תמיכה של ממוצע נע מעריכי במתכון הסיווג שלנו.
- עדכנתי את ההפניות שלנו לתמיכה החלקת תווית, אשר הוצג לאחרונה על ידי ג'ואל שלוסר ותומס ג'יי פאן על ליבת PyTorch.
- כללתי את האפשרות להופיע חימום קצב למידה, באמצעות מתזמני LR העדכניים ביותר שפותחו על ידי Ilqar Ramazanli.
שיפורים אחרים
להלן כמה שיפורים בולטים נוספים שנוספו במהדורה:
- אלכסנדר סואר ופרנסיסקו מאסה פיתחו א כלי עזר מבוסס FX מה שמאפשר לחלץ תכונות ביניים שרירותיות מארכיטקטורות מודל.
- ניקיטה שולגה הוסיפה תמיכה ב CUDA 11.3 ל-TorchVision.
- Zhongkai Zhu תיקן את בעיות תלות של JPEG lib (בעיה זו גרמה לכאב ראש גדול לרבים מהמשתמשים שלנו).
בתהליך והמשך
יש הרבה פיצ'רים חדשים ומלהיבים שנמצאים בפיתוח שלא הצליחו במהדורה זו. הנה כמה:
- Moto Hira, Parmeet Singh Bhatia ואני ניסחנו RFC, המציע מנגנון חדש עבור גרסת דגמים ולטיפול במטא נתונים הקשורים למשקולות מאומנות מראש. זה יאפשר לנו לתמוך במספר משקלים מאומנים מראש לכל דגם ולצרף מידע משויך כגון תוויות, טרנספורמציות עיבוד מוקדם וכו' לדגמים.
- כרגע אני עובד על השימוש בפרימיטיבים שנוספו על ידי ה-"כולל סוללותפרויקט על מנת לשפר את הדיוק שלנו מודלים שהוכשרו מראש. המטרה היא להשיג את התוצאות הטובות ביותר מסוגה עבור הדגמים הפופולריים ביותר שהוכשרו מראש המסופקים על ידי TorchVision.
- פיליפ מאייר ופרנסיסקו מאסה עובדים על אב-טיפוס מרגש עבור החדש של TorchVision מערך נתונים ו הופך ה-API.
- Prabhat Roy עובד על הרחבת PyTorch Core's
AveragedModel
כיתה כדי לתמוך ב מיצוע של המאגרים בנוסף לפרמטרים. היעדר תכונה זו מדווח בדרך כלל כבאג ורצון אפשר מספר רב של ספריות במורד הזרם ומסגרות להסרת יישומי EMA המותאמים אישית שלהם. - אדיטיה אוקה כתב כלי עזר המאפשר מתווים את התוצאות של דגמי Keypoint על התמונות המקוריות (הפיצ'ר לא הגיע לשחרור מכיוון ששטפנו ולא יכולנו לסקור אותו בזמן 🙁 )
- אני בונה א אב טיפוס FX-utility שמטרתה לזהות חיבורים שיוריים בארכיטקטורות מודל שרירותיות ולשנות את הרשת כדי להוסיף בלוקי רגולציה (כגון
StochasticDepth
).
לבסוף יש כמה תכונות חדשות בצבר ההזמנות שלנו (יח"צ בקרוב):
אני מקווה שמצאת את הסיכום לעיל מעניין. כל רעיון כיצד להתאים את הפורמט של סדרת הבלוגים יתקבל בברכה. הכה אותי לינקדין or טויטר.
- הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
- Platoblockchain. Web3 Metaverse Intelligence. ידע מוגבר. גישה כאן.
- מקור: https://blog.datumbox.com/a-sneak-peek-on-torchvision-v0-11-memoirs-of-a-torchvision-developer-2/
- 10
- 11
- 7
- a
- אודות
- מֵעַל
- דיוק
- להשיג
- להסתגל
- הוסיף
- תוספת
- לאחר
- מטרות
- מאפשר
- ו
- API
- המשויך
- לצרף
- מחבר
- הטיה
- אבני
- בלוג
- סניף
- חרק
- בִּניָן
- גרם
- בכיתה
- מיון
- מקרוב
- מגיע
- בקרוב
- בדרך כלל
- חיבורי
- רציף
- תרם
- ליבה
- זוג
- לכסות
- כיסוי
- כיום
- מנהג
- נתונים
- דטומבוקס
- מפותח
- מפתח
- צעצועי התפתחות
- תחומים
- מְנוּסָח
- כל אחד
- אפקטיבי
- מאמץ
- EMA
- לאפשר
- וכו '
- מרגש
- ביטא
- מאריך
- אוהד
- מאפיין
- תכונות
- מעטים
- סופית
- קבוע
- בעקבות
- פוּרמָט
- מצא
- מסגרות
- פרנסיסקו
- החל מ-
- טיפול
- כאבי ראש
- כאן
- הדגשה
- מאוד
- מכה
- לקוות
- איך
- איך
- HTTPS
- חולה
- רעיונות
- תמונות
- הפעלה
- חשיבות
- לשפר
- השבחה
- שיפורים
- in
- כלול
- מידע
- מעוניין
- מעניין
- הציג
- סוגיה
- IT
- תוויות
- חוסר
- אחרון
- האחרון
- שכבות
- לינקדין
- גדול
- לעשות
- רב
- max-width
- מנגנון
- שיטה
- מודל
- מודלים
- רוב
- הכי פופולארי
- נע
- מספר
- רשת
- חדש
- תכונות חדשות
- הבא
- יַקִיר
- מספר
- רב
- אוֹקְטוֹבֶּר
- מפעילי
- דעות
- אפשרות
- להזמין
- מְקוֹרִי
- אחר
- שֶׁלוֹ
- ארוז
- מאמר
- פרמטרים
- לְבַצֵעַ
- אישית
- אפלטון
- מודיעין אפלטון
- אפלטון נתונים
- פופולרי
- הודעה
- הודעות
- העריכה
- פּרוֹיֶקט
- מציע
- אב טיפוס
- לספק
- ובלבד
- פיטורך
- ציון
- לאחרונה
- מתכון
- אזכור
- לשחרר
- להסיר
- דווח
- תוצאות
- סקירה
- סקר
- סקריפטים
- נראה
- סדרה
- פָּשׁוּט
- להתגנב
- כמה
- אִסטרָטֶגִיָה
- כזה
- סיכום
- סוּפֶּר
- מעולה
- תמיכה
- יעד
- טכניקות
- השמיים
- שֶׁלָהֶם
- זמן
- ל
- חזון לפיד
- לקראת
- הדרכה
- בקרוב ב
- מְעוּדכָּן
- us
- משתמשים
- גרסה
- שבועות
- ברוך הבא
- אשר
- יצטרך
- עובד
- כתיבה
- אתה
- זפירנט