TorchVision v0.11 पर एक झलक - एक TorchVision डेवलपर के संस्मरण - 2

• अक्टूबर 10
• वासिलिस व्र्यनोटिस
• । कोई टिप्पणी नहीं

पिछले कुछ हफ़्ते "PyTorch Land" में बहुत व्यस्त थे क्योंकि हम PyTorch v1.10 और TorchVision v0.11 की रिलीज़ की तैयारी कर रहे हैं। की इस दूसरी किश्त में श्रृंखला, मैं कुछ आगामी विशेषताओं को कवर करूँगा जो वर्तमान में TorchVision की रिलीज़ शाखा में शामिल हैं।

अस्वीकरण: हालांकि आगामी रिलीज कई संवर्द्धन और बग/परीक्षण/दस्तावेज़ीकरण सुधारों से भरी हुई है, यहाँ मैं उन डोमेन पर नई "उपयोगकर्ता-सामना" सुविधाओं पर प्रकाश डाल रहा हूँ जिनमें मेरी व्यक्तिगत रुचि है। ब्लॉग पोस्ट लिखने के बाद, मैंने उन विशेषताओं के प्रति पूर्वाग्रह भी देखा, जिनकी मैंने समीक्षा की, लिखा या उनके विकास का बारीकी से पालन किया। किसी फीचर को कवर करना (या कवर नहीं करना) इसके महत्व के बारे में कुछ नहीं कहता है। व्यक्त किए गए विचार केवल मेरे अपने हैं।

नए मॉडल

नई रिलीज़ नए मॉडलों से भरी हुई है:

• काई झांग ने इसका कार्यान्वयन जोड़ा है रेगनेट आर्किटेक्चर के लिए पूर्व प्रशिक्षित वजन के साथ 14 प्रकार जो मूल पेपर को बारीकी से पुन: पेश करता है।
• मैंने हाल ही में इसका कार्यान्वयन जोड़ा है कुशल नेट आर्किटेक्चर ल्यूक मेलस-किरियाज़ी और रॉस वाइटमैन द्वारा प्रदान किए गए वेरिएंट बी0-बी7 के लिए पूर्व-प्रशिक्षित वजन के साथ।

नया डेटा संवर्द्धन

नवीनतम संस्करण में कुछ नई डेटा ऑग्मेंटेशन तकनीकों को जोड़ा गया है:

• सैमुअल गेब्रियल ने योगदान दिया है तुच्छ वृद्धि, एक नई सरल लेकिन अत्यधिक प्रभावी रणनीति जो AutoAugment को बेहतर परिणाम प्रदान करती प्रतीत होती है।
• मैंने जोड़ा है रैंडऑगमेंट ऑटो-ऑग्मेंटेशन में विधि।
• मैंने का कार्यान्वयन प्रदान किया है मिक्सअप और कटमिक्स सन्दर्भों में परिवर्तित हो जाता है। एक बार उनके एपीआई को अंतिम रूप देने के बाद इन्हें अगली रिलीज में बदल दिया जाएगा।

नए ऑपरेटर और परतें

कई नए ऑपरेटरों और परतों को शामिल किया गया है:

संदर्भ / प्रशिक्षण व्यंजनों

हालांकि हमारी संदर्भ लिपियों में सुधार एक निरंतर प्रयास है, यहां आगामी संस्करण में शामिल कुछ नई विशेषताएं हैं:

• प्रभात राय ने समर्थन दिया है एक्स्पोनेंशियल मूविंग एवरेज हमारे वर्गीकरण नुस्खा में।
• मैंने समर्थन के लिए हमारे संदर्भों को अपडेट कर दिया है लेबल चौरसाई, जिसे हाल ही में जोएल स्क्लोजर और थॉमस जे फैन ने PyTorch कोर पर पेश किया था।
• मैंने प्रदर्शन करने का विकल्प शामिल किया है सीखने की दर वार्मअप, इलकार रमज़ानली द्वारा विकसित नवीनतम एलआर अनुसूचियों का उपयोग करना।

अन्य सुधार

रिलीज में जोड़े गए कुछ अन्य उल्लेखनीय सुधार यहां दिए गए हैं:

• अलेक्जेंडर सोरे और फ्रांसिस्को मस्सा ने एक विकसित किया है एफएक्स आधारित उपयोगिता जो मॉडल आर्किटेक्चर से मनमाने ढंग से मध्यवर्ती सुविधाओं को निकालने की अनुमति देता है।
• निकिता शुल्गा ने समर्थन जोड़ा है सीयूडीए 11.3 टॉर्चविजन को।
• झोंगकाई झू ने तय कर दिया है निर्भरता के मुद्दे जेपीईजी लिब (इस समस्या ने हमारे कई उपयोगकर्ताओं के लिए बड़ी सिरदर्द पैदा कर दी है)।

इन-प्रोग्रेस और नेक्स्ट-अप

विकास के तहत बहुत सारी रोमांचक नई सुविधाएँ हैं जो इस रिलीज़ में नहीं आईं। यहाँ कुछ है:

• मोटो हीरा, परमीत सिंह भाटिया और मैंने एक RFC का मसौदा तैयार किया है, जो इसके लिए एक नई प्रणाली का प्रस्ताव करता है मॉडल संस्करण और पूर्व-प्रशिक्षित भार से संबंधित मेटा-डेटा को संभालने के लिए। यह हमें प्रत्येक मॉडल के लिए कई पूर्व-प्रशिक्षित भारों का समर्थन करने और संबंधित जानकारी जैसे लेबल, प्रीप्रोसेसिंग ट्रांसफ़ॉर्म आदि को मॉडल में संलग्न करने में सक्षम करेगा।
• मैं वर्तमान में "द्वारा जोड़े गए प्रिमिटिव का उपयोग करने पर काम कर रहा हूँबैटरी शामिल” हमारी सटीकता में सुधार करने के लिए परियोजना पूर्व प्रशिक्षित मॉडल. टार्चविजन द्वारा प्रदान किए गए सबसे लोकप्रिय पूर्व-प्रशिक्षित मॉडल के लिए श्रेणी में सर्वश्रेष्ठ परिणाम प्राप्त करने का लक्ष्य है।
• फिलिप मीयर और फ्रांसिस्को मस्सा टॉर्चविजन के नए के लिए एक रोमांचक प्रोटोटाइप पर काम कर रहे हैं डेटासेट और रूपांतरण एपीआई।
• प्रभात रॉय PyTorch Core के विस्तार पर काम कर रहे हैं AveragedModel वर्ग का समर्थन करने के लिए बफ़र्स का औसत मापदंडों के अलावा। इस फीचर की कमी को आमतौर पर बग और विल के रूप में रिपोर्ट किया जाता है कई डाउनस्ट्रीम पुस्तकालयों को सक्षम करें और उनके कस्टम EMA कार्यान्वयन को हटाने के लिए रूपरेखाएँ।
• आदित्य ओके एक उपयोगिता लिखी अनुमति अनुसार परिणामों की साजिश रचना मूल छवियों पर कीपॉइंट मॉडल की संख्या (विशेषता ने इसे रिलीज़ नहीं किया क्योंकि हम दलदल हो गए और समय पर इसकी समीक्षा नहीं कर सके 🙁)
• मैं निर्माण कर रहा हूँ प्रोटोटाइप एफएक्स-उपयोगिता जिसका उद्देश्य मनमाना मॉडल आर्किटेक्चर में अवशिष्ट कनेक्शन का पता लगाना है और नियमितीकरण ब्लॉक जोड़ने के लिए नेटवर्क को संशोधित करना है (जैसे StochasticDepth).

अंत में हमारे बैकलॉग में कुछ नई विशेषताएं हैं (जल्द ही आने वाले पीआर):

मुझे आशा है कि आपको उपरोक्त सारांश रोचक लगा होगा। ब्लॉग श्रृंखला के प्रारूप को कैसे अनुकूलित किया जाए, इस पर किसी भी विचार का बहुत स्वागत है। मुझे मारो लिंक्डइन or ट्विटर.

• एसईओ संचालित सामग्री और पीआर वितरण। आज ही प्रवर्धित हो जाओ।
• प्लेटोब्लॉकचैन। Web3 मेटावर्स इंटेलिजेंस। ज्ञान प्रवर्धित। यहां पहुंचें।
• स्रोत: https://blog.datumbox.com/a-sneak-peek-on-torchvision-v0-11-memoirs-of-a-torchvision-developer-2/