নতুন ব্লগ সিরিজ - টর্চভিশন বিকাশকারীর স্মৃতি

• আগস্ট 21, 2021
• ভ্যাসিলিস ভ্রাইনিওটিস
• . কোন মন্তব্য নেই

আমি PyTorch এর কম্পিউটার ভিশন লাইব্রেরির উন্নয়ন সম্পর্কে একটি নতুন ব্লগ পোস্ট সিরিজ শুরু করছি। আমি প্রাথমিকভাবে থেকে আকর্ষণীয় আসন্ন বৈশিষ্ট্যগুলি নিয়ে আলোচনা করার পরিকল্পনা করছি৷ টর্চভিশন এবং PyTorch ইকোসিস্টেম থেকে গৌণ। আমার লক্ষ্য হল নতুন এবং ইন-ডেভেলপমেন্ট বৈশিষ্ট্য হাইলাইট করা এবং রিলিজের মধ্যে কী ঘটছে তার স্পষ্টতা প্রদান করা। যদিও সময়ের সাথে সাথে বিন্যাসটি পরিবর্তিত হওয়ার সম্ভাবনা রয়েছে, আমি প্রাথমিকভাবে এটিকে কামড়ের আকারে রাখার পরিকল্পনা করেছি এবং যারা গভীর খনন করতে চান তাদের জন্য রেফারেন্স অফার করি। অবশেষে, নির্দিষ্ট ব্যবধানে নিবন্ধ প্রকাশ করার পরিবর্তে, আমি কভার করার জন্য যথেষ্ট আকর্ষণীয় বিষয় থাকলে আমি পোস্ট করব।

দাবি পরিত্যাগী: কভার করা বৈশিষ্ট্যগুলি আমার ব্যক্তিগতভাবে আগ্রহী বিষয়গুলির প্রতি পক্ষপাতমূলক হবে৷ পাইটর্চ ইকোসিস্টেমটি বিশাল এবং আমার কাছে এটির একটি ক্ষুদ্র অংশে দৃশ্যমানতা রয়েছে। একটি বৈশিষ্ট্য কভার করা (বা কভার না করা) এর গুরুত্ব সম্পর্কে কিছুই বলে না। প্রকাশিত মতামত একান্তই আমার নিজস্ব।

এর বাইরে, আসুন দেখি কী রান্না হচ্ছে:

CrossEntropy ক্ষতির জন্য লেবেল স্মুথিং

PyTorch এ একটি অত্যন্ত অনুরোধ করা বৈশিষ্ট্য হল নরম লক্ষ্য সমর্থন এবং একটি লেবেল মসৃণ বিকল্প যোগ করুন ক্রস এনট্রপি ক্ষতিতে। উভয় বৈশিষ্ট্যই লক্ষ্য করে লেবেল স্মুথিং করা সহজ করে, প্রথম বিকল্পের সাথে আরও নমনীয়তা প্রদান করে যখন ডেটা অগমেন্টেশন কৌশলগুলি যেমন মেশানো/কাটমিক্স ব্যবহৃত হয় এবং দ্বিতীয়টি সাধারণ ক্ষেত্রে আরও কার্যকরী। ইতিমধ্যেই সফট টার্গেট অপশন হয়েছে মাস্টার উপর একত্রিত জোয়েল শ্লোসার দ্বারা লেবেল_স্মুথিং বিকল্পটি বিকশিত হচ্ছে টমাস জে. ফ্যান দ্বারা এবং বর্তমানে পর্যালোচনা করা হচ্ছে।

নতুন ওয়ার্ম-আপ সিডিউলার

শেখার হার ওয়ার্ম আপ একটি সাধারণ কৌশল যা মডেল প্রশিক্ষণের সময় ব্যবহৃত হয় কিন্তু এখন পর্যন্ত পাইটর্চ একটি অফ-দ্য-শেল্ফ সমাধান অফার করেনি। সম্প্রতি ইলকার রামাজানলি করেছেন উপস্থাপিত রৈখিক এবং ধ্রুবক ওয়ার্মআপ সমর্থনকারী একটি নতুন সময়সূচী। বর্তমানে কাজ চলছে চারদিকে চেইন-ক্ষমতা উন্নত করা এবং সমাহার বিদ্যমান শিডিউলারের।

"ব্যাটারি অন্তর্ভুক্ত" সহ টর্চভিশন

এই অর্ধেক আমরা টর্চভিশন জনপ্রিয় মডেল, ক্ষতি, সময়সূচী, ডেটা অগমেন্টেশন এবং অত্যাধুনিক ফলাফল অর্জনের জন্য ব্যবহৃত অন্যান্য ইউটিলিটি যুক্ত করার জন্য কাজ করছি। এই প্রকল্পের যথাযথ নামকরণ করা হয়েছে "ব্যাটারি অন্তর্ভুক্ত"এবং বর্তমানে আছে চলমান.

এই সপ্তাহের শুরুর দিকে, আমি করেছি একটি নতুন স্তর যোগ করা হয়েছে নামক স্টোকাস্টিক গভীরতা যা এলোমেলোভাবে অবশিষ্ট আর্কিটেকচারে অবশিষ্ট শাখাগুলি ফেলে দিতে ব্যবহার করা যেতে পারে। বর্তমানে আমি কাজ করছি একটি বাস্তবায়ন যোগ করা হচ্ছে যাকে বলা হয় জনপ্রিয় নেটওয়ার্ক আর্কিটেকচারের দক্ষ নেট. অবশেষে, অ্যালেন গুডম্যান এখন একটি নতুন অপারেটর যোগ করা হচ্ছে যা রূপান্তর করতে সক্ষম করবে বাউন্ডিং বক্সে সেগমেন্টেশন মাস্ক.

উন্নয়ন অন্যান্য বৈশিষ্ট্য

ভেবেছিলাম আমরা ক্রমাগত ডকুমেন্টেশন, CI অবকাঠামো এবং সামগ্রিক কোডের গুণমানে ক্রমবর্ধমান উন্নতি করি, নীচে আমি কিছু "ব্যবহারকারী-মুখী" হাইলাইট করি রোডম্যাপ আইটেম যা উন্নয়নের মধ্যে রয়েছে:

এটাই! আমি আশা করি আপনি এটি আকর্ষণীয় খুঁজে পেয়েছেন. বিন্যাস কিভাবে মানিয়ে নিতে হবে বা কোন বিষয়গুলি কভার করতে হবে সে সম্পর্কে কোনও ধারণা খুব স্বাগত জানাই৷ আমার উপর আঘাত লিঙ্কডইন or Twitter.