Yeni Blog serisi – Bir TorchVision geliştiricisinin Anıları

• Ağustos 21, 2021
• Vasilis Vryniotis
• . Yorum yok

PyTorch'un bilgisayarlı görü kitaplığının geliştirilmesiyle ilgili yeni bir blog yazısı dizisine başlıyorum. Yaklaşan ilginç özellikleri öncelikle Meşale Görüşü ve PyTorch ekosisteminden ikincil. Hedefim, yeni ve geliştirilmekte olan özellikleri vurgulamak ve sürümler arasında neler olduğuna dair netlik sağlamak. Format zamanla değişebilecek olsa da, başlangıçta onu küçük tutmayı ve daha derine inmek isteyenler için referanslar sunmayı planlıyorum. Son olarak, belirli aralıklarla makaleler yayınlamak yerine, ele alacak yeterince ilginç konu olduğunda yayınlayacağım.

Yasal Uyarı: Kapsanan özellikler, kişisel olarak ilgilendiğim konulara yönelik olacaktır. PyTorch ekosistemi çok büyük ve ben sadece küçük bir kısmını görebiliyorum. Bir özelliği örtmek (veya örtmemek), onun önemi hakkında hiçbir şey söylemez. İfade edilen görüşler yalnızca bana aittir.

Bu arada, neyin pişirildiğini görelim:

Çapraz Entropi Kaybı için Etiket Düzeltme

PyTorch'ta çok istenen bir özellik, yumuşak hedefleri desteklemek ve bir etiket yumuşatma seçeneği ekleyin Çapraz Entropi kaybında. Her iki özellik de, aşağıdakiler gibi Veri Büyütme teknikleri kullanıldığında daha fazla esneklik sunan ilk seçenekle, Etiket Düzgünleştirmeyi kolaylaştırmayı hedefliyor. karıştır/karışık karışım kullanılır ve ikincisi basit durumlar için daha performanslıdır. Yumuşak hedefler seçeneği zaten master'da birleştirildi Joel Schlosser tarafından label_smoothing seçeneği geliştirilmekte Thomas J. Fan tarafından yazılmıştır ve şu anda incelenmektedir.

Yeni Isınma Zamanlayıcı

Öğrenme Hızı ısınması, modelleri eğitirken kullanılan yaygın bir tekniktir, ancak şimdiye kadar PyTorch, kullanıma hazır bir çözüm sunmadı. Son zamanlarda Ilqar Ramazanlı, tanıttı doğrusal ve sabit ısınmayı destekleyen yeni bir Zamanlayıcı. Şu anda devam eden çalışma zincir yeteneğini geliştirmek ve kombinasyon mevcut zamanlayıcıların

"Piller dahil" ile TorchVision

Bu yarıda TorchVision'a popüler Modeller, Kayıplar, Zamanlayıcılar, Veri Geliştirmeleri ve son teknoloji sonuçları elde etmek için kullanılan diğer yardımcı programları eklemek için çalışıyoruz. Bu proje uygun bir şekilde “piller dahildir” ve şu anda devam etmekte.

Bu haftanın başlarında, yeni bir katman ekledi denilen Stokastik Derinlik artık mimarilerde kalan dalları rastgele bırakmak için kullanılabilir. Şu anda üzerinde çalışıyorum uygulama ekleme adı verilen popüler ağ mimarisinin EfficientNet. Son olarak, Allen Goodman şu anda dönüştürmeyi sağlayacak yeni bir operatör ekleme Sınırlayıcı Kutulara Segmentasyon Maskeleri.

Diğer özellikler geliştirme aşamasında

Dokümantasyon, CI altyapısı ve genel kod kalitesi üzerinde sürekli olarak artan iyileştirmeler yaptığımızı düşündüm, aşağıda "kullanıcıya yönelik" bazı özellikleri vurguluyorum. yol haritası öğeleri geliştirme aşamasında olanlar:

Bu kadar! Umarım ilginç bulmuşsunuzdur. Formatın nasıl uyarlanacağına veya hangi konuların ele alınacağına dair herhangi bir fikir memnuniyetle karşılanmaktadır. bana vur LinkedIn or Twitter.