TorchVision V0.11'e Kısa Bir Bakış – Bir TorchVision Geliştiricisinin Anıları

Plato tarafından yeniden yayınlandı

İzleyiciler: 0

TorchVision v0.11 – Bir TorchVision geliştiricisinin anıları – 2 PlatoBlockchain Veri Zekasına kısa bir bakış. Dikey Arama. Ai. — TorchVision v0.11 – Bir TorchVision geliştiricisinin Anıları – 2'ye kısa bir bakış

PyTorch v1.10 ve TorchVision v0.11'in çıkışını çılgınca hazırlarken, son birkaç hafta "PyTorch Land" için çok yoğun geçti. Bu 2. taksitte seri, TorchVision'ın yayın dalında şu anda dahil olan bazı gelecek özellikleri ele alacağım.

Yasal Uyarı: Yaklaşan sürümde çok sayıda geliştirme ve hata/test/belge iyileştirmeleri bulunsa da, burada kişisel olarak ilgilendiğim alanlarda "kullanıcıya yönelik" yeni özellikleri vurguluyorum. Blog gönderisini yazdıktan sonra, incelediğim, yazdığım veya gelişimlerini yakından takip ettiğim özelliklere karşı bir önyargı olduğunu da fark ettim. Bir özelliği örtmek (veya örtmemek), onun önemi hakkında hiçbir şey söylemez. İfade edilen görüşler yalnızca bana aittir.

Yeni Modeller

Yeni sürüm yeni modellerle doludur:

Kai Zhang bir uygulama ekledi RegNet mimarisi için önceden eğitilmiş ağırlıklarla birlikte 14 çeşit orijinal kağıdı yakından yeniden üretir.
Yakın zamanda bir uygulama ekledim EfficientNet mimarisi Luke Melas-Kyriazi ve Ross Wightman tarafından sağlanan B0-B7 varyantları için önceden eğitilmiş ağırlıklarla birlikte.

Yeni Veri Geliştirmeleri

En son sürüme birkaç yeni Veri Büyütme tekniği eklendi:

Samuel Gabriel katkıda bulundu. önemsizAugmentAutoAugment'a üstün sonuçlar sağlıyor gibi görünen yeni, basit ama oldukça etkili bir strateji.
ekledim Rand Artırma Otomatik büyütmelerde yöntem.
bir uygulama sağladım Karıştırma ve CutMix referanslarda dönüştürür. Bunlar, API'leri tamamlandıktan sonra bir sonraki sürümde dönüşümler halinde taşınacaktır.

Yeni Operatörler ve Katmanlar

Bir dizi yeni operatör ve katman dahil edilmiştir:

Referanslar / Eğitim Tarifleri

Referans komut dosyalarımızın iyileştirilmesi sürekli bir çaba olsa da, gelecek sürümde yer alan birkaç yeni özellik şunlardır:

Prabhat Roy desteğini ekledi Üstel hareketli ortalama sınıflandırma tarifimizde.
Desteklemek için referanslarımızı güncelledim Etiket Yumuşatma, yakın zamanda Joel Schlosser ve Thomas J. Fan tarafından PyTorch çekirdeğinde tanıtıldı.
gerçekleştirme seçeneğini ekledim Öğrenme Hızı Isınması, Ilqar Ramazanlı tarafından geliştirilen en son LR zamanlayıcılarını kullanarak.

Diğer geliştirmeler

Sürümde eklenen diğer bazı önemli iyileştirmeler şunlardır:

Alexander Soare ve Francisco Massa bir FX tabanlı yardımcı program bu, model mimarilerinden keyfi ara özelliklerin çıkarılmasına izin verir.
Nikita Shulga desteğini ekledi CUDA 11.3 TorchVision'a.
Zhongkai Zhu düzeltti bağımlılık sorunları JPEG lib (bu sorun, kullanıcılarımızın çoğu için büyük baş ağrılarına neden oldu).

Devam Eden ve Sıradaki

Bu sürümde yapılmayan, geliştirilmekte olan birçok heyecan verici yeni özellik var. Burda biraz var:

Moto Hira, Parmeet Singh Bhatia ve ben yeni bir mekanizma öneren bir RFC hazırladık. Model Sürümü Oluşturma ve önceden eğitilmiş ağırlıklarla ilişkili meta verileri işlemek için. Bu, her model için birden fazla önceden eğitilmiş ağırlığı desteklememizi ve etiketler, ön işleme dönüşümleri vb. gibi ilgili bilgileri modellere eklememizi sağlayacaktır.
Şu anda “ tarafından eklenen ilkelleri kullanmaya çalışıyorum.piller Dahil” projemizin doğruluğunu artırmak için önceden eğitilmiş modeller. Hedef, TorchVision tarafından sağlanan en popüler önceden eğitilmiş modeller için sınıfının en iyisi sonuçları elde etmektir.
Philip Meier ve Francisco Massa, TorchVision'ın yeni modeli için heyecan verici bir prototip üzerinde çalışıyor. Veri kümesi ve Dönüşümler API.
Prabhat Roy, PyTorch Core'un genişletilmesi üzerinde çalışıyor AveragedModel desteklemek için sınıf tamponların ortalaması parametrelere ek olarak. Bu özelliğin olmaması genellikle hata olarak bildirilir ve sayısız aşağı akış kitaplığını etkinleştir ve özel EMA uygulamalarını kaldırmak için çerçeveler.
aditya oke bir yardımcı program yazdı izin veren sonuçları çizmek Keypoint modellerinin orijinal görüntülerde (özellik, bataklığa düştüğümüz ve zamanında gözden geçiremediğimiz için piyasaya sürülmedi 🙁 )
inşa ediyorum prototip FX-yardımcısı Bu, isteğe bağlı Model mimarilerinde Artık Bağlantıları algılamayı ve ağı düzenleme blokları eklemek için değiştirmeyi amaçlar (örneğin StochasticDepth).

Son olarak, biriktirme listemizde birkaç yeni özellik var (PR'ler çok yakında):

Umarım yukarıdaki özeti ilginç bulmuşsunuzdur. Blog dizisinin formatının nasıl uyarlanacağına dair herhangi bir fikir memnuniyetle karşılanmaktadır. bana vur LinkedIn or Twitter.