Új blogsorozat – Egy TorchVision fejlesztő emlékiratai

• 21. augusztus 2021.
• Vasilis Vryniotis
• . Nincs hozzászólás

Új blogbejegyzés-sorozatot indítok a PyTorch számítógépes képtárának fejlesztéséről. Terveim szerint elsősorban a következő érdekes funkciókról fogok beszélni TorchVision és másodlagos a PyTorch ökoszisztémából. Célom, hogy kiemeljem az új és fejlesztés alatt álló funkciókat, és világossá tegyem, mi történik a kiadások között. Bár a formátum valószínűleg idővel változni fog, kezdetben azt tervezem, hogy megőrizöm, és referenciákat kínálok azoknak, akik mélyebbre szeretnének ásni. Végül a cikkek meghatározott időközönkénti közzététele helyett akkor fogok posztolni, amikor elég érdekes témám van, amit meg kell vizsgálnom.

Jogi nyilatkozat: A tárgyalt funkciók elfogultak az engem személyesen érdekelt témák felé. A PyTorch ökoszisztéma hatalmas, és csak egy kis részét látom. Egy jellemző lefedése (vagy lefedése) semmit sem mond a fontosságáról. A kifejtett vélemények kizárólag az enyémek.

Ha ez nem megy, lássuk, mi készül:

Címkesimítás a keresztentropia elvesztéséhez

A PyTorch egyik nagyon kért funkciója az, hogy támogatja a puha célokat és a adjon hozzá egy címkesimítási lehetőséget a keresztentropia elvesztésében. Mindkét funkció célja, hogy megkönnyítse a címkesimítást, az első opció pedig nagyobb rugalmasságot kínál az adatnövelési technikák, mint pl. összekever/cutmix használják, és a második hatékonyabb az egyszerű esetekben. A soft targets opció már megvolt mesteren egyesült Joel Schlosser, míg a label_smoothing opció igen fejlesztés alatt áll Thomas J. Fan, és jelenleg felülvizsgálat alatt áll.

Új bemelegítési ütemező

A tanulási sebesség bemelegítés egy gyakori technika, amelyet modellek képzése során használnak, de a PyTorch eddig nem kínált kész megoldást. A közelmúltban Ilqar Ramazanli Bevezetett egy új ütemező, amely támogatja a lineáris és állandó bemelegítést. Jelenleg a körüli munka folyik a láncképesség javítása és a kombináció meglévő ütemezők.

TorchVision „elemekkel”

Ebben a felében azon dolgozunk, hogy a TorchVisionban népszerű modelleket, veszteségeket, ütemezőket, adatkiegészítéseket és más segédprogramokat adjunk a legkorszerűbb eredmények eléréséhez. Ennek a projektnek találó a neve:Elemek” és jelenleg is az folyamatban.

A hét elején én hozzáadott egy új réteget hívott Sztochasztikus mélység amelyek segítségével véletlenszerűen ejthetők el a maradék ágak a maradék architektúrákban. Jelenleg azon dolgozom megvalósítás hozzáadása nevű népszerű hálózati architektúra EfficientNet. Végül Allen Goodman az jelenleg új operátor hozzáadása, amely lehetővé teszi a konvertálást Szegmentációs maszkok határolódobozokhoz.

Egyéb funkciók fejlesztés alatt

Úgy gondoltuk, hogy folyamatosan fejlesztjük a dokumentációt, a CI infrastruktúrát és az általános kódminőséget, az alábbiakban kiemelek néhány „felhasználói oldalt”. útiterv elemeit amelyek fejlesztés alatt állnak:

Ez az! Remélem érdekesnek találtad. Szívesen fogadunk minden ötletet a formátum adaptálására, vagy milyen témákkal foglalkozzunk. Üss rám LinkedIn or Twitter.