Nueva serie de blogs - Memorias de un desarrollador de TorchVision

• 21 de agosto de 2021
• Vasilis Vryniotis
• . Sin comentarios

Estoy comenzando una nueva serie de publicaciones de blog sobre el desarrollo de la biblioteca de visión por computadora de PyTorch. Planeo discutir próximas características interesantes principalmente de AntorchaVisión y secundaria del ecosistema PyTorch. Mi objetivo es resaltar las características nuevas y en desarrollo y brindar claridad sobre lo que está sucediendo entre los lanzamientos. Aunque es probable que el formato cambie con el tiempo, inicialmente planeo mantenerlo en un tamaño reducido y ofrecer referencias para aquellos que quieran profundizar. Finalmente, en lugar de publicar artículos en intervalos fijos, los publicaré cuando tenga suficientes temas interesantes para cubrir.

Cláusula de exención de responsabilidades: Las características cubiertas estarán sesgadas hacia temas que me interesan personalmente. El ecosistema PyTorch es enorme y solo tengo visibilidad sobre una pequeña parte de él. Cubrir (o no cubrir) una característica no dice nada sobre su importancia. Las opiniones expresadas son únicamente mías.

Con eso fuera del camino, veamos qué se está cocinando:

Suavizado de etiquetas para pérdida de entropía cruzada

Una característica muy solicitada en PyTorch es apoyar objetivos blandos y agregar una opción de suavizado de etiquetas en la pérdida de entropía cruzada. Ambas características tienen como objetivo facilitar el suavizado de etiquetas, y la primera opción ofrece más flexibilidad cuando se utilizan técnicas de aumento de datos como confusión/mezclar se utilizan y el segundo es más eficaz para los casos simples. La opción de objetivos blandos ya ha sido fusionado con el maestro por Joel Schlosser mientras que la opción label_smoothing es siendo desarrollado por Thomas J. Fan y se encuentra actualmente en revisión.

Nuevo programador de calentamiento

El calentamiento de la tasa de aprendizaje es una técnica común que se usa al entrenar modelos, pero hasta ahora PyTorch no ofrecía una solución estándar. Recientemente, Ilqar Ramazanli ha Introducido un nuevo programador que admite un calentamiento lineal y constante. Actualmente en progreso es el trabajo en torno a mejorando la capacidad de cadena y combinación de los programadores existentes.

TorchVision con "Pilas incluidas"

En esta mitad, estamos trabajando para agregar modelos, pérdidas, programadores, aumentos de datos y otras utilidades populares de TorchVision que se utilizan para lograr resultados de vanguardia. Este proyecto se llama acertadamente "Baterias incluidas"Y actualmente en progreso.

A principios de esta semana, he agregó una nueva capa , que son Estocástico Profundidad que se puede utilizar para eliminar aleatoriamente ramas residuales en arquitecturas residuales. Actualmente estoy trabajando en agregando una implementación de la popular arquitectura de red llamada Red eficiente. Finalmente, Allen Goodman es actualmente agregando un nuevo operador que permitirá convertir Máscaras de segmentación a cuadros delimitadores.

Otras características en desarrollo

Aunque constantemente realizamos mejoras incrementales en la documentación, la infraestructura de CI y la calidad general del código, a continuación destaco algunos de los aspectos "orientados al usuario" elementos de la hoja de ruta que están en desarrollo:

¡Eso es todo! Espero que te haya resultado interesante. Cualquier idea sobre cómo adaptar el formato o qué temas cubrir es muy bienvenida. Golpéame en Etiqueta LinkedIn or Twitter.

• Distribución de relaciones públicas y contenido potenciado por SEO. Consiga amplificado hoy.
• Platoblockchain. Inteligencia del Metaverso Web3. Conocimiento amplificado. Accede Aquí.
• Fuente: https://blog.datumbox.com/new-blog-series-memoirs-of-a-torchvision-developer/