- 10 октября 2021
- Василис Вриниотис
- , Без комментариев
Последние пару недель в «PyTorch Land» было очень много работы, поскольку мы лихорадочно готовим выпуск PyTorch v1.10 и TorchVision v0.11. В этом 2-м выпуске сериал, я расскажу о некоторых новых функциях, которые в настоящее время включены в релизную ветку TorchVision.
Предупреждение: Несмотря на то, что предстоящий выпуск содержит множество усовершенствований и улучшений в области ошибок/тестирования/документации, здесь я выделяю новые «ориентированные на пользователя» функции в доменах, которые меня лично интересуют. После написания сообщения в блоге я также заметил предвзятость в отношении функций, которые я просматривал, писал или внимательно следил за их разработкой. Покрытие (или непокрытие) признака ничего не говорит о его важности. Высказанные мнения являются исключительно моими собственными.
Новые модели
Новый выпуск упакован с новыми моделями:
- Кай Чжан добавил реализацию Регнет-архитектура вместе с предварительно обученными весами для 14 вариантов которые точно воспроизводят оригинальную бумагу.
- Недавно я добавил реализацию Эффективная сетевая архитектура наряду с предварительно обученными весами для вариантов B0-B7, предоставленными Люком Мелас-Кириази и Россом Вайтманом.
Новые дополнения к данным
В последнюю версию добавлено несколько новых методов увеличения данных:
- Самуэль Гэбриэл внес свой вклад Тривиальное дополнение, новая простая, но очень эффективная стратегия, которая, по-видимому, обеспечивает превосходные результаты по сравнению с AutoAugment.
- я добавил РандАугмент метод автоаугментации.
- Я предоставил реализацию Mixup и CutMix превращается в ссылки. Они будут перемещены в преобразованиях в следующем выпуске, как только их API будет завершен.
Новые операторы и слои
Включен ряд новых операторов и слоев:
Справочники / Тренировочные рецепты
Несмотря на то, что мы постоянно работаем над улучшением наших эталонных сценариев, вот несколько новых функций, включенных в следующую версию:
- Prabhat Roy добавил поддержку Экспоненциальная скользящая средняя в нашей классификации рецепт.
- Я обновил наши ссылки для поддержки Сглаживание меток, который недавно был представлен Джоэлем Шлоссером и Томасом Дж. Фэном на ядре PyTorch.
- Я включил возможность выполнения Разминка скорости обучения, используя новейшие планировщики LR, разработанные Ильгаром Рамазанлы.
Другие улучшения
Вот некоторые другие заметные улучшения, добавленные в выпуске:
- Александр Соаре и Франсиско Масса разработали Утилита на основе FX что позволяет извлекать произвольные промежуточные признаки из архитектур модели.
- Никита Шульга добавил поддержку CUDA 11.3 в ТорчВижн.
- Чжункай Чжу исправил проблемы зависимости библиотеки JPEG (эта проблема вызвала серьезные проблемы у многих наших пользователей).
В процессе и на очереди
Есть много интересных новых функций, находящихся в стадии разработки, которые не вошли в этот выпуск. Вот некоторые из них:
- Мото Хира, Пармит Сингх Бхатия и я подготовили RFC, в котором предлагается новый механизм Управление версиями модели и для обработки метаданных, связанных с предварительно обученными весами. Это позволит нам поддерживать несколько предварительно обученных весов для каждой модели и прикреплять к моделям связанную информацию, такую как метки, преобразования предварительной обработки и т. д.
- В настоящее время я работаю над использованием примитивов, добавленных «Батареи в комплекте”, чтобы повысить точность наших предварительно обученные модели. Цель состоит в том, чтобы достичь лучших в своем классе результатов для самых популярных предварительно обученных моделей, предоставляемых TorchVision.
- Филип Мейер и Франсиско Масса работают над захватывающим прототипом новой системы TorchVision. Dataset и Трансформации API.
- Прабхат Рой работает над расширением ядра PyTorch.
AveragedModel
класс для поддержки усреднение буферов кроме параметров. Отсутствие этой функции обычно считается ошибкой и будет включить многочисленные нижестоящие библиотеки и фреймворки, чтобы удалить свои собственные реализации EMA. - Адитья Оке написал утилиту который позволяет построение результатов моделей Keypoint на исходных изображениях (функция не попала в релиз, так как мы были загружены и не смогли вовремя просмотреть ее 🙁 )
- я строю прототип FX-утилиты который направлен на обнаружение остаточных соединений в произвольной архитектуре модели и изменение сети для добавления блоков регуляризации (таких как
StochasticDepth
).
Наконец, в нашем бэклоге есть несколько новых функций (скоро будут опубликованы PR):
Я надеюсь, что приведенное выше резюме показалось вам интересным. Приветствуются любые идеи о том, как адаптировать формат серии блогов. Ударь меня по LinkedIn or Twitter.
- SEO-контент и PR-распределение. Получите усиление сегодня.
- Платоблокчейн. Интеллект метавселенной Web3. Расширение знаний. Доступ здесь.
- Источник: https://blog.datumbox.com/a-sneak-peek-on-torchvision-v0-11-memoirs-of-a-torchvision-developer-2/
- 10
- 11
- 7
- a
- О нас
- выше
- точность
- Достигать
- приспосабливать
- добавленный
- дополнение
- После
- Цель
- позволяет
- и
- API
- связанный
- прикреплять
- автор
- смещение
- Блоки
- Блог
- Филиал
- Ошибка
- Строительство
- вызванный
- класс
- классификация
- тесно
- приход
- Скоро
- обычно
- Коммутация
- (CIJ)
- способствовало
- Основные
- Пара
- чехол для варгана
- покрытие
- В настоящее время
- изготовленный на заказ
- данным
- Датумбокс
- развитый
- Застройщик
- Развитие
- доменов
- составлен
- каждый
- Эффективный
- усилие
- EMA
- включить
- и т.д
- захватывающий
- выраженный
- простирающийся
- вентилятор
- Особенность
- Особенности
- несколько
- доработан
- фиксированной
- следует
- формат
- найденный
- каркасы
- Франциско
- от
- Управляемость
- головные боли
- здесь
- выделив
- очень
- Удар
- надежды
- Как
- How To
- HTTPS
- БОЛЬНОЙ
- идеи
- изображений
- реализация
- значение
- улучшать
- улучшение
- улучшение
- in
- включены
- информация
- заинтересованный
- интересный
- выпустили
- вопрос
- IT
- Этикетки
- Отсутствие
- Фамилия
- последний
- слоев
- основной
- сделать
- многих
- макс-ширина
- механизм
- метод
- модель
- Модели
- самых
- Самые популярные
- перемещение
- с разными
- сеть
- Новые
- Новые функции
- следующий
- примечательный
- номер
- многочисленный
- октябрь
- Операторы
- Мнения
- Опция
- заказ
- оригинал
- Другое
- собственный
- упакованный
- бумага & картон
- параметры
- Выполнять
- Лично
- Платон
- Платон Интеллектуальные данные
- ПлатонДанные
- Популярное
- После
- Блог
- подготовка
- Проект
- предлагает
- прототип
- обеспечивать
- при условии
- pytorch
- Обменный курс
- недавно
- рецепт
- Рекомендации
- освободить
- удаление
- Сообщается
- Итоги
- обзоре
- отзывы
- скрипты
- кажется
- Серии
- просто
- стащить
- некоторые
- Стратегия
- такие
- РЕЗЮМЕ
- супер
- топ
- поддержка
- цель
- снижения вреда
- Ассоциация
- их
- время
- в
- Торчвидение
- к
- Обучение
- Предстоящие
- обновление
- us
- пользователей
- версия
- Недели
- добро пожаловать
- который
- будете
- работает
- письмо
- Ты
- зефирнет