32.5K ·GitHub
Что это?
Это набор учебного кода PyTorch для исследователей глубокого обучения, который охватывает модели от базового уровня до продвинутых тем, каждая реализована менее чем в 30 строках кода там, где это возможно.
Это библиотека или набор примеров-скриптов?
Это набор самостоятельных примеров-скриптов, разбитых по темам (основы, средний уровень, продвинутый уровень, утилиты), а не устанавливаемая библиотека или фреймворк.
Как начать работу с этими уроками?
Клонируйте репозиторий и запускайте Python-скрипты в папке каждой модели (они разбиты на разделы Basics, Intermediate, Advanced, Utilities); рекомендуется сначала пройти официальный туториал PyTorch.
Что нужно установить, чтобы всё это запустить?
Python 2.7 или 3.5+ и PyTorch 0.4.0+.
Это актуально для последней версии PyTorch?
Указанная зависимость — PyTorch 0.4.0+, очень старая версия, поэтому некоторый код может не работать без правок на современных релизах PyTorch.
Какие темы охватывает урок?
Материал идёт от основ (линейная и логистическая регрессия, сети прямого распространения) к среднему уровню (CNN, ResNet, RNN, двунаправленные RNN, языковые модели), затем к продвинутому уровню (GAN, вариационный автоэнкодер, перенос стиля нейросети, создание подписей к изображениям с помощью CNN-RNN) и, наконец, к утилитам (TensorBoard в PyTorch).
Есть ли здесь генеративные модели, например GAN?
Да, в продвинутом разделе есть реализации генеративно-состязательных сетей (GAN), вариационного автоэнкодера и переноса стиля нейросети (Neural Style Transfer).
Могу ли я с помощью этого визуализировать обучение?
Да, в разделе Utilities показано, как использовать TensorBoard с PyTorch.
Почему каждая модель уложена менее чем в 30 строк кода?
Цель в том, чтобы реализации было легко читать и быстро учиться по ним, а не создавать готовый к промышленной эксплуатации или сильно абстрагированный код.
What are similar projects?
DeepLearning, TensorFlow-Course, annotated_deep_learning_paper_implementations, pytorch-handbook, Dive-into-DL-PyTorch, 100-Days-Of-ML-Code, fastbook, llama3-from-scratch