14.9K ·GitHub
Что это такое?
Коллекция эталонных реализаций глубокого обучения от NVIDIA, соответствующих современному уровню, для компьютерного зрения, NLP, рекомендательных систем, распознавания и синтеза речи и других задач. Они настроены на воспроизводимую точность и производительность на видеокартах NVIDIA с Tensor Core.
Коллекция эталонных реализаций глубокого обучения от NVIDIA, соответствующих современному уровню, для компьютерного зрения, NLP, рекомендательных систем, распознавания и синтеза речи и других задач. Они настроены на воспроизводимую точность и производительность на видеокартах NVIDIA с Tensor Core.Это одна библиотека или набор отдельных проектов с моделями?Это каталог множества независимых реализаций моделей (ResNet, BERT, DLRM, Tacotron 2 и др.). Каждая из них находится в своей папке со своим README. Реализации охватывают PyTorch, TensorFlow, TensorFlow2, MXNet и PaddlePaddle.
Это каталог множества независимых реализаций моделей (ResNet, BERT, DLRM, Tacotron 2 и др.). Каждая из них находится в своей папке со своим README. Реализации охватывают PyTorch, TensorFlow, TensorFlow2, MXNet и PaddlePaddle.Как мне на самом деле запустить один из этих примеров?Откройте README нужной модели и следуйте его инструкциям или загрузите ежемесячно обновляемый Docker-контейнер из реестра NGC. В нём примеры поставляются вместе с полным набором оптимизированного программного обеспечения.
Откройте README нужной модели и следуйте его инструкциям или загрузите ежемесячно обновляемый Docker-контейнер из реестра NGC. В нём примеры поставляются вместе с полным набором оптимизированного программного обеспечения.Нужна ли мне конкретная видеокарта NVIDIA, чтобы ими пользоваться?Да, примеры собраны и настроены под видеокарты NVIDIA архитектур Volta, Turing и Ampere, чтобы использовать Tensor Core, AMP и TF32.
Да, примеры собраны и настроены под видеокарты NVIDIA архитектур Volta, Turing и Ampere, чтобы использовать Tensor Core, AMP и TF32.Все ли модели одинаково готовы к продакшену и поддерживаются?Нет, уровень поддержки различается для каждой модели и функции. У одних есть полный статус «Supported» для TensorRT/Triton, а другие имеют только статус «Example». Обучение на нескольких узлах доступно лишь для нескольких моделей. Уровень поддержки каждой модели указан в её README.
Нет, уровень поддержки различается для каждой модели и функции. У одних есть полный статус «Supported» для TensorRT/Triton, а другие имеют только статус «Example». Обучение на нескольких узлах доступно лишь для нескольких моделей. Уровень поддержки каждой модели указан в её README.Что такое контейнер NGC, упомянутый в README?Это ежемесячно обновляемый Docker-образ из NVIDIA GPU Cloud. Он включает эти примеры вместе с вкладом NVIDIA в основные фреймворки и оптимизированными библиотеками, такими как cuDNN, NCCL и cuBLAS. Все они проверены на производительность.
Это ежемесячно обновляемый Docker-образ из NVIDIA GPU Cloud. Он включает эти примеры вместе с вкладом NVIDIA в основные фреймворки и оптимизированными библиотеками, такими как cuDNN, NCCL и cuBLAS. Все они проверены на производительность.Что означают AMP и TF32 для этих моделей?AMP (Automatic Mixed Precision) и TF32 — это режимы точности на видеокартах Volta, Turing и Ampere, которые ускоряют обучение. TF32 может дать до 10-кратного прироста по сравнению с FP32 на Volta. Изменения в коде почти не требуются, а эти режимы включены в большинстве перечисленных моделей.
AMP (Automatic Mixed Precision) и TF32 — это режимы точности на видеокартах Volta, Turing и Ampere, которые ускоряют обучение. TF32 может дать до 10-кратного прироста по сравнению с FP32 на Volta. Изменения в коде почти не требуются, а эти режимы включены в большинстве перечисленных моделей.Какие задачи охватывают эти примеры?Компьютерное зрение (классификация, обнаружение, сегментация), NLP (BERT, GNMT, ELECTRA), рекомендательные системы (DLRM, NCF, Wide&Deep), распознавание речи (Jasper, QuartzNet), синтез речи (Tacotron 2, HiFi-GAN), графовые нейронные сети и прогнозирование временных рядов (Temporal Fusion Transformer).
Компьютерное зрение (классификация, обнаружение, сегментация), NLP (BERT, GNMT, ELECTRA), рекомендательные системы (DLRM, NCF, Wide&Deep), распознавание речи (Jasper, QuartzNet), синтез речи (Tacotron 2, HiFi-GAN), графовые нейронные сети и прогнозирование временных рядов (Temporal Fusion Transformer).Все ли модели в репозитории регулярно обновляются?Не обязательно. В README каждой модели указан свой уровень поддержки: от постоянных обновлений и улучшений до разового релиза «point-in-time», который в основном предназначен для демонстрации идей и экспертизы.
Не обязательно. В README каждой модели указан свой уровень поддержки: от постоянных обновлений и улучшений до разового релиза «point-in-time», который в основном предназначен для демонстрации идей и экспертизы.What are similar projects?DeepLearning, transformers.js, insightface, tensor2tensor, Transformers-Tutorials, FireRedAudio, ultralytics, dgl
DeepLearning, transformers.js, insightface, tensor2tensor, Transformers-Tutorials, FireRedAudio, ultralytics, dglWhich topics is it in?paddlepaddle, tensorflow2, mxnet, graph-neural-networks, bert, forecasting, image-classification, speech-synthesis, object-detection, onnx, tensorflow, speech-recognition
paddlepaddle, tensorflow2, mxnet, graph-neural-networks, bert, forecasting, image-classification, speech-synthesis, object-detection, onnx, tensorflow, speech-recognition