Что это?
Это репозиторий дополнительных материалов YouTube-канала GPU MODE lectures — растущая коллекция ноутбуков, слайдов и кода каждой пронумерованной лекции по программированию GPU и CUDA.
Это репозиторий дополнительных материалов YouTube-канала GPU MODE lectures — растущая коллекция ноутбуков, слайдов и кода каждой пронумерованной лекции по программированию GPU и CUDA.Это структурированный курс или просто коллекция отдельных докладов?Организовано как пронумерованные лекции, каждая привязана к записи на YouTube и спикеру и имеет собственную папку материалов; первые лекции повторяют главы учебника PMPP, а поздние становятся самостоятельными специализированными докладами.
Организовано как пронумерованные лекции, каждая привязана к записи на YouTube и спикеру и имеет собственную папку материалов; первые лекции повторяют главы учебника PMPP, а поздние становятся самостоятельными специализированными докладами.Как организован материал и с чего начать новичку?Каждая лекция лежит в собственной папке lectureNNN, на которую ссылается README, так что вы открываете папку нужной темы; новичкам стоит начать с лекций 1-5, которые охватывают профилирование CUDA, интеграцию ядер PyTorch и начало работы с CUDA.
Каждая лекция лежит в собственной папке lectureNNN, на которую ссылается README, так что вы открываете папку нужной темы; новичкам стоит начать с лекций 1-5, которые охватывают профилирование CUDA, интеграцию ядер PyTorch и начало работы с CUDA.Нужны ли NVIDIA GPU и CUDA toolkit, чтобы следовать за лекциями?Да — почти все лекции о написании и профилировании CUDA-ядер в PyTorch и Triton, так что для практических упражнений ожидается NVIDIA GPU с поддержкой CUDA; несколько поздних лекций вместо этого разбирают Apple Metal и ядра для ARM CPU.
Да — почти все лекции о написании и профилировании CUDA-ядер в PyTorch и Triton, так что для практических упражнений ожидается NVIDIA GPU с поддержкой CUDA; несколько поздних лекций вместо этого разбирают Apple Metal и ядра для ARM CPU.Все ли лекции полноценно документированы ноутбуками и слайдами?Покрытие неровное — несколько номеров лекций в README полностью пропущены, а у некоторых записей указаны только название, спикер и ссылка на слайды без дальнейшего описания или кода.
Покрытие неровное — несколько номеров лекций в README полностью пропущены, а у некоторых записей указаны только название, спикер и ссылка на слайды без дальнейшего описания или кода.На кого это рассчитано — на совсем новичков или опытных GPU-инженеров?Охватывает оба конца: ранние доклады адресованы Python-программистам, новым в CUDA, а поздние лекции разбирают продвинутые системные темы вроде CUTLASS, коллективных операций NCCL, внутренностей Triton и обслуживания LLM — для опытных инженеров.
Охватывает оба конца: ранние доклады адресованы Python-программистам, новым в CUDA, а поздние лекции разбирают продвинутые системные темы вроде CUTLASS, коллективных операций NCCL, внутренностей Triton и обслуживания LLM — для опытных инженеров.Какие темы лекции покрывают в целом?От основ CUDA и интеграции ядер PyTorch до продвинутых тем вроде Flash Attention, квантованного обучения, внутренностей Triton/Gluon, CUTLASS, коллективных операций NCCL и систем обслуживания LLM вроде VLLM и SGLang.
От основ CUDA и интеграции ядер PyTorch до продвинутых тем вроде Flash Attention, квантованного обучения, внутренностей Triton/Gluon, CUTLASS, коллективных операций NCCL и систем обслуживания LLM вроде VLLM и SGLang.Каждая ли лекция привязана к книге PMPP?Только ранние лекции повторяют главы «Programming Massively Parallel Processors: A Hands-on Approach»; поздние уходят далеко за рамки книги в специализированные темы от выступающих.
Только ранние лекции повторяют главы «Programming Massively Parallel Processors: A Hands-on Approach»; поздние уходят далеко за рамки книги в специализированные темы от выступающих.Кто выступает с этими лекциями?Спикеры — практики и исследователи из проектов вроде PyTorch, Unsloth, SGLang, Hugging Face и NVIDIA, включая Jeremy Howard, Thomas Viehmann, Mark Saroufim и Daniel Han.
Спикеры — практики и исследователи из проектов вроде PyTorch, Unsloth, SGLang, Hugging Face и NVIDIA, включая Jeremy Howard, Thomas Viehmann, Mark Saroufim и Daniel Han.Цикл лекций всё ещё активен?Да, номера лекций в README переваливают за 100 (например, доклад об алгебре раскладок CuTe в лекции 103 и доклад о PyCuTe в лекции 114), что говорит о продолжении серии.
Да, номера лекций в README переваливают за 100 (например, доклад об алгебре раскладок CuTe в лекции 103 и доклад о PyCuTe в лекции 114), что говорит о продолжении серии.What are similar projects?llm-inference-engineering, Model-Optimizer, DMI, LeetCUDA, InfraTech, AISystem, vdn-minimax-h3, TensorRT-LLM
llm-inference-engineering, Model-Optimizer, DMI, LeetCUDA, InfraTech, AISystem, vdn-minimax-h3, TensorRT-LLMWhich topics is it in?triton, flash-attention, sglang, gpu-programming, llm-serving, arm, speculative-decoding, attention-mechanism, metal, youtube, vllm, course
triton, flash-attention, sglang, gpu-programming, llm-serving, arm, speculative-decoding, attention-mechanism, metal, youtube, vllm, course