Что это?
TrenTorch — ML-фреймворк и учебная программа, написанные с нуля поверх гарвардского TinyTorch (CS249r): те же обучающие блоки, но развитые дальше, с более чистой внутренней архитектурой и большим числом модулей, покрывающих глубокое обучение, CNN, трансформеры и инференс.
TrenTorch — ML-фреймворк и учебная программа, написанные с нуля поверх гарвардского TinyTorch (CS249r): те же обучающие блоки, но развитые дальше, с более чистой внутренней архитектурой и большим числом модулей, покрывающих глубокое обучение, CNN, трансформеры и инференс.Нужны ли установленные PyTorch или TensorFlow?Нет, весь фреймворк реализован только на чистом NumPy, с нулевой зависимостью от PyTorch или TensorFlow.
Нет, весь фреймворк реализован только на чистом NumPy, с нулевой зависимостью от PyTorch или TensorFlow.Локальная установка сейчас полностью отполирована?Локальная установка работает, но сам README предупреждает «взять страхующего», а полировка документации и укрепление краевых случаев всё ещё значатся как незавершённые.
Локальная установка работает, но сам README предупреждает «взять страхующего», а полировка документации и укрепление краевых случаев всё ещё значатся как незавершённые.Для кого предназначена эта учебная программа?Для инженеров и учащихся, которые хотят глубоко понимать внутренности ML, а не просто вызывать функции библиотек, включая готовящихся к интервью по ML-системам.
Для инженеров и учащихся, которые хотят глубоко понимать внутренности ML, а не просто вызывать функции библиотек, включая готовящихся к интервью по ML-системам.Где это работает?Работает как локальный CLI в терминале на любой машине с Python, поскольку об ограничениях по ОС ничего не говорится.
Работает как локальный CLI в терминале на любой машине с Python, поскольку об ограничениях по ОС ничего не говорится.Что на самом деле строят 20 модулей?Они сгруппированы в четыре части: Foundations (тензоры, autograd, оптимизаторы), Vision (Conv2d/CNN), Language (токенизация, эмбеддинги, трансформеры) и Optimization (профилирование, квантизация, ускорение, финальный проект).
Они сгруппированы в четыре части: Foundations (тензоры, autograd, оптимизаторы), Vision (Conv2d/CNN), Language (токенизация, эмбеддинги, трансформеры) и Optimization (профилирование, квантизация, ускорение, финальный проект).Что за исторические вехи, которые вы открываете?По мере продвижения вы воссоздаёте вехи ML на собственном фреймворке: от перцептрона 1958 года и XOR-кризиса 1969-го через backpropagation 1986 года, CNN 1998-го и трансформеры 2017-го вплоть до production-оптимизации в духе MLPerf.
По мере продвижения вы воссоздаёте вехи ML на собственном фреймворке: от перцептрона 1958 года и XOR-кризиса 1969-го через backpropagation 1986 года, CNN 1998-го и трансформеры 2017-го вплоть до production-оптимизации в духе MLPerf.Чем TrenTorch отличается от оригинального TinyTorch?Он использует ту же учебную программу и основу, созданные гарвардским TinyTorch (проф. Vijay Janapa Reddi), но перестраивает их с более чистой внутренней архитектурой, более резкой производительностью и дополнительными экспериментальными модулями, вышедшими за исходную спецификацию.
Он использует ту же учебную программу и основу, созданные гарвардским TinyTorch (проф. Vijay Janapa Reddi), но перестраивает их с более чистой внутренней архитектурой, более резкой производительностью и дополнительными экспериментальными модулями, вышедшими за исходную спецификацию.Зачем писать свой ML-фреймворк вместо того, чтобы просто использовать PyTorch?Цель — глубокое понимание: точно знать, что делает loss.backward(), мыслить категориями памяти и вычислений, а не абстракций, и уметь отлаживать на уровне тензоров — навыки, которые приходят от написания механизма своими руками.
Цель — глубокое понимание: точно знать, что делает loss.backward(), мыслить категориями памяти и вычислений, а не абстракций, и уметь отлаживать на уровне тензоров — навыки, которые приходят от написания механизма своими руками.What are similar projects?llama3-from-scratch, zero-to-sglang, demucs, jeeves, autumn-recruitment, sutskever-30-implementations, spaCy, ZDTaichu5.0-9B
llama3-from-scratch, zero-to-sglang, demucs, jeeves, autumn-recruitment, sutskever-30-implementations, spaCy, ZDTaichu5.0-9BWhich topics is it in?sveltekit, from-scratch, engineering, numpy, neural-network, quantization, transformer, nlp, inference, computer-vision, cuda, pytorch
sveltekit, from-scratch, engineering, numpy, neural-network, quantization, transformer, nlp, inference, computer-vision, cuda, pytorch