10.6K ·GitHub
Что это такое?
Это исходный код части алгоритма рекомендаций Twitter (X), а именно моделей машинного обучения, которые ранжируют и встраивают контент для ленты «Для вас».
Это исходный код части алгоритма рекомендаций Twitter (X), а именно моделей машинного обучения, которые ранжируют и встраивают контент для ленты «Для вас».Это готовое приложение или только код ML-моделей?Только код ML-моделей, не готовое приложение и не сервис. Это два отдельных проекта (Heavy Ranker и TwHIN embeddings), у каждого своя README и инструкция по запуску.
Только код ML-моделей, не готовое приложение и не сервис. Это два отдельных проекта (Heavy Ranker и TwHIN embeddings), у каждого своя README и инструкция по запуску.Как это запустить?Создайте виртуальное окружение Python и запустите скрипт инициализации ./images/initvenv.sh, затем следуйте README внутри папки каждого проекта, чтобы узнать, как запустить конкретную модель.
Создайте виртуальное окружение Python и запустите скрипт инициализации ./images/initvenv.sh, затем следуйте README внутри папки каждого проекта, чтобы узнать, как запустить конкретную модель.Нужна ли особая ОС или железо для запуска?Проверено только на Linux, а так как код использует torchrec, лучше всего запускать его с видеокартой Nvidia.
Проверено только на Linux, а так как код использует torchrec, лучше всего запускать его с видеокартой Nvidia.Будет ли это хорошо работать без видеокарты или на Windows/macOS?Официально нет: скрипт установки работает только в Linux, а зависимость torchrec делает видеокарту Nvidia настоятельно желательной, поэтому установки не на Linux или без GPU не являются поддерживаемым вариантом.
Официально нет: скрипт установки работает только в Linux, а зависимость torchrec делает видеокарту Nvidia настоятельно желательной, поэтому установки не на Linux или без GPU не являются поддерживаемым вариантом.Кому это может быть полезно?Исследователям и инженерам машинного обучения, которые хотят изучить или воспроизвести реальные модели ранжирования и встраивания, лежащие в основе ленты рекомендаций Twitter.
Исследователям и инженерам машинного обучения, которые хотят изучить или воспроизвести реальные модели ранжирования и встраивания, лежащие в основе ленты рекомендаций Twitter.Обязательно ли нужна видеокарта Nvidia?Да, с ней работает лучше всего из-за библиотеки torchrec, которую используют модели.
Да, с ней работает лучше всего из-за библиотеки torchrec, которую используют модели.Что такое «Heavy Ranker»?Это модель, которая ранжирует контент для ленты «Для вас», находится в папке projects/home/recap.
Это модель, которая ранжирует контент для ленты «Для вас», находится в папке projects/home/recap.Для чего нужны эмбеддинги TwHIN?Эмбеддинги TwHIN (Twitter Heterogeneous Information Network) — это векторные представления сущностей, таких как пользователи и твиты, находятся в папке projects/twhin и используются как входные данные для моделей рекомендаций.
Эмбеддинги TwHIN (Twitter Heterogeneous Information Network) — это векторные представления сущностей, таких как пользователи и твиты, находятся в папке projects/twhin и используются как входные данные для моделей рекомендаций.Это вся система рекомендаций Twitter?Нет, этот репозиторий открывает только часть ML-моделей, используемых в Twitter, а не полный сквозной конвейер рекомендаций.
Нет, этот репозиторий открывает только часть ML-моделей, используемых в Twitter, а не полный сквозной конвейер рекомендаций.What are similar projects?the-algorithm, recommenders, spaCy, DALLE2-pytorch, nanoGPT, ludwig, train-llm-from-scratch, CLM
the-algorithm, recommenders, spaCy, DALLE2-pytorch, nanoGPT, ludwig, train-llm-from-scratch, CLMWhich topics is it in?recommendation-system, ml, embeddings, neural-network, transformer, data-science, agpl, nvidia, pytorch, deep-learning, research, gpu
recommendation-system, ml, embeddings, neural-network, transformer, data-science, agpl, nvidia, pytorch, deep-learning, research, gpu