Что это такое?
Axolotl — это бесплатный фреймворк с открытым кодом, который упрощает пост-обучение и дообучение больших языковых моделей: вы описываете запуск в одном YAML-конфиге, а он ведёт весь процесс от начала до конца.
Axolotl — это бесплатный фреймворк с открытым кодом, который упрощает пост-обучение и дообучение больших языковых моделей: вы описываете запуск в одном YAML-конфиге, а он ведёт весь процесс от начала до конца.Это библиотека Python, которую я импортирую, или отдельная программа, которую я запускаю?Это самостоятельный инструмент для обучения, который запускается на GPU, а не библиотека для написания кода: установите его из PyPI или через Docker, напишите YAML-конфиг и запустите обучение из командной строки.
Это самостоятельный инструмент для обучения, который запускается на GPU, а не библиотека для написания кода: установите его из PyPI или через Docker, напишите YAML-конфиг и запустите обучение из командной строки.Как мне запустить своё первое дообучение?Установите через Docker (в README его называют самым надёжным способом, где меньше всего ошибок) или pip, возьмите за основу пример конфига из каталога Examples, укажите свою модель и датасет и следуйте руководству Quick Start.
Установите через Docker (в README его называют самым надёжным способом, где меньше всего ошибок) или pip, возьмите за основу пример конфига из каталога Examples, укажите свою модель и датасет и следуйте руководству Quick Start.Какой компьютер мне нужен, чтобы это запустить?Python 3.11 или новее (рекомендуется 3.12), PyTorch 2.11+ и видеокарта NVIDIA (Ampere или новее — для bf16 и Flash Attention) либо AMD.
Python 3.11 или новее (рекомендуется 3.12), PyTorch 2.11+ и видеокарта NVIDIA (Ampere или новее — для bf16 и Flash Attention) либо AMD.В чём подвох — есть ли у них хостинг, чтобы всё работало за меня?Нет, всё делается своими руками: никакого хостинга нет, придётся обучать на своём GPU или арендовать его у поддерживаемых облачных провайдеров вроде RunPod, Vast.ai или Modal.
Нет, всё делается своими руками: никакого хостинга нет, придётся обучать на своём GPU или арендовать его у поддерживаемых облачных провайдеров вроде RunPod, Vast.ai или Modal.Приложение отправляет куда-то данные, пока я обучаю модель?Да, телеметрия с возможностью отключения включена по умолчанию и отправляет базовую информацию о системе, типы моделей и частоту ошибок — но никогда не личные данные и не пути к файлам. Чтобы её выключить, задайте переменную AXOLOTLDONOTTRACK=1.
Да, телеметрия с возможностью отключения включена по умолчанию и отправляет базовую информацию о системе, типы моделей и частоту ошибок — но никогда не личные данные и не пути к файлам. Чтобы её выключить, задайте переменную AXOLOTLDONOTTRACK=1.Какие модели и способы обучения он поддерживает?Модели с Hugging Face Hub — в README упомянуты GPT-OSS, LLaMA, Mistral, Mixtral и Pythia, а также добавленные в 2026 году Qwen3.5, Gemma 4 и GLM-4.7-Flash. Методы: полное дообучение, LoRA/QLoRA, QAT (int8/int4/FP8/NVFP4), настройка на предпочтения (DPO, IPO, KTO, ORPO), RL (GRPO) и обучение модели наград, а также визуально-языковые и аудио-модели вроде Qwen2-VL и Voxtral.
Модели с Hugging Face Hub — в README упомянуты GPT-OSS, LLaMA, Mistral, Mixtral и Pythia, а также добавленные в 2026 году Qwen3.5, Gemma 4 и GLM-4.7-Flash. Методы: полное дообучение, LoRA/QLoRA, QAT (int8/int4/FP8/NVFP4), настройка на предпочтения (DPO, IPO, KTO, ORPO), RL (GRPO) и обучение модели наград, а также визуально-языковые и аудио-модели вроде Qwen2-VL и Voxtral.Мне придётся много писать кода, чтобы настроить запуск?Нет — весь процесс управляется одним YAML-файлом конфигурации: предобработка датасета, обучение, оценка, квантизация и инференс. Обычно вы просто берёте пример конфига и правите настройки, а не пишете код обучения.
Нет — весь процесс управляется одним YAML-файлом конфигурации: предобработка датасета, обучение, оценка, квантизация и инференс. Обычно вы просто берёте пример конфига и правите настройки, а не пишете код обучения.Где могут храниться мои датасеты для обучения?Практически где угодно: Axolotl загружает датасеты с локального диска, из Hugging Face Hub или из облачных хранилищ S3, Azure, GCP и OCI.
Практически где угодно: Axolotl загружает датасеты с локального диска, из Hugging Face Hub или из облачных хранилищ S3, Azure, GCP и OCI.Что делать, если одной видеокарты для моей модели не хватает?Он масштабируется на несколько машин: обучение на нескольких GPU через FSDP1/FSDP2 или DeepSpeed, запуски на нескольких узлах с Torchrun или Ray, а также приёмы параллелизма вроде sequence и context parallelism для обучения на длинном контексте.
Он масштабируется на несколько машин: обучение на нескольких GPU через FSDP1/FSDP2 или DeepSpeed, запуски на нескольких узлах с Torchrun или Ray, а также приёмы параллелизма вроде sequence и context parallelism для обучения на длинном контексте.Which topics is it in?distributed-training, moe, lora, training, reinforcement-learning, fine-tuning, multimodal, quantization, huggingface, pytorch, deep-learning, framework
distributed-training, moe, lora, training, reinforcement-learning, fine-tuning, multimodal, quantization, huggingface, pytorch, deep-learning, framework