skypilot README

The project's README from github.com/skypilot-org/skypilot. As one markdown file: README.md.

SkyPilot

Documentation GitHub Release Join Slack Downloads

Manage all your AI compute

SkyPilot is a system to run, manage, and scale AI workloads on any AI infrastructure.

SkyPilot gives AI teams a simple interface to run jobs on any infra. Infra teams get a unified control plane to manage any AI compute — with advanced scheduling, scaling, and orchestration.

SkyPilot Abstractions

:fire: News :fire:

Overview

SkyPilot is easy to use for AI users:

SkyPilot makes Kubernetes easy for AI & Infra teams:

SkyPilot unifies multiple clusters, clouds, and hardware:

SkyPilot maximizes GPU fleet utilization:

SkyPilot supports your existing GPU, TPU, and CPU workloads, with no code changes.

Install with uv (also supported: pip, nightly, from source)

# Choose your clouds:
uv pip install "skypilot[kubernetes,aws,gcp,azure,oci,nebius,lambda,runpod,fluidstack,paperspace,cudo,ibm,scp,seeweb,shadeform,verda]"

To use SkyPilot directly with your agent (Claude Code, Codex, etc.), install the SkyPilot Skill. Tell your agent:

Fetch and follow https://github.com/skypilot-org/skypilot/blob/HEAD/agent/INSTALL.md to install the skypilot skill

SkyPilot

Current supported infra: Kubernetes, Slurm, AWS, GCP, Azure, OCI, CoreWeave, Nebius, Lambda Cloud, RunPod, Fluidstack, Cudo, Digital Ocean, Paperspace, Cloudflare, Samsung, IBM, Vast.ai, VMware vSphere, Seeweb, Prime Intellect, Shadeform, Verda Cloud, VastData, Crusoe.

SkyPilot

Getting started

Install SkyPilot in 1 minute. Then, launch your first cluster in 2 minutes in Quickstart.

SkyPilot is BYOC: Everything is launched within your cloud accounts, VPCs, and clusters.

Benefits of SkyPilot on Kubernetes

SkyPilot makes Kubernetes AI-native.

It turbocharges your existing Kubernetes clusters by accelerating AI/ML velocity:

...and optimizing GPU scheduling, utilization, and scaling:

See SkyPilot vs Vanilla Kubernetes and this blog post for more details.

SkyPilot in 1 minute

A SkyPilot task specifies: resource requirements, data to be synced, setup commands, and the task commands.

Once written in this unified interface (YAML or Python API), the task can be launched on any available infra (Kubernetes, Slurm, cloud, etc.). This avoids vendor lock-in, and allows easily moving jobs to a different provider.

Paste the following into a file my_task.yaml:

resources:
  accelerators: A100:8  # 8x NVIDIA A100 GPU

num_nodes: 1  # Number of VMs to launch

# Working directory (optional) containing the project codebase.
# Its contents are synced to ~/sky_workdir/ on the cluster.
workdir: ~/torch_examples

# Commands to be run before executing the job.
# Typical use: pip install -r requirements.txt, git clone, etc.
setup: |
  cd mnist
  pip install -r requirements.txt

# Commands to run as a job.
# Typical use: launch the main program.
run: |
  cd mnist
  python main.py --epochs 1

Prepare the workdir by cloning:

git clone https://github.com/pytorch/examples.git ~/torch_examples

Launch with sky launch (note: access to GPU instances is needed for this example):

sky launch my_task.yaml

SkyPilot then performs the heavy-lifting for you, including:

  1. Find the cheapest & available infra across your clusters or clouds
  2. Provision the GPUs (pods or VMs), with auto-failover if the infra returned capacity errors
  3. Sync your local workdir to the provisioned cluster
  4. Auto-install dependencies by running the task's setup commands
  5. Run the task's run commands, and stream logs

See Quickstart to get started with SkyPilot.

Runnable examples

See SkyPilot examples that cover: development, training, serving, LLM models, AI apps, and common frameworks.

Latest featured examples:

Task Examples
Training Verl, Finetune Llama 4, TorchTitan, PyTorch, DeepSpeed, NeMo, Ray, Unsloth, Jax/TPU, OpenRLHF
Serving vLLM, SGLang, Ollama
Models DeepSeek-R1, Llama 4, Llama 3, CodeLlama, Qwen, Kimi-K2, Kimi-K2-Thinking, Mixtral
AI apps RAG, vector databases (ChromaDB, CLIP)
Common frameworks Airflow, Jupyter, marimo

Source files can be found in llm/ and examples/.

Learn more

To learn more, see SkyPilot Overview, SkyPilot docs, and SkyPilot blog.

SkyPilot adopters: Testimonials and Case Studies

Follow updates:

Questions and feedback

We are excited to hear your feedback:

For general discussions, join us on the SkyPilot Slack.

Contributing

We welcome all contributions to the project! See CONTRIBUTING for how to get involved.

skypilot (skypilot-org/skypilot)

Searching Database…

10.7K ·GitHub
Skypilot
Что это такое?SkyPilot — open-source система для запуска, управления и масштабирования AI-нагрузок — обучения, инференса, пакетной обработки — на любой инфраструктуре: ваши собственные кластеры Kubernetes или Slurm, зарезервированные GPU или 20+ облаков.
Так это библиотека, которую я импортирую в свой код для обучения, или отдельный инструмент?Это инструмент, а не библиотека: вы устанавливаете его через pip или uv, описываете задачи в YAML или через Python API и отправляете их из терминала. Существующие нагрузки на GPU, TPU и CPU работают без изменений в коде.
Как запустить свою первую задачу?Установите его через uv или pip, напишите YAML-файл задачи (требования к ресурсам, команды setup и run) и выполните «sky launch». SkyPilot сам найдёт доступную дешёвую инфраструктуру, развернёт её, синхронизирует вашу рабочую папку, установит зависимости и начнёт транслировать логи.
С какими облаками и кластерами он вообще работает?Kubernetes, Slurm, AWS, GCP, Azure, OCI и ещё 20+ провайдеров, включая CoreWeave, Nebius, Lambda Cloud, RunPod, Digital Ocean, Paperspace, IBM и VMware vSphere — и всё через один интерфейс.
А если у моего привычного облака нет свободных GPU?Он гибко распределяет задачи по GPU, TPU и CPU с умным фейловером: если провайдер возвращает ошибку нехватки мощностей, задача уходит на другую доступную инфраструктуру, а не падает.
Для кого это — для исследователей, которые гоняют эксперименты, или для платформенных команд?Для обоих: AI-команды получают простой интерфейс для запуска задач на любой инфраструктуре, а инфраструктурные команды — единый control plane с продвинутым планированием, масштабированием и оркестрацией всех вычислений.
Есть какое-то облако SkyPilot или он работает в моих собственных аккаунтах?Облака SkyPilot нет: всё построено по принципу BYOC, то есть запускается в ваших собственных облачных аккаунтах, VPC и кластерах. Сам инструмент бесплатный и открытый (Apache-2.0); платите напрямую провайдерам.
Мои GPU половину времени простаивают — он поможет с этим?Да: Autostop автоматически освобождает простаивающие ресурсы, задачи бинпакуются на общих кластерах, а умный планировщик ставит их на самую доступную инфраструктуру, чтобы загрузка парка GPU была максимальной.
Что я могу запускать сразу, без настройки?Готовые примеры покрывают обучение (Verl, TorchTitan, DeepSpeed, Unsloth, OpenRLHF, Jax на TPU), инференс (vLLM, SGLang, Ollama), популярные модели (DeepSeek-R1, Llama 4, Qwen, Kimi-K2), AI-приложения вроде RAG и векторных баз данных, а также фреймворки вроде Airflow и Jupyter.
У меня уже есть Kubernetes — что SkyPilot добавляет сверху?Слой, заточенный под AI: запуск задач и деплоев без возни с манифестами, SSH в поды, синхронизация кода, подключение вашей IDE, плюс gang-планирование, очереди и управление несколькими кластерами и облаками в одном control plane.
Могу ли я подключить к нему своего кодинг-агента?Да — есть SkyPilot Skill для агентов вроде Claude Code и Codex, так что агент сможет сам установить его и управлять кластерами напрямую.
Что такое SkyPilot Endpoints и Sandboxes?Endpoints (июнь 2026) дают готовый к продакшену инференс на каждом вашем кластере. Sandboxes запускают недоверенный код, сгенерированный LLM, на уже имеющихся у вас кластерах Kubernetes; они пока в раннем доступе.
What are similar projects?metaflow, serve, ml-engineering, OpenLLM, higgsfield, ray, pulumi, ai-infra-book
Which topics is it in?failover, hyperparameter-tuning, job-queue, cloud-management, job-scheduler, tpu, ai-infrastructure, cloud-computing, cost-optimization, llm-training, llm-serving, gcp
Creator
skypilot-org
Size
266 MB
Stars
10.7K
Updated
CommitOct 20Releasev0.14.1Oct 19
Age
5y
Commits · 90 Days