agent-lightning README

The project's README from github.com/microsoft/agent-lightning. As one markdown file: README.md.

Agent Lightning v1.0

3,500-Line Lightweight Agentic RL Framework for Training Agents with Real Harnesses!

Documentation  ·  Technical Report  ·  MIT License

Agent Lightning was completely refactored in v1.0. For legacy releases earlier than v1.0, see this branch.

⚡ Key Features

⚡ Installation

The following is an example installation on a CUDA 13.0 machine:

cd <this-repo>
uv sync
bash scripts/setup_verl.sh 0.8.0 cu130

See the Installation Guide for details.

⚡ Architecture

Agent Lightning v1.0 architecture

Agent Lightning v1.0 keeps the training architecture simple with three lightweight components:

The Trainer creates rollouts, the Controller launches agents, and the Gateway turns interactions into training data, while agents continue to run with their real harnesses.

⚡ Results

We evaluate Agent Lightning v1.0 across several practical training domains, including Search R1, LLM-in-Sandbox, and Coding Agent. Pure RL delivers substantial improvements across all three domains, as shown below.

Agent Lightning v1.0 benchmark comparison

⚡ Documentation

Section Content
Installation Base environment and verl GPU stack
Quick Start Local first run and end-to-end flow
Basics Components, rollouts, events, and trajectories
Trainer Configuration verl integration and trace aggregation
API Gateway Configuration Gateway and model proxy settings
Controller Configuration Local and Kubernetes runners
Asynchronous Training Collocated async collection and pause/drain

⚡ Examples

Example Description
Calc-X POC math reasoning example with AutoGen and MCP calculator tools, requiring only one GPU.
GSM8K POC grade-school math reasoning example.
ScienceWorld Interactive science tasks in a text-based environment.
Search-R1 Multi-turn retrieval and reasoning agent.
LLM-in-Sandbox General agent with computer and code execution tools.
Coding Agent Coding agent trained with repository tests.

⚡ Articles

⚡ Community Projects

⚡ Citation

If you use Agent Lightning v1.0 in your research or projects, please cite the technical report:

@misc{he2026agentlightningv10harnessed,
  title={Agent Lightning v1.0: Towards Harnessed Agentic RL},
  author={Zhiyuan He and Siwei Zhang and Zhiwen Zhou and Yuqing Yang and Yu Kang and Yuge Zhang and Luna K. Qiu and Tin Yan Tsui and Jiahang Xu and Chong Luo},
  year={2026},
  eprint={2608.17528},
  archivePrefix={arXiv},
  primaryClass={cs.AI},
  url={https://arxiv.org/abs/2608.17528},
}

For the original Agent Lightning paper, please use:

@misc{luo2025agentlightningtrainai,
      title={Agent Lightning: Train ANY AI Agents with Reinforcement Learning},
      author={Xufang Luo and Yuge Zhang and Zhiyuan He and Zilong Wang and Siyun Zhao and Dongsheng Li and Luna K. Qiu and Yuqing Yang},
      year={2025},
      eprint={2508.03680},
      archivePrefix={arXiv},
      primaryClass={cs.AI},
      url={https://arxiv.org/abs/2508.03680},
}

⚡ Contributing

This project welcomes contributions and suggestions. Start by reading the Contributing Guide for recommended contribution points, environment setup, branching conventions, and pull request expectations. Most contributions require you to agree to a Contributor License Agreement (CLA) declaring that you have the right to, and actually do, grant us the rights to use your contribution. For details, visit https://cla.opensource.microsoft.com.

When you submit a pull request, a CLA bot will automatically determine whether you need to provide a CLA and decorate the PR appropriately (e.g., status check, comment). Simply follow the instructions provided by the bot. You will only need to do this once across all repos using our CLA.

This project has adopted the Microsoft Open Source Code of Conduct. For more information see the Code of Conduct FAQ or contact [email protected] with any additional questions or comments.

⚡ Trademarks

This project may contain trademarks or logos for projects, products, or services. Authorized use of Microsoft trademarks or logos is subject to and must follow Microsoft's Trademark & Brand Guidelines. Use of Microsoft trademarks or logos in modified versions of this project must not cause confusion or imply Microsoft sponsorship. Any use of third-party trademarks or logos are subject to those third-party's policies.

⚡ Responsible AI

This project has been evaluated and certified to comply with the Microsoft Responsible AI Standard. The team will continue to monitor and maintain the repository, addressing any severe issues, including potential harms, if they arise.

⚡ License

Agent Lightning v1.0 is released under the MIT License.

agent-lightning (microsoft/agent-lightning)

Searching Database…

Что это такое?Agent Lightning — это open-source фреймворк для обучения с подкреплением от Microsoft, который позволяет обучить любого существующего ИИ-агента с помощью RL почти без изменений в его собственном коде.
Это сам агент или фреймворк для обучения агентов?Это фреймворк для обучения, а не агент. Он стоит между вашим существующим агентом и LLM через прокси, который превращает вызовы модели агентом в данные для обучения с подкреплением, при этом инструменты агента и его управляющая логика остаются без изменений.
Как его запустить?Настройте машину с GPU и CUDA и следуйте Installation Guide: Trainer работает на verl и vLLM, API Gateway проксирует запросы агента к модели, а Rollout Controller запускает вашего агента локально или как Kubernetes Jobs.
Нужно ли переписывать агента, чтобы обучать его с помощью этого фреймворка?Нет — это основная цель дизайна. Агент сохраняет свой текущий harness, инструменты и управляющую логику; он просто направляет вызовы модели через прокси Agent Lightning вместо того, чтобы обращаться к модели напрямую.
Какие результаты он показал на агентах для программирования?Используя всего 6K обучающих примеров, сквозной workflow агента для программирования на базе Qwen3.5-9B, обученный с помощью Agent Lightning, поднял результат на SWE-bench Verified с 41.8% до 56.4%, то есть на 14.6 пункта.
Какие примеры задач входят в фреймворк?В комплекте есть POC-примеры: математические рассуждения Calc-X, GSM8K, научные задачи ScienceWorld, многоходовый поиск Search-R1, использование инструментов LLM-in-Sandbox и полноценный агент для программирования, обученный на тестах репозитория.
Почему кодовая база такая компактная?Проект считает простоту базовым принципом и держит весь фреймворк примерно в 3 500 строках кода, чтобы архитектуру обучения было легко понять и расширять.
Из каких трёх основных компонентов он состоит?Trainer запускает verl и vLLM для создания обучающих примеров и обновления политики, API Gateway проксирует запросы к модели и собирает данные для обучения, а Rollout Controller запускает агентов локально или как Kubernetes Jobs.
What are similar projects?OpenClaw-RL, DeepAnalyze, reef, ART, minimind, halo, verl, open-r1
Creator
microsoft
Size
48.9 MB
Stars
18.7K
Age
1y
Commits · 90 Days