lightspeed README

The project's README from github.com/smartcomputer-ai/lightspeed. As one markdown file: README.md.

Lightspeed logo

Lightspeed

Run thousands of agents. Efficient, durable, auditable.

Lightspeed is open-source infrastructure for running managed agent fleets as durable workflows.

"Managed agents" is an emerging pattern that separates the core agent loops from the VM or sandbox they use. Agents survive restarts, can run for months, and stay cheap when idle. When they need an operating system, they borrow a real machine for as long as the task requires.

Lightspeed software factory with a fleet of specialized bots and an implementer supervising a sub-agent

Lightspeed's Rust core runs on Temporal today and stores production data in Postgres with optional S3. The frontend is TypeScript and React.

Why Lightspeed?

Lightspeed aims for the capability of Claude Code, Codex, and OpenClaw without requiring one operating system per agent.

Most frontier harnesses live inside a guest OS, which makes them difficult to scale and secure. Hence the emerging pattern to "separate the harness from compute" or the brain and hands split. This is especially useful in enterprises with more stringent supervision and scaling requirements.

So, in Lightspeed, the harness (the agent loop, context, and session state) runs as a lightweight durable workflow. Shells, code execution, and full filesystems run on machines attached only when needed. One worker can therefore manage hundreds of agents.

Comparison: traditional infrastructure runs one agent per full VM, while Lightspeed packs many durable agents into one worker and attaches VMs or sandboxes only when needed

What you can build with Lightspeed:

Quick start

You need Rust with edition 2024 support, Node.js 24 or newer, and Docker with Compose. Then start the complete local product:

./dev.sh

You can set the LLM API keys directly in the UI. But you can also set them via environment variable:

cp .env.example .env
# Set OPENAI_API_KEY or ANTHROPIC_API_KEY in .env
# Then restart ./dev.sh

When the readiness checks pass in the CLI, open http://localhost:5173/app/ and sign in with the development account printed by the launcher. The defaults are [email protected] and lightspeed-dev-password.

The launcher installs dependencies, starts local infrastructure and application processes, applies migrations, and waits until the product is ready.

For other development profiles, service addresses, resets, and live tests, see the local development guide. See Environment variables for environment variables.

Features

Lightspeed covers the table stakes of a modern agent harness. Everything below works today.

Models & providers

Agent capabilities

Bots & channels

Durability & scale

Borrowed compute

Security & auth

Design

In Lightspeed, every agent is driven by an event-sourced, deterministic core. The runtime replays the session log, decides the next step, and emits effect intents that adapters execute against LLM providers and tools. The core itself performs no I/O, which makes it a natural fit for durable workflow engines.

Two more decisions make this practical inside a workflow engine:

  1. Minimal provider abstraction. The core extracts only the facts needed to make decisions; provider-native data stays opaque and blob-backed.
  2. Offloading to CAS. Large payloads live in content-addressed storage, keeping workflow histories small. Blobs nothing reaches any more are collected after a grace period, so deleting sessions frees their storage.

The architecture walkthrough introduces the system. Continue with the agent loop and durability, context and storage, and tools and controller workflows to understand better how everything works and fits together.

Lightspeed architecture: clients reach a session workflow holding the deterministic core inside Temporal; thin effect intents and result refs cross to activities that talk to LLM providers and borrowed compute; both sides share a session log and CAS

Development checks

cargo test
npm run check

See Testing and evaluation for focused checks, replay coverage, live-test prerequisites, and model evaluations.

Documentation

Preview the Starlight manual with npm run dev:docs.

Contributing

See CONTRIBUTING.md

License

Apache 2.0

lightspeed (smartcomputer-ai/lightspeed)

Searching Database…

Что это такое?Lightspeed — это open-source-инфраструктура для запуска множества ИИ-агентов в виде долгоживущих рабочих процессов: сессии агентов переживают перезапуски, могут работать от недель до месяцев и почти ничего не стоят в простое, занимая реальную машину только тогда, когда задаче она действительно нужна.
Это библиотека, которую я встраиваю в своё приложение, или сервис, который я разворачиваю и использую?Полноценный self-hosted-продукт, а не библиотека: ядро на Rust работает поверх Temporal, производственные данные хранятся в Postgres (опционально с S3), а фронтенд на TypeScript и React управляется через интерфейс или JSON-RPC API.
Как запустить локальный экземпляр?Установите Rust с поддержкой edition 2024, Node.js 24+ и Docker с Compose, затем запустите лаунчер: он установит зависимости, поднимет локальную инфраструктуру и процессы приложения, применит миграции и выведет данные для входа в режиме разработки ([email protected]). Ключи API для LLM задайте в интерфейсе или через переменные окружения.
Какие LLM-провайдеры и ключи мне понадобятся?OpenAI и Anthropic работают сразу из коробки — ключи задаются в интерфейсе или через переменные окружения. Также поддерживаются серверы, совместимые с OpenAI: OpenRouter, DeepSeek, vLLM и Ollama, каждый со своим endpoint и учётными данными, плюс автоматическое кэширование промптов.
У агентов сразу есть настоящая оболочка и файловая система?Нет — без подключённой машины агенты работают через виртуальную файловую систему и веб-доступ, размещённый у провайдера. Оболочка, выполнение кода и полноценная файловая система доступны только в подключённых окружениях: существующая машина, виртуальная машина, созданная через Incus, или любой хост с запущенным демоном lightspeed-envd.
Что с этим реально делают люди?Долгоживущие парки агентов: персональные ассистенты для тысяч пользователей без отдельной простаивающей ВМ на каждого, автономные «программные фабрики», неделями создающие и проверяющие фичи, дежурные ops-агенты, разбирающиеся с алертами, и исследовательские агенты, следящие за долгими экспериментами.
Можно ли запустить это как одно self-hosted-развёртывание для многих пользователей?Да — продукт для этого и создан: можно изолировать клиентов (тенантов) в universes на одном развёртывании или завести отдельные для каждого, а один backend-бинарник способен выполнять все роли в одном процессе или масштабировать роли независимо на разных Temporal-воркерах.
Как обрабатываются мои API-ключи и секреты?Учётные данные шифруются при хранении, OAuth-токены обновляются автоматически, а окружения и задачи получают секреты через credential injection, не раскрывая их модели. Развёртывания по умолчанию многопользовательские, с изоляцией через universes.
Сессии правда могут идти месяцами и переживать перезапуски?Да — сессии длятся от недель до месяцев и переживают перезапуски. Пока выполнение идёт, его можно отменить, направить в другую сторону или поставить следующее сообщение в очередь, а сами сессии можно форкать или клонировать, чтобы ответвиться от сохранённой истории.
Поддерживаются ли MCP-серверы и суб-агенты?И то, и другое. MCP подключает локальные или удалённые серверы с API-ключами или через OAuth, причём вызовы инструментов обрабатывает либо провайдер модели, либо сама Lightspeed — включая постепенное обнаружение через поиск инструментов. Суб-агенты позволяют агенту делегировать задачи подчинённым дочерним агентам с настраиваемыми профилями и лимитами.
Могут ли боты действовать сами, без команды от человека?Да — боты это постоянно работающие агенты, которые просыпаются по расписанию, входящим вебхукам, изменениям данных или сообщениям в чате. Они могут сами управлять своими расписаниями, вебхуками и поллерами, координироваться с другими ботами, а общаться с ними можно через Telegram и WhatsApp.
Чем детерминированное ядро на event sourcing настолько важно?Ядро воспроизводит лог сессии, чтобы определить каждый следующий шаг, и само не выполняет никаких операций ввода-вывода — именно это делает его совместимым с движком долгоживущих рабочих процессов вроде Temporal. Большие данные отправляются в хранилище с адресацией по содержимому, благодаря чему истории workflow остаются небольшими.
What are similar projects?evenfire, hermes-agent, hive, ruflo, brigade, DeskcommCRM, openfang, ARTEX
Size
16.4 MB
Stars
261
Age
8mo
Commits · 90 Days