moyai README

The project's README from github.com/BerriAI/moyai. As one markdown file: README.md.

Moyai

Moyai, an open source cloud agent

A self-hosted coding agent for background work. Give it a task from your browser or Slack; it edits code, runs tests, and opens a pull request for review. Send corrections while it works or resume with saved files and conversation history.

Search sessions by title, original request, or words inside saved user and assistant messages. Matching excerpts appear in the sidebar, including agent conversations and side chats. Search covers older sessions beyond the recent list and follows your selected My sessions/All sessions view. Archived sessions remain recoverable by asking Moyai in chat.

Ask “What is this session’s ID?” or send /session-id in web chat or Slack thread chat to get the current Moyai session ID directly. These standalone requests use no model calls, tool searches, or sandbox startup, and leave active work alone. Web replies are saved in the conversation; Slack replies use the same durable control-message delivery as status. Requests with attachments or additional work continue through the agent normally.

Harnesses

Supported harnesses: Claude Agent SDK, Codex, Hermes, OpenCode, Deep Agents, and Tool Loop

New sessions default to the native Claude Agent SDK with prompt caching enabled. You can pick a different harness for each session: Hermes, Claude Agent SDK, Codex, OpenCode, Deep Agents, or Tool Loop. Every harness runs in the same isolated workspace with the same tools and permissions. See supported combinations and custom harnesses.

Models and providers

Models and providers through LiteLLM: OpenAI, Anthropic, Google, Bedrock, Fireworks, xAI, Mistral, DeepSeek, Moonshot, and 100+ more

Moyai uses LiteLLM for inference, so it can run on any of the 100+ providers LiteLLM supports. Point it at your LiteLLM gateway, switch models between messages, and spend is tracked per teammate. Provider keys stay on the server, and the sandbox never sees them.

See it in action

moyai

Before vs after: 79% cheaper

We moved our internal coding agent from Devin to Moyai. Same work, same 31 days: $101,872 on Devin vs about $21,700 on Moyai

Before: Devin, $101,872 in 31 days

Devin billing dashboard showing $101,872.24 spent between Aug 30 and Sep 29

After: Moyai, about $700 a day

Running total over the same 31 days: Devin reaches $101,872 while Moyai reaches $21,700, saving $80,172

Read the full story in the launch post: Moyai is now open source

Getting started

Choose Modal or Substrate for agent sandboxes in Settings → Runtime. Modal is the default. If you already run Substrate, follow the linked setup to connect your cluster.

This setup runs Moyai on Modal, using GPT-6 Astra + the Claude Agent SDK harness through LiteLLM. You can choose another model or harness.

You'll need Git, Python 3.12+, uv, a Modal account, and a LiteLLM gateway with GPT-6 Astra enabled. Commands use a macOS/Linux shell; Windows users can use WSL.

1. Install

git clone https://github.com/BerriAI/moyai.git
cd moyai
uv sync --frozen
cp .env.example .env
chmod 600 .env

2. Add your credentials

Log in to Modal:

uv run modal token new

Open ~/.modal.toml in a private editor window. Copy your workspace's token_id and token_secret into .env, then fill in the model settings:

MODAL_TOKEN_ID=<your Modal token_id>
MODAL_TOKEN_SECRET=<your Modal token_secret>
LITELLM_API_BASE=https://your-gateway.example.com/v1
LITELLM_API_KEY=<your LiteLLM gateway key>
AGENT_MODEL=openai/gpt-6-astra
SESSION_TITLES_ENABLED=false

Ask your gateway administrator for the URL and a key with access to openai/gpt-6-astra through the Messages API. Leave the other settings unchanged for now, and keep .env out of Git and chat.

3. Deploy and sign in

Deployment starts billed compute. Use a fresh Modal workspace; redeploying an existing installation interrupts its active tasks.

uv run python deploy_modal.py

Open the printed Workspace URL. Sign in with WORKSPACE_PASSWORD from .env, which the script generates for you. It also sets up HTTPS and the required secrets. Keep this .env for future deployments.

4. Run your first task

Start a new session. Under Context & tools, choose Cloud session and leave the repository empty. Select Claude Agent SDK in the harness picker and GPT-6 Astra in the model picker, then send:

Create /workspace/hello.py that prints Hello from Moyai, run it, and show me the output.

The first run may take several minutes to build the agent image. Check Activity for the command output and Files for hello.py.

Next: connect your GitHub repository to work on your code and open PRs. Add Slack, Linear, or Notion when you need them.

To stop compute charges, stop the web app and remaining sandboxes in the Modal dashboard. Closing your browser leaves them running.

Documentation

moyai (BerriAI/moyai)

Searching Database…

270 ·GitHub
Что это?Moyai — самохостинговый кодинг-агент для фоновой работы: даёте ему задачу из браузера или Slack, а он правит код, гоняет тесты и открывает pull request на ваше рассмотрение.
Это облачный сервис или то, что я запускаю сам?Это самохостинговое веб-приложение, которое вы разворачиваете сами — на Modal (по умолчанию) или собственном кластере Substrate, а не управляемый SaaS-продукт.
Как его запустить?Установите Git, Python 3.12+ и uv, склонируйте и запустите установщик, скопируйте токены Modal и настройки шлюза LiteLLM в .env, затем разверните на Modal и войдите, используя сгенерированный пароль рабочего пространства.
Какие аккаунты нужны перед развёртыванием?Нужны аккаунт Modal и шлюз LiteLLM с включённой моделью (в стандартном руководстве используется GPT-6 Astra), плюс Git, Python 3.12+ и uv локально.
Есть подводные камни при развёртывании?Развёртывание сразу запускает оплачиваемые вычисления, а повторное развёртывание поверх существующей установки прерывает все её текущие задачи; пользователям Windows нужен WSL, так как команды рассчитаны на shell macOS/Linux.
Куда попадают мои API-ключи провайдеров?Ключи провайдеров остаются на самом сервере Moyai; изолированная песочница, где агент правит код и выполняет команды, их никогда не видит.
Какие оболочки кодинг-агентов можно выбрать для сессии?Каждая сессия может работать на Hermes, Claude Agent SDK, Codex, OpenCode, Deep Agents или Tool Loop — все в одном и том же изолированном рабочем пространстве с теми же инструментами и правами. Новые сессии по умолчанию используют Claude Agent SDK с включённым кэшированием промптов.
Насколько Moyai дешевле Devin?BerriAI перенесла свой внутренний кодинг-агент с Devin на Moyai и снизила стоимость того же месяца работы примерно со $101 872 до около $21 700 — примерно на 79% дешевле.
Можно прервать или возобновить запущенную задачу?Можно отправлять агенту правки, пока он работает, или позже возобновить сессию с её сохранёнными файлами и полной историей переписки.
Можно искать по прошлым сессиям агента?Да — поиск охватывает названия сессий, исходные запросы и слова внутри сохранённых сообщений, а совпавшие фрагменты показываются в боковой панели как для недавних, так и для старых сессий.
What are similar projects?open-swe, orca, qm, pstack-claude, useagent, openrig, Raven, ordewell
Creator
BerriAI
Size
63.4 MB
Stars
270
Updated
CommitOct 18
Age
19d
Commits · 90 Days