infinity README

README проекта с github.com/hydro-project/infinity. Одним файлом markdown: README.md.

Infinity

Infinity is a Rust framework for building massively concurrent agentic systems, light enough to fit 75k agents in the memory of a Raspberry Pi. Infinity does for agents what async did for threads: instead of blocking on slow tools, Infinity agents run them concurrently, yield while they wait, and cost nothing until the next event arrives.

let system = AgentSystemBuilder::new_local(
    InMemoryConversationStore::new(),
    InMemoryStateStore::new(),
    StaticModel::new(provider, "global.anthropic.claude-sonnet-4-6").await?,
)
.start();

let mut thread = system.thread_builder().launch().await;
thread.send_user_text("Write a haiku about Rust").await?;

while let Some(event) = thread.recv().await {
    println!("{event:?}");
}

Between turns, an agent is pure data, just its conversation history with no task, no stack, and no open connection, so a waiting agent hibernates for free and wakes on the next message. The same agent code runs unchanged in a resident process on your laptop and on serverless platforms like AWS Lambda, where scale to zero is the default.

Get started today at infinity.hydro.run!

Learn More

infinity (hydro-project/infinity)

Ищем в базе…

Что это такое?Infinity — это фреймворк на Rust для построения агентных систем с массовой конкурентностью. Агенты отдают управление, пока ждут медленные инструменты, вместо того чтобы блокироваться. Между ходами агент — это просто данные без запущенного процесса, поэтому гибернация ничего не стоит, а при следующем сообщении агент просыпается. Благодаря этому один экземпляр может держать до 75 000 агентов даже на железе уровня Raspberry Pi.
Это фреймворк, на котором я могу что-то строить, или уже готовый агент?Это слой среды выполнения и фреймворк, который делает для агентов то же, что async сделал для потоков. Infinity Code — отдельный агент для написания кода, построенный поверх него как пример того, что открывает эта среда.
Как начать работать с этим?Начните с быстрого старта на infinity.hydro.run, чтобы создать первого агента, а затем прочитайте руководство по архитектуре, чтобы понять, как устроены ходы с отдачей управления и гибернация.
Могу ли я использовать свои существующие MCP-серверы инструментов?Да, существующие MCP-серверы работают без изменений через слой совместимости в Reactive Agent Protocol (RAP). Это также открытая спецификация, по которой любой может реализовать новые серверы инструментов.
Ожидающий агент держит открытым сетевое соединение или процесс?Нет. RAP доставляет результаты инструментов и события подписок, как только они готовы, в том числе агентам, у которых сейчас нет процесса вообще. Поэтому во время ожидания ничего не нужно держать подключенным.
Может ли один и тот же код агента работать и на моем ноутбуке, и на бессерверных платформах?Да, один и тот же код агента работает без изменений как резидентный процесс на ноутбуке и на бессерверных платформах вроде AWS Lambda, где масштабирование до нуля — поведение по умолчанию.
Что такое Reactive Agent Protocol (RAP)?RAP — это открытый протокол для предоставления инструментов по сети без удержания открытого соединения. Результаты и события подписок доставляются, как только готовы, даже агентам без запущенного процесса. Реализовать спецификацию может любой.
Что такое Infinity Code?Infinity Code — агент для написания кода, построенный на среде выполнения Infinity для параллельной работы. Он запускает сборки и тесты в фоне, выводя их результаты потоком, вносит правки в параллельных потоках в многослойных песочницах и передает каждый результат в виде диффа на проверку.
Почему на Raspberry Pi помещается 75 000 агентов?Между ходами агент — это просто история его диалога, без задачи, стека или открытого соединения. Поэтому неактивные агенты уходят в гибернацию бесплатно и тратят ресурсы только тогда, когда новое сообщение их будит. Благодаря этому расход памяти на каждого агента остается крайне малым.
Какие есть похожие проекты?imp, harness-sdk, qwen-code, open-multi-agent, ruflo, jarviscore-framework, adk-python, spring-ai-alibaba
Автор
hydro-project
Размер
4.9 MB
Звёзды
836
Возраст
7 мес
Коммиты · 90 дней