38K ·GitHub
Что это такое?
FreeLLMAPI объединяет бесплатные тарифы 34 провайдеров LLM (635 бесплатных эндпоинтов моделей, 474 семейства моделей) за одним эндпоинтом /v1, совместимым с OpenAI, с умной маршрутизацией, автоматическим переключением на резервные варианты и зашифрованным хранением ключей.
FreeLLMAPI объединяет бесплатные тарифы 34 провайдеров LLM (635 бесплатных эндпоинтов моделей, 474 семейства моделей) за одним эндпоинтом /v1, совместимым с OpenAI, с умной маршрутизацией, автоматическим переключением на резервные варианты и зашифрованным хранением ключей.Это библиотека, которую я импортирую, или отдельный сервер, который я запускаю?Это самостоятельно развёртываемый прокси-сервер, который вы запускаете (через Docker или настольное приложение). Ваши приложения просто направляют OpenAI SDK на его единый эндпоинт, без импорта какого-либо кода.
Это самостоятельно развёртываемый прокси-сервер, который вы запускаете (через Docker или настольное приложение). Ваши приложения просто направляют OpenAI SDK на его единый эндпоинт, без импорта какого-либо кода.Как это запустить?Выполните однострочный скрипт установки Docker, который создаёт ~/freellmapi, генерирует ключ шифрования, загружает образ и запускает контейнер. Затем добавьте ключи провайдеров на странице Keys и получите свой единый API-ключ.
Выполните однострочный скрипт установки Docker, который создаёт ~/freellmapi, генерирует ключ шифрования, загружает образ и запускает контейнер. Затем добавьте ключи провайдеров на странице Keys и получите свой единый API-ключ.Нужен ли мне Docker, чтобы это использовать?Docker — рекомендуемый быстрый способ запуска. Пользователи Windows могут обойтись без него и воспользоваться установщиком .exe для настольного приложения, а для сборки из исходников требуется Node 20+.
Docker — рекомендуемый быстрый способ запуска. Пользователи Windows могут обойтись без него и воспользоваться установщиком .exe для настольного приложения, а для сборки из исходников требуется Node 20+.В чём подвох бесплатной версии?Сам проект описывает себя как намеренно узкий по охвату. Бесплатные (не премиум) установки получают только ежемесячный снимок каталога моделей: новая модель попадает к вам через 30 дней, тогда как для премиум-тарифа за $19 в год — в тот же день.
Сам проект описывает себя как намеренно узкий по охвату. Бесплатные (не премиум) установки получают только ежемесячный снимок каталога моделей: новая модель попадает к вам через 30 дней, тогда как для премиум-тарифа за $19 в год — в тот же день.Может ли это работать на чём-то таком маленьком, как Raspberry Pi?Да, работает на Windows, macOS, серверах Linux или небольшой плате с ARM, например Raspberry Pi, при этом в простое использует около 40 МБ RSS.
Да, работает на Windows, macOS, серверах Linux или небольшой плате с ARM, например Raspberry Pi, при этом в простое использует около 40 МБ RSS.Что такое Fusion?Fusion — это виртуальная модель, которая параллельно отправляет запрос группе разных бесплатных моделей, а затем с помощью модели-судьи синтезирует из их черновиков один объединённый ответ.
Fusion — это виртуальная модель, которая параллельно отправляет запрос группе разных бесплатных моделей, а затем с помощью модели-судьи синтезирует из их черновиков один объединённый ответ.Есть ли настольное приложение вместо контейнера Docker?Да, нативное приложение для строки меню macOS (.dmg) и Windows (.exe) запускает полный маршрутизатор и панель управления локально из трея. Во всплывающем окне показана статистика запросов в реальном времени, учётная запись не нужна.
Да, нативное приложение для строки меню macOS (.dmg) и Windows (.exe) запускает полный маршрутизатор и панель управления локально из трея. Во всплывающем окне показана статистика запросов в реальном времени, учётная запись не нужна.Может ли он генерировать также изображения, видео или речь, а не только текст?Да, он предоставляет эндпоинты /v1/images/generations, /v1/videos/generations и /v1/audio/speech, которые маршрутизируют запросы между провайдерами, предлагающими такие мультимодальные модели. Он также приводит как синхронные, так и поставленные в очередь видеозадачи к готовому файлу MP4.
Да, он предоставляет эндпоинты /v1/images/generations, /v1/videos/generations и /v1/audio/speech, которые маршрутизируют запросы между провайдерами, предлагающими такие мультимодальные модели. Он также приводит как синхронные, так и поставленные в очередь видеозадачи к готовому файлу MP4.К каким агентам для написания кода я могу подключить это сразу?Claude Code, Codex CLI, Gemini CLI, Aider, Cline, Roo Code, Continue, OpenCode, Goose, Qwen Code, Kilo Code, Crush, Cursor, Zed, JetBrains AI, DeepSeek Harness и AtomCode — для каждого есть генератор настройки одной командой, например 'npx freellmapi setup-claude'.
Claude Code, Codex CLI, Gemini CLI, Aider, Cline, Roo Code, Continue, OpenCode, Goose, Qwen Code, Kilo Code, Crush, Cursor, Zed, JetBrains AI, DeepSeek Harness и AtomCode — для каждого есть генератор настройки одной командой, например 'npx freellmapi setup-claude'.What are similar projects?casbin-gateway, gpt-load, osw, ThinkWatch-Lite, OmniRoute, opencodex, litellm, magpie
casbin-gateway, gpt-load, osw, ThinkWatch-Lite, OmniRoute, opencodex, litellm, magpieWhich topics is it in?llm-gateway, load-balancer, menu-bar, raspberry-pi, openai-compatible, encryption, gemini, sqlite, proxy, local-first, mcp-server, codex
llm-gateway, load-balancer, menu-bar, raspberry-pi, openai-compatible, encryption, gemini, sqlite, proxy, local-first, mcp-server, codex