runonweb.ai README

README проекта с github.com/midudev/runonweb.ai. Одним файлом markdown: README.md.

runonweb.ai

Free, open-source AI modules that run in the browser. Live demos + the runonweb package.

pnpm install
pnpm dev        # astro dev --background is preferred, see AGENTS.md
pnpm check      # astro check (types)
pnpm build

Monorepo: the site lives in packages/web (Astro + Cloudflare Workers) and the library in packages/runonweb. Root scripts forward to web. Every push to main is built and deployed by Cloudflare Workers Builds on the runonweb Worker (root directory /packages/web, pnpm install --frozen-lockfile && pnpm run build, then npx wrangler deploy; build variables PNPM_VERSION=11.28.0 and SKIP_DEPENDENCY_INSTALL=1).

Package

import { SpeechToText } from 'runonweb/stt'
import { RemoveBackground } from 'runonweb/remove-bg'
import { ImageCaptioner } from 'runonweb/caption'
import { DepthEstimator } from 'runonweb/depth'
import { ObjectDetector } from 'runonweb/detect'
import { TextEmbedder, cosineSimilarity } from 'runonweb/embed'
import { Classifier } from 'runonweb/classify'
import { Translator, LANGS } from 'runonweb/translate'
import { Emojifier } from 'runonweb/emoji'
import { TextToSpeech } from 'runonweb/tts'
import { isWebGPUAvailable } from 'runonweb/core'

Source and API docs: packages/runonweb.

Modules

Module Base model License Download (WebGPU / WASM)
runonweb/stt Whisper tiny.en (OpenAI) Apache-2.0 ~150 MB / ~40 MB
runonweb/remove-bg BEN2 MIT WASM only · ~219 MB
runonweb/caption LFM2.5-VL-450M (Liquid AI) · 9 languages LFM Open License v1.0 (free < USD 10M revenue) ~316 MB / ~505 MB
runonweb/depth Depth Anything V2 Small Apache-2.0 ~50 MB / ~27 MB
runonweb/detect RF-DETR Nano (Roboflow) Apache-2.0 WASM only · ~29 MB
runonweb/ocr PP-OCRv6 tiny / small / medium (PaddlePaddle) Apache-2.0 ~6 MB / ~31 MB / ~139 MB (same files on both)
runonweb/embed all-MiniLM-L6-v2 (sentence-transformers) Apache-2.0 ~45 MB / ~23 MB
runonweb/classify Kev-0.8B (Jared Palmer) on Qwen3.5-0.8B-Base, LoRA merged + ONNX by runonweb (training/kev-onnx) Apache-2.0 ~750 MB · large (Kev-4B) ~2.7 GB (same files on both)
runonweb/translate Firefox Translations (Mozilla, Marian NMT via Bergamot WASM) · optional M2M100 418M (Meta) MPL-2.0 · MIT (M2M100) WASM only · ~21–55 MB per pair · M2M100 ~640 MB
runonweb/clean S1-mini (Superwhisper) Apache-2.0 + naming term ~365 MB / ~413 MB
runonweb/emoji text2emoji-tiny (trained by runonweb, training/text2emoji) MIT WASM only · ~4 MB
runonweb/tts Kokoro 82M (hexgrad) / Supertonic 2 (Supertone) / KittenTTS nano Apache-2.0 · OpenRAIL-M (Supertonic) ~326 MB (WebGPU) or ~92 MB (WASM) / ~262 MB / ~28 MB
runonweb/image Bonsai Image 4B binary / ternary (Prism ML, on FLUX.2 Klein) Apache-2.0 WebGPU only · ~3.4 GB / ~3.9 GB

Sizes are approximate. The catalog (names, colors, base model, license) lives in packages/web/src/data/models.ts.

What we learned testing backends (Transformers.js 4.2, ONNX Runtime Web)

Adding a module

  1. Create packages/runonweb/src/<name>/index.ts using loadPipeline from core/pipeline.ts. Pick an explicit dtype per device and comment the resulting download size.
  2. Add the export to packages/runonweb/package.json.
  3. Add a Model entry to packages/web/src/data/models.ts with name, color, base model, author, license and size.
  4. Add packages/web/src/pages/models/<slug>.astro + packages/web/src/scripts/models/<slug>.ts. Reuse ModelShell, DemoStatus, DemoButton, ImageDropzone and createDemoUI.
  5. Test the model in the browser on both backends before shipping; see the backend notes above.
  6. Only use models whose license allows redistribution and commercial use (Apache-2.0, MIT, BSD, CC-BY). Avoid -NC licenses.

License

The code in this repository and the runonweb package is MIT.

The MIT license does not cover the models. The package ships no weights: the browser downloads them from the Hugging Face Hub on first use, and each model keeps the license its authors chose. The Modules table lists them per module, and MODELS.md per variant, with links to the three that add terms of their own:

The fonts in packages/web/src/assets/fonts are Geist, under the SIL Open Font License 1.1 (LICENSE).

runonweb.ai (midudev/runonweb.ai)

Ищем в базе…

Что это такое?runonweb.ai — это бесплатный набор ИИ-модулей с открытым исходным кодом (распознавание речи, удаление фона, создание подписей к изображениям и другие), которые работают прямо в браузере. Есть живые демо и пакет runonweb, который можно установить.
Это библиотека, которую я подключаю, или облачный ИИ-сервис?Это библиотека на JavaScript/npm: вы импортируете отдельный модуль для каждой задачи (например, 'runonweb/stt' или 'runonweb/remove-bg') в своё приложение. Сайт с живыми демо — это отдельный проект на Astro + Cloudflare Workers в том же монорепозитории.
Как мне добавить модуль в свой проект?Установите пакет 'runonweb' и импортируйте нужный модуль задачи, например 'runonweb/stt' для распознавания речи или 'runonweb/caption' для создания подписей к изображениям.
Все ли модули используют WebGPU и насколько большие загрузки?Не все: 'remove-bg' (BEN2) работает только на WASM и весит около 219 МБ, а 'stt' (Whisper tiny.en) — около 150 МБ на WebGPU или 40 МБ через WASM. Размер загрузки заметно различается в зависимости от модуля и бэкенда.
Где это реально работает: в любом браузере или только на определённом железе?Работает в любом современном веб-браузере. Браузеры с поддержкой WebGPU получают быстрый путь, а остальные автоматически используют запасной вариант на WASM.
Куда уходят мои данные, когда я запускаю модель?Всё выполняется локально в вашем браузере. В README прямо сказано, что ничего не отправляется на сервер.
А как обстоят дела с лицензиями ИИ-моделей, на которых всё построено?Каждый модуль построен на открытой модели с разрешительной лицензией (Apache-2.0 или MIT; на демо-страницах указаны автор и лицензия). Участникам велено добавлять только те модели, лицензия которых разрешает распространение и коммерческое использование, и избегать лицензий с ограничением -NC.
Какие модули есть из коробки?В README перечислены stt (Whisper tiny.en), remove-bg (BEN2), caption (LFM2.5-VL-450M, поддерживает 9 языков) и embed. Каждый построен на своей базовой модели с разрешительной лицензией.
Зачем делать это самому, а не вызывать облачный ИИ-API?Чтобы данные полностью обрабатывались на стороне клиента и не отправлялись на сервер, а проект оставался бесплатным и с открытым исходным кодом, оборачивая открытые модели с разрешительными лицензиями.
Как устроен проект?Это монорепозиторий: демо-сайт находится в packages/web (Astro + Cloudflare Workers), а библиотека для импорта — в packages/runonweb. Корневые скрипты передают команды в web-пакет, а каждый push в main автоматически разворачивается через Cloudflare Workers Builds.
Как добавить новый модуль с моделью в проект?Создайте файл пайплайна с помощью loadPipeline, экспортируйте его из packages/runonweb/package.json, зарегистрируйте в packages/web/src/data/models.ts, создайте страницу демо и скрипты, переиспользуя существующие UI-компоненты, и протестируйте оба бэкенда, WebGPU и WASM, перед выпуском.
Какие есть похожие проекты?blobatar, framefields, flashraw, openreel-video, parrot, lipflow, Libraries.dev, computer
Автор
midudev
Размер
12.1 MB
Звёзды
797
Возраст
1 мес
Коммиты · 90 дней