Open-Sora README

The project's README from github.com/hpcaitech/Open-Sora. As one markdown file: README.md.

Open-Sora: Democratizing Efficient Video Production for All

We design and implement Open-Sora, an initiative dedicated to efficiently producing high-quality video. We hope to make the model, tools and all details accessible to all. By embracing open-source principles, Open-Sora not only democratizes access to advanced video generation techniques, but also offers a streamlined and user-friendly platform that simplifies the complexities of video generation. With Open-Sora, our goal is to foster innovation, creativity, and inclusivity within the field of content creation.

🎬 For a professional AI video-generation product, try Video Ocean — powered by a superior model.

📰 News

📍 Since Open-Sora is under active development, we remain different branches for different versions. The latest version is main. Old versions include: v1.0, v1.1, v1.2, v1.3.

🎥 Latest Demo

Demos are presented in compressed GIF format for convenience. For original quality samples and their corresponding prompts, please visit our Gallery.

5s 1024×576 5s 576×1024 5s 576×1024
OpenSora 1.3 Demo
5s 720×1280 5s 720×1280 5s 720×1280
OpenSora 1.2 Demo
4s 720×1280 4s 720×1280 4s 720×1280
OpenSora 1.1 Demo
2s 240×426 2s 240×426
2s 426×240 4s 480×854
16s 320×320 16s 224×448 2s 426×240
OpenSora 1.0 Demo

| 2s 512×512 | 2s 512×512

Open-Sora (hpcaitech/Open-Sora)

Searching Database…

29.9K ·GitHub
Что это такое?Open-Sora — это опенсорсный проект по эффективному созданию качественного видео: он выпускает модели генерации видео вместе с инструментами, чекпоинтами и всеми подробностями обучения.
То есть это готовое приложение, которым можно просто пользоваться, или модель с кодом, который я запускаю сам?Это модель плюс код, а не готовое приложение: вы получаете чекпоинты и код для обучения и инференса полного пайплайна генерации видео. В качестве готового продукта команда предлагает свой сервис Video Ocean.
Как попробовать, ничего не устанавливая?Самый быстрый способ — хостед-демо на Gradio на Hugging Face Spaces: видео генерируются прямо в браузере. Чтобы запустить или обучить модель самостоятельно, склонируйте репозиторий и следуйте инструкции по установке для вашей версии.
Нужно ли что-то особенное установить, чтобы с этим работать?Это Python-проект, так что база для запуска или обучения — окружение Python.
На что стоит обратить внимание?Проект активно развивается, поэтому ветка кода должна соответствовать версии модели, которую вы хотите использовать. Кроме того, демо в README — это сжатые GIF, а примеры в полном качестве вынесены в отдельную галерею Gallery.
Какое железо для этого нужно?Обучение рассчитано на датацентровое железо — анонс об экономии средств привязан к GPU NVIDIA H200, а с моделями на 1B и 11B параметров это уже территория серьёзных GPU.
Что менялось между релизами?В v1.2 добавили 3D-VAE, rectified flow и score conditioning; v1.3 обновила VAE и архитектуру Transformer, что дало большой скачок качества; 2.0 масштабировалась до 11B параметров и догнала HunyuanVideo за малую долю обычной стоимости.
Открыта ли и часть с обучением, или только инференс?Полностью открыта — в 2.0 входят и чекпоинты, и код для обучения, и каждый релиз сопровождался подробным техническим отчётом, начиная с v1.0, где обучение за 3 дня дало видео 2 секунды в 512x512.
Почему команда называет это демократизацией производства видео?Потому что всё, что нужно для воспроизведения конкурентоспособной модели генерации видео, находится в открытом доступе — веса, код обучения, пайплайн предобработки и разбивка расходов, — и это снижает порог входа в серьёзные исследования генерации видео примерно до $200K.
Creator
hpcaitech
Size
33.9 MB
Stars
29.9K
Age
2y
Commits · 90 Days