SenseNova-U1 README

The project's README from github.com/OpenSenseNova/SenseNova-U1. As one markdown file: README.md.

SenseNova-U series: Native Unified Paradigm with NEO-unify from the First Principles

English | 简体中文

arXiv SenseNova-U1.5 on Hugging Face SenseNova-U1.5 on ModelScope SenseNova-U1 on Hugging Face NEO-unify License SenseNova-U Demo Discord

SenseNova-U1.5 native unified multimodal architecture

📣 Updated News

Click to expand older SenseNova-U1 updates

🚀 SenseNova-U1.5

SenseNova-U1.5 native unified multimodal architecture

🌟 Overview

SenseNova-U1.5-8B-MoT is our latest native unified multimodal checkpoint for more accurate, consistent, reliable, and aesthetically compelling visual creation. Built on NEO-unify, we further strengthen the patchify layers, data quality and distribution, task formulation, prompt enhancement, and post-training pipeline.

The official release focuses on six user-visible improvements:

📊 Key Benchmarks

SenseNova-U1.5 benchmark overview

View detailed benchmark results

SenseNova-U1.5 detailed benchmark results

⚡ Performance vs. Speed

SenseNova-U1.5 generation performance versus speed

Generation Latency vs. Averaging Performance on OneIG (EN, ZH), LongText (EN, ZH), BizGenEval (Easy, Hard), CVTG, IGenBench and Qwen-Image-Bench.

🎦 Best Practices [Strong Recommendation]

Direct natural-language prompts work well for clear tasks with few constraints. For complex generation or editing, use PE when additional planning is needed, explicitly specify what should remain unchanged, and gradually lower cfg_scale if high-frequency details or colors become overemphasized. See the U1.5 Showcases and Best Practices guide for workflow recommendations, setup instructions, and visual comparisons. SenseNova U1.5 will also be available on SenseNova-Studio, where everyone can experience the model directly.

⚠️ Ongoing Improvements

The official release improves upon the Preview, though challenges remain in:

⚙️ Deployment Guidance

# Text-to-Image
python examples/t2i/inference.py \
  --model_path sensenova/SenseNova-U1.5-8B-MoT \
  --prompt "A formal portrait depicts a man in 18th-century attire seated with a scroll, wearing a red cloak and ornate medals, against a classical landscape with ancient ruins and inscriptions." \
  --output output.png

# Image Editing
python examples/editing/inference.py \
  --model_path sensenova/SenseNova-U1.5-8B-MoT \
  --image examples/editing/data/images/1.webp \
  --prompt "Change the jacket of the person on the left to bright yellow." \
  --output edited.png

# Interleaved Generation
python examples/interleave/inference.py \
  --model_path sensenova/SenseNova-U1.5-8B-MoT \
  --prompt "I want to learn how to cook tomato and egg stir-fry. Please give me a beginner-friendly illustrated tutorial." \
  --resolution "16:9" \
  --output_dir outputs/interleave/ \
  --stem demo \
  --profile

# Visual Understanding
python examples/vqa/inference.py \
  --model_path sensenova/SenseNova-U1.5-8B-MoT \
  --image examples/vqa/data/images/menu.jpg \
  --question "My friend and I are dining together tonight. Looking at this menu, can you recommend a good combination of dishes for 2 people? We want a balanced meal — a mix of mains and maybe a starter or dessert. Budget-conscious but want to try the highlights." \
  --output outputs/answer.txt \
  --max_new_tokens 8192 \
  --do_sample \
  --temperature 0.6 \
  --top_p 0.95 \
  --top_k 20 \
  --repetition_penalty 1.05 \
  --profile
# Install the optional dependencies once
uv pip install -e ".[gguf]"  # or: pip install "gguf>=0.10.0" "diffusers>=0.30.0"

python examples/t2i/inference.py \
  --model_path sensenova/SenseNova-U1.5-8B-MoT-Preview \
  --gguf_checkpoint /path/to/SenseNova-U1.5-8B-MoT-Preview-Q8.gguf \
  --prompt "A male peacock trying to attract a female" \
  --output output_gguf.png

🚀 SenseNova-U1

Expand the original SenseNova-U1 overview, showcase, and deployment

SenseNova-U1 visualization

🌟 Overview

🚀 SenseNova-U1 is a new series of native multimodal models that unifies multimodal understanding, reasoning, and generation within a monolithic architecture. It marks a fundamental paradigm shift in multimodal AI: from modality integration to true unification. Rather than relying on adapters to translate between modalities, SenseNova-U1 models think-and-act across language and vision natively.

Unifying visual understanding and generation in an end-to-end architecture from pixel to word opens tremendous possibilities, enabling highly efficient and strong understanding, generation, and interleaved reasoning in a natively multimodal manner.

radar plot

🏗️ Key Pillars:

At the core of SenseNova-U1 is NEO-unify, a novel architecture designed from the first principles for multimodal AI: It eliminates both Visual Encoder (VE) and Variational Auto-Encoder (VAE) where pixel-word information are inherently and deeply correlated. Several important features are as follows:

  • 🔗 Model language and visual information end-to-end as a unified compound.
  • 🖼️ Preserve semantic richness while maintaining pixel-level visual fidelity.
  • 🧠 Reason across modalities with high efficiency & minimal conflict via native MoTs.

✨ What This Unlocks:

Powered by this new core architecture, SenseNova-U1 delivers exceptional efficiency in multimodal learning:

Left: Generation Latency vs. Averaging Performance on OneIG (EN, ZH), LongText (EN, ZH), BizGenEval (Easy, Hard), CVTG and IGenBench.
Right: Generation Latency vs. Averaging Performance on Infographic Benchmarks, i.e., BizGenEval (Easy, Hard), and IGenBench.

  • 🏆 Open-source SoTA in both understanding and generation: SenseNova-U1 sets a new standard for unified multimodal understanding and generation, achieving state-of-the-art performance among open-source models across a wide range of understanding, reasoning, and generation benchmarks.

  • 📖 Native interleaved image-text generation: SenseNova-U1 can generate coherent interleaved text and images in a single flow with one model, enabling use cases such as practical guides and travel diaries that combine clear communication with vivid storytelling and transform complex information into intuitive visuals.

  • 📰 High-density information rendering: SenseNova-U1 demonstrates strong capabilities in dense visual communication, generating richly structured layouts for knowledge illustrations, posters, presentations, comics, resumes, and other information-rich formats.

🌍 Beyond Multimodality:

  • 🤖 Vision–Language–Action (VLA)
  • 🌐 World Modeling (WM)

📋 Project Status

  • Training code of SenseNova-U1

  • Final weights and technical report of SenseNova-U1

🎨 Showcases

🖼️ Text-to-Image (General)
t2i general dense face hd 07 t2i general dense text rendering 18 t2i general dense text rendering 12
t2i general face hd 13 t2i general face hd 17 t2i general face hd 07
t2i general landscape 06 t2i general dense landscape 12 t2i general landscape 07
t2i general portrait artistic 02 a t2i general portrait artistic 02 b [t2i general portrait artistic 07](./docs/assets/showcases/t2i_general/9_16_artistic_07.

SenseNova-U1 (OpenSenseNova/SenseNova-U1)

Searching Database…

Что это такое?Открытые мультимодальные модели, которые объединяют понимание изображений, рассуждения и генерацию изображений в одной архитектуре. Текущий релиз, SenseNova-U1.5-8B-MoT, создаёт и редактирует изображения вплоть до нативных 4K.
Это модель, которую я скачиваю, или приложение либо веб-сервис?Вы скачиваете открытые чекпойнты весов (флагман — модель 8B Mixture-of-Transformers), а также код на Python для инференса и обучения, и запускаете всё сами; SenseNova-Studio тоже хостит её, чтобы попробовать без настройки.
Как её запустить?Возьмите веса с Hugging Face и начните с быстрого старта Transformers; для продакшн-сервинга используйте гайд по развёртыванию LightLLM + LightX2V или-community Q8 GGUF чекпойнты от сообщества.
С чем ей пока тяжело?Известные слабые места: перенасыщенные цвета и излишне подчеркнутые детали (снизьте cfgscale), ошибки в плотном или смешанном китайско-английском тексте, нестабильные маленькие лица и руки, а также уплазающие широкие правки с несколькими референсами.
Мне нужна мощная видеокарта, чтобы её запустить?Модель ориентирована на GPU, но в репозитории есть квантованные чекпойнты GGUF и режимы выгрузки слоёв из видеопамяти (layer-offload) для конфигураций с одной картой и малым объёмом VRAM; community-файлы Q8 GGUF весят около 20–21 ГБ.
Почему она называется «унифицированной» — чем это отличается от обычных генераторов изображений?Большинство моделей изображений прикрепляют визуальный энкодер и VAE к LLM через адаптеры. NEO-unify убирает и то, и другое и моделирует язык и пиксели сквозным образом в одной монолитной сети с нативными MoT, так что одна модель понимает, рассуждает и генерирует.
Какой чекпойнт мне скачать?SenseNova-U1.5-8B-MoT — последняя универсальная модель; вариант LoRA-8step работает быстрее; U1-8B-MoT-Infographic-V3 заточен под инфографику; U1-Interleaved подходит для многостраничного контента с изображениями и текстом; community Q8 GGUF — вариант для конфигураций с малым объёмом VRAM.
Есть советы по промптам?Простые промпты на естественном языке хорошо работают для несложных задач. Для сложной генерации или редактирования используйте PE (prompt enhancement), явно указывайте, что должно остаться неизменным, и постепенно снижайте cfgscale, если детали или цвета оказываются излишне подчёркнуты.
Size
764.1 MB
Stars
6.9K
Updated
CommitSep 24
Age
6mo
Commits · 90 Days