MiniMax-Music3 README

The project's README from github.com/MiniMax-AI/MiniMax-Music3. As one markdown file: README.md.

MiniMax

MiniMax Agent API MiniMax Music 3 Live Demo MiniMax Website
ModelScope MiniMax AI WeChat Discord Hugging Face GitHub LICENSE

MiniMax Music 3

MiniMax Music 3 is a high-performance music generation model for creating complete songs up to five minutes long. Conditioned on lyrics and a detailed music description, it generates structurally coherent songs with expressive vocals, evolving arrangements, and stable long-form audio quality.

MiniMax Music 3 combines an 8B Global LLM for long-range musical structure, a 0.6B Local LLM for frame-level acoustic detail, and a continuous hidden-state synthesis system based on Flow Matching and Flow-VAE. The model produces 32 kHz, 16-bit stereo WAV audio.

Prompt Enhancement

A concise natural-language description can be used directly. For richer prompts and more precise control, use the provided music-caption-rewriter skill to expand it into a Structured Caption containing Global Metadata, Vocal Details, and Arrangement. The skill preserves musical instructions attached to lyric section tags in the arrangement description while keeping the lyric text in the lyrics input. See the skills page for installation instructions and a full feature overview.

npx skills add MiniMax-AI/MiniMax-Music3 --skill music-caption-rewriter

Demo

Explore music generation examples on the MiniMax Music 3 Demo.

MiniMax Music 3 architecture diagram

Complete Songs with Long-Range Coherence

MiniMax Music 3 natively supports full-song generation up to five minutes. The model maintains musical themes, rhythm, vocal identity, and arrangement progression across long sequences, enabling complete structures such as intro, verse, pre-chorus, chorus, bridge, instrumental break, and outro.

Fine-Grained Music Control

The model accepts two complementary inputs:

For precise control, we recommend using a Structured Caption with three sections:

This representation allows the model to follow not only a global style, but also the musical development of the song over time.

Hybrid-LM

MiniMax Music 3 uses a hierarchical autoregressive architecture that separates global musical modeling from local acoustic modeling.

The Global LLM is initialized from Qwen3-8B. During training, its embedding and output layers are first adapted to semantic music tokens. The Global and Local LLMs are then jointly trained to model all RVQ codebooks.

Continuous Hidden-State Synthesis

Instead of decoding only from discrete RVQ tokens, the synthesis module fuses the final hidden states of the Global and Local LLMs. These continuous representations preserve richer acoustic information for vocal articulation, instrumental texture, and temporal continuity.

The synthesis path is:

Global and Local LLM hidden states
                ↓
       Hidden-state fusion
                ↓
     Flow Matching (2.4B)
                ↓
        Flow-VAE latent
                ↓
    Flow-VAE Decoder (123M)
                ↓
       32 kHz stereo audio

The Flow-VAE architecture is adapted from MiniMax Speech and retrained for the dynamic range and spectral characteristics of music.

Music Tokenizer

The training tokenizer uses eight layers of Residual Vector Quantization (RVQ):

Training first optimizes the semantic codebook, then jointly trains all eight codebooks. At inference time, waveform synthesis uses the fused LLM hidden states and does not require the discrete tokenizer decoder.

How to Use

Download the Model

hf download MiniMaxAI/MiniMax-Music3 --local-dir /path/to/minimax_ttm

Serve with SGLang-Omni

MiniMax Music 3 is currently supported by SGLang-Omni. From the SGLang-Omni repository root, run:

sgl-omni serve --model-path MiniMaxAI/MiniMax-Music3 --port 8000

Inference uses two CUDA GPUs:

Generate Music

The service uses the shared speech API. Put the lyrics in input and the music description in instructions.

curl http://127.0.0.1:8000/v1/audio/speech \
  -H 'Content-Type: application/json' \
  -d '{
    "model": "minimax_ttm",
    "input": "[Verse]\nMorning light filtering through the pine\n[Chorus]\nSoftly the world begins to breathe",
    "instructions": "A warm acoustic pop song with intimate female vocals, fingerpicked guitar, soft piano, and a gradual emotional build into a wide final chorus.",
    "response_format": "wav",
    "seed": 7,
    "max_new_tokens": 9000,
    "stream": false
  }' \
  --output minimax_music3.wav

An example generated with this checkpoint is available at assets/minimax_ttm.wav.

Music Caption Rewriter Skill

This repository includes music-caption-rewriter, an agent skill that turns a brief music description and optional tagged lyrics into a detailed Music 3.0 Structured Caption. It uses a bundled text library to select compatible style references, combine requested influences, and build a coherent section-by-section arrangement without external APIs or runtime dependencies.

Then invoke $music-caption-rewriter in a supported coding agent with a music description and, optionally, lyrics containing section tags such as [Verse] or [Chorus]. The skill returns Global Metadata, Vocal Details, and Arrangement while preserving explicit musical constraints and keeping lyric text out of the rewritten caption.

Limitations

Contact Us

Contact us at [email protected].

MiniMax-Music3 (MiniMax-AI/MiniMax-Music3)

Searching Database…

963 ·GitHub
MiniMax-Music3
Что это?MiniMax Music 3 — модель генерации музыки, создающая полные песни длиной до пяти минут из текста песни и описания музыки; на выходе — стерео-WAV 32 кГц 16 бит со связной структурой и выразительным вокалом.
Это готовое приложение или просто сырая модель?Это сырой чекпоинт модели, а не готовое приложение — вы скачиваете веса и запускаете их сами через поддерживаемый инференс-сервер.
Как на самом деле сгенерировать с её помощью песню?Скачайте модель, разверните её из корня репозитория SGLang-Omni, затем вызовите общий речевой API, подставив текст песни в поле input, а описание музыки — в instructions.
Что нужно для запуска инференса помимо весов?Нужен серверный стек SGLang-Omni, так как сейчас это единственный поддерживаемый способ запуска этой модели.
Какие главные ограничения стоит знать?Генерация только без стриминга, текстовые промпты ограничены 5 000 токенов, аудиовыход — 9 000 акустических кадров, а запрошенные темп, тональность, инструментарий или структура не всегда соблюдаются точно.
Сколько видеокарт нужно для инференса и чем они заняты?Нужны две CUDA-видеокарты: одна обрабатывает авторегрессионную генерацию на базе Qwen3 с восемью кодбуками RVQ, а другая выполняет Flow Matching и декодирование волновой формы.
Что делает навык music-caption-rewriter?Это входящий в комплект агентный навык, который превращает краткое описание и опциональные размеченные тегами lyrics в детальную Music 3.0 Structured Caption с Global Metadata, Vocal Details и Arrangement, используя внутреннюю текстовую библиотеку без внешних API.
Как управлять структурой песни, например куплетами и припевом?В lyrics можно включать теги секций вроде [Intro], [Verse], [Pre-Chorus], [Chorus], [Bridge], [Instrumental] и [Outro], а описание музыки отдельно управляет стилем, инструментовкой и аранжировкой этих секций.
Как модель сохраняет связность пятиминутной песни?Она использует иерархический Hybrid-LM: 8B Global LLM (инициализированная из Qwen3-8B) моделирует крупномасштабную музыкальную структуру, а 0.6B Local LLM заполняет акустические детали на уровне кадров; обе питают модуль синтеза Flow Matching/Flow-VAE для финального аудио.
What are similar projects?jeeves, YuE, audiocraft, vllm-omni, DramaBox, Qwen3.8-Flash-Next, vllm, TypeLLM
Which topics is it in?generative-model, text-to-audio, music-generation, sglang, model, inference-engine, model-serving, audio-generation, audio-processing, music, qwen, multimodal
Creator
MiniMax-AI
Size
36.1 MB
Stars
963
Updated
CommitAug 14
Age
2mo
Commits · 90 Days