SoulX-Podcast README

The project's README from github.com/Soul-AILab/SoulX-Podcast. As one markdown file: README.md.

SoulX-Podcast

Official inference code for
SoulX-Podcast: Towards Realistic Long-form Podcasts with Dialectal and Paralinguistic Diversity

SoulX-Podcast_Logo

version HF-model technical report HF-demo Apache-2.0

SoulX-Podcast: Towards Realistic Long-form Podcasts with Dialectal and Paralinguistic Diversity

Overview

SoulX-Podcast is designed for podcast-style multi-turn, multi-speaker dialogic speech generation, while also achieving superior performance in the conventional monologue TTS task.

To meet the higher naturalness demands of multi-turn spoken dialogue, SoulX-Podcast integrates a range of paralinguistic controls and supports both Mandarin and English, as well as several Chinese dialects, including Sichuanese, Henanese, and Cantonese, enabling more personalized podcast-style speech generation.

Key Features 🔥


Demo Examples

Zero-Shot Podcast Generation

https://github.com/user-attachments/assets/a9d3da2a-aaff-49d0-a3c7-2bd3c0b6d5eb

Cross-Dialectal Zero-Shot Podcast Generation

🎙️ All prompt audio samples used in the following generations are in Mandarin.

🎙️ 以下音频生成采用的参考音频全部为普通话。

https://github.com/user-attachments/assets/982d799b-9f91-40a3-ab64-9e165166f788

https://github.com/user-attachments/assets/d0a59d7b-27c9-4b47-8242-f7630814c1e9

https://github.com/user-attachments/assets/a53ff35c-1e2b-42d9-9ef4-279164574646

For more examples, see demo page.

🚀 News

Install

Clone and Install

Here are instructions for installing on Linux.

git clone [email protected]:Soul-AILab/SoulX-Podcast.git
cd SoulX-Podcast
conda create -n soulxpodcast -y python=3.11
conda activate soulxpodcast
pip install -r requirements.txt
# If you are in mainland China, you can set the mirror as follows:
pip install -r requirements.txt -i https://mirrors.aliyun.com/pypi/simple/ --trusted-host=mirrors.aliyun.com
cd runtime/vllm
docker build -t soulxpodcast:v1.0 .
# Mounts the host directory at LOCAL_RESOURCE_PATH to CONTAINER_RESOURCE_PATH in the container, enabling file sharing between the host system and container. To access the web application, add -p LOCAL_PORT:CONTAINER_PORT
# example: docker run -it --runtime=nvidia  --name soulxpodcast  -v /mnt/data:/mnt/data -p 7860:7860 soulxpodcast:v1.0
docker run -it --runtime=nvidia  --name soulxpodcast  -v LOCAL_RESOURCE_PATH:CONTAINER_RESOURCE_PATH soulxpodcast:v1.0

Model Download

pip install -U huggingface_hub

# base model
huggingface-cli download --resume-download Soul-AILab/SoulX-Podcast-1.7B --local-dir pretrained_models/SoulX-Podcast-1.7B

# dialectal model
huggingface-cli download --resume-download Soul-AILab/SoulX-Podcast-1.7B-dialect --local-dir pretrained_models/SoulX-Podcast-1.7B-dialect

Download via python:

from huggingface_hub import snapshot_download

# base model
snapshot_download("Soul-AILab/SoulX-Podcast-1.7B", local_dir="pretrained_models/SoulX-Podcast-1.7B") 

# dialectal model
snapshot_download("Soul-AILab/SoulX-Podcast-1.7B-dialect", local_dir="pretrained_models/SoulX-Podcast-1.7B-dialect") 

Download via git clone:

mkdir -p pretrained_models

# Make sure you have git-lfs installed (https://git-lfs.com)
git lfs install

# base model
git clone https://huggingface.co/Soul-AILab/SoulX-Podcast-1.7B pretrained_models/SoulX-Podcast-1.7B

# dialectal model
git clone https://huggingface.co/Soul-AILab/SoulX-Podcast-1.7B-dialect pretrained_models/SoulX-Podcast-1.7B-dialect

Basic Usage

You can simply run the demo with the following commands:

# dialectal inference
bash example/infer_dialogue.sh

WebUI

You can simply run the webui with the following commands:

# Base Model:
python3 webui.py --model_path pretrained_models/SoulX-Podcast-1.7B

# If you want to experience dialect podcast generation, use the dialectal model:
python3 webui.py --model_path pretrained_models/SoulX-Podcast-1.7B-dialect

TODOs

Citation

@misc{SoulXPodcast,
  title        = {SoulX-Podcast: Towards Realistic Long-form Podcasts with Dialectal and Paralinguistic Diversity},
  author       = {Hanke Xie and Haopeng Lin and Wenxiao Cao and Dake Guo and Wenjie Tian and Jun Wu and Hanlin Wen and Ruixuan Shang and Hongmei Liu and Zhiqi Jiang and Yuepeng Jiang and Wenxi Chen and Ruiqi Yan and Jiale Qian and Yichao Yan and Shunshun Yin and Ming Tao and Xie Chen and Lei Xie and Xinsheng Wang},
  year         = {2025},
  archivePrefix={arXiv},
  url          = {https://arxiv.org/abs/2510.23541}
}

License

We use the Apache 2.0 license. Researchers and developers are free to use the codes and model weights of our SoulX-Podcast. Check the license at LICENSE for more details.

Acknowledge

Usage Disclaimer

This project provides a speech synthesis model for podcast generation capable of zero-shot voice cloning, intended for academic research, educational purposes, and legitimate applications, such as personalized speech synthesis, assistive technologies, and linguistic research.

Please note:

Do not use this model for unauthorized voice cloning, impersonation, fraud, scams, deepfakes, or any illegal activities.

Ensure compliance with local laws and regulations when using this model and uphold ethical standards.

The developers assume no liability for any misuse of this model.

We advocate for the responsible development and use of AI and encourage the community to uphold safety and ethical principles in AI research and applications. If you have any concerns regarding ethics or misuse, please contact us.

Contact Us

If you are interested in leaving a message to our work, feel free to email [email protected] or [email protected] or [email protected] or [email protected]

You’re welcome to join our WeChat group for technical discussions, updates.


WeChat Group QR Code

Star History

Star History Chart

SoulX-Podcast (Soul-AILab/SoulX-Podcast)

Searching Database…

Что это?SoulX-Podcast — кодовая база для инференса, которая генерирует по тексту реалистичные длинные диалоги в стиле подкаста с несколькими дикторами, включая паралингвистические эффекты и несколько китайских диалектов.
Это готовое приложение или код, который я запускаю сам?Это исследовательская кодовая база, а не упакованное приложение: вы клонируете репозиторий, скачиваете чекпойнты моделей и сами запускаете прилагаемые скрипты или WebUI.
Как его запустить?Склонируйте репозиторий, установите Conda, создайте Conda-окружение, затем скачайте чекпойнты моделей с Hugging Face (через Python-скрипт или git clone), прежде чем запускать демо или скрипты WebUI.
Что нужно перед установкой?Нужны Conda, машина с Linux и чекпойнты модели SoulX-Podcast с Hugging Face; опционально для более быстрого инференса можно использовать модифицированную сборку vLLM 0.10.1.
Есть ли подводные камни при установке или отсутствующие функции на данный момент?Инструкции по установке охватывают только Linux, а потоковый инференс все еще числится в открытом TODO, а не как доступная сегодня возможность.
Для кого это предназначено?Оно нацелено на исследователей и разработчиков, работающих над TTS в стиле подкастов и клонированием голоса, а использование ограничено академическими, образовательными и другими законными применениями согласно дисклеймеру проекта.
Каковы условия лицензии?Код выпущен под Apache 2.0, но авторы явно запрещают недобросовестное использование, например несанкционированное клонирование голоса, выдачу себя за другого, мошенничество или дипфейки.
Какие диалекты он поддерживает помимо мандаринского и английского?Поддерживается несколько китайских диалектов, включая сычуаньский, хэнаньский и кантонский, для zero-shot клонирования голоса и генерации речи.
Может ли он добавлять в речь естественные эффекты вроде смеха?Да, есть паралингвистические теги для эффектов вроде смеха и вздохов, чтобы генерируемый диалог звучал реалистичнее.
Есть ли веб-интерфейс или только скрипты командной строки?Помимо демонстрационных скриптов командной строки для монологового TTS есть WebUI для удобного инференса.
Можно ли ускорить инференс или запустить его в контейнере?Да, проект поставляет модифицированную сборку vLLM 0.10.1 для ускорения, а с ноября 2025 года также поддерживает запуск через Docker с vLLM.
Creator
Soul-AILab
Size
185.2 MB
Stars
3.6K
Updated
CommitDec 11
Age
1y
Commits · 90 Days