OpenVoice README

The project's README from github.com/myshell-ai/OpenVoice. As one markdown file: README.md.

 

Paper | Website

myshell-ai%2FOpenVoice | Trendshift

Introduction

OpenVoice V1

As we detailed in our paper and website, the advantages of OpenVoice are three-fold:

1. Accurate Tone Color Cloning. OpenVoice can accurately clone the reference tone color and generate speech in multiple languages and accents.

2. Flexible Voice Style Control. OpenVoice enables granular control over voice styles, such as emotion and accent, as well as other style parameters including rhythm, pauses, and intonation.

3. Zero-shot Cross-lingual Voice Cloning. Neither of the language of the generated speech nor the language of the reference speech needs to be presented in the massive-speaker multi-lingual training dataset.

OpenVoice V2

In April 2024, we released OpenVoice V2, which includes all features in V1 and has:

1. Better Audio Quality. OpenVoice V2 adopts a different training strategy that delivers better audio quality.

2. Native Multi-lingual Support. English, Spanish, French, Chinese, Japanese and Korean are natively supported in OpenVoice V2.

3. Free Commercial Use. Starting from April 2024, both V2 and V1 are released under MIT License. Free for commercial use.

Video

OpenVoice has been powering the instant voice cloning capability of myshell.ai since May 2023. Until Nov 2023, the voice cloning model has been used tens of millions of times by users worldwide, and witnessed the explosive user growth on the platform.

Main Contributors

How to Use

Please see usage for detailed instructions.

Common Issues

Please see QA for common questions and answers. We will regularly update the question and answer list.

Citation

@article{qin2023openvoice,
  title={OpenVoice: Versatile Instant Voice Cloning},
  author={Qin, Zengyi and Zhao, Wenliang and Yu, Xumin and Sun, Xin},
  journal={arXiv preprint arXiv:2312.01479},
  year={2023}
}

License

OpenVoice V1 and V2 are MIT Licensed. Free for both commercial and research use.

Acknowledgements

This implementation is based on several excellent projects, TTS, VITS, and VITS2. Thanks for their awesome work!

OpenVoice (myshell-ai/OpenVoice)

Searching Database…

37.9K ·GitHub
Что это такое?OpenVoice — это базовая аудиомодель для мгновенного клонирования голоса, созданная MIT и MyShell. Она копирует тембр голоса эталонного диктора и генерирует речь на нескольких языках и с разными акцентами.
Это просто исследовательский код или он реально используется в готовом продукте?Это открытый код, который можно запустить и который уже работает в продакшене: с мая 2023 года он обеспечивает функцию мгновенного клонирования голоса на MyShell.ai, и пользователи по всему миру использовали её десятки миллионов раз.
Как мне его запустить?В README нет пошаговой установки. Вместо неё там ссылка на отдельное руководство по использованию в репозитории, где подробно описаны установка и запуск.
На чём это построено и нужен ли мне Python и другие библиотеки для синтеза речи?Да, это реализация на Python, которая построена на основе существующих проектов синтеза речи: TTS, VITS и VITS2.
Должны ли эталонный голос и сгенерированная речь быть на одном языке?Нет. OpenVoice поддерживает кросс-языковое клонирование zero-shot, поэтому ни язык эталонной записи, ни целевой язык не обязаны были встречаться в обучающих данных.
Можно ли мне использовать OpenVoice в коммерческих целях бесплатно?Да. С апреля 2024 года и OpenVoice V1, и V2 распространяются под лицензией MIT, поэтому их можно бесплатно использовать как в коммерческих, так и в исследовательских целях.
Что нового в OpenVoice V2 по сравнению с V1?V2 сохраняет все возможности V1, но добавляет более высокое качество звука благодаря пересмотренной стратегии обучения, встроенную поддержку английского, испанского, французского, китайского, японского и корейского языков, а также полностью бесплатное коммерческое лицензирование.
Какие языки V2 поддерживает из коробки?Английский, испанский, французский, китайский, японский и корейский языки изначально поддерживаются в OpenVoice V2.
Что ещё, кроме самого клонированного голоса, я могу контролировать?OpenVoice позволяет детально управлять стилевыми параметрами: эмоциями, акцентом, ритмом, паузами и интонацией, а не только тембром.
What are similar projects?FireRedTTS3, bark, MOSS-TTS-Nano, dia, VoxCPM, AudioGPT, AuK, csm
Creator
myshell-ai
Size
3.9 MB
Stars
37.9K
Updated
CommitApr 19
Age
2y
Commits · 90 Days