MyShell TTS 开发的OpenVoice是一项创新的声音克隆技术,它能够通过仅使用一小段参考发言者的音频片段来复制其声音,并生成多种语言的语音。
目前,MyShell TTS 已经推出了全新的OpenVoice V2版本。这个版本能够直接支持英语、西班牙语、法语、中文、日语以及韩语,并且显著提高了音频输出的质量。OpenVoice V2拥有复制任意声音的能力,能以多种语言进行语音输出,并具备情感和口音的控制功能。它不但可以准确模仿特定的声音色彩,还允许对声音的风格,包括情感、口音、节奏、停顿及语调等进行细致调整。
主要功能:
准确的音色克隆: OpenVoice 能够精确地克隆参考音色,并在多种语言和口音中生成语音。
灵活的声音风格控制: 用户可以对声音的情绪、口音、节奏、停顿和语调进行详细调整,实现个性化的声音输出。
零样本跨语言声音克隆: 即使某些语言未在训练集中出现,OpenVoice 也能实现声音复制。
高效的计算性能: 相比于市场上现有的商业API,OpenVoice 在保持高性能的同时,计算成本大大降低。
OpenVoice V2新特性:
更好的音频质量: 采用新的训练策略提升音频质量。
原生多语言支持: 原生支持英语、西班牙语、法语、中文、日语和韩语。
集成 MeloTTS: V2版本引入了 MeloTTS 技术,增强了声音的自然度和表现力。
免费商业使用: 自2024年4月起,V1和V2版本均以 MIT 许可证发布,支持商业和研究用途的免费使用。
技术方法:
声音样式和语言的解耦设计: OpenVoice 的设计哲学是将声音的不同特性进行解耦,使得可以独立控制各个参数,提高操作的灵活性和推断速度。
基础发音者 TTS 模型与音色转换器: 包括允许对风格参数进行控制的基础发音者 TTS 模型,以及采用编码器-解码器结构的音色转换器。
训练策略和数据处理: 在训练过程中,使用了大量的多语种、多风格的音频样本,并采用特定的损失函数确保在保留风格的同时去除或转换音色。