[发明专利]基于改进的STARGAN和x向量的多对多说话人转换方法

说明书

本发明公开了一种基于改进的STARGAN与x向量的多对多说话人转换方法，包括训练阶段和转换阶段，使用了改进的STARGAN与x向量相结合来实现语音转换系统，该方法是对STARGAN在语音转换应用中的进一步改进，其中，提出的两步式对抗性损失能够有效解决由于循环一致性损失利用L1造成的过平滑问题，而且生成器采用2‑1‑2D CNN网络，能够较好地提升模型对于语义的学习能力以及语音频谱的合成能力，克服STARGAN中转换后语音相似度与自然度较差的问题。同时x向量对于短时话语具有更好的表征性能，能够充分表征说话人的个性特征，实现了一种非平行文本条件下的高质量多对多语音转换方法。

技术领域

本发明涉及一种多对多说话人转换方法，特别是涉及一种基于改进的STARGAN和x向量的多对多说话人转换方法。

背景技术

语音转换是语音信号处理领域的研究分支，是在语音分析、识别和合成的研究基础上发展与延伸的。语音转换的目标是改变源说话人的语音个性特征，使之具有目标说话人的语音个性特征，也就是使一个人说的语音经过转换后听起来像是另一个人说的语音，同时保留语义。

语音转换技术经过多年的研究，已经涌现了很多的经典转换方法。其中包括高斯混合模型(Gaussian Mixed Model，GMM)、递归神经网络(Recurrent Neural Network，RNN)、深度神经网络(Deep Neural Networks，DNN)等大多数的语音转换方法。但是这些语音转换方法大多要求用于训练的语料库是平行文本，即源说话人和目标说话人需要发出语音内容、语音时长相同的句子，并且发音节奏和情绪等尽量一致。但是收集这些数据很耗时并且即使获得这些平行数据，仍然很难解决问题，因为大多数语音转换方法依赖数据准确的时间对齐，而这又是一个很艰难的过程，这就使大多数平行数据产生语音特征参数对齐不准确问题，所以训练时语音特征参数对齐的准确性会成为语音转换性能的一种制约。此外在跨语种转换、医疗辅助患者语音转换等实际应用中也无法获取平行语音。因此，无论从语音转换系统的通用性还是实用性来考虑，非平行文本条件下语音转换方法的研究都具有极大的实际意义和应用价值。

现有的非平行文本条件下的语音转换方法有基于循环一致对抗网络(Cycle-Consistent Adversarial Networks，Cycle-GAN)的方法、基于条件变分自编码器(ConditionalVariational Auto-Encoder，C-VAE)的方法等。基于C-VAE模型的语音转换方法，直接利用说话人的身份标签建立语音转换系统，其中编码器对语音实现语义和个性信息的分离，解码器通过语义和说话人身份标签来实现语音的重构，从而可以解除对平行文本的依赖。但是由于C-VAE基于改进的理想假设，认为观察到的数据通常遵循高斯分布，导致解码器的输出语音过度平滑，转换后的语音质量不高。基于Cycle-GAN模型的语音转换方法利用对抗性损失和循环一致损失，同时学习声学特征的正映射和逆映射，可以有效缓解过平滑问题，改善转换语音质量，但是Cycle-GAN只能实现一对一的语音转换。

基于星型生成对抗网络(Star Generative Adversarial Network，STARGAN)模型的语音转换方法同时具有C-VAE和Cycle-GAN的优点，由于该方法的生成器具有编解码结构，可以同时学习多对多映射，生成器输出的属性由说话人身份标签控制，因此可以实现非平行文本条件下多对多的语音转换。在STARGAN中，引入对抗性损失可以有效缓解统计平均造成的过平滑问题，但是利用L1表示的循环一致性损失仍会导致过平滑。此方法由于生成器采用的二维卷积神经网络，并不能有效捕获语音的时序信息，更重要的是生成器中的编码网络与解码网络之间相互独立，直接通过生成器的编码网络无法较好地实现语义特征与说话人个性化特征的分离，同时生成器的解码网络也无法较好地实现语义特征与说话人个性特征的合成，而且此方法中说话人的身份标签并不能充分表达说话人的个性化特征，因此转换后的语音在在语音质量和个性相似度上仍有待提升。

发明内容