[发明专利]基于改进的STARGAN和x向量的多对多说话人转换方法在审
申请号: | 201910874820.6 | 申请日: | 2019-09-17 |
公开(公告)号: | CN110600046A | 公开(公告)日: | 2019-12-20 |
发明(设计)人: | 李燕萍;曹盼;张燕 | 申请(专利权)人: | 南京邮电大学 |
主分类号: | G10L21/007 | 分类号: | G10L21/007;G10L25/30;G10L13/033 |
代理公司: | 32204 南京苏高专利商标事务所(普通合伙) | 代理人: | 刘文闻 |
地址: | 210003 江苏*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 向量 语音转换 多对多 语音转换系统 语音相似度 改进 语义 个性特征 合成能力 文本条件 学习能力 训练阶段 有效解决 语音频谱 转换阶段 转换 非平行 两步式 生成器 自然度 平滑 话语 应用 网络 | ||
1.一种基于改进的STARGAN和x向量的多对多说话人转换方法,其特征在于包括训练阶段和转换阶段,所述训练阶段包括以下步骤:
(1.1)获取训练语料,训练语料由多名说话人的语料组成,包含源说话人和目标说话人;
(1.2)将所述的训练语料通过WORLD语音分析/合成模型,提取出各说话人语句的频谱包络特征x、基频特征以及代表各说话人个性化特征的x向量X-vector;
(1.3)将源说话人的频谱包络特征xs、目标说话人的频谱包络特征xt、源说话人标签cs和x向量X-vectors,以及目标说话人标签ct和x向量X-vectort,输入到STARGAN-X网络进行训练,所述的STARGAN-X网络由生成器G、鉴别器D和分类器C组成,所述的生成器G采用2-1-2D网络结构,由编码网络、解码网络以及ResNet层构成,其中编码网络和解码网络采用二维卷积神经网络,在编码网络与解码网络之间搭建至少1层ResNet,所述ResNet采用一维卷积神经网络;
(1.4)训练过程使生成器G的损失函数、鉴别器D的损失函数、分类器C的损失函数尽量小,直至设置的迭代次数,得到训练好的STARGAN-X网络;
(1.5)构建从源说话人的语音基频到目标说话人的语音基频的基频转换函数;
所述转换阶段包括以下步骤:
(2.1)将待转换语料中源说话人的语音通过WORLD语音分析/合成模型提取出频谱包络特征xs′、非周期性特征和基频;
(2.2)将上述源说话人频谱包络特征xs′、目标说话人标签特征ct′、目标说话人x向量X-vectort′输入(1.4)中训练好的STARGAN-X网络,重构出目标说话人频谱包络特征xtc′;
(2.3)通过(1.5)得到的基频转换函数,将(2.1)中提取出的源说话人基频转换为目标说话人的基频;
(2.4)将(2.2)中得到的目标说话人频谱包络特征xtc′、(2.3)中得到的目标说话人的基频和(2.1)中提取的非周期性特征通过WORLD语音分析/合成模型,合成得到转换后的说话人语音。
2.根据权利要求1所述的基于改进的STARGAN和x向量的多对多说话人转换方法,其特征在于:生成器G的编码网络与解码网络之间搭建ResNet为6层。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于南京邮电大学,未经南京邮电大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910874820.6/1.html,转载请声明来源钻瓜专利网。