[发明专利]一种基于残差门控循环单元的语音识别方法

权利要求书

1.一种基于残差门控循环单元的语音识别方法，其特征在于，包括以下步骤：

步骤1，提取数据的特征值；

步骤2，将提取好的特征值做均值方差归一化以及差分处理；

步骤3，使用经过步骤2处理好的特征值训练高斯混合隐马尔科夫模型，得到训练好的三音素的高斯隐马尔科夫模型；

步骤4，建立残差门控循环单元的循环神经网络结构；

步骤5，设置残差门控循环神经网络的全连接层以及分类层；

步骤6，设置残差门控循环神经网络权重初始化方式为正交初始化；

步骤7，为残差门控循环神经网络设置批标准化；

步骤8，设置残差门控循环神经网络的超参数；

步骤9，配置残差门控循环神经网络的损失函数以及优化器；

步骤10，经过残差门控循环神经网络的迭代之后输出模型文件，得到声学模型；

步骤11，将声学模型和语言模型以及发声词典通过加权有限状态转换器静态编译组成搜索网络；

步骤2包括：

步骤2-1，均值方差归一化：均值方差归一化具体做法是使特征的均值为0，方差为1，其计算公式为：

式中，x为数据输入，即提取好的特征值；μ为归一化之前的均值；σ为归一化之前的标准差；Z为归一化之后的数据；

步骤2-2，根据如下公式对特征数据进行差分运算：

式中，d_t表示第t个一阶差分，C_t表示第t个倒谱系数，Q表示倒谱系数的阶数；k表示一阶导数的时间差，取1或2；将公式(2)的结果再代入公式(2)则得到二阶差分的参数；

步骤3包括：

步骤3-1，高斯混合模型P(y|θ)公式为：

式中，y是特征分布，也就是观测数据；是第i个高斯的方差；θ为(μ，σ²)，θ_i为第i个高斯；α_i是第i个高斯的混合参数；N为高斯分布的数量；μ_i为第i个高斯的均值；

步骤3-2，对于高斯混合模型，使用期望最大化算法来计算高斯混合模型中每个高斯的均值、方差以及混合参数，同时结合维特比算法得到特征与音素的帧级别对齐信息，从而得到单音素的高斯混合隐马尔科夫模型，再通过高斯分裂以及期望最大化算法得到三音素的高斯混合隐马尔科夫模型，同时结合对齐处理得到三音素的帧对齐标签；

步骤4包括如下步骤：

步骤4-1，建立残差门控循环神经网络算法的前向算法：首先建立重置门和更新门，设z_t和r_t分别表示更新门向量和重置门向量，x_t为当前的输入，h_t-1为前时刻帧的输入当前时刻的状态向量，W与U为模型参数也就是权重向量，b为偏置向量；更新门向量和重置门公式如下：

z_t＝σ(net_z)，

net_z＝W_zx_t+U_zh_t-1+b_z，

r_t＝σ(net_r)，

net_r＝W_rx_t+U_rh_t-1+b_r，

式中，net_z为更新门未激活值；net_r为重置门未激活值；W_z与U_z为更新门权重；b_z为更新门偏置向量；W_r与U_r为重置门权重；b_r为重置门偏置向量，σ为sigmoid激活函数，sigmoid激活函数公式如下：

式中，x为函数输入；e为自然常数；

步骤4-2，使用如下残差门控循环单元的候选隐状态公式：

式中，a_t为候选隐状态值；为上一层未激活的候选隐状态值；net_a为当前层未激活值的候选隐状态，若net_a与维度不匹配时需要乘以维度匹配矩阵W¹避免维度不一致；U_a与W_a为候选隐状态的权重；b_a为偏置向量；为激活函数，这里用线性整流函数ReLU作为激活函数，ReLU的公式为：

式中，x为函数输入值；

步骤4-3，最后构建单元的隐状态：

h_t＝(1-z_t)⊙h_t-1+z_t⊙a_t

式中，h_t为隐状态输出值。