[发明专利]语音识别任务中的保持注意力机制单调性方法

权利要求书

1.一种语音识别任务中的保持注意力机制单调性方法，其特征在于，包括：

通过神经网络模块，学习能够拟合注意力机制权重分布的高斯分布的参数，并进行数值计算，使之符合设定要求；

将数值计算得到的参数值与注意力机制权重矩阵之间的均方误差作为单调性损失，并将所述单调性损失作为原本优化目标的正则项，得到最终的优化目标；

基于所述最终的优化目标对语音识别框架进行训练；

其中，通过神经网络模块，得到高斯分布的参数，即均值μ和方差σ的初步数值，在进行数值计算时，对均值μ的初步数值进行截断使之非负，再做放缩使得求和等于语音序列长度，计算结果记为Δ；对方差σ进行截断使之在设定范围内，计算结果记为∑；计算过程表示为：

Δ，∑＝Cal^(μ)(QW^μ)，Cal^(σ)(QW^σ)

其中，W^μ、W^σ各自表示神经网络模块中对于均值μ、方差σ的映射权重，Q为注意力机制中的Query；令QW^μ，QW^σ＝X，则Cal^(μ)(X)、Cal^(σ)(X)的计算公式为：

Cal^(σ)(X)＝clamp(X，σ_min，σ_max)

上式中，X_i为QW^μ的第i行，inf表示无穷大，J表示语音识别框架中编码器的序列长度，clamp(.)为区间限定函数，将括号中的三个数值对应的表示为(x，x_min，x_max)，如果输入为矩阵则为每一个元素进行计算，表示为：

2.根据权利要求1所述的一种语音识别任务中的保持注意力机制单调性方法，其特征在于，所述通过神经网络模块，学习能够拟合注意力机制权重分布的高斯分布的参数包括：

所述语音识别框架为包含注意力机制的编解码框架，连接编码器和解码器的注意力机制的三个输入Query、Key、Value分别来自解码器、编码器、编码器；

神经网络模块的输入为Query，通过神经网络模块的映射操作，得到高斯分布的参数均值μ和方差σ的初步数值；其中，均值μ的映射权重W^μ与方差σ映射权重W^σ不共享。

3.根据权利要求1或2所述的一种语音识别任务中的保持注意力机制单调性方法，其特征在于，计算参数值与注意力机制权重之间的均方误差的过程包括：

高斯分布的参数包含了均值μ和方差σ的初步数值，数值计算结果对应记为Δ，∑，由Δ与∑对应的计算每个位置高斯分布参数的均值μ_i与σ_i，从而计算每个位置上的数值然后，与注意力机制权重矩阵a相减，计算均方误差，计算过程表示为：

μ_i，σ_i＝μ_i-1+Δ_i，∑_i

其中，i，j为位置索引，I、J分别表示语音识别框架中解码器、编码器的信息序列长度，表示均方误差。

4.根据权利要求1或2所述的一种语音识别任务中的保持注意力机制单调性方法，其特征在于，所述将所述单调性损失作为原本优化目标的正则项，得到最终的优化目标包括：

对于包含注意力机制的编解码框架，对解码器部分的N个layer和每个layer的H个head的单调性损失取平均，表示为：

将loss_mono作为原本优化目标loss_CE的正则项，得到最终的优化目标loss：

loss＝loss_CE+λ*loss_mono

其中，λ为正则项系数，n＝1，...，N，h＝1，...，H，表示对第n个layer、第h个head的注意力机制计算出的单调性损失。

5.根据权利要求1或2所述的一种语音识别任务中的保持注意力机制单调性方法，其特征在于，预先收集语音数据集作为训练数据，并基于所述最终的优化目标对语音识别框架进行训练；对于训练后的语音识别框架，使用新的语音数据样本进行测试，获得语音识别结果。