[发明专利]一种基于深度神经网络的领域自适应方法

摘要

本发明公开了一种基于深度神经网络的领域自适应方法，是基于深度神经网络模型，利用原有的网络参数(大数据训练生成，缺少领域数据)，在有少量领域数据的情况下，利用领域数据训练单独的隐层，同时在输出层进行融合，最终生成领域模型；利用同时进行多项任务(Multi‑Task)的思想，结合少量的有监督领域数据(如5H‑10H的领域数据)，同时对领域数据进行模拟，采用不同的特征，对神经网络参数进行更新，对新领域测试集合效果提升明显，又不影响旧领域性能。

主权项

1.一种基于深度神经网络的领域自适应方法，其特征在于，包括步骤：对领域数据进行模拟和扩展，得到扩展后的领域数据；提取扩展后的领域数据的领域特征；利用深度神经网络模型的基线神经网络对所述领域数据进行切分对齐，得到每帧领域特征对应的状态级别的标注和音素级别的标注；利用深度神经网络模型对所述领域特征进行训练，得到领域神经网络；利用每帧领域特征的音素级别的标注进行扩展，得到领域扩展特征；利用深度神经网络模型对所述领域扩展特征进行训练，得到领域扩展网络；在深度神经网络模型的输出层对所述领域神经网络、所述基线神经网络及所述领域扩展网络利用融合网络目标函数进行融合，利用梯度下降法对所述领域神经网络进行参数更新；融合网络目标函数为：其中，t为时序，t’为累加的时序，s_t为输出音素状态，x_t为输入特征向量，p^base函数为基线神经网络的目标函数P(s_t/x_t)，y_t为对应的标注，p^domain函数为领域神经网络的目标函数P(s_t/x_t)；E_(cost)为代价函数，为领域扩展网络的隐层输出和领域标注之前的均方误差，α、β设置为(0，1)之间，γ设置为(0，5)之间。