[发明专利]一种基于覆盖率的神经网络有效数据增强方法

权利要求书

1.一种基于覆盖率的神经网络有效数据增强方法，其步骤包括：

1)根据待训练的神经网络模型选取训练数据集并为该神经网络模型选取多个覆盖率指标；其中，待训练的神经网络模型为语言模型，所述训练数据集中的样本数据为文本类数据，所述覆盖率指标包括隐藏单元覆盖率、正向序列覆盖率和负向序列覆盖率；所述隐藏单元覆盖率其中，NUM_hidden_activated表示神经网络模型中被激活的隐藏单元数量，NUM_hidden表示神经网络模型的隐藏单元总数；序列覆盖率范围反映了有关连续隐藏层状态的信息，它由元素z_t正向传播时激活的神经元构成的正向序列数量和元素z_t反向传播时激活的神经元构成的负向序列数量组成，元素z_t是文本长度为T的序列所有可能的顺序中第t种排列的方式；所述正向序列覆盖率所述负向序列覆盖率其中，表示正向序列的总数、表示负向序列的总数；

2)利用该训练数据集对该待训练的神经网络模型进行训练，并统计训练时该神经网络模型中不同覆盖率指标对应的被激活的神经元个数；

3)根据各覆盖率指标对应的被激活的神经元个数计算该训练数据集的各覆盖率指标值；然后根据各所述覆盖率指标值选择一个与该神经网络模型准确度最相关的覆盖率指标作为评价指标；

4)对该训练数据集进行扩充，得到扩充数据集；

5)利用步骤1)训练后的神经网络模型分别测试该训练数据集的评价指标值、该扩充数据集的评价指标值；如果该扩充数据集的评价指标值大于该训练数据集的评价指标值，则将该扩充数据集作为有效数据集；否则将该训练数据集作为无效数据集。

2.如权利要求1所述的方法，其特征在于，根据各所述覆盖率指标与神经网络模型准确率的皮尔逊相关系数，选择与该神经网络模型准确度最相关的覆盖率指标作为评价指标。

3.一种神经网络模型训练方法，其特征在于，采用权利要求1所述方法得到的有效数据集对待训练的神经网络模型进行训练。