[发明专利]一种远程监督数据集去噪方法

说明书

本发明公开了一种远程监督数据集去噪方法，首先，将DS数据集按数据是否有标签，分为正样例集TD和负样例集FD，然后通过基于模式的数据抽取算法抽取TD中高质量的正样例集CTD,利用CTD和FD，训练一个二分类模型Filter‑Net，该模型能够从FD中准确识别高质量负样例集CFD。最后，将高质量负样例集CFD，与正样例集TD一起，共同作为去燥模型RL的训练数据集，获得更高质量的正确标注的样本集。本发明从充分利用DS数据集错误标注的数据出发，提出从DS数据集中抽取高质量正样例、负样例数据的方法，并将高质量正样例和负样例数据用于去燥模型的训练，从而提高去燥模型的准确率，达到有效去燥的目的。

技术领域

本发明涉及网络数据处理，具体涉及一种远程监督数据集去噪方法。

背景技术

关系分类是信息抽取中的一项基本任务，是知识图谱构建环节中重要的一环。[Robust distant supervision relation extraction via deep reinforcementlearning.Qin,P.；Xu,W.；and Wang,W.Y.2018.In ACL,2137–2147]指出关系分类是给定一句话，判断该句子中两个实体属于哪种关系，关系分类本质上属于多分类问题。随着神经网络的兴起，越来越多的研究人员使用神经网络来解决该问题，2015年提出的BILSTM与2016年提出的BILSTM+ATT在关系抽取上取得了显著的效果。但使用神经网络解决关系分类问题需要大量的标签数据来保证模型得到有效的训练，然而获取大量的标签数据是需要付出大量代价的。为了降低获取大量的标签数据的成本，2009年提出了远程监督DS，通过知识库与非结构化文本对齐的方式，自动标注数据。远程监督是基于这样一个假设：对于一个给定的知识图谱中的一个三元组(由一对实体和一个关系构成)，外部文档库中任何包含这对实体的句子，都可定义为这种关系，否则将关系标注为’none’。DS定义实体关系的弱假设并不符合实际情况，因而DS并不能获取完全正确的实体关系标注数据集，利用远程监督来获取的数据集可能存在30％的数据为错误标签数据的情况。

在文献[Reinforcement learning for relation clas-sification from noisydata.Feng,J.；Huang,M.；Zhao,L.；Yang,Y.；and Zhu,X.2018.In Thirty-Second AAAIConfer-ence on Artificial Intelligence]中，作者提出了抽取DS正样例数据集的RL模型。RL接受DS中的有标签的数据，经过判别标签是否标注正确，来去除部分错误标注的数据，达到标签数据去躁的效果。RL本质上是一个二分类模型，为了能够识别正确的标注数据，模型的训练数据必须包含有正确标注和错误标注的样例。本文认为，文中简单的将DS数据集中有标签数据和无标签数据，当做正样例和负样例来训练模型，是不够的，因为正样例中，包含着一些错误的标注数据，同样在负样例中，也存在一些明显具有关系但未被正确标注的数据，这种现象，是导致RL模型不能很好提取DS数据集中正确标注数据的关键。

发明内容

针对现有技术中的上述不足，本发明提供了一种远程监督数据集去噪方法。

为了达到上述发明目的，本发明采用的技术方案为：

一种远程监督数据集去噪方法，包括如下步骤：

S1、获取远程监督数据集并将所获取的数据按照是否有标签分为正样本集和假负样本集；

S2、利用基于模式的数据抽取方法提取步骤S1得到的正样本集中的数据，得到高质量正样本数据；

S3、利用步骤S2提取的高质量正样本数据和步骤S1获取的假负样本集中的数据共同作为负样本筛选网络的训练数据进行训练得到高质量负样本集；

S4、将步骤S3识别出的高质量负样本集和步骤S1得到的正样本集数据共同作为去噪模型的训练数据集并进行去噪模型训练，得到正确标注的正样本数据。