[发明专利]基于非监督学习的图书概念前后序关系抽取方法

说明书

本发明公开了一种基于非监督学习的图书概念前后序关系抽取方法：以同领域的海量图书和百度百科网页为语料，构建概念前后序关系分类模型和概念前后序关系发现模型，并进行迭代抽取；在概念前后序关系分类模型中，利用概念在图书中的分布规律、概念在百科中的分布规律抽取特征、概念词向量相似性，训练分类模型；在概念前后序关系发现模型中，利用概念前后序的性质，基于非自反性约束、位置前后约束、内容相关约束等约束，来发现概念之间的前后序关系；最后迭代执行概念前后序关系分类模型和概念前后序关系发现模型，直到达到最大迭代次数或者收敛为止；本发明可以自动从图书中抽取概念的前后序关系，在知识推荐、学习路径规划等方面均有重要应用。

技术领域

本发明涉及概念前后序关系抽取方法，尤其涉及一种基于非监督学习的图书概念前后序关系的抽取方法。

背景技术

图书作为重要的信息来源，具有很大潜在价值，从中可以挖掘很多有意义的信息，如问题的答案、实体、事件、概念的定义、概念的上下位关系、概念的前后序关系等；通过对此类信息的挖掘，可以更好的理解图书的内容，并且可以把图书中有价值的信息迁移到运用于其他领域；

概念前后序关系是指概念之间的依存关系，即理解一个概念需要提前理解其依赖的概念；如在微积分领域，学习概念“柯西中值定理”必须要先掌握概念“导数”，否则便无法理解；概念前后序关系正是概念之间的相互依赖，通过挖掘概念前后序关系，可以构建一个完整的知识网络，对于学习路线规划，课程推荐具均可应用，在教育领域有着丰富的前景；

目前的主要解决方案有四种，相对距离方法(refd)，概念图学习方法(CGL)，基于前后章节关联的恢复方法(CPR-Recover)，基于特征提取的分类方法(MOOC)；相对距离方法，全称为reference distance，简称refd；利用前后序概念之间相互提及对方的不一致性来判断概念前后序关系；Refd虽然为非监督方法，不需要预标注数据，但阈值的选择需要决策，不同阈值效果差别很大；而且作为判别方法，判别方式过于单一，容易引入噪音；概念图学习方法，全称concept graph learning，简称CGL；将一个领域的所有概念前后序关系构建成一个关系网络，通过一个关系矩阵求解；CGL在全局基础上对概念前后序关系进行学习，取得了不错的效果，但是需要大量标注，而且矩阵学习的过程有些粗糙，很多特征没有被挖掘；基于特征的分类器算法可针对多种结构化文本，例如MOOC；该算法充分利用概念前后序关系的特点，针对结构化文本提出多条具有价值的特征，然后使用训练数据训练随机森林分类模型，最后输出分类器预测的概念前后序分类结果。

发明内容

本发明解决了目前概念前后序关系判别的标注数据不足的问题，在不需要进行任何先验标注的情况下，取得了不错的结果，提出了一种基于迭代的非监督图书概念前后序关系抽取方法。

本发明解决其技术问题采用的技术方案如下：一种基于非监督学习的图书概念前后序关系抽取方法，包括以下步骤：

1)预处理数据：对同领域中海量的图书进行OCR识别，获取同领域中的百度百科网页，根据全体百度百科正文进行词向量训练；

2)利用概念在图书中的分布规律、概念在百科中的分布规律抽取特征、概念词向量相似性，将抽取的特征和概念前后序关系的标记作为输入，使用随机森林算法作为分类器，训练得到概念前后序关系分类模型；所述概念前后序关系的标记第一次迭代时随机初始化；

3)利用概念前后序关系之间的特性，包括非自反性约束、位置前后约束、内容相关约束、章节前后关联约束、范围大小约束，建立如下目标函数：