[发明专利]一种题目文本句子向量生成方法及装置

说明书

一种题目文本句子向量生成方法，包括步骤:S1.根据题目文本表达筛选出所有关键词，加入词典，再对题目文本中的句子进行词典分词，同时对句子中出现的关键词进行标记；S2.基于分词结果和筛选出的所有关键词，通过分别对每条句子和其内包含的关键词编码后，再建立RNN模型采用随机剔除关键词的方法进行预测训练；S3.利用训练好的模型提取到的特征，对题目文本中的每条句子生成句子向量。

技术领域

本发明属于文本处理技术领域，特别涉及一种题目文本句子向量生成方法及装置。

背景技术

将文本转换成向量的方法是目前自然语言处理技术领域中常采用的一种方法，主要的模型有Cbow和Skip-gram、One_hot、TF/IDF等。文本向量化的处理也主要是为了便于文本的分类、聚类和相似度计算，以达到有效处理数据信息的目的。此方法广泛应用在新闻推荐、文档分类、情感分析、自动摘要、信息检索、机器翻译等业务领域，但在基础学科等专业领域，如数学学科，由于数学文本中有大量的公式，且公式大部分都是通过数学专有字符呈现，字符与字符之间的关系紧密，不仅字符占比高，并且共现频率高。因此，通过传统训练方法操作这些数学字符，容易放大句子中的公式对语义的影响，而忽略一些重要信息，导致利用训练结果进行自动化标注知识点、推荐题目时很难达到很好的效果。

发明内容

本发明提供了一种题目文本句子向量生成方法，用于解决基础学科，例如数学中题目文本的句子向量的生成。

本发明实施例之一，一种题目文本句子向量生成方法，包括以下步骤:

S1.根据题目文本表达筛选出所有关键词，加入词典，再对题目文本中的句子进行词典分词，同时对句子中出现的关键词进行标记；

S2.基于分词结果和筛选出的所有关键词，通过分别对每条句子和其内包含的关键词编码后，再建立RNN模型采用随机剔除关键词的方法进行预测训练；

S3.利用训练好的模型提取到的特征，对题目文本中的每条句子生成句子向量。

本发明首先针对某一基础学科专业领域如数学，搜集大量的文本数据进行关键词的筛选，然后通过句子分词训练、句子编码、关键词编码等一系列操作后，利用RNN模型采用随机剔除关键词的方法进行预测训练，最后利用RNN模型提取的特征生成句子向量。本发明根据基础学科的语言特点，摒弃传统词向量、句向量生成方法，利用关键词预测技巧和深度学习算法，可以有效地提取题目文本表达中的重要特征。而且利用生成的句子向量对题目文本的句子进行相似度的计算，有效地改善了基础学科知识点的提取效果，并提高了题目推荐的准确度，对自然语言处理技术在基础学科专业领域上的应用也起到了良好的促进作用。

本发明针对基础学科专业领域的语言特点，专门设计了一种句子向量生成方法用于有效提取文本中的关键信息。首先根据基础学科题目文本中用到的词语的重要性筛选出所有关键词加入词典，然后对大量题目文本中的句子进行词典分词。基于分词结果和筛选出的所有关键词，通过对句子和关键词编码后再采用随机剔除关键词的方法进行RNN模型的预测训练，最后利用训练好后RNN模型提取的特征生成句子向量。本发明利用关键词预测技巧和深度学习算法，相比传统方法产生的向量，可以生成更具区分度的句子向量，即可以有效地提取基础学科文本表达中的重要特征。而且利用生成的句子向量对题目文本的句子进行相似度的计算，有效地改善了基础学科知识点的提取效果，并提高了题目推荐的准确度，对自然语言处理技术在基础学科专业领域上的应用也起到了良好的促进作用。

附图说明

通过参考附图阅读下文的详细描述，本发明示例性实施方式的上述以及其他目的、特征和优点将变得易于理解。在附图中，以示例性而非限制性的方式示出了本发明的若干实施方式，其中：

图1是本发明实施例中一种面向基础学科专业领域的句子向量生成方法的流程图。

具体实施方式