[发明专利]一种题目文本句子向量生成方法及装置

权利要求书

1.一种题目文本句子向量生成方法，包括以下步骤:

S1.根据题目文本表达筛选出所有关键词，加入词典，再对题目文本中的句子进行词典分词，同时对句子中出现的关键词进行标记；

S2.基于分词结果和筛选出的所有关键词，通过分别对每条句子和其内包含的关键词编码后，再建立RNN模型采用随机剔除关键词的方法进行预测训练；

所述S2具体包括：

S21.根据分词结果建立单词间的字典，所述单词包括基础学科及其相关专业领域的所有常用词汇；

S22.把题目文本的每个句子中出现的每个单词按照整理好的字典进行替换，得到数字填充的编码序列；

S23.基于关键词表，对题目文本中的每个句子所包含的关键词进行one-hot编码；

S24.使用RNN神经网络模型，将步骤S22中得到的数字填充的编码序列作为输入，步骤S23中得到的one-hot矩阵作为标签进行关键词预测的训练，每轮迭代前，随机剔除句子中已标记的关键词用blank替代，重复本步骤，迭代训练多轮后得到模型提取到的所有特征参数，并保存模型;

S3.利用训练好的模型提取到的特征，对题目文本中的每条句子生成句子向量；

所述S3具体包括：

S31.将题目文本中的每个句子进过步骤S22处理后，输入到训练好的模型中进行向量运算；

S32.对RNN模型内部进行处理，获得向量运算的结果作为RNN模型的输出，此输出即为句子向量。

2.根据权利要求1所述的题目文本句子向量生成方法，其特征在于，所述步骤S1具体包括步骤：

S11.首先根据题目文本中用到的词语的重要性由人工筛选关键词，组成关键词表，或者通过tf-idf模型对大量的题目文本先初步筛选出关键词后，再由人工进一步确定出最终关键词表；

S12.把筛选出的所有关键词加入词典，词典是分词用的通用词典，关键词如果已在词典里则不加入，如果不在则需要加入；

S13.获取大量题目文本，先进行预处理，包括文本标准化、规范化、去停用词，再对其中每个句子进行词典分词，并判断句子中的每个词语是不是关键词，做好标记。

3.一种题目文本句子向量生成装置，其特征在于，所述生成装置包括存储器；以及耦合到所述存储器的处理器，该处理器被配置为执行存储在所述存储器中的指令，所述处理器执行以下操作：

S1.根据题目文本表达筛选出所有关键词，加入词典，再对题目文本中的句子进行词典分词，同时对句子中出现的关键词进行标记；

S2.基于分词结果和筛选出的所有关键词，通过分别对每条句子和其内包含的关键词编码后，再建立RNN模型采用随机剔除关键词的方法进行预测训练；

S3.利用训练好的模型提取到的特征，对题目文本中的每条句子生成句子向量。