[发明专利]基于注意力机制的文档质量验证方法、装置、设备及介质

权利要求书

1.一种基于注意力机制的文档质量验证方法，其特征在于，包括：

若接收到用户输入的初始文档，根据预置的文本特征提取模型从所述初始文档的文本信息中提取对应的嵌入特征向量；

将所述初始文档的数值化信息输入预置的数值特征提取模型得到对应的数值特征向量；

根据预置的特征向量整合规则对所述嵌入特征向量及所述数值特征向量分别进行信息整合得到对应的嵌入整合特征向量及数值整合特征向量；

根据所述嵌入整合特征向量及预置的注意力神经网络对所述数值整合特征向量进行特征加权融合，得到与所述数值整合特征向量对应的加权特征向量；

将所述加权特征向量及所述嵌入整合特征向量输入预置的特征分类模型进行分类，得到对应的类型评估结果；

根据所述类型评估结果对所述初始文档的类型标签是否与所述类型评估结果相匹配进行验证，得到所述初始文档质量是否合格的验证结果；

所述特征向量整合规则包括卷积层及池化规则，所述根据预置的特征向量整合规则对所述嵌入特征向量及所述数值特征向量分别进行信息整合得到对应的嵌入整合特征向量及数值整合特征向量，包括：

根据所述卷积层所包含的每一卷积核分别对所述数值特征向量进行卷积处理，将得到的与每一所述卷积核分别对应的卷积数值特征作为所述数值特征向量的数值整合特征向量；

根据所述卷积层包含的每一卷积核分别对所述嵌入特征向量进行卷积处理，得到与每一所述卷积核分别对应的卷积嵌入特征；

对所述卷积嵌入特征进行组合得到嵌入组合特征；

根据所述池化规则对所述嵌入组合特征进行池化处理，从所述嵌入组合特征中获取与每一维度对应的一个维度特征作为与所述嵌入整合特征向量；

所述从所述嵌入组合特征中获取与每一维度对应的一个维度特征作为与所述嵌入整合特征向量，包括：获取所述嵌入组合特征的每一列中数值最大的特征值作为每一列的维度特征。

2.根据权利要求1所述的基于注意力机制的文档质量验证方法，其特征在于，所述文本特征提取模型包括关键词集合及特征提取神经网络，所述根据预置的文本特征提取模型从所述初始文档的文本信息中提取对应的嵌入特征向量，包括：

获取所述初始文档的文本信息中与所述关键词集合相对应的目标关键词；

根据所述关键词集合对所述目标关键词进行二值化处理得到对应的关键词特征向量；

将所述关键词特征向量输入所述特征提取神经网络进行特征提取，得到与所述关键词特征向量对应的嵌入特征向量。

3.根据权利要求1所述的基于注意力机制的文档质量验证方法，其特征在于，所述数值特征提取模型包括数值转换规则及数值特征提取网络，所述将所述初始文档的数值化信息输入预置的数值特征提取模型得到对应的数值特征向量，包括：

根据所述数值转换规则对数值化信息中每一数值进行对应转换，得到每一所述数值对应的量化值；

将每一所述量化值同时输入所述数值特征提取网络，得到与所述数值化信息对应的数值特征向量。

4.根据权利要求1所述的基于注意力机制的文档质量验证方法，其特征在于，所述根据所述嵌入整合特征向量及预置的注意力神经网络对所述数值整合特征向量进行特征加权融合，得到与所述数值整合特征向量对应的加权特征向量，包括：

将所述嵌入整合特征向量及所述数值整合特征向量同时输入所述注意力神经网络进行计算，得到对应的融合加权系数；

根据所述融合加权系数对所述数值整合特征向量进行加权计算，得到与所述数值整合特征向量对应的加权特征向量。

5.根据权利要求1所述的基于注意力机制的文档质量验证方法，其特征在于，所述将所述加权特征向量及所述嵌入整合特征向量输入预置的特征分类模型进行分类，得到对应的类型评估结果，包括：

将所述加权特征向量与所述嵌入整合特征向量进行拼接得到模型输入信息；

将所述模型输入信息输入所述特征分类模型进行分类，得到的分类结果作为所述类型评估结果。