[发明专利]基于多重注意力模型的分类方法、装置及设备

权利要求书

1.一种基于多重注意力模型的分类方法，其特征在于，包括：

获取第一向量和第二向量，所述第一向量为预设的知识库转换得到的向量，所述第二向量为待分类的对象转换得到的向量；

将所述第一向量和所述第二向量输入预设的分类模型，得到所述分类模型输出的所述待分类的对象的分类结果，所述分类结果包括所述待分类的对象与所述知识库的相关程度；

其中，所述分类模型包括第一类注意力模块和第二类注意力模块；

所述第一类注意力模块用于基于所述第一向量和所述第二向量计算得到第一权值，并计算所述第一向量与所述第一权值的乘积，得到第一特征向量，以及计算所述第二向量与所述第一权值的乘积得到第二特征向量；

所述第二类注意力模块用于基于所述第一特征向量和所述第二特征向量确定第二权值和第三权值，并计算所述第一特征向量与第二权值的乘积得到第三特征向量，计算所述第二特征向量与第三权值的乘积得到第四特征向量，并依据所述第三特征向量和第四特征向量输出第一分类向量，所述第一分类向量用于确定所述分类结果。

2.根据权利要求1所述的方法，其特征在于，还包括：

获取第三向量，所述第三向量为所述知识库中的第一预设类型的内容转换得到的向量；

所述第一类注意力模块还用于：依据所述第一特征向量与所述第三向量确定第四权值，依据所述第二特征向量与所述第三向量确定第五权值，并计算所述第一特征向量和/或所述第三向量与所述第四权值的乘积，得到第二分类向量，计算所述第二特征向量和/或所述第三向量与所述第五权值的乘积，得到第三分类向量，所述第一分类向量、所述第二分类向量和所述第三分类向量用于确定所述分类结果。

3.根据权利要求1或2所述的方法，其特征在于，还包括：

获取第四向量，所述第四向量为所述知识库中的第二预设类型的内容转换得到的向量；

所述第一类注意力模块还用于：基于所述第一向量与所述第四向量确定第六权值，基于所述第二向量与所述第四向量确定第七权值，并计算所述第一向量和/或所述第四向量与所述第六权值的乘积得到第五特征向量，计算所述第二向量和/或所述第四向量与所述第七权值的乘积得到第六特征向量；

所述第二类注意力模块还用于：基于所述第五特征向量和所述第六特征向量确定第八权值和第九权值，并计算所述第五特征向量与所述第八权值的乘积得到第七特征向量，计算所述第六向量与所述第九权值的乘积得到第八特征向量，依据所述第七特征向量和所述第八特征向量输出第四类分类向量，所述第一分类向量、所述第二分类向量、所述第三分类向量和所述第四类分类向量用于确定所述分类结果。

4.根据权利要求3所述的方法，其特征在于，所述预设的知识库包括疾病知识库；

所述第一预设类型的内容包括：疾病的名称；

所述第二预设类型的内容包括：所述疾病满足的规则公式；

所述待分类的对象包括：病例。

5.根据权利要求3所述的方法，其特征在于，所述第一类注意力模块包括：

第一输入端、第二输入端、全连接层、第一相乘模块、softmax层、第二相乘模块和输出端；

所述第一相乘模块用于，将第一矩阵和第二矩阵相乘，所述第一矩阵为所述第一输入端输入的向量经过所述全连接层得到的矩阵，所述第二矩阵为所述第二输入端输入的向量经过所述全连接层得到的矩阵；

softmax层用于将所述第一矩阵和所述第二矩阵的乘积，经过归一化处理，得到权值；

所述第二相乘模块用于，将所述第一输入端的输入和/或所述第二输入端的输入，与所述权值相乘，得到输出结果；

所述输出端用于输出所述输出结果。