[发明专利]文档多标签分类方法和装置

权利要求书

1.一种文档多标签分类方法，其特征在于，包括：

当需要对文档进行多标签分类时，对于预设数据集的标签集合中的每个标签，利用多标签分类模型中该标签对应的第一标签相关编码器和第二标签相关编码器，分别对所述文档采用注意力加权的方式进行编码，并将该标签对应的所述编码结果进行拼接；其中，所述第一标签相关编码器和所述第二标签相关编码器预先利用基于标签对比机制构建的样本集合训练得到；

拼接所有标签的所述拼接的结果，得到所述文档的编码向量；

利用所述多标签分类模型的全连接层和逻辑斯蒂函数，根据所述编码向量，对所述文档进行多标签分类，并利用多标签分类结果，对所述多标签分类模型进行参数调整。

2.根据权利要求1所述的方法，其特征在于，所述方法进一步包括：

预先对于所述标签集合中的每个标签，训练该标签对应的所述第一标签相关编码器和所述第二标签相关编码器，包括：

a、从所述数据集中选择一个文档作为中心文档；

b、从所述中心文档的标签集合s中，选择一个标签k；

c、从所述数据集中除所述中心文档之外的其他文档中，选择一个具有所述标签k的文档作为正样本，并选择若干不具有所述标签k的文档为负样本，将所述正样本和所述负样本设置为所述标签k的候选文档；

d、对于所述中心文档，利用预设的预训练模型中所述标签k对应的所述第一标签相关编码器，采用注意力加权的方式进行编码，得到所述中心文档的与所述标签k相关的编码结果Q_k-tar；

e、对于每个所述候选文档，利用所述预训练模型中所述标签k对应的所述第二标签相关编码器，采用注意力加权的方式进行编码，得到该候选文档的与所述标签k相关的编码结果Q_k-cand，并根据所述编码结果Q_k-tar和所述编码结果Q_k-cand，计算该候选文档与所述中心文档的相似度并进行归一化处理，得到该候选文档的选择概率；

f、利用所述标签k对应的所有候选文档的所述选择概率，以所述正样本为分类目标，对所述预训练模型进行参数调整；

g、如果当前对所述预训练模型的参数调整次数小于预设的训练次数阈值或者所述标签集合中存在未被选择的标签，则返回步骤a。

3.根据权利要求1或2所述的方法，其特征在于，所述采用注意力加权的方式进行编码包括：

对于待编码的文档D_i，生成该文档的文本编码；

根据所述文档D_i的长度，确定当前的相似度匹配单位；所述相似度匹配单位为词或句子；

对于所述文档D_i中的每个相似度匹配单位，计算该相似度匹配单位与预设语义向量的相似度，将该相似度作为权值和该相似度匹配单位对应的文本编码相乘，得到该相似度匹配单位的加权编码向量；所述语义向量为当前编码所用标签相关编码器所对应标签的语义向量；

对所述文档D_i中所有相似度匹配单位的所述加权编码向量，进行求和，得到所述文档D_i的与所述标签k相关的编码结果。

4.根据权利要求3所述的方法，其特征在于，所述根据所述文档D_i的长度，确定当前的相似度匹配单位包括：

如果所述文档D_i中的词数量小于预设阈值，则将当前的相似度匹配单位设置为词，否则，将当前的相似度匹配单位设置为句子。

5.一种文档多标签分类装置，其特征在于，包括：

编码处理模块，用于当需要对文档进行多标签分类时，对于预设数据集的标签集合中的每个标签，利用多标签分类模型中该标签对应的第一标签相关编码器和第二标签相关编码器，分别对所述文档采用注意力加权的方式进行编码，并将该标签对应的所述编码结果进行拼接；其中，所述第一标签相关编码器和所述第二标签相关编码器预先利用基于标签对比机制构建的样本集合训练得到；用于拼接所有标签的所述拼接的结果，得到所述文档的编码向量；

分类模块，用于利用所述多标签分类模型的全连接层和逻辑斯蒂函数，根据所述编码向量，对所述文档进行多标签分类，并利用多标签分类结果，对所述多标签分类模型进行参数调整。