[发明专利]文档多标签分类方法和装置

说明书

本申请公开了一种文档多标签分类方法和装置，包括：当需要对文档进行多标签分类时，对于每个标签，利用多标签分类模型中该标签对应的第一标签相关编码器和第二标签相关编码器，分别对文档采用注意力加权的方式进行编码，并将该标签对应的编码结果进行拼接；其中，所述第一标签相关编码器和所述第二标签相关编码器预先利用基于标签对比机制构建的样本集合训练得到；拼接所有标签的所述拼接的结果，得到所述文档的编码向量；利用所述多标签分类模型的全连接层和逻辑斯蒂函数，根据所述编码向量，对所述文档进行多标签分类，并利用多标签分类结果，对所述多标签分类模型进行参数调整。采用本发明，可以提高对文档进行多标签分类的效率和准确性。

技术领域

本发明涉及移动通信技术，特别是涉及一种文档多标签分类方法和装置。

背景技术

现有的多标签分类方案通常是基于多个单标签分类模型实现的。方案中将利用多个单标签分类模型分别对多标签任务进行分类，然后，将所有单标签分类器的预测结果的合集作为该多标签任务的最终预测结果。

发明人在实现本发明的过程中发现：上述现有的多标签分类方案存在分类准确性差的问题，具体原因为：

上述现有方案中多标签任务的最终预测结果是单标签分类器的预测结果的合集，这样，单标签分类器的预测准确性会直接影响多标签分类的准确性。而在实际应用中，用于每个单标签分类器的样本会比较少，如此会使得单个单标签分类器的预测结果准确性较差，从而会影响多标签任务的最终预测结果的准确性。

发明内容

有鉴于此，本发明的主要目的在于提供一种文档多标签分类方法和装置，可以有效提高对文档进行多标签分类的效率和准确性。

为了达到上述目的，本发明提出的技术方案为：

一种文档多标签分类方法，包括以下步骤：

当需要对文档进行多标签分类时，对于预设数据集的标签集合中的每个标签，利用多标签分类模型中该标签对应的第一标签相关编码器和第二标签相关编码器，分别对所述文档采用注意力加权的方式进行编码，并将该标签对应的所述编码结果进行拼接；其中，所述第一标签相关编码器和所述第二标签相关编码器预先利用基于标签对比机制构建的样本集合训练得到；

拼接所有标签的所述拼接的结果，得到所述文档的编码向量；

利用所述多标签分类模型的全连接层和逻辑斯蒂函数，根据所述编码向量，对所述文档进行多标签分类，并利用多标签分类结果，对所述多标签分类模型进行参数调整。

较佳地，所述方法进一步包括：

预先对于所述标签集合中的每个标签，训练该标签对应的所述第一标签相关编码器和所述第二标签相关编码器，包括：

a、从所述数据集中选择一个文档作为中心文档；

b、从所述中心文档的标签集合s中，选择一个标签k；

c、从所述数据集中除所述中心文档之外的其他文档中，选择一个具有所述标签k的文档作为正样本，并选择若干不具有所述标签k的文档为负样本，将所述正样本和所述负样本设置为所述标签k的候选文档；

d、对于所述中心文档，利用预设的预训练模型中所述标签k对应的所述第一标签相关编码器，采用注意力加权的方式进行编码，得到所述中心文档的与所述标签k相关的编码结果Q_k-tar；

e、对于每个所述候选文档，利用所述预训练模型中所述标签k对应的所述第二标签相关编码器，采用注意力加权的方式进行编码，得到该候选文档的与所述标签k相关的编码结果Q_k-cand，并根据所述编码结果Q_k-tar和所述编码结果Q_k-cand，计算该候选文档与所述中心文档的相似度并进行归一化处理，得到该候选文档的选择概率；