[发明专利]一种文档分类模型训练的方法和相关装置在审
申请号: | 201910907014.4 | 申请日: | 2019-09-24 |
公开(公告)号: | CN112632269A | 公开(公告)日: | 2021-04-09 |
发明(设计)人: | 任卓 | 申请(专利权)人: | 北京国双科技有限公司 |
主分类号: | G06F16/35 | 分类号: | G06F16/35;G06K9/62;G06N3/02 |
代理公司: | 北京集佳知识产权代理有限公司 11227 | 代理人: | 刘晓菲 |
地址: | 100083 北京市海淀区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 文档 分类 模型 训练 方法 相关 装置 | ||
1.一种文档分类模型训练的方法,其特征在于,包括:
基于多个训练文档中词语的上下文、所述词语的向量和多个所述训练文档的标识,利用无监督学习算法学习获得多个所述训练文档的特征向量;
基于多个所述训练文档的特征向量和分类标签,利用二分类算法训练获得文档分类模型,所述分类标签为目标类别标签或非目标类别标签。
2.根据权利要求1所述的方法,其特征在于,所述基于多个训练文档中词语的上下文、所述词语的向量和多个所述训练文档的标识,利用无监督学习算法学习获得多个所述训练文档的特征向量,包括:
基于每个所述训练文档中每个所述词语的上下文、每个所述词语的向量和对应所述训练文档的标识,利用无监督学习算法学习获得每个所述训练文档中每个所述词语的特征向量;
融合每个所述训练文档中各个所述词语的特征向量,获得每个所述训练文档的特征向量。
3.根据权利要求2所述的方法,其特征在于,所述基于每个所述训练文档中每个所述词语的上下文、每个所述词语的向量和对应所述训练文档的标识,利用无监督学习算法学习获得每个所述训练文档中每个所述词语的特征向量,包括:
利用分词工具对每个所述训练文档进行分词获得每个所述训练文档中各个所述词语;
针对每个所述训练文档,以每个所述词语的上下文和所述训练文档的标识为输入,每个所述词语的向量为输出,利用无监督学习算法学习获得每个所述训练文档中每个所述词语的特征向量。
4.根据权利要求3所述的方法,其特征在于,所述针对每个所述训练文档,以每个所述词语的上下文和所述训练文档的标识为输入,每个所述词语的向量为输出,利用无监督学习算法学习获得每个所述训练文档中每个所述词语的特征向量,包括:
针对每个所述训练文档,以每个所述词语的上下文和所述训练文档的标识为输入,每个所述词语的向量为输出,利用无监督学习算法训练初始神经网络模型;
基于所述初始神经网络模型训练后的模型参数,获得每个所述训练文档中每个所述词语的特征向量。
5.根据权利要求1至4任一项所述的方法,其特征在于,所述特征向量的维度小于多个所述训练文档的总数量。
6.根据权利要求1至5任一项所述的方法,其特征在于,在所述利用二分类算法训练获得文档分类模型之后,还包括:
将多个未标记所述分类标签的文档作为未标记文档,基于所述未标记文档和预设分类模型,预测获得多个所述未标记文档的预测分类标签和预测分类概率,所述预设分类模型具备预测分类概率的功能,所述预测分类标签为所述目标类别标签或所述非目标类别标签;
筛选所述预测分类概率高于所述预设概率阈值的多个所述未标记文档获得多个新训练文档;
基于多个所述新训练文档的特征向量和预测分类标签,利用二分类算法再次训练所述文档分类模型。
7.根据权利要求1-6任一项所述的方法,其特征在于,还包括:
基于预设正负样本比例调整多个所述训练文档或所述新训练文档中所述目标类别标签与所述非目标类别标签的比例。
8.一种文档分类的方法,其特征在于,利用如权利要求1至7中任一项所述的文档分类模型训练的方法所训练的文档分类模型,所述方法包括:
基于待分类文档中词语的上下文、所述词语的向量和所述待分类文档的标识,利用无监督学习算法学习获得所述待分类文档的特征向量;
将所述待分类文档的特征向量输入所述文档分类模型进行文档分类。
9.一种文档分类模型训练的装置,其特征在于,包括:
第一学习获得单元,用于基于多个训练文档中词语的上下文、所述词语的向量和多个所述训练文档的标识,利用无监督学习算法学习获得多个所述训练文档的特征向量;
训练获得单元,用于基于多个所述训练文档的特征向量和分类标签,利用二分类算法训练获得文档分类模型,所述分类标签为目标类别标签或非目标类别标签。
10.一种文档分类的装置,其特征在于,利用如权利要求1至7中任一项所述的文档分类模型训练的方法所训练的文档分类模型,所述装置包括:
第二学习获得单元,用于基于待分类文档中词语的上下文、所述词语的向量和所述待分类文档的标识,利用无监督学习算法学习获得所述待分类文档的特征向量;
文档分类单元,用于将所述待分类文档的特征向量输入所述文档分类模型进行文档分类。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京国双科技有限公司,未经北京国双科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910907014.4/1.html,转载请声明来源钻瓜专利网。