[发明专利]文本分类方法、装置、电子设备及存储介质在审
申请号: | 202111565838.1 | 申请日: | 2021-12-20 |
公开(公告)号: | CN114281991A | 公开(公告)日: | 2022-04-05 |
发明(设计)人: | 刘欢 | 申请(专利权)人: | 平安普惠企业管理有限公司 |
主分类号: | G06F16/35 | 分类号: | G06F16/35;G06K9/62 |
代理公司: | 深圳市沃德知识产权代理事务所(普通合伙) 44347 | 代理人: | 高杰;于志光 |
地址: | 518000 广东省深圳市*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 文本 分类 方法 装置 电子设备 存储 介质 | ||
1.一种文本分类方法,其特征在于,所述方法包括:
获取携带文本类别标签的样本集,基于所述文本类别标签确定所述样本集对应的文本类别集;
基于文本分类模型的编码网络,对所述文本类别集及所述样本集分别执行编码处理,得到初始标签矩阵及所述样本集中每个样本的每个字符对应的第一向量;
基于所述文本分类模型的相关性分析网络,对所述第一向量及所述初始标签矩阵执行相关性分析,得到每个所述字符对应的第二向量;
拼接每个样本中每个所述字符对应的第二向量,得到所述样本集中每个样本对应的第三向量;
基于所述文本分类模型的分类网络,对所述第三向量执行分类处理,得到所述样本集中每个样本在每个文本类别的预测概率值;
将所述文本类别标签及对应预测概率值输入预先确定的损失函数,得到损失值,通过最小化损失值,确定目标标签矩阵及所述文本分类模型的结构参数,基于所述结构参数得到训练好的文本分类模型;
将待分类文本及所述目标标签矩阵输入训练好的文本分类模型,得到目标文本类别。
2.如权利要求1所述的文本分类方法,其特征在于,所述对所述第一向量及所述初始标签矩阵执行相关性分析,得到每个所述字符对应的第二向量,包括:
基于所述第一向量执行字符之间的相关性分析,得到每个所述字符对应的第四向量;
基于所述第一向量及所述初始标签矩阵执行字符与文本类别之间的相关性分析,得到每个所述字符对应的第五向量;
加总所述第四向量及所述第五向量,得到每个所述字符对应的第二向量。
3.如权利要求2所述的文本分类方法,其特征在于,所述初始标签矩阵包括所述文本类别集中每个文本类别对应的初始标签向量,所述基于所述第一向量及所述初始标签矩阵执行字符与文本类别之间的相关性分析,得到每个所述字符对应的第五向量,包括:
基于所述第一向量及所述初始标签向量计算每个所述字符与所述文本类别集中每个文本类别的相关值;
基于所述相关值及所述初始标签向量计算每个所述字符对应的第五向量。
4.如权利要求3所述的文本分类方法,其特征在于,所述相关值的计算公式为:
αni,j=cosin(hni,tj)
其中,αni,j为样本集中第n个样本的第i个字符与文本类别集中第j个文本类别的相关值,hni为样本集中第n个样本的第i个字符对应的第一向量,tj为文本类别集中第j个文本类别对应的初始标签向量;
所述第五向量的计算公式为:
其中,h′ni为样本集中第n个样本的第i个字符对应的第五向量,k为文本类别集中文本类别的总数量,αni,j为样本集中第n个样本的第i个字符与文本类别集中第j个文本类别的相关值,tj为文本类别集中第j个文本类别对应的初始标签向量。
5.如权利要求1所述的文本分类方法,其特征在于,所述相关性分析网络包括串联连接的多个注意力层,所述分类网络包括全连接层及激活层,所述编码网络包括串联连接的多个编码层。
6.如权利要求1所述的文本分类方法,其特征在于,所述损失函数为:
其中,为损失值,为样本集中第i个样本在文本类别集中第j个文本类别的标签值,为样本集中第i个样本在文本类别集中第j个文本类别的预测概率值,N为样本集中样本的总数量,k为文本类别集中文本类别的总数量。
7.如权利要求1所述的文本分类方法,其特征在于,在所述基于所述结构参数得到训练好的文本分类模型之后,所述方法还包括:
每隔预设时间,抽取新样本集,基于新样本集更新所述目标标签矩阵及训练好的文本分类模型的结构参数,得到新目标标签矩阵及新训练好的文本分类模型。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安普惠企业管理有限公司,未经平安普惠企业管理有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111565838.1/1.html,转载请声明来源钻瓜专利网。