[发明专利]一种文本分类的方法、装置、计算机设备及存储介质在审
申请号: | 202111436398.X | 申请日: | 2021-11-29 |
公开(公告)号: | CN114117048A | 公开(公告)日: | 2022-03-01 |
发明(设计)人: | 龚静;苏志锋;詹乐;吕有才 | 申请(专利权)人: | 平安银行股份有限公司 |
主分类号: | G06F16/35 | 分类号: | G06F16/35;G06F40/284 |
代理公司: | 深圳市世联合知识产权代理有限公司 44385 | 代理人: | 姜妍 |
地址: | 518000 广东*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 文本 分类 方法 装置 计算机 设备 存储 介质 | ||
1.一种文本分类的方法,其特征在于,包括:
接收分类模型训练指令,并建初始文本分类模型,其中,初始文本分类模型的损失函数包括有监督损失项和无监督损失项;
从预设数据库中获取第一训练样本,其中,所述第一训练样本包括有标签样本和无标签样本;
基于预设的开源标注模型对所述无标签样本进行标注,得到所述无标签样本的伪标签,并组合所述有标签样本和携带伪标签的所述无标签样本,得到第二训练样本;
将所述第二训练样本导入所述初始文本分类模型进行模型训练,生成样本分类结果;
基于所述有监督损失项和所述无监督损失项计算所述样本分类结果与预设标准分类结果之间的误差,得到预测误差;
基于所述预测误差,使用反向传播算法对所述初始文本分类模型进行迭代更新,得到训练好的文本分类模型;
接收文本分类指令,获取待分类文本数据,将所述待分类文本数据导入训练好的所述文本分类模型,输出分类文本结果。
2.如权利要求1所述的文本分类的方法,其特征在于,在所述从预设数据库中获取第一训练样本的步骤之后,还包括:
对所述无标签样本进行分类;
通过预设的数据增广方法对分类后的无标签样本进行数据增广,得到增广样本。
3.如权利要求2所述的文本分类的方法,其特征在于,所述通过预设的数据增广方法对分类后的无标签样本进行数据增广,得到增广样本的步骤,具体包括:
对分类后的无标签样本进行分词处理,得到样本分词;
获取所述样本分词的同义词,并通过所述同义词对所述样本分词进行随机替换,得到第一样本;
将所述同义词随机插入所述样本分词中,得到第二样本;
对所述样本分词进行随机交换,得到第三样本;
对所述样本分词进行随机删除,得到第四样本;
组合所述第一样本、所述第二样本、所述第三样本和所述第四样本,得到所述增广样本。
4.如权利要求2所述的文本分类的方法,其特征在于,所述通过预设的数据增广方法对分类后的无标签样本进行数据增广,得到增广样本的步骤,具体包括:
对分类后的无标签样本进行分词处理,得到样本分词;
对所述样本分词进行随机删除,并将完成随机删除后的样本分词导入预先训练好的文本生成模型,生成增广样本。
5.如权利要求1所述的文本分类的方法,其特征在于,所述初始文本分类模型包括嵌入层、卷积层和全连接层,所述将所述第二训练样本导入所述初始文本分类模型进行模型训练,生成样本分类结果的步骤,具体包括:
通过所述嵌入层对所述第二训练样本进行向量特征转换处理,得到初始向量;
采用所述卷积层对所述初始向量进行卷积运算,得到所述初始向量对应的特征数据;
将所述特征数据导入所述全连接层中进行相似度计算,输出相似度最大的识别结果作为所述第二训练样本对应的样本分类结果。
6.如权利要求1所述的文本分类的方法,其特征在于,所述基于所述有监督损失项和所述无监督损失项计算所述样本分类结果与预设标准分类结果之间的误差,得到预测误差的步骤,具体包括:
基于所述有监督损失项计算所述有标签样本分类结果与所述第一标准分类结果之间的误差,得到第一误差;
基于所述无监督损失项计算所述无标签样本分类结果与所述第二标准分类结果之间的误差,得到第二误差。
7.如权利要求1至6任意一项所述的文本分类的方法,其特征在于,基于所述预测误差,使用反向传播算法对所述初始文本分类模型进行迭代更新,得到训练好的文本分类模型的步骤,具体包括:
基于所述反向传播算法在所述初始文本分类模型的网络层中传递所述预测误差;
获取所述初始文本分类模型中网络层的识别误差,并将所述识别误差与预设误差阈值进行比较;
若所述识别误差大于预设误差阈值,则对所述初始文本分类模型进行迭代更新,直到所述识别误差小于或等于预设误差阈值为止;
输出所述识别误差小于或等于预设误差阈值的初始文本分类模型,得到训练好的所述文本分类模型。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安银行股份有限公司,未经平安银行股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111436398.X/1.html,转载请声明来源钻瓜专利网。