[发明专利]文本分类方法、装置、电子设备和存储介质有效
申请号: | 202211697914.9 | 申请日: | 2022-12-28 |
公开(公告)号: | CN116127067B | 公开(公告)日: | 2023-10-20 |
发明(设计)人: | 王奎举;谢少飞;喻波;王志海;韩振国;安鹏 | 申请(专利权)人: | 北京明朝万达科技股份有限公司 |
主分类号: | G06F16/35 | 分类号: | G06F16/35;G06F18/24;G06F18/214;G06F18/22;G06N3/04;G06N3/08 |
代理公司: | 北京润泽恒知识产权代理有限公司 11319 | 代理人: | 莎日娜 |
地址: | 100142 北京市海淀区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 文本 分类 方法 装置 电子设备 存储 介质 | ||
1.一种文本分类方法,其特征在于,应用于分类引擎系统,所述分类引擎系统包括多个预测模型,所述预测模型为训练好的BERT模型,所述方法包括:
接收用户的预测请求;所述预测请求包括待预测文本和模型标识;
从所述多个预测模型中确定与所述模型标识匹配的目标预测模型;
从所述待预测文本中截取多个文字,并分别对所述多个文字进行转换,得到多个字典参数;
将所述多个字典参数输入至所述目标预测模型中,通过所述目标预测模型根据所述多个字典参数预测所述待预测文本所属的目标类别信息;
向所述用户返回针对所述预测请求的目标类别信息。
2.根据权利要求1所述的方法,其特征在于,所述目标预测模型具有多个类别信息的特征;所述通过所述目标预测模型根据所述多个字典参数预测所述待预测文本所属的目标类别信息,包括:
通过所述目标预测模型计算所述多个字典参数分别与所述多个类别信息的特征之间的相似值,得到多个相似值;
通过所述目标预测模型从所述多个相似值中确定最大的目标相似值;
通过所述目标预测模型将所述目标相似值所对应的类别信息确定为所述待预测文本所属的目标类别信息。
3.根据权利要求1所述的方法,其特征在于,所述从所述待预测文本中截取多个文字,包括:
从所述待预测文本中截取排序靠前的预设数量的多个文字。
4.根据权利要求1所述的方法,其特征在于,所述预测模型通过如下方式训练得到:
获取预设循环轮次,以及获取不同类别的样本文本;
对所述不同类别的样本文本进行处理,得到训练集和测试集;
获取预训练得到的初始模型;
按照所述预设循环轮次,将所述训练集输入至所述初始模型中进行循环训练,以及将所述测试集输入至所述初始模型中进行循环测试,直至完成所有所述预设循环轮次,获得所述预测模型。
5.根据权利要求4所述的方法,其特征在于,所述按照所述预设循环轮次,将所述训练集输入至所述初始模型中进行循环训练,以及将所述测试集输入至所述初始模型中进行循环测试,直至完成所有所述预设循环轮次,获得所述预测模型,包括:
将所述训练集分成多个批次的样本文本;
在每个轮次中,将所述多个批次的样本文本依次输入至所述初始模型中进行训练,得到更新后的模型参数;
在每个轮次中,基于所述更新后的模型参数,将所述测试集中的各个样本文本依次输入至所述初始模型中进行测试,得到模型准确率;
在每个轮次中,判断当前轮次的模型准确率是否大于准确率阈值;
若是,则删除在先保存的预测模型,以保存当前轮次训练得到的预测模型,并将所述准确率阈值更新为所述当前轮次的模型准确率,并返回所述在每个轮次中,将所述多个批次的样本文本依次输入至所述初始模型中进行训练,得到更新后的模型参数的步骤;其中,保存格式为开放神经网络交换ONNX格式;
若否,则保留在先保存的预测模型,并返回所述在每个轮次中,将所述多个批次的样本文本依次输入至所述初始模型中进行训练,得到更新后的模型参数的步骤;
直至完成所有所述预设循环轮次时,将当前保存的预测模型作为最终的预测模型。
6.根据权利要求4所述的方法,其特征在于,所述对所述不同类别的样本文本进行处理,得到训练集和测试集,包括:
针对同一类别的样本文本进行划分,得到用于训练的样本文本和用于测试的样本文本;
将不同类别的所述用于训练的样本文本进行合并,得到训练集,以及将不同类别的所述用于测试的样本文本进行合并,得到测试集。
7.根据权利要求4所述的方法,其特征在于,所述方法还包括:
将训练完成的预测模型进行注册。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京明朝万达科技股份有限公司,未经北京明朝万达科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202211697914.9/1.html,转载请声明来源钻瓜专利网。
- 上一篇:悬移液压支架
- 下一篇:基于深度学习的高压电缆局部放电故障定位方法及系统