[发明专利]文本分类方法、装置、存储介质及计算机设备有效
申请号: | 202010328286.1 | 申请日: | 2020-04-23 |
公开(公告)号: | CN111581377B | 公开(公告)日: | 2023-04-07 |
发明(设计)人: | 周玥;胡盼盼;赵茜;佟博;黄仲强;黄聿;张超;张坚琳 | 申请(专利权)人: | 广东博智林机器人有限公司 |
主分类号: | G06F16/35 | 分类号: | G06F16/35;G06F40/126;G06N3/0455;G06N3/044 |
代理公司: | 北京清亦华知识产权代理事务所(普通合伙) 11201 | 代理人: | 刘梦晴 |
地址: | 528311 广东省佛山市顺德区北滘镇顺江*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 文本 分类 方法 装置 存储 介质 计算机 设备 | ||
1.一种文本分类方法,其特征在于,所述文本为中文文本,所述方法包括:
获得文本;
对所述文本进行编码得到五笔字形编码;
根据所述五笔字形编码,结合XLNet模型确定所述文本中各子文本之间的特征信息,所述特征信息用于描述各子文本之间的上下文信息,所述XLNet模型已学习得到多个样本子文本的样本字形编码,以及所述多个样本子文本之间的特征信息的对应关系;
根据所述各子文本之间的特征信息,结合第一神经网络模型对所述文本进行分类;
所述根据所述各子文本之间的特征信息,结合第一神经网络模型对所述文本进行分类,包括:
根据所述各子文本之间的特征信息,结合第一神经网络模型确定所述文本对应的多个候选分类,以及与各所述候选分类对应的概率值;所述第一神经网络模型已学习得到各样本的特征信息,与对应的样本候选分类以及对应的样本概率值之间的对应关系;
确定多个所述概率值中值最大的概率值对应的候选分类,作为对所述文本进行分类的结果;
所述根据所述五笔字形编码,结合XLNet模型确定所述文本中各子文本之间的特征信息,包括:
将所述五笔字形编码作为所述XLNet模型的输入;
获取所述XLNet模型的输出的与所述五笔字形编码对应的双流自注意力机制的编码序列;
将所述双流自注意力机制的编码序列作为所述各子文本之间的特征信息;
所述根据所述各子文本之间的特征信息,结合第一神经网络模型确定所述文本对应的多个候选分类,以及与各所述候选分类对应的概率值,包括:
将所述双流自注意力机制的编码序列转换为特征向量;
将所述特征向量输入所述第一神经网络模型的全连接层;
根据所述全连接层的输出,结合softmax算法确定所述文本对应的多个候选分类,以及与各所述候选分类对应的概率值。
2.如权利要求1所述的文本分类方法,其特征在于,所述子文本,为所述文本中的文字、语句、词组中的一种或者多种。
3.如权利要求1所述的文本分类方法,其特征在于,所述对所述文本进行编码得到五笔字形编码,包括:
根据五笔字根表,确定所述文本对应的多个字母编码;
根据各所述字母编码,确定所述五笔字形编码。
4.如权利要求3所述的文本分类方法,其特征在于,所述根据各所述字母编码,确定所述五笔字形编码,包括:
确定各所述字母编码对应的独热编码;
根据各所述独热编码,结合第二神经网络模型确定对应的向量;其中,所述第二神经网络模型已学习得到样本的独热编码,以及与所述样本的独热编码对应的向量之间的对应关系;
根据各所述独热编码对应的向量确定所述五笔字形编码。
5.如权利要求4所述的文本分类方法,其特征在于,所述确定各所述字母编码对应的独热编码,包括:
根据预设数值表,确定各所述字母编码对应的独热编码。
6.如权利要求4所述的文本分类方法,其特征在于,所述第二神经网络模型为循环神经网络,所述根据各所述独热编码,结合第二神经网络模型确定对应的向量,包括:
将各所述独热编码输入至所述循环神经网络;
根据所述循环神经网络的输出得到目标维度的向量,从而确定所述对应的向量。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广东博智林机器人有限公司,未经广东博智林机器人有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010328286.1/1.html,转载请声明来源钻瓜专利网。