[发明专利]文本分类方法、计算设备及计算机存储介质有效
申请号: | 202010270127.0 | 申请日: | 2020-04-08 |
公开(公告)号: | CN111475651B | 公开(公告)日: | 2023-04-07 |
发明(设计)人: | 柳燕煌 | 申请(专利权)人: | 掌阅科技股份有限公司 |
主分类号: | G06F16/35 | 分类号: | G06F16/35;G06F40/30;G06F40/289 |
代理公司: | 北京市浩天知识产权代理事务所(普通合伙) 11276 | 代理人: | 宋菲 |
地址: | 100124 北*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 文本 分类 方法 计算 设备 计算机 存储 介质 | ||
1.一种文本分类方法,包括:
通过对无监督语料进行训练,提取无监督语料中各个字的语义特征以及各个常用词的语义特征,得到语料特征集;
对已标注的样本语料进行切词处理,得到切词处理结果,并确定所述切词处理结果包含的常用词和非常用词;对所述非常用词进行切分处理,得到所述非常用词包含的各个字;
在所述语料特征集中获取所述切词处理结果包含的常用词对应的语义特征以及所述非常用词包含的各个字对应的语义特征;
根据获取的语义特征以及所述已标注的样本语料的标注信息,训练得到违规分类模型;
基于所述违规分类模型,对待分类文本进行分类处理,其中,该步骤包括如下子步骤:
对待分类文本进行切词处理,得到切词处理结果,并确定切词处理结果中的常用词和非常用词;
对待分类文本的切词处理结果中的非常用词进行切分,得到待分类文本的切词处理结果中的非常用词包含的各个字;
在所述语料特征集中获取所述待分类文本的切词处理结果中常用词对应的语义特征以及非常用词包含的各个字对应的语义特征,并输入至所述违规分类模型中进行计算,得到所述待分类文本的违规分值。
2.根据权利要求1所述的方法,其中,所述基于所述违规分类模型,对待分类文本进行分类处理进一步包括:
对待分类文本按照句内容维度进行切分处理,得到各个句内容片段;
基于所述违规分类模型,对所述各个句内容片段进行分类处理。
3.根据权利要求2所述的方法,其中,所述基于所述违规分类模型,对所述各个句内容片段进行分类处理进一步包括:
将多个句内容片段组合成组合内容片段,基于所述违规分类模型,对将所述组合内容片段进行分类,得到所述组合内容片段的违规分值;其中,所述组合内容片段的长度不超过预设长度阈值;
判断所述组合内容片段的违规分值是否超过预设分值阈值;
若是,基于所述违规分类模型,将所述组合内容片段包含的各个句内容片段进行分类处理,得到各个句内容片段的违规分值。
4.根据权利要求1-3中任一项所述的方法,其中,所述方法进一步包括:
对书籍库中的各个书籍进行切词处理,得到所述各个书籍的切词处理结果;
统计所述各个书籍的切词处理结果中各个词的词频,根据统计结果确定常用词,其中,常用词的词频超过预设词频阈值。
5.根据权利要求1-3中任一项所述的方法,其中,所述通过对无监督语料进行训练,提取无监督语料中各个字的特征以及各个常用词的语义特征进一步包括:
采用字粒度的卷积神经网络模型对无监督语料进行训练,提取无监督语料中各个字的embedding特征以及各个常用词的embedding特征。
6.一种计算设备,包括:处理器、存储器、通信接口和通信总线,所述处理器、所述存储器和所述通信接口通过所述通信总线完成相互间的通信;
所述存储器用于存放至少一可执行指令,所述可执行指令使所述处理器执行以下操作:
通过对无监督语料进行训练,提取无监督语料中各个字的语义特征以及各个常用词的语义特征,得到语料特征集;
对已标注的样本语料进行切词处理,得到切词处理结果,并确定所述切词处理结果包含的常用词和非常用词;对所述非常用词进行切分处理,得到所述非常用词包含的各个字;
在所述语料特征集中获取所述切词处理结果包含的常用词对应的语义特征以及所述非常用词包含的各个字对应的语义特征;
根据获取的语义特征以及所述已标注的样本语料的标注信息,训练得到违规分类模型;
基于所述违规分类模型,对待分类文本进行分类处理,其中,该步骤包括如下子步骤:
对待分类文本进行切词处理,得到切词处理结果,并确定切词处理结果中的常用词和非常用词;
对待分类文本的切词处理结果中的非常用词进行切分,得到待分类文本的切词处理结果中的非常用词包含的各个字;
在所述语料特征集中获取所述待分类文本的切词处理结果中常用词对应的语义特征以及非常用词包含的各个字对应的语义特征,并输入至所述违规分类模型中进行计算,得到所述待分类文本的违规分值。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于掌阅科技股份有限公司,未经掌阅科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010270127.0/1.html,转载请声明来源钻瓜专利网。