[发明专利]一种文本分类模型生成、文本分类方法及装置有效
申请号: | 201810305894.3 | 申请日: | 2018-04-08 |
公开(公告)号: | CN108595542B | 公开(公告)日: | 2021-11-02 |
发明(设计)人: | 余咸国 | 申请(专利权)人: | 北京奇艺世纪科技有限公司 |
主分类号: | G06F16/35 | 分类号: | G06F16/35;G06F16/215;G06F40/289;G06F40/216 |
代理公司: | 北京集佳知识产权代理有限公司 11227 | 代理人: | 王宝筠 |
地址: | 100080 北京市海淀*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 文本 分类 模型 生成 方法 装置 | ||
本申请实施例提供一种文本分类模型生成、文本分类方法及装置,通过确定至少一个训练文本;对至少一个训练文本进行数据清洗,得到分别与每个训练文本对应的第一训练文本;针对每个第一训练文本,从第一训练文本的文本内容中依次选取预设个数的满足预先设置的分词选取条件的分词,生成第二训练文本;分别确定每个第二训练文本的文本向量;将文本向量和文本向量对应的训练文本所属的文本类别,作为预先设置的文本分类模型生成算法的输入信息,以生成文本分类模型的方式,避免了现有技术基于词频构建的文本分类模型所存在的文本分类准确性低的问题。
技术领域
本发明涉及计算机领域,特别是涉及一种文本分类模型生成、文本分类方法及装置。
背景技术
随着移动互联网时代的到来,内容的生产和传播都发生了深刻的变化,为了满足信息爆炸背景下用户的多样化需求,迫切需要对文本信息进行有效的组织,文本分类是数据挖掘和信息检索领域研究的热点和核心技术。
现有技术主要是基于文本中的词频特征构建文本分类模型,进而基于构建的文本分类模型对待分类文本进行文本分类。但是,因文本中的词频并不能有效体现文本的类别,所以现有技术通常存在文本分类不准确的问题。
有鉴于此,提供一种文本分类模型生成、文本分类方法及装置,以提高文本分类的准确性,是亟待解决的问题。
发明内容
有鉴于此,本发明的目的在于提供一种文本分类模型生成、文本分类方法及装置,以提高文本分类的准确性,具体实施方案如下:
一种文本分类模型生成方法,包括:
确定至少一个训练文本;
对所述至少一个训练文本进行数据清洗,得到分别与每个训练文本对应的第一训练文本;
针对每个所述第一训练文本,从所述第一训练文本的文本内容中依次选取预设个数的满足预先设置的分词选取条件的分词,生成第二训练文本;
分别确定每个所述第二训练文本的文本向量;
将所述文本向量和所述文本向量对应的训练文本所属的文本类别,作为文本分类模型生成算法的输入信息,以生成文本分类模型。
可选的,所述对所述至少一个训练文本进行数据清洗,得到分别与每个训练文本对应的第一训练文本,包括:
将满足预设的删除条件的字符删除后的文本内容,确定为与所述训练文本对应的第一训练文本。
可选的,所述针对每个所述第一训练文本,从所述第一训练文本的文本内容中依次选取预设个数的满足预先设置的分词选取条件的分词,生成第二训练文本,包括:
对所述第一训练文本的文本内容进行分词,得到所述第一训练文本的各个分词;
基于预先设置的评分规则,确定所述第一训练文本中的每个所述分词的评分;
依次选取每一个评分满足预先设置的分词选取条件的分词,直至所选取的分词的个数达到预设个数;
将由依次选取的各个分词组成的文本确定为与所述第一训练文本对应的第二训练文本。
可选的,所述依次选取每一个评分满足预先设置的分词选取条件的分词,直至所选取的分词的个数达到预设个数,包括:
按照评分从高到低的顺序,从所述第一训练文本的分词中确定至少一个目标分词;
依次选取每一个作为目标分词的分词,直至所选取的分词的个数达到预设个数。
可选的,所述分别确定每个所述第二训练文本的文本向量,包括:
基于word2vec算法依次确定所述第二训练文本中的每个分词的向量;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京奇艺世纪科技有限公司,未经北京奇艺世纪科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810305894.3/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种数据抽取质量的测试方法及系统
- 下一篇:数据抓取方法、装置及网络爬虫系统