[发明专利]一种基于深度学习的文本数据分类方法和装置有效
申请号: | 202011350978.2 | 申请日: | 2020-11-27 |
公开(公告)号: | CN112182230B | 公开(公告)日: | 2021-03-16 |
发明(设计)人: | 李宇欣;裘实 | 申请(专利权)人: | 北京健康有益科技有限公司 |
主分类号: | G06F16/35 | 分类号: | G06F16/35;G06F16/36;G06N3/04;G06N3/08 |
代理公司: | 北京格允知识产权代理有限公司 11609 | 代理人: | 张沫 |
地址: | 100000 北京市朝阳区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 深度 学习 文本 数据 分类 方法 装置 | ||
1.一种基于深度学习的文本数据分类方法,其特征在于,包括:
获取训练文本数据;
利用所述训练文本数据对TextCNN分类模型进行训练,并使用Hyperopt工具进行模型调参,得到训练好的目标分类模型;
获取待分类的文本数据;
对所述待分类的文本数据进行分词,得到所述待分类的文本数据的目标分词结果;
根据结合知识图谱预先构建的词向量库,确定所述目标分词结果对应的目标词向量;
将所述目标词向量输入到所述目标分类模型中,得到所述待分类的文本数据的类型;
所述利用所述训练文本数据对TextCNN分类模型进行训练,并使用Hyperopt工具进行模型调参,得到训练好的目标分类模型,包括:
针对每一个训练文本数据,均执行:
A1、确定当前训练文本数据的实际类型;
A2、对当前训练文本数据进行分词,得到当前训练文本数据的训练分词结果;
A3、根据结合知识图谱预先构建的词向量库,确定当前训练文本数据的训练分词结果对应的训练词向量;
A4、将所述训练词向量输入到所述TextCNN分类模型中,得到当前训练文本数据的测试类型;
确定所述测试类型与所述实际类型相同的训练文本数据在所有训练文本数据中的占比;
根据所述占比,使用Hyperopt工具进行模型调参,直至所述占比超过预设的阈值,得到训练好的目标分类模型;
所述将所述目标词向量输入到所述目标分类模型中,得到所述待分类的文本数据的类型,包括:
按照主语、谓语、宾语的排序方式,对所述目标分词结果进行排序,得到第一分词结果;
根据所述目标词向量的词向量数量、各个所述目标词向量在所述第一分词结果中的位置和预设的位置级别的第一级别数量,确定各个所述目标词向量的位置级别,其中,所述第一级别数量的最小值为2,最大值小于所述目标词向量的词向量数量;
将位置级别最高的目标词向量输入到所述目标分类模型中,得到所述待分类的文本数据的类型;
所述将所述训练词向量输入到所述TextCNN分类模型中,得到当前训练文本数据的测试类型,包括:
筛选出当前训练文本数据的主语、谓语和宾语;
按照主语、谓语、宾语的排序方式,对当前训练文本数据的训练分词结果进行排序,得到第二分词结果;
根据当前训练文本数据的训练词向量的词向量数量、各个所述训练词向量在所述第二分词结果中的位置和预设的位置级别的第二级别数量,确定各个所述训练词向量的位置级别,其中,所述第二级别数量的最小值为2,最大值小于所述训练词向量的词向量数量;
将位置级别最高的训练词向量输入到所述TextCNN分类模型中,得到当前训练文本数据的测试类型;
所述结合知识图谱预先构建的词向量库,包括:
根据知识图谱,构建节点向量库;
根据语料样本,构建常用词向量库;
将仅在所述节点向量库中存在的或仅在所述常用词向量库中存在的词语对应的向量进行维度适配,得到所述词语的词向量;
所有词语的词向量构成所述词向量库;
所述根据知识图谱,构建节点向量库,包括:
从知识图谱的每个节点开始随机游走预设步长,得到对应的节点序列;
将所有得到的节点序列作为训练样本,基于word2vec模型进行训练,得到每个节点的节点向量;
所有节点的节点向量构成节点向量库;
其中,所述随机游走通过如下步骤实现:
选取一个初始的节点,从当前节点的邻接节点中以等概率采样的方式产生下一个节点,如此循环往复,直到节点序列的长度达到先前设置的最大序列长度。
2.根据权利要求1所述的方法,其特征在于,所述获取训练文本数据,包括:
对所述训练文本数据进行去重;
和/或,
对所述训练文本数据进行去噪声;
和/或,
将所述训练文本数据中的非文本数据转化为文本数据。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京健康有益科技有限公司,未经北京健康有益科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011350978.2/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种轮胎模具
- 下一篇:试题难度预测模型的训练方法、装置、设备及存储介质